Forwarded from АРХИВ КУРСА ML System Design2023
Рассказ от @tankoroleva про библиотеку для генерации синтетических данных ydata-synthetic https://www.kaggle.com/code/rtkli91/ydata-synthetic-to-handle-class-imbalance
Задавайте Татьяне вопросы в комментариях, пожалуйста.
Задавайте Татьяне вопросы в комментариях, пожалуйста.
Forwarded from ML for Value / Ваня Максимов (Ivan Maksimov)
Саша из @datafeeling сделал прикольного бесплатного бота для генерации resume-style картинок по обычным фоткам - @avatar_resume_bot
Я потестил - зашло, поэтому рекомендую попробовать)
Из прикольного:
- Работает с фотками почти любого качества
- Убирает наушники, капюшон и прочие артефакты
- Можно стилизовать (выбирать цвет волос, например)
Но может несколько поменять ваше лицо - надо нагенерить 3-5 фоток, чтобы выбрать похожую на себя генерацию
Я потестил - зашло, поэтому рекомендую попробовать)
Из прикольного:
- Работает с фотками почти любого качества
- Убирает наушники, капюшон и прочие артефакты
- Можно стилизовать (выбирать цвет волос, например)
Но может несколько поменять ваше лицо - надо нагенерить 3-5 фоток, чтобы выбрать похожую на себя генерацию
https://vk.com/wall-187376020_337
Ого, это что новый семинар от VK Lab? Да!
Подключайтесь 12 декабря в 20:00, наш лаборант Антон Удалов расскажет о self-supervised подходе в звуке.
Мы подробно обсудим ключевые модели в этой области: Wav2Vec2, HuBERT и WavLM. А ещё разберёмся:
- в их архитектурных особенностях;
- чем они отличаются друг от друга;
- и для решения каких задач нужны.
Готовьте вопросы — обязательно ответим на них! До встречи.
Ого, это что новый семинар от VK Lab? Да!
Подключайтесь 12 декабря в 20:00, наш лаборант Антон Удалов расскажет о self-supervised подходе в звуке.
Мы подробно обсудим ключевые модели в этой области: Wav2Vec2, HuBERT и WavLM. А ещё разберёмся:
- в их архитектурных особенностях;
- чем они отличаются друг от друга;
- и для решения каких задач нужны.
Готовьте вопросы — обязательно ответим на них! До встречи.
VK
VK Lab. Запись со стены.
Ого, это что новый семинар от VK Lab? Да!
Подключайтесь 12 декабря в 20:00, наш лаборант Ант... Смотрите полностью ВКонтакте.
Подключайтесь 12 декабря в 20:00, наш лаборант Ант... Смотрите полностью ВКонтакте.
Forwarded from Machinelearning
8 бесплатных топ курсов по большим языковым моделям:
1. Университет LLM
Курс дает представление о том, как работают
LLM, их практическом применении, и направляет учащихся на использование LLM для создания и развертывания приложений.https://docs.cohere.com/docs/llmu
2. huggingface NLP course
Этот курс дает исчерпывающие знания о тарнсформерах Hugging Face, датасетах, токенизаторах и инструменте Accelerate в области обработки естественного языка (NLP).
https://huggingface.co/learn/nlp-course/chapter1/1
3. DeepLearningAI
Коллекция бесплатных курсов, созданных в сотрудничестве со многими компаниями, такими как LangChain, OpenAI, Google, Weights & Biases, Microsoft и другими.
https://www.deeplearning.ai/short-courses/
4. Weights_biases course
Этот курс показывает, как создавать приложения на базе LLM, используя
API, Langchain и W&B Prompts. Он рассказывает про разработку, экспериментирование и оценку приложений, ориентированных на LLM.https://www.wandb.courses/courses/building-llm-powered-apps
5. Introduction to LLMs course by google cloud
Курс вводного уровня, в котором рассказывается о том, что такое LLM, о случаях их использования и о том, как повысить производительность LLM с помощью промпт-тюнинга.
https://www.cloudskillsboost.google/course_templates/539
6. Databricks курсы
Программа включает в себя два курса: "
LLMs: Application through Production" и "LLMs: Foundation Models from the Ground Up".https://www.databricks.com/blog/enroll-our-new-expert-led-large-language-models-llms-courses-edx
7. Курс "LangChain & Vector Databases in Production" от activeloopai, towards_AI и Intel
Серия из трех курсов познакомит слушателей со знаниями и навыками для обучения, тонкой настройки и интеграции LLM в продакшен.
https://learn.activeloop.ai/courses/langchain
8 ) LLM Bootcamp
Охватывает такие темы, как
Prompt Engineering, LLMOps, UX для языковых пользовательских интерфейсов, дополненные языковые модели, быстрая разработка LLM-приложений, будущие тенденции в LLM, фундаментальные концепции и прохождение askFSDL.https://fullstackdeeplearning.com/llm-bootcamp/
@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from DeepSchool
Эффективные ансамбли
Ансамбли помогают:
- повысить устойчивость к искажению входных данных
- определить принадлежность объекта к тренировочному распределению
- улучшить взаимосвязь между уверенностью модели и реальным качеством предсказания
⚠️ Но у ансамблей есть и недостаток — увеличивается время предсказания.
Чтобы снизить этот фактор и ускорить ансамбли, придумали несколько методов, с которыми мы и познакомим вас в новой статье.
А также рассмотрим базовые подходы к построению ансамблей и метрики для оценки их эффективности.
Читайте новую статью по ссылке: https://deepschool-pro.notion.site/e0b2a0bad14e414782b9ab3dff0cd2b5?pvs=4
Ансамбли помогают:
- повысить устойчивость к искажению входных данных
- определить принадлежность объекта к тренировочному распределению
- улучшить взаимосвязь между уверенностью модели и реальным качеством предсказания
Чтобы снизить этот фактор и ускорить ансамбли, придумали несколько методов, с которыми мы и познакомим вас в новой статье.
А также рассмотрим базовые подходы к построению ансамблей и метрики для оценки их эффективности.
Читайте новую статью по ссылке: https://deepschool-pro.notion.site/e0b2a0bad14e414782b9ab3dff0cd2b5?pvs=4
Please open Telegram to view this post
VIEW IN TELEGRAM
deepschool-pro on Notion
Эффективные ансамбли | Notion
Автор: Дмитрий Раков
Редактура: Илья Бакалец
Редактура: Илья Бакалец
Forwarded from Институт AIRI
Save the date: новогодняя ИИшница пройдет 21 декабря в 15:30! 🍳🎄
Исследователи расскажут про свои статьи, которые были приняты на конференцию NeurIPS 2023, скоро поделимся подробным расписанием онлайн-митапа.
Ссылка на трансляцию тут🍿
Исследователи расскажут про свои статьи, которые были приняты на конференцию NeurIPS 2023, скоро поделимся подробным расписанием онлайн-митапа.
Ссылка на трансляцию тут🍿
Forwarded from Machine learning Interview
This media is not supported in your browser
VIEW IN TELEGRAM
🤗 Как построить интерактивное пространство HF для визуализации набора данных изображений
https://huggingface.co/blog/MarkusStoll/interactive-hf-space-to-visualize-image-datasets
@machinelearning_interview
https://huggingface.co/blog/MarkusStoll/interactive-hf-space-to-visualize-image-datasets
@machinelearning_interview
Forwarded from эйай ньюз
This media is not supported in your browser
VIEW IN TELEGRAM
🤯Локальные LLM-ки на подъеме — некий Кулибин запуcтил Карпатовскую llama2.c на Galaxy Watch 4!
Моделька не самая жирная, но это пока. Через год-два 1B параметров будет на часах бегать. Персональный ассистент у вас на руке!
Скорость:
Модель с 15M параметров: 22 токенов/сек*
Модель с 43M параметров: 8 токенов/сек
Вот вам еще небольшая подборка моих постов, про локальнные LLM:
- LLaMa с text-retrieval плагином: тык-1, тык-2
- LLama-7B на на макбуке: тык
- LLaMa-30B на макбуке (4-bit + mmap): тык
- llama2.c или Карпатый запускает LLaMa-2-7B на рисоварке: тык
- Falcon 180B дома на маке M2 Ultra: тык
*один токен - это чуть меньше одного слова.
@ai_newz
Моделька не самая жирная, но это пока. Через год-два 1B параметров будет на часах бегать. Персональный ассистент у вас на руке!
Скорость:
Модель с 15M параметров: 22 токенов/сек*
Модель с 43M параметров: 8 токенов/сек
Вот вам еще небольшая подборка моих постов, про локальнные LLM:
- LLaMa с text-retrieval плагином: тык-1, тык-2
- LLama-7B на на макбуке: тык
- LLaMa-30B на макбуке (4-bit + mmap): тык
- llama2.c или Карпатый запускает LLaMa-2-7B на рисоварке: тык
- Falcon 180B дома на маке M2 Ultra: тык
*один токен - это чуть меньше одного слова.
@ai_newz
Forwarded from Machinelearning
This media is not supported in your browser
VIEW IN TELEGRAM
AnyDoor - новый генератор изображений на основе диффузии, который может гармонично вписывать любые объекты в новые сцены в указанных местах.
Модель, обучена на видео и понимает разные ракурсы и освещения объектов, чтобы вписывать изображения в любой новый план с новым освещением и камерой.
pip install git+https://github.com/cocodataset/panopticapi.git
pip install pycocotools -i https://pypi.douban.com/simple
pip install lvis@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Machinelearning
This media is not supported in your browser
VIEW IN TELEGRAM
🖼️ DDColor: Towards Photo-Realistic Image Colorization via Dual Decoders 🔥
DDColor - инструмент для естественной колоризации изображений.
Обширные эксперименты показывают, что DDColor превосходит все существующие современные разработки на бенчмарках.
🖥 Code: github.com/piddnad/DDColor
📚 Paper: arxiv.org/abs/2212.11613
🌟 Colab: https://github.com/camenduru/DDColor-colab
@ai_machinelearning_big_data
DDColor - инструмент для естественной колоризации изображений.
Обширные эксперименты показывают, что DDColor превосходит все существующие современные разработки на бенчмарках.
@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Заметки Computer Vision инженера
На Хабре не писал уже давным давно. Как-то сейчас получается что проще сделать видео или небольшую узкоспециализированную статью на медиуме. Но какую-то длинную и сложную мысль с большим числом отсылок однозначно надо публиковать на Хабре. Собственно некоторое суммирование о всех больших моделях про которые я говорил на своём канале с весны решил сделать - https://habr.com/ru/companies/recognitor/articles/786646/
В тексте обзор + немного мыслей о том куда это все идет. Сейчас явно не волна хайпа на тему "ресерчеры не нужны", но кажется что тема иногда витает в воздухе:)
В тексте обзор + немного мыслей о том куда это все идет. Сейчас явно не волна хайпа на тему "ресерчеры не нужны", но кажется что тема иногда витает в воздухе:)
Forwarded from ML for Value / Ваня Максимов (Ivan Maksimov)
GPT-4 не особо впечатлил меня
Весь прошлый год хайповали LLM-ки и GenAI. Которые вроде крутые, но в массовое внедрение в бизнесы пока не вошли. Шок, но даже массовой замены поддержки на ChatGPT пока не случилось
В это же время мимо меня прошел релиз DINO-v2 🦕
И вот он уже очень меня очень удивил
Self Supervised Learning на картинках
Вдумайтесь: мы просто показали нейронке картинки без лейблов, аннотации текста и вообще чего-то еще, и получилось выучить SOTA фичи! Бьет даже OpenCLIP в zero-shot сетапе
Широта применения
Работает для классификации, сегментации, оценки карты глубины и кучи других задач
В общем, я бы ставил на подобные self-supervised encoder модели для применения в бизнесе, чем на gpt-like (вспомните бум BERT). Ну а пока можете потыкать демо DINO-v2
P.S. К посту прикреплены скрины оценки карты глубины, сегментации объектов и матчинга точек между 2умя картинками
Весь прошлый год хайповали LLM-ки и GenAI. Которые вроде крутые, но в массовое внедрение в бизнесы пока не вошли. Шок, но даже массовой замены поддержки на ChatGPT пока не случилось
В это же время мимо меня прошел релиз DINO-v2 🦕
И вот он уже очень меня очень удивил
Self Supervised Learning на картинках
Вдумайтесь: мы просто показали нейронке картинки без лейблов, аннотации текста и вообще чего-то еще, и получилось выучить SOTA фичи! Бьет даже OpenCLIP в zero-shot сетапе
Широта применения
Работает для классификации, сегментации, оценки карты глубины и кучи других задач
В общем, я бы ставил на подобные self-supervised encoder модели для применения в бизнесе, чем на gpt-like (вспомните бум BERT). Ну а пока можете потыкать демо DINO-v2
P.S. К посту прикреплены скрины оценки карты глубины, сегментации объектов и матчинга точек между 2умя картинками
Forwarded from Machine learning Interview
Узнайте все, начиная со старой школы ResNet, YOLO и трансформаторов обнаружения объектов, таких как DETR, и заканчивая новейшими моделями, такими как Grounding DINO, SAM и GPT-4 Vision.
47 блокнотов, 33 урока и 42 записи в блоге, охватывающие 21 различную модель.
https://github.com/roboflow/notebooks
@machinelearning_interview
Please open Telegram to view this post
VIEW IN TELEGRAM