Forwarded from эйай ньюз
Bonsai Image 4B — чудеса квантизации
Стартап PrismML, специализирующийся на экстремальном сжатии моделек, сделал квантизированную до одного бита FLUX.2 Klein 4B, вышло на удивление достойно. С таким уровнем квантизации Diffusion Transformer занимает всего лишь 930 мегабайт в 1-битном варианте и 1.2 гигабайта в тернарном варианте. Текстовый энкодер настолько же сильно ужать не удалось, поэтому весь комплект весит ~3.5 гига.
Такая квантизация позволяет запускать модель прямо в браузере и на телефонах, используя лишь 2 гигабайта оперативки. На генерацию 512x512 картинки на iPhone 17 Pro Max с такой моделью уходит 9.4 секунды при 4 шагах, что неплохо если учитывать факт офлоадинга. Ждём моделек побольше, для локального деплоймента.
Инференс в браузере
Веса
@ai_newz
Стартап PrismML, специализирующийся на экстремальном сжатии моделек, сделал квантизированную до одного бита FLUX.2 Klein 4B, вышло на удивление достойно. С таким уровнем квантизации Diffusion Transformer занимает всего лишь 930 мегабайт в 1-битном варианте и 1.2 гигабайта в тернарном варианте. Текстовый энкодер настолько же сильно ужать не удалось, поэтому весь комплект весит ~3.5 гига.
Такая квантизация позволяет запускать модель прямо в браузере и на телефонах, используя лишь 2 гигабайта оперативки. На генерацию 512x512 картинки на iPhone 17 Pro Max с такой моделью уходит 9.4 секунды при 4 шагах, что неплохо если учитывать факт офлоадинга. Ждём моделек побольше, для локального деплоймента.
Инференс в браузере
Веса
@ai_newz
Forwarded from Жёлтый AI
Съездили в 🔤 🔤 🔤 🔤 🔤 🔤 на AAMAS 2026, где у нас был oral с работой Enhancing Vision-Language Model Training with Reinforcement Learning in Synthetic Worlds for Real-World Success.
В статье мы обучаем VLM-агентов через RL в дешевых синтетических средах: MiniWorld, Gym-Cards, ALFWorld и WebShop. Основная идея — если хотим, чтобы модель не просто красиво описывала картинку, а умела смотреть на состояние мира и делать последовательность действий, то ей нужно дать возможность потренироваться в интерактивных окружениях.
Для этого предложили VL-DAC: простой RL-метод, где PPO применяется к action-токенам, а value учится один раз на шаг среды. В итоге убираем хрупкие коэффициенты между thought/action токенами, replay buffers и прочие места, где обычно хочется немного поплакать во время обучения VLM через RL.
После обучения в одном дешевом симуляторе модель переносит навыки на реальные бенчмарки: +50% relative на BALROG, +5% на самой сложной части VSI-Bench и +2% на VisualWebBench, при этом не ломая обычное понимание изображений.
• Статью можно прочитать тут, а код найти здесь😉
В статье мы обучаем VLM-агентов через RL в дешевых синтетических средах: MiniWorld, Gym-Cards, ALFWorld и WebShop. Основная идея — если хотим, чтобы модель не просто красиво описывала картинку, а умела смотреть на состояние мира и делать последовательность действий, то ей нужно дать возможность потренироваться в интерактивных окружениях.
Для этого предложили VL-DAC: простой RL-метод, где PPO применяется к action-токенам, а value учится один раз на шаг среды. В итоге убираем хрупкие коэффициенты между thought/action токенами, replay buffers и прочие места, где обычно хочется немного поплакать во время обучения VLM через RL.
После обучения в одном дешевом симуляторе модель переносит навыки на реальные бенчмарки: +50% relative на BALROG, +5% на самой сложной части VSI-Bench и +2% на VisualWebBench, при этом не ломая обычное понимание изображений.
• Статью можно прочитать тут, а код найти здесь
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
😁1
Forwarded from Maria Vorontsova
Тренировки по ML
➖ ➖ ➖ ➖ ➖ ➖
6️⃣ июня состоится семнадцатая встреча в рамках тренировок по машинному обучению ❤️
Что будет на встрече:
⚪️ Orbit Wars как первое RL соревнование на Kaggle в эпоху coding agents
📢 Спикер: Дмитрий Руденко, Kaggle Competition Master, самый активный участник соревновательного сообщества. Автор @pseudolabeling
📆 Когда: 6 июня в 18:10
🗺️ Где: онлайн ❤️ ссылка на подключение
Подробнее про челленджи🐭
По организационным вопросам вы можете обращаться к Марии↩️
#анонсы #студенты #ии
Что будет на встрече:
Подробнее про челленджи
По организационным вопросам вы можете обращаться к Марии
#анонсы #студенты #ии
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Дзен
Мы запускаем «Кортекс» — ИИ, который умеет отличать факт от пересказа
Новая ИИ-архитектура анализирует смыслы: находит связи между событиями, отслеживает развитие истории и продвигает тех, кто реально добавляет новое в повестку — а не перепечатывает чужое по пятому разу.
Управляющий директор Дзена Александр Толокольников на мероприятии для СМИ в Санкт-Петербурге:
Плюс запустили ИИ-студию для редакций, которая помогает быстро переупаковывать материалы и сокращает путь от текста до читателя.
И это только начало. Мы продолжим развивать ИИ-инструменты, создавать новые форматы и искать способы делать информацию понятнее, полезнее и ближе к людям.
Скачайте приложение, чтобы Дзен всегда был под рукой
Новая ИИ-архитектура анализирует смыслы: находит связи между событиями, отслеживает развитие истории и продвигает тех, кто реально добавляет новое в повестку — а не перепечатывает чужое по пятому разу.
Управляющий директор Дзена Александр Толокольников на мероприятии для СМИ в Санкт-Петербурге:
Мы верим, что «Кортекс» станет вашим верным союзником в борьбе с нейрослопом и позволит удержать заслуженные лидирующие позиции, ведь он анализирует именно факты, а факты — это то, что ни сейчас, ни в долгосрочном будущем не будет доступно генеративному ИИ и будет являться вашим эксклюзивным преимуществом.
Плюс запустили ИИ-студию для редакций, которая помогает быстро переупаковывать материалы и сокращает путь от текста до читателя.
И это только начало. Мы продолжим развивать ИИ-инструменты, создавать новые форматы и искать способы делать информацию понятнее, полезнее и ближе к людям.
Скачайте приложение, чтобы Дзен всегда был под рукой
Forwarded from Нейродвиж
This media is not supported in your browser
VIEW IN TELEGRAM
Мощно: Ideogram внезапно выложили свою новую модель в открытый доступ для всех 😮
Это лучшая открытая модель среди всех — идеально работает с текстом и прекрасно фотошопит картинки. Ideogram 4 уступает только закрытым Nano Banana и GPT-i-2.
Инструкция по установке — на GitHub.
Это лучшая открытая модель среди всех — идеально работает с текстом и прекрасно фотошопит картинки. Ideogram 4 уступает только закрытым Nano Banana и GPT-i-2.
Инструкция по установке — на GitHub.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Machinelearning
После 2-х лет тишины проект получил свежее обновление. Возвращение продиктовано бумом искусственного интеллекта: из-за скачка мировых цен на память IT-индустрии потребовались новые способы снижения расходов на инфраструктуру.
CacheLib позволяет выносить большие объемы кэша из дорогой оперативки на более доступные и емкие SSD без существенной потери производительности.
Инструмент предоставляет масштабируемый механизм гибридного кэширования, который автоматически и прозрачно распределяет данные между разными уровнями памяти.
Движок отличается крайне низкими накладными расходами благодаря поточномуу API и структурам данных без копирования, требуя минимум места для хранения метаданных.
Еще одна особенность CacheLib - отказоустойчивость: библиотека умеет сохранять свое состояние, предотвращая потерю прогретого кэша при перезапуске приложений.
Хотя официальный чейнджлог со списком изменений разработчики не опубликовали, актуальный релиз уже доступен на GitHub.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Yandex for ML
Больше 10 лет мы дружим с сообществом Open Data Science и каждый год открываем двери наших офисов для вас на конференции Data Fest. В этом году мы успели послушать доклады, поиграть в игры, пообщаться и понетворкать.
Как всё прошло:
• Трек Practical ML в «Экстрополисе».
• Сборный трек от сообщества ODS в «Мулен Руж».
• Сборный трек от сообщества ODS в зале Serbia.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1😁1
Forwarded from Oleg
Добрый день!
Всем заинтересованным - выкладываю конспект курса по графовым нейронным сетям и рекомендательным системам https://github.com/berng/GNcourseBook/.
Графовые нейронные сети - достаточно полезная область машинного обучения: как вы знаете за ее приложения в анализе трехмерной структуры белков недавно была присуждена Нобелевская премия.
Это достаточно редкие в русскоязычных источниках материалы, которые были собраны и прочитаны у магистрантов и бакалавров на факультете ФБКИ ИГУ в этом году.
Книга содержит как теоретическую часть, так и работоспособный код на Питон.
Если кому-то это поможет при составлении собственных курсов - пользуйтесь на здоровье!
Текст пока не полностью вычитан и оформлен, но вполне закончен для использования.
Для освоения этого курса студентам желательно уже знать анализ данных и машинное обучение хотя-бы в объеме наших курсов:
https://github.com/berng/AIcourseBook
https://github.com/berng/DAcourseBook
Работа поддержана Фондом Потанина.
Большое спасибо Самсунг Электроникс Рус Компани (и лично Алексею Шадрикову), и Институту космических и информационных технологий СФУ (и лично Анне Пятаевой) за поддержку проекта в Фонде Потанина.
Успехов всем!
Всем заинтересованным - выкладываю конспект курса по графовым нейронным сетям и рекомендательным системам https://github.com/berng/GNcourseBook/.
Графовые нейронные сети - достаточно полезная область машинного обучения: как вы знаете за ее приложения в анализе трехмерной структуры белков недавно была присуждена Нобелевская премия.
Это достаточно редкие в русскоязычных источниках материалы, которые были собраны и прочитаны у магистрантов и бакалавров на факультете ФБКИ ИГУ в этом году.
Книга содержит как теоретическую часть, так и работоспособный код на Питон.
Если кому-то это поможет при составлении собственных курсов - пользуйтесь на здоровье!
Текст пока не полностью вычитан и оформлен, но вполне закончен для использования.
Для освоения этого курса студентам желательно уже знать анализ данных и машинное обучение хотя-бы в объеме наших курсов:
https://github.com/berng/AIcourseBook
https://github.com/berng/DAcourseBook
Работа поддержана Фондом Потанина.
Большое спасибо Самсунг Электроникс Рус Компани (и лично Алексею Шадрикову), и Институту космических и информационных технологий СФУ (и лично Анне Пятаевой) за поддержку проекта в Фонде Потанина.
Успехов всем!
😁1