🤖 ICRL: как научить ИИ учиться на собственных ошибках без внешней критики

Исследователи представили ICRL (Internalizing Self-Critique with Reinforcement Learning) — новый фреймворк, который позволяет языковым моделям «интернализировать» самокритику и улучшать свои способности без внешних подсказок. Работа опубликована на arXiv.

Современные LLM-агенты часто допускают ошибки, но критика (например, от человека или другой модели) может направить их к правильному ответу. Проблема в том, что при удалении критики модель снова ошибается — она не усваивает урок. ICRL решает эту задачу, обучая одновременно «решателя» (solver) и «критика» (critic) на общей основе. Критик получает вознаграждение в зависимости от того, насколько его советы улучшают результат решателя.

Ключевая инновация — механизм калибровки распределения (distribution-calibration re-weighting), который отбирает только те подсказки критика, которые совместимы с собственным распределением промптов решателя. Это предотвращает зависимость модели от внешней критики. Дополнительно используется групповая оценка преимуществ (role-wise group advantage estimation) для стабильного обучения обеих ролей.

Тесты на Qwen3-4B и Qwen3-8B показали прирост в 6,4 балла над GRPO на агентных задачах и 7,0 баллов на математических рассуждениях. Примечательно, что обученный 8B-критик сравним по качеству с 32B-критиками, используя значительно меньше токенов. Код доступен на GitHub.

#Tech #AI #ICRL #Learning #LLM

⚡️ Специализация побеждает масштаб: стратегическая переменная, которую упускают при закупках ИИ

Исследователи Dharma опубликовали результаты, которые ставят под сомнение устоявшуюся практику enterprise-закупок: специализированная модель с 3 млрд параметров превзошла все коммерческие frontier API в задаче структурированного OCR — при этом стоимость её эксплуатации оказалась примерно в 50 раз ниже.

В апреле Dharma выпустила DharmaOCR — пару специализированных small language models для структурированного OCR, а также бенчмарк и сопутствующую научную статью. Ключевой вывод: когда тренировочная история модели максимально приближена к задаче развёртывания, количество параметров перестаёт быть решающим фактором. 3-миллиардная модель не просто обошла GPT-4, Claude 3 и Gemini 1.5 по качеству — она сделала это с радикально меньшими затратами.

Авторы подчёркивают, что результат не единичен: это наиболее строго измеренный пример паттерна, который Dharma наблюдает и в других доменах. Исследование показывает, что enterprise-стратегия «выбрать самую большую модель» больше не является оптимальной по умолчанию. Специализация через fine-tuning, доступный любой ресурсной организации, даёт не только лучшее качество, но и кардинально меняет экономику инференса.

#AI #Learning #Enterprise #Specialization #HuggingFace

🦾 7 способов стать настолько крутым в AI, что вас примут за ИИ

WIRED опубликовал практическое руководство для тех, кто хочет выйти на новый уровень владения искусственным интеллектом. Авторы собрали семь конкретных стратегий, которые помогут не просто использовать нейросети, а работать с ними на уровне эксперта — так, что окружающие начнут сомневаться, человек ли вы.

Среди ключевых рекомендаций: освоение продвинутого промпт-инжиниринга с использованием цепочек запросов, внедрение AI-агентов для автоматизации рутинных задач и умение комбинировать несколько моделей для решения сложных проблем. Особое внимание уделяется навыку «мета-мышления» — способности анализировать, как именно ИИ приходит к ответам, и корректировать свои запросы на основе этого понимания.

Материал также подчеркивает важность постоянного обучения: следить за новыми релизами моделей, тестировать бета-функции и участвовать в AI-сообществах. Главный вывод: настоящая экспертиза в AI — это не знание кнопок, а глубокое понимание логики работы моделей и умение выстраивать эффективные диалоги с ними.

#Ai #Learning #Mastering #Recommendation #Manual

⚙️ Сбор данных для роботов — грязная работа. Некоторые AI-лаборатории уже платят XDOF

Если физический ИИ хочет догнать успехи LLM, нужно решить проблему с данными. Сбор данных для обучения роботов — это грязная, неблагодарная работа, и некоторые лаборатории уже начали платить XDOF за её выполнение. Речь идёт о краудсорсинге: люди вручную управляют роботами, записывая их действия, чтобы создать качественные датасеты.

Проблема в том, что в отличие от текстов или изображений, данные для робототехники требуют физического взаимодействия с реальным миром. Это дорого, медленно и часто требует участия человека. XDOF (или аналогичные платформы) предлагают решение: платить операторам за сбор данных через телеуправление, что позволяет масштабировать процесс без создания сложных симуляций.

Для разработчиков это означает, что скоро может появиться больше открытых датасетов для обучения роботов, а значит — ускорение прогресса в области embodied AI. Если вы работаете с робототехникой или симуляциями, следите за трендом: платный сбор данных становится стандартной практикой.

#Tech #Robotics #AI #Data #XDOF #Learning

💵 General Intuition ведёт переговоры о привлечении $300 млн при оценке около $2 млрд

Стартап General Intuition из Нью-Йорка, разрабатывающий фундаментальную модель для обучения ИИ-агентов навигации в пространстве и времени, близок к закрытию раунда на $300 млн. Об этом сообщили источники TechCrunch.

Раунд проходит спустя восемь месяцев после того, как компания выделилась из платформы Medal с $134 млн seed-раунда. Новые средства поднимут оценку стартапа до $2 млрд. Среди инвесторов — Джефф Безос, Эрик Шмидт, а также существующие Khosla Ventures и General Catalyst.

General Intuition обучает воплощённый ИИ и world models на датасете Medal — 2 млрд видео в год от 10 млн активных пользователей.

#Business #AI #Studying #Learning #Startup #WorldModels

5️⃣➕ ИИ накручивает студентам оценки: исследования указывают на списывание, а не на знания

Исследование Университета Беркли показало, что с появлением ChatGPT доля оценок «отлично» выросла на 13 процентных пунктов — на 30% выше уровня 2022 года. Средний GPA поднялся на 0,12 балла. Эффект сконцентрирован в курсах с большим объёмом письменных работ и кода — именно там, где ИИ наиболее эффективен.

Автор Игорь Чириков проанализировал 319 курсов за восемь семестров. Ключевой вывод: рост оценок наблюдается только в дисциплинах, где домашние задания имеют большой вес в итоговой оценке. В курсах с преобладанием прокторинговых экзаменов эффекта нет. Это опровергает гипотезу о реальном улучшении обучения — ИИ просто выполняет работу за студентов.

Плацебо-тест подтвердил результаты: оценки за устные презентации, где ИИ бесполезен, не изменились. Исследование предупреждает, что дипломы теряют сигнальную ценность для работодателей, а выпускники рискуют оказаться слабее в тех навыках, где ИИ сильнее всего. Даже Сэм Альтман признал, что система образования не адаптировалась к ИИ, и предупредил об атрофии критического мышления.

#AI #Education #ChatGPT #Learning #Research

❗️Suno похитила миллионы треков с YouTube, Genius и Deezer для обучения ИИ

Стартап Suno, разрабатывающий ИИ-генератор музыки, незаконно собрал миллионы аудиозаписей с YouTube, Genius и Deezer для тренировки своей модели. Об этом сообщает The Verge со ссылкой на внутренние документы и данные расследования.

По данным журналистов, Suno использовала автоматизированные скрипты для массового скачивания треков, минуя технические ограничения платформ. В базу попали как популярные хиты, так и редкие записи, включая защищённые авторским правом композиции. Genius — сервис с текстами песен — также стал источником данных, что ставит под вопрос легальность обучения модели.

Ранее лейблы Universal Music Group, Sony Music и Warner Music уже подали в суд на Suno за нарушение авторских прав. Новая информация может усилить позиции истцов и привести к ужесточению регулирования ИИ-генерации музыки. Suno пока официально не комментирует обвинения.

#AI #Suno #Music #Media #Copyright #Tech #Learning

🤖 OpenAI Academy: два года, 250 мероприятий и 4 млн участников

OpenAI подвела итоги двух лет программы Academy, запущенной в сентябре 2024 года для практического обучения работе с ИИ. За это время прошло более 250 мероприятий, а контент Academy охватил свыше 4 млн человек - от преподавателей и владельцев малого бизнеса до разработчиков и сотрудников НКО.

Формат включает самостоятельные курсы, практические руководства, офлайн-воркшопы и крупные multi-site события AI Skills Jams. В этом месяце добавлены новые учебные треки для knowledge workers, разработчиков, руководителей, педагогов и студентов - с бейджами за пройденные оценки. Примеры практики: учитель адаптирует урок через ChatGPT, разработчик планирует изменения в Codex, сохраняя контроль над ревью.

Следующий этап - пилот Community Trainer Program: партнёрские организации выдвигают сотрудников, те осваивают curriculum Academy и проходят аттестацию фасилитатора, после чего ведут собственные воркшопы. Цель - чтобы в сообществах появились локальные тренеры по ИИ-навыкам, к которым можно обратиться по мере развития инструментов.

#AI #OpenAI #Education #Learning #ChatGPT #Codex