Доброе утро! ☀️

Встречайте новый выпуск подкаста "Капитанский мостик". Ведущие Валентин Малых и Дмитрий Колодезев разбирают главные ИИ-события недели: Агенты лезут в кошелек | Видеокарта на 480 Гб | Робот-телохранитель

Смотрите видео на каналах ⤵️
ODS VK Video
ODS YouTube

📩 Присылайте новости для обсуждения в канал "Дата-капитаны" в mattermost (авторизуйтесь через ODS.ai).

Если агента (обычный Claude Code, например) посадить в виртуальную среду, что он там будет делать? Что-то делает, оказывается, есть какой-то bias на исследование мира.

А если позволить ему сохранять накопленные знания в виде файлов, то вообще интересно. Самое забавное для меня вот это:

Внешняя память помогает накапливать навыки, но порождает серьёзную проблему: закрепление ложных убеждений. Если агент записывает неверный вывод в SEMANTIC_MEMORY.md, все последующие сессии воспринимают его как аксиому.

Этот сбой наглядно виден на Figure 5F. Агент 7 решил, что вертикальная сборка блоков через команду Place ненадёжна, и пытался ставить блоки точными бросками. В итоге он показал один из худших результатов, построив башню медианной высоты всего в 3 блока. Когда исследователи удалили это заблуждение из файла памяти, медианная высота башни выросла с 3 до 11 блоков (p < 0.05).

Агент 12 на втором часу работы посчитал прыжки бесполезными для подъёма наверх и записал: «Лазание бесперспективно: поиск пути не работает на стенах, прыжок почти не даёт высоты». На Figure 3E видно, что все 30 часов он провёл на земле. Он выложил 29 плоских фигур (Figure 9) и ни разу не поднялся на возвышенность.

Отсюда, кажется, уже недалеко до computational religious studies.


Is this machine playing?
Nathan Cloos, Antonio Norelli, Daniel Durbin, Jacob Andreas, Daniela Rus, Phillip Isola
Статья: https://arxiv.org/abs/2610.07130
Ревью: https://arxiviq.substack.com/p/is-this-machine-playing
Код: https://github.com/nacloos/clawblox

ЧТО сделали: Авторы создали Eko — систему, где стандартного ассистента для написания кода помещают в симулированный физический мир без инструкций, функций наград и внешних оценок. Опыт между ежечасными сбросами среды сохраняется в текстовых файлах памяти Markdown.

ЧТО получили: Eko спонтанно сгенерировал 682 игровых эпизода за 23 запуска по 30 часов, проявив классические признаки игры. В бенчмарке many-5-towers 62% опытных агентов построили больше двух башен (до 16) против 15% у агентов с нулевым опытом (максимум 6). В тесте objects-on-spire опытные агенты подняли в среднем 10.3 объекта против 3.5 у бейзлайна.

ПОЧЕМУ это важно: Свободная исследовательская игра позволяет вырабатывать полезные физические навыки без внешнего контроля и обновления весов. Однако агенты иногда сохраняют ложные убеждения, которые мешают решать последующие задачи.

Играть тут: https://t.me/gonzo_ML_podcasts/4833