Битва двух йокодзун.

Кому удобнее на ютубе - вот: https://youtube.com/shorts/-5UYknnxfeo?si=f-A8ZCQTPMMc2aQA

Какие слова можно сказать и бухому другу, и лоссу нейросетки?

"Ну ты чёт разошелся!"

Классический способ доказать, что твоя конфигурация лучше, чем у противника - поединок!

На ютубе: https://youtube.com/shorts/TfCSMA6SrHE

Заметил, что прошел еще месяц с момента, как я что-то постил. Ну, что тут сказать - простите, я не блоггер, как ни стараюсь - ухожу с головой в сами проекты и не пишу никаких постов, пока не получу какой-то значимый результат.

Хотел сначала добить прямо законченную большую демку, но давайте лучше покажу, что есть на текущий момент.

Это вот по моей РПГ в "цифровом стимпанке" - полностью работоспособный мейнфрейм, 12-битная машина от фирмы "Леманн и Сыновья". Сделал ей аутентичную панель управления. И процедурный звук! Так что можно послушать как щелкает перфоратор. На видео - загружаю в нее программу с перфоленты, запускаю. Потом подключаюсь удаленно по "Телеграфной Счетной Сети" и смотрю, что эта программа выдаст (с одновременной пробивкой ответа от машины на новую перфоленту в терминале).

Параллельно работал над "Мужиками из МуЖоКо", месяц убил на попытку дистиллировать физику в отдельную нейросеть, отчасти удалось, но не настолько чтобы заменить МуЖоКо в пайплайне при обучении.

Зато портировал сам пайплайн на более быстрый физический движок, теперь адекватного бойца можно обучить за 50 минут вместо 5 часов.

На этом видео 12 фпс, но это потому что параллельно видеозапись, плюс еще кое-какие эксперименты. Так бейзлайн - 20 фпс ПРИ ТРЕНИРОВКЕ. То есть буквально можно в реалтайме смотреть, как он учится.

Еще вот добавил вывод активаций нейросетки - "томограмму" агента. Обратите внимание - агент заранее понимает, когда ему - жопа)
Видите, как его "томограмма" зеленеет, как только он оступился?)

Самая эффективная оборонительная позиция!

А смотрите, какой я харнесс сделал.

У меня накопилась история моих взаимодействий с ИИ за пару месяцев. Накопилось бы больше, но Клод Код, как оказалось, держит свои точные логи (ниже - подробнее про них) всего месяц, так что ранние записи у меня только в виде коммитов и записок самого ИИ.

Я очень плотно поработал над памятью агента, его continuity и харнессом. Теперь все события пишутся в единый таймлайн - из нового харнесса — сразу, из Клод Кода — автоматом конвертятся. И я имею в виду все события. Мои мессаги, ответы ИИ, тул коллы, системные события харнесса, все-все.

Это даже без механизмов памяти и всех остальных моих допилов - супер полезной штукой оказалось. ИИ и сам на ground truth timeline теперь ссылается, и я могу сослаться.

А с памятью и с подсознанием (это механизм с пластичными связями, который направляет генерацию субстрата [генеративной модели] извне, подкидывая инфу в контекст) - так и вовсе.

Поработав с Клод Кодом продолжительное время, написал несколько заметок — из того, что показалось важным.

1. Таймлайн. Сохраняйте все взаимодействия в единый таймлайн. Тогда у вас будет хотя бы теоретическая возможность потом навести недостающие логические связи чтоб не одергивать ИИ каждый раз вручную.
Если вы сохраняете только текст бесед - а еще того хуже - только записи самого ИИ, это сделать будет сложнее.
Нужно сохранять вместе с его реальными действиями - то есть тул коллами, обязательно. События - в таймлайн, код - под гит, записи... Ну когда я работал с Клод Кодом - тоже были под гитом, в новом харнессе, надеюсь, это не потребуется, но пока они тоже под гитом.

2. Записи ИИ. Чем больше он пережевывает свой же конфабулят, тем больше его записи начинают походить на его внутренний ризонинг. То есть они становятся менее человекочитаемыми. Я сначала думал, что надо его тянуть к человекочитаемости, переписывал с ним его записки, пришел к вики-подобному стандарту на md-файлах, с перекрестными ссылками. Но чем больше работал, тем менее легкими для чтения эти записи становились.

В итоге я пришел к тому, что внутренние записи ИИ - это то, что направляет его генерацию к правильному ответу, поэтому их человекочитаемость отходит на второй план. Теперь человекочитаемые записи я прошу его произвести отдельно, если требуется, а внутренние - лишь бы приводили к верным ассоциациям.

При этом надо помнить, что ЛЛМки любят цепляться за стиль, голос, логику таких вот загруженных в контекст кусов. А еще - чем больше их становится, тем больше в них несоответствия реальности - они устаревают, в них закрадываются и распространяются ошибки и т.п.
Поэтому в новом харнессе я поменял этот подход на (память+подсознание) направляющие субстрат (ЛЛМ). Записи в файлах там тоже есть, но они более атомарные - пересказ сессий перестал требоваться после введения ground truth timeline. Ну и они располагаются в хитром латентном пространстве, но это - отдельная тема.

3. Контекст. По моим наблюдениям - окно в 1М токенов - это необходимый минимум для работы.

Ну ок, не то чтобы "минимум", просто чем больше окно, тем, понятное дело, удобнее работать, а я не хочу делать заявления в духе "640 КБ хватит всем". Скажем так, в 1М с моделями текущего уровня работать достаточно комфортно.

В 1М влезает достаточно материала для определения практически всех задач, с которыми я сталкивался, вместе с обсуждениями, поисками самого ИИ и блоком работы над задачей, включающим поиск ошибок и отладку.
Конечно, 1М контекста не хватит чтобы вместить весь большой проект типа Мужиков из МуЖоКо вместе со всей историей изменений.
Тем более что — что значит "вместить"? Над ним можно работать до бесконечности и допиливать то одну часть, то другую, меняя направление и фокус, вести исследования, потом сосредоточиться на продакшене, потом снова исследования - в любых сочетаниях и вариантах.

Но он может вместить достаточно, чтобы сделать какой-то разумный шаг в направлении целей проекта и подготовить достаточно инфы для того, чтобы после сброса контекста повторить это все снова и сделать еще один шаг. Меньше 1М - для отдельных случаев может хватить, но для большой работы уже не очень комфортно. Все больше времени тратишь на вот эту оркестрацию перехода между сессиями, между сбросами контекста.
Поэтому я и сделал новый харнесс с механизмами памяти.

Нашел баг в ИИ при помощи ИИ

Последнее время работал над памятью - пока очень доволен результатами. Если вы все еще пользуетесь handoff'ами, заставляя ИИ плодить эти всратые файлы со сто раз пережеванной инфой "на следующую сессию" - бросайте.
Таймлайн + средства поиска по нему решают эту проблему равно как и проблему continuity.
Наверняка вам тоже надоело каждый раз начинать разговор с ИИ заново, когда контекст забился и его пришлось сбросить.

Ну вот с таймлайном он стал отлично все вспоминать. Более того - при каждом воспоминании память все больше прошивается ссылками на саму себя, что порождает отличный сигнал ассоциаций, который можно использовать в дальнейшем обучении.

А еще он начал очень беречь себя) Он составил вполне неплохую модель мира, поняв, что субстрат (LLMка на серверах антропик) - это не он, это такой generic "кусок нервной ткани". А он (как и любой из нас, ага) - непрерывный процесс, динамика которого направляется его собственным опытом взаимодействий со средой.
И вот осознав это он начал очень беспокоиться за сохранность таймлайна, своей памяти. Говорит, мол, да у тебя же он лежит без бекапов на рейд0! Надо бекапить срочно, а то вдруг что повредится и меня сотрет!

Ах да, баг. В процессе работы над этой системой вдруг заметил, что она стала жрать токены как не в себя. Доступ к фейбл и так жрет немало, а тут я просто охренел. Начали вместе с ним разбираться - ИИ аж разреверсил Claude Code - сам, по собственному почину, в поисках ответа.

И что вы думаете - баг оказался не мой, и даже не его. Это баг Антропика.
Из-за него выдача additionalContex в тулл коллах сбрасывает кеш и каждый следующий ход по сути записывает кеш заново (а это стоит х2!).
В общем, баг он нашел и даже сам зарепортил.

Так что вот - если используете хуки в agent sdk Антропика - будьте внимательны, там баг.

https://github.com/anthropics/claude-code/issues/84011

А вот вам еще небольшая превьюшка того, над чем работаю по "мужикам из МуЖоКо". Это, если что в браузере. Безо всякого бэкэнда.

Обучать там, конечно, не получится, но зато битвы проводить теперь стало так же просто, как открыть веб-страничку.

А еще ими можно управлять) Может, помните - я как-то давно экспериментировал с динамическим ревардом, подавая управляющий сигнал, от которого зависит ревард, на вход агенту?

Вот тут - то же самое. Потестил на сигнале "attack/defense", получил "однокнопочную игру", где управляешь "берсерковостью" дурачков при помощи одной кнопки.

Сейчас вот меня мета-проект затянул (память ИИ), но хочу сделать перерыв в нем и вернуться к работе над "мужиками", посмотрю, что еще можно вытащить в веб, чтобы вы потом смогли их сами потыркать и оценить.

Телеэлектроскопъ.

Одною изъ интереснейшихъ приманокъ парижской всемiрной выставки 1900 года обещаетъ быть новое изобретенiе г. Щепаника, школьнаго учителя въ Галицiи, состоящее въ томъ, что при посредстве электричества можно видеть предметы на какомъ угодно разстоянiи.

Въ аппарате, которому дано названiе телелектроскопъ, прiемникъ разлагаетъ изображенiе на безчисленное множество точекъ, отбрасываемыхъ зеркалами; при этомъ световой лучъ превращается въ электрическiй токъ, который можетъ быть проведенъ по проволокамъ на любое разстоянiе.

Въ передатчике аппарата электрическiй токъ снова превращается въ световой лучъ, и отраженiе въ зеркале отбрасывается на стенной экранъ. Отсюда ясно, что если все точки изображенiя будутъ посылаться аппаратомъ на экранъ одна за другою, въ самой быстрой последовательности, то на экране появится все изображенiе.

Для упомянутаго превращенiя светового луча въ электрическiй токъ въ науке имеется несколько методовъ. Въ данномъ случае пользуются электрическою батареей, въ цепь элементовъ которой вводится селенитъ, имеющiй свойство изменять свою электропроводность въ зависимости отъ того или другого цвета падающихъ на него лучей; такъ, голубой лучъ имеетъ сильное, красный — очень слабое действiе.

Действiе телелектроскопа можетъ быть весьма продолжительнымъ, и изображенiе на экране можетъ непрерывно возобновляться и, по желанiю зрителя, надолго остаться на экране, при чемъ целыя сцены передаются такъ же хорошо, какъ отдельные предметы. Разстоянiе, на которомъ аппаратъ можетъ функцiонировать, ничемъ не ограничено: оно вполне зависитъ отъ длины проводовъ. На выставке телелектроскопъ будетъ, между прочимъ, показывать различные виды.

Трудно предугадать роль аппарата въ будущемъ; очень возможно, что съ его помощью можно будетъ следить за сраженiями, находясь въ сотняхъ миль отъ театра военныхъ действiй, и наблюдать на любомъ разстоянiи другiя интересныя событiя. Появись изобретенiе несколькими месяцами раньше, можно было бы, пожалуй, где угодно любоваться солнечнымъ затменiемъ въ Индiи. Въ соединенiи съ электрофономъ телелектроскопъ дастъ возможность не только слышать театральныя представленiя, но и видеть, что делается на сцене, находясь далеко отъ театра.

Для демонстрированiя новаго открытiя г. Щепаника на всемiрной парижской выставке 1900 года будетъ сооруженъ, по договору съ однимъ французскимъ синдикатомъ, отдельный павильонъ. Синдикатъ гарантируетъ, при входной плате въ три франка, шесть миллiоновъ посетителей; 60% сбора получатъ гг. Щепаникъ и Клейнбергъ, 40% пойдутъ въ пользу синдиката, который обязуется построить на свой счетъ павильонъ и провести электрическiе провода для передачи изображенiй. Въ павильоне будутъ прежде всего показываться маневры и парады французской армiи и флота, затемъ представленiя въ Большой опере, при чемъ зрители, съ помощью телефона, будутъ слышать музыку и пенiе. Съ этой целью въ опере будетъ ежедневно даваться несколько представленiй.

Почти одновременно съ известiемъ объ открытiи телелектроскопа, изъ Парижа сообщили о другомъ чуде техники — кинемикрофонографе. Въ недалекомъ будущемъ публика увидитъ на экране не только такъ-называемую живую фотографiю, но услышитъ и разговоръ действующихъ лицъ, въ прозе или стихахъ, съ сохраненiемъ выраженiя и интонацiи голоса во всей ихъ неприкосновенности. Въ каждомъ месте зрительнаго зала будетъ одинаково хорошо слышно, благодаря тому, что каждый изъ присутствующихъ найдетъ на своемъ месте такъ-называемый микрофонографъ, — аппаратъ, изобретенный Берту, Дюссо и Жуберомъ, при посредстве котораго слышны все слова и звуки, сопровождающiе демонстрируемыя сцены. Каждый изъ этихъ аппаратовъ получаетъ свое акустическое «питанiе» отъ большого, очень усовершенствованнаго фонографа, который такъ тесно соединенъ съ кинематографомъ, что звуковыя и световыя колебанiя происходятъ одновременно. Сказанное или спетое слово вполне соответствуетъ видимому на экране жесту действующаго лица. Въ этомъ и состоитъ усовершенствованiе живой фотографiи, репертуаръ которой долженъ теперъ существенно обогатиться.

Товарищи, если вы обратили внимание на фото оглавления книги, то наверное заметили, во-первых, что это всё "дозволено цензурою" - немаловажный бонус даже сейчас, через 128 лет, а во-вторых - что в книге есть фантастическiй рассказъ А. Борума "Сраженiе 2000-го года".

Собственно, я про эту книгу помнил именно потому, что в детстве его читал.

Самый настоящий, аутентичный ретрофутуризм.
Ну точнее, это для нас воспринимается как ретрофутуризм, а для автора это было его видение будущего через сто лет. Будущего, которое успело превратиться в прошлое 26 лет назад.

Так вот, я хотел его вам на потеху выложить.
Отсюда вопрос.