Неделю назад прошла яркая новость: Милла Йовович стала вайб-кодером и разработчиком системы памяти для LLM-агентов! Я воспользовался этим поводом, чтобы обсудить память всерьёз, и написал большой пост с обзором всей этой науки:
Память для LLM-агентов: Милла Йовович и 20/20 hindsight
Разумеется, сюда поместиться этот пост никак не может, он очень большой, так что вот оглавление и заключение (и то еле влезло!), а в целом читайте по ссылке.
1. Вступление, в котором актриса неожиданно становится инфраструктурным разработчиком
2. Мотивация, где мы разбираемся, зачем LLM-агентам вообще какая-то память
3. Таксономии, или как можно смотреть на структуру агентской памяти:
— срез первый, нейропсихологический;
— срез второй, операционный;
— срез третий, идейный.
4. Три столпа агентской памяти, или как всё началось
— Generative Agents: поток с взвешиванием
— MemGPT / Letta: память как операционная система
— Reflexion: вербальное обучение с подкреплением
5. Графы и нейронаука, или как добавить языковой модели гиппокамп
— HippoRAG
— Zep / Graphiti: графы с учётом времени
6. Изменяемая память, или как переписывать свои собственные воспоминания
— A-MEM: Zettelkasten для моделей
— Memory-R1: add/update/delete через RL
7. Open-source фреймворки, или что можно взять и использовать прямо сейчас
— Mem0: простой API, большое сообщество
— Letta (MemGPT) и Zep / Graphiti
— LangChain / LangMem, LlamaIndex, CrewAI, Cognee
— Большая тройка
8. Что на фронтире, или биомимикрия, мультиграфы и крепкий сон для LLM-агентов
— Эмуляция сна: явная консолидация памяти
— Новые примитивы для хранения элементов памяти
— Новые принципы работы с памятью
9. Бенчмарки, или как мы измеряем память
10. MemPalace, или что же там всё-таки Милла Йовович
11. Hindsight, или современный пример хорошей системы агентской памяти
— Четыре сети памяти
— TEMPR: параллельный multi-strategy retrieval с RRF
— CARA: reflect в приоритетном порядке
— Disposition parameters: личность агента влияет и на память
— Цифры
12. Выводы и заключение
Попытаюсь сделать несколько общих выводов из всех работ, которые я тут перечитал и пересказал.
Во-первых, качество retrieval-стратегии важнее сложности хранилища. Hindsight побеждает на бенчмарках не потому, что у него какая-то хитрая база данных, а потому, что у него четыре стратегии извлечения с RRF-слиянием. HippoRAG побеждает на multi-hop не потому, что у него навороченный knowledge graph, а потому, что он делает один шаг PPR вместо трёх LLM-вызовов. Системы, которые полагаются исключительно на векторную похожесть, стабильно проигрывают.
Во-вторых, бенчмарки бенчмаркам рознь. Это давно всем известно, но вот и задокументировано в MemoryArena: система, которая даёт 95% на LoCoMo, может давать 40% на реальной агентской задаче. Не уверен, что мы с этим разрывом скоро разберёмся, но как минимум MemoryArena и Mem2ActBench задают правильные вопросы, и это уже прогресс.
В-третьих, архитектуры памяти начинают учиться. Memory-R1 — это, по-моему, самое важное из того, что вышло в 2025-2026. Он показывает, что политику управления памятью можно учить на ~150 примерах по downstream reward. Плюс ещё и bio-inspired направление (LightMem, SleepGate, EverMemOS) двигается в ту же сторону. Мне кажется, что в ближайшие пару лет написанные вручную стратегии управления памятью постепенно уступят обучаемым.
А в целом это одна из самых интересных областей в прикладных LLM прямо сейчас. Год назад казалось, что агенты упираются в недостаточно хорошие рассуждения; полгода назад — что в tool use; а сейчас я всё больше уверен, что следующее важное “узкое место” — это именно память. А вот Милла Йовович, увы, подвела.
#longreads #ai #blog
Память для LLM-агентов: Милла Йовович и 20/20 hindsight
Разумеется, сюда поместиться этот пост никак не может, он очень большой, так что вот оглавление и заключение (и то еле влезло!), а в целом читайте по ссылке.
1. Вступление, в котором актриса неожиданно становится инфраструктурным разработчиком
2. Мотивация, где мы разбираемся, зачем LLM-агентам вообще какая-то память
3. Таксономии, или как можно смотреть на структуру агентской памяти:
— срез первый, нейропсихологический;
— срез второй, операционный;
— срез третий, идейный.
4. Три столпа агентской памяти, или как всё началось
— Generative Agents: поток с взвешиванием
— MemGPT / Letta: память как операционная система
— Reflexion: вербальное обучение с подкреплением
5. Графы и нейронаука, или как добавить языковой модели гиппокамп
— HippoRAG
— Zep / Graphiti: графы с учётом времени
6. Изменяемая память, или как переписывать свои собственные воспоминания
— A-MEM: Zettelkasten для моделей
— Memory-R1: add/update/delete через RL
7. Open-source фреймворки, или что можно взять и использовать прямо сейчас
— Mem0: простой API, большое сообщество
— Letta (MemGPT) и Zep / Graphiti
— LangChain / LangMem, LlamaIndex, CrewAI, Cognee
— Большая тройка
8. Что на фронтире, или биомимикрия, мультиграфы и крепкий сон для LLM-агентов
— Эмуляция сна: явная консолидация памяти
— Новые примитивы для хранения элементов памяти
— Новые принципы работы с памятью
9. Бенчмарки, или как мы измеряем память
10. MemPalace, или что же там всё-таки Милла Йовович
11. Hindsight, или современный пример хорошей системы агентской памяти
— Четыре сети памяти
— TEMPR: параллельный multi-strategy retrieval с RRF
— CARA: reflect в приоритетном порядке
— Disposition parameters: личность агента влияет и на память
— Цифры
12. Выводы и заключение
Попытаюсь сделать несколько общих выводов из всех работ, которые я тут перечитал и пересказал.
Во-первых, качество retrieval-стратегии важнее сложности хранилища. Hindsight побеждает на бенчмарках не потому, что у него какая-то хитрая база данных, а потому, что у него четыре стратегии извлечения с RRF-слиянием. HippoRAG побеждает на multi-hop не потому, что у него навороченный knowledge graph, а потому, что он делает один шаг PPR вместо трёх LLM-вызовов. Системы, которые полагаются исключительно на векторную похожесть, стабильно проигрывают.
Во-вторых, бенчмарки бенчмаркам рознь. Это давно всем известно, но вот и задокументировано в MemoryArena: система, которая даёт 95% на LoCoMo, может давать 40% на реальной агентской задаче. Не уверен, что мы с этим разрывом скоро разберёмся, но как минимум MemoryArena и Mem2ActBench задают правильные вопросы, и это уже прогресс.
В-третьих, архитектуры памяти начинают учиться. Memory-R1 — это, по-моему, самое важное из того, что вышло в 2025-2026. Он показывает, что политику управления памятью можно учить на ~150 примерах по downstream reward. Плюс ещё и bio-inspired направление (LightMem, SleepGate, EverMemOS) двигается в ту же сторону. Мне кажется, что в ближайшие пару лет написанные вручную стратегии управления памятью постепенно уступят обучаемым.
А в целом это одна из самых интересных областей в прикладных LLM прямо сейчас. Год назад казалось, что агенты упираются в недостаточно хорошие рассуждения; полгода назад — что в tool use; а сейчас я всё больше уверен, что следующее важное “узкое место” — это именно память. А вот Милла Йовович, увы, подвела.
#longreads #ai #blog
1🔥19❤🔥6❤2👍2
У меня что-то много контента накопилось невыложенного, надолго теперь должно хватить. Начну с доклада Дмитрия Коржа на семинаре лаборатории Маркова:
Семинар Markov Lab — 2026.04.03 — Устойчивость моделей глубокого обучения
(слайды на странице семинара)
В целом доклад был о том, как формально гарантировать, что модель не сломается от возмущений; это важная тема в контексте adversarial attacks, от которых общей защиты, разумеется, до сих пор никакой нет.
Доклад был большой, так что расскажу только одну интересную идею, из первой главы, про General Lipschitz. Суть в том, что стандартный метод случайного сглаживания доказуемо устойчив только против аддитивных возмущений с малой нормой, а в реальной жизни модели ломаются от семантических трансформаций — блюр, изменение яркости, контраста, гамма-коррекция и т.д. У этих преобразований большая норма, и обычный randomized smoothing тут бессилен. А в работе Дмитрия предлагается смотреть на липшицевость сглаженного классификатора не по входу, а по параметрам преобразования, и вместо того, чтобы для каждого нового преобразования вручную выводить нужное сглаживающее распределение (как делали другие подходы раньше), разрабатывают универсальный фреймворк, который работает для любых разрешимых (resolvable) преобразований и их композиций.
В целом это была в какой-то степени расширенная репетиция защиты кандидатской; на защите полтора часа, конечно, не дадут говорить, но презентация, кажется, была та самая. Защита у Дмитрия будет завтра (в московской ВШЭ), так что пожелаем ему удачи!
#spsu #seminar #markovlab
Семинар Markov Lab — 2026.04.03 — Устойчивость моделей глубокого обучения
(слайды на странице семинара)
В целом доклад был о том, как формально гарантировать, что модель не сломается от возмущений; это важная тема в контексте adversarial attacks, от которых общей защиты, разумеется, до сих пор никакой нет.
Доклад был большой, так что расскажу только одну интересную идею, из первой главы, про General Lipschitz. Суть в том, что стандартный метод случайного сглаживания доказуемо устойчив только против аддитивных возмущений с малой нормой, а в реальной жизни модели ломаются от семантических трансформаций — блюр, изменение яркости, контраста, гамма-коррекция и т.д. У этих преобразований большая норма, и обычный randomized smoothing тут бессилен. А в работе Дмитрия предлагается смотреть на липшицевость сглаженного классификатора не по входу, а по параметрам преобразования, и вместо того, чтобы для каждого нового преобразования вручную выводить нужное сглаживающее распределение (как делали другие подходы раньше), разрабатывают универсальный фреймворк, который работает для любых разрешимых (resolvable) преобразований и их композиций.
В целом это была в какой-то степени расширенная репетиция защиты кандидатской; на защите полтора часа, конечно, не дадут говорить, но презентация, кажется, была та самая. Защита у Дмитрия будет завтра (в московской ВШЭ), так что пожелаем ему удачи!
#spsu #seminar #markovlab
1❤17👍5🔥1
И вот в курсе "Введение в глубокое обучение" в ЮФУ мы наконец-то добрались до самой мякотки:
ЮФУ — 2026.04.09 — Самовнимание и архитектура трансформера
(слайды и доска на странице курса)
Рассмотрели, собственно, трансформер! Начали с общей схемы, с того, из чего состоят слои кодировщика и декодировщика в трансформере.
Потом я попробовал, как водится, замотивировать самовнимание через то, как работает информационный поиск. Честно говоря, я не знаю, как объяснять трансформер лучше, но даже при такой мотивации всё равно, конечно, в итоге получается достаточно абстрактная конструкция. Но хоть и абстрактная, а очень простая по сути! И это, конечно, поразительно, насколько круто работает и масштабируется такая простая идея.
Потом обсудили другие части, внимание в декодере и позиционные вложения. В следующий раз поговорим о том, что на основе трансформера сделали вскоре после его появления.
#sfu #lectures #dsfrontiers
ЮФУ — 2026.04.09 — Самовнимание и архитектура трансформера
(слайды и доска на странице курса)
Рассмотрели, собственно, трансформер! Начали с общей схемы, с того, из чего состоят слои кодировщика и декодировщика в трансформере.
Потом я попробовал, как водится, замотивировать самовнимание через то, как работает информационный поиск. Честно говоря, я не знаю, как объяснять трансформер лучше, но даже при такой мотивации всё равно, конечно, в итоге получается достаточно абстрактная конструкция. Но хоть и абстрактная, а очень простая по сути! И это, конечно, поразительно, насколько круто работает и масштабируется такая простая идея.
Потом обсудили другие части, внимание в декодере и позиционные вложения. В следующий раз поговорим о том, что на основе трансформера сделали вскоре после его появления.
#sfu #lectures #dsfrontiers
❤13👍2🔥1
В курсе "Графические вероятностные модели" мы продолжили разговор о вариационных приближениях:
СПбГУ — 2026.04.10 — Примеры вариационных приближений
(слайды и доска, как всегда, на странице курса)
Это была довольно техническая лекция. Мы начали с общего результата о том, как работает ELBO, когда q(Z) раскладывается в произведение независимых распределений q_i. Это хоть и частный случай, но очень важный, практически всегда это именно так и работает.
А потом рассмотрели простые примеры вариационных приближений: двумерный гауссиан, обучение одномерного гауссиана, обучение смеси гауссианов. Ну как "простые" — смесь гауссианов вот всю вторую пару заняла... но всё-таки по сути примеры довольно прямолинейные.
В следующий раз будет большой развёрнутый пример, который мне очень нравится и которым я много в своей жизни занимался как наукой когда-то: тематические модели. Там и вариационные приближения в полный рост появляются, и с сэмплированием по Гиббсу можно связать.
#spsu #lectures #pgm2026
СПбГУ — 2026.04.10 — Примеры вариационных приближений
(слайды и доска, как всегда, на странице курса)
Это была довольно техническая лекция. Мы начали с общего результата о том, как работает ELBO, когда q(Z) раскладывается в произведение независимых распределений q_i. Это хоть и частный случай, но очень важный, практически всегда это именно так и работает.
А потом рассмотрели простые примеры вариационных приближений: двумерный гауссиан, обучение одномерного гауссиана, обучение смеси гауссианов. Ну как "простые" — смесь гауссианов вот всю вторую пару заняла... но всё-таки по сути примеры довольно прямолинейные.
В следующий раз будет большой развёрнутый пример, который мне очень нравится и которым я много в своей жизни занимался как наукой когда-то: тематические модели. Там и вариационные приближения в полный рост появляются, и с сэмплированием по Гиббсу можно связать.
#spsu #lectures #pgm2026
🔥7❤2👍1
К сегодняшней лекции порождал картинки и заметил опять некоторый качественный скачок. Раньше у GPT не получалось так консистентно весь текст написать со всеми мелкими деталями и выдержать стиль так хорошо.
Что характерно, я заметил это сам на своём собственном опыте, а потом уже нагуглил, что вот-вот должен выйти GPT Image 2, и его уже понемногу разворачивают — видимо, я сегодня попал в A/B тестирование.
Ну что сказать, круто, ещё один заметный шаг вперёд. Много ли их уже осталось.)
#ai #lectures #news
Что характерно, я заметил это сам на своём собственном опыте, а потом уже нагуглил, что вот-вот должен выйти GPT Image 2, и его уже понемногу разворачивают — видимо, я сегодня попал в A/B тестирование.
Ну что сказать, круто, ещё один заметный шаг вперёд. Много ли их уже осталось.)
#ai #lectures #news
🔥30👍13💯2🐳1
Семинар сегодня был весьма огненный! Сергей Кольцов рассказал о своих исследованиях, где он тоже применяет термодинамические интуиции, но совсем по-другому, и к другой части процесса.)
Но получается всё равно круто! Когда будет запись, расскажу подробнее.
#spsu #markovlab #seminar
Но получается всё равно круто! Когда будет запись, расскажу подробнее.
#spsu #markovlab #seminar
❤🔥13👍8🔥5❤2😁1
2025 год для детективно-загадочных игр в особняках выдался неожиданно богатым: Blue Prince со своим roguelike-домом, который каждый день перестраивается заново (я писал обзор), Rise of the Golden Idol в той же нише, что и первая часть (ещё не играл, но, надеюсь, ещё напишу), и вот ещё.
Подробный обзор по ссылке, здесь очень-очень сокращённо (как всегда, в телеграм мало что помещается):
The Séance of Blake Manor
(и вот выложил на DTF)
Разработчик — небольшая ирландская студия Spooky Doorway из Дублина. Они широко известны в узких кругах благодаря серии The Darkside Detective. [...]
Издаёт игру Raw Fury, известный по Sable, Norco, Kingdom Two Crowns, а в последнее время ещё и Routine. [...]
Завязка сюжета очень классическая: ты прибываешь в удалённый ирландский особняк, чтобы расследовать исчезновение человека; там масса разнообразных колоритных персонажей и много вопросов, на которые надо ответить.
[...]
Сразу хочется отметить очень крутой сеттинг. 1897 год — это полвека после Великого голода в Ирландии, катастрофы, унёсшей жизни миллионов людей и заставившей ещё миллионы эмигрировать, причём именно западная Ирландия пострадала сильнее всего. Люди, пережившие Голод, ещё живы.
При этом хозяин Blake Manor — лорд Джонатан Блейк — носит английскую фамилию, что для ирландской аристократии того периода значит очень многое: большая часть землевладельцев Ирландии были англичанами, получившими свои титулы в ходе колонизации. Когда Блейк жалуется Уорду на то, что семье пришлось превратить поместье в отель, потому что после Голода они стали меньше зарабатывать — это для всякого настоящего ирландца звучит как пощёчина.
А дальше начинается всякая чертовщина.
Мистика в игре действительно есть, она не сводится к ночным кошмарам и совпадениям, тут буквально с духами приходится общаться. В большинстве случаев мне бы это не понравилось: слишком удобное объяснение для чего угодно, тем более в детективной истории. Но здесь мистика вплетена двумя способами, и оба работают.
[...]
В основном ты занимаешься тем, что расследуешь кучу пересекающихся друг с другом историй. [...] Более классических квестовых загадок здесь тоже полно, и они сделаны очень хорошо: не слишком сложно, не слишком просто, в точности как надо.
Главная геймплейная новизна здесь — интересная механика со временем. Ходить по особняку можно как бы мгновенно, но любое действие вроде “посмотреть на вещь” или “обсудить тему с человеком”, которые в обычном квесте ты выполнял бы все подряд не задумываясь, тут стоят времени. Пусть одну минутку, но минутки складываются в часы, а часов у тебя не так уж много. [...]
Это очень крутая идея, потому что она заставляет пересмотреть свой стандартный паттерн поведения в квестах. [...] Тем более что история начинает развиваться очень быстро, событий много, ставки всё время повышаются, за развитием сюжета следить интересно, и есть, кстати, в том числе и сюжет, а не только распутывание уже произошедшего, как в классическом детективе.
[...]
Если вы любите классические детективные головоломки, готическую атмосферу, запутанные разборки с множеством персонажей, у каждого из которых своя история, — очень рекомендую.
#tgif #games
Подробный обзор по ссылке, здесь очень-очень сокращённо (как всегда, в телеграм мало что помещается):
The Séance of Blake Manor
(и вот выложил на DTF)
Разработчик — небольшая ирландская студия Spooky Doorway из Дублина. Они широко известны в узких кругах благодаря серии The Darkside Detective. [...]
Издаёт игру Raw Fury, известный по Sable, Norco, Kingdom Two Crowns, а в последнее время ещё и Routine. [...]
Завязка сюжета очень классическая: ты прибываешь в удалённый ирландский особняк, чтобы расследовать исчезновение человека; там масса разнообразных колоритных персонажей и много вопросов, на которые надо ответить.
[...]
Сразу хочется отметить очень крутой сеттинг. 1897 год — это полвека после Великого голода в Ирландии, катастрофы, унёсшей жизни миллионов людей и заставившей ещё миллионы эмигрировать, причём именно западная Ирландия пострадала сильнее всего. Люди, пережившие Голод, ещё живы.
При этом хозяин Blake Manor — лорд Джонатан Блейк — носит английскую фамилию, что для ирландской аристократии того периода значит очень многое: большая часть землевладельцев Ирландии были англичанами, получившими свои титулы в ходе колонизации. Когда Блейк жалуется Уорду на то, что семье пришлось превратить поместье в отель, потому что после Голода они стали меньше зарабатывать — это для всякого настоящего ирландца звучит как пощёчина.
А дальше начинается всякая чертовщина.
Мистика в игре действительно есть, она не сводится к ночным кошмарам и совпадениям, тут буквально с духами приходится общаться. В большинстве случаев мне бы это не понравилось: слишком удобное объяснение для чего угодно, тем более в детективной истории. Но здесь мистика вплетена двумя способами, и оба работают.
[...]
В основном ты занимаешься тем, что расследуешь кучу пересекающихся друг с другом историй. [...] Более классических квестовых загадок здесь тоже полно, и они сделаны очень хорошо: не слишком сложно, не слишком просто, в точности как надо.
Главная геймплейная новизна здесь — интересная механика со временем. Ходить по особняку можно как бы мгновенно, но любое действие вроде “посмотреть на вещь” или “обсудить тему с человеком”, которые в обычном квесте ты выполнял бы все подряд не задумываясь, тут стоят времени. Пусть одну минутку, но минутки складываются в часы, а часов у тебя не так уж много. [...]
Это очень крутая идея, потому что она заставляет пересмотреть свой стандартный паттерн поведения в квестах. [...] Тем более что история начинает развиваться очень быстро, событий много, ставки всё время повышаются, за развитием сюжета следить интересно, и есть, кстати, в том числе и сюжет, а не только распутывание уже произошедшего, как в классическом детективе.
[...]
Если вы любите классические детективные головоломки, готическую атмосферу, запутанные разборки с множеством персонажей, у каждого из которых своя история, — очень рекомендую.
#tgif #games
❤8👻3👍2🔥2