На этой неделе пятничный пост перенесу на завтра (у меня для вас будет большой пост про очень красивую игру), а сегодня продолжу про OpenTalks.ai.
Во-первых, я прочитал свой доклад по AI Safety. Игорь Пивоваров (главный организатор) смог выделить мне не полчаса, а 45 минут, и это действительно очень помогло, в итоге не так много пришлось пропускать и удалось рассказать много интересного. Доклад людям, кажется, понравился!
Игорь вот только что спросил у Руслана Салахутдинова (который тоже здесь выступает! удалённо, конечно) про safety для AI-агентов, о которых тот рассказывал, и Руслан честно признал, что "we are in uncharted territory... it's an open question".)
Во-вторых, потрясающие вещи рассказал сегодня Дмитрий Ветров. Я об этом ничего раньше не слышал, а у них очень крутые исследования сейчас идут: они провели весьма прямую аналогию между стохастическим градиентным спуском и термодинамикой идеальных газов! Настолько точную, что даже предсказания можно делать о том, что куда сойдётся, и эти предсказания будут сбываться.
Вот статья группы Ветрова: "Can Training Dynamics of Scale-Invariant Neural Networks Be Explained by the Thermodynamics of an Ideal Gas?". Искренне рекомендую посмотреть, меня очень вдохновляют такие неожиданные и крутые вещи.
В-третьих, продолжаю встречать массу крутых людей. Например, сегодня познакомился с человеком, который написал и сейчас ставит... мюзикл про AI safety! Работа там ещё не совсем закончена, и мюзикл только частями где-то показывали на пробных прогонах, так что давать ссылки и раскрывать имена не буду, но надеюсь, что скоро мы сможем его посмотреть целиком.)
Ещё раз огромное спасибо Игорю Пивоварову за приглашение!
#lifestyle #ai #events #talks #travel
Во-первых, я прочитал свой доклад по AI Safety. Игорь Пивоваров (главный организатор) смог выделить мне не полчаса, а 45 минут, и это действительно очень помогло, в итоге не так много пришлось пропускать и удалось рассказать много интересного. Доклад людям, кажется, понравился!
Игорь вот только что спросил у Руслана Салахутдинова (который тоже здесь выступает! удалённо, конечно) про safety для AI-агентов, о которых тот рассказывал, и Руслан честно признал, что "we are in uncharted territory... it's an open question".)
Во-вторых, потрясающие вещи рассказал сегодня Дмитрий Ветров. Я об этом ничего раньше не слышал, а у них очень крутые исследования сейчас идут: они провели весьма прямую аналогию между стохастическим градиентным спуском и термодинамикой идеальных газов! Настолько точную, что даже предсказания можно делать о том, что куда сойдётся, и эти предсказания будут сбываться.
Вот статья группы Ветрова: "Can Training Dynamics of Scale-Invariant Neural Networks Be Explained by the Thermodynamics of an Ideal Gas?". Искренне рекомендую посмотреть, меня очень вдохновляют такие неожиданные и крутые вещи.
В-третьих, продолжаю встречать массу крутых людей. Например, сегодня познакомился с человеком, который написал и сейчас ставит... мюзикл про AI safety! Работа там ещё не совсем закончена, и мюзикл только частями где-то показывали на пробных прогонах, так что давать ссылки и раскрывать имена не буду, но надеюсь, что скоро мы сможем его посмотреть целиком.)
Ещё раз огромное спасибо Игорю Пивоварову за приглашение!
#lifestyle #ai #events #talks #travel
🔥19❤16👍5
Мой друг, аспирант и подписчик Иван Михеев сначала рекомендовал Bramble: The Mountain King для #12gamesofchristmas, а потом, когда я его на праздниках пропустил, напомнил ещё раз. И я ему очень благодарен за настойчивость, потому что Bramble — это потрясающе! Обзор вышел большой, читайте по ссылке, здесь только отрывки:
Bramble: The Mountain King
[...]
Dimfrost Studio в своей второй игре использовали шведский фольклор и мифологию. [...] Один из главных источников вдохновения — шведский художник Юн Бауэр (John Bauer, 1882–1918). Лично я про него впервые услышал, и было любопытно узнать. Бауэр прославился иллюстрациями к ежегоднику “Bland tomtar och troll”...
[...]
В первую очередь Bramble: The Mountain King — это очень, очень красивая игра. Главный герой, скандинавский мальчик Улле, просыпается ночью, не находит рядом сестру Лиллемор и отправляется на поиски в лес.
Лес сделан просто невероятно, с крутым освещением и совершенно потрясающей водой; кажется, нормальная физика воды — это утерянная технология древних в игровой индустрии, и вот Dimfrost её таки откопали. Освещение в игре вообще играет очень важную роль: каждая глава имеет свою световую палитру, свою атмосферу, и переходы между ними сделаны так, что ты физически ощущаешь, как меняется настроение.
[...]
Всем известно, что настоящие сказки мрачные и жёсткие. Сёстры Золушки отрезают себе одна палец, другая пятку, чтобы влезть в туфельку, и принц обнаруживает обман, когда голуби указывают ему на кровь, текущую из башмачка. На свадьбе Золушки те же голуби выклёвывают сёстрам глаза. [...] И здесь разработчики очень постарались сделать сказки настоящими!
[...]
Когда Улле попадает к троллю, он находит там много разнообразного мяса. А одна из самых мрачных глав — эпизод с болотной ведьмой Кэрхексан, которая топит собственного младенца в рамках сатанинского ритуала, а потом вешается. Улле побеждает ведьму, но не может спасти ребёнка.
[...]
Пожалуй, единственный минус — что управление иногда не вполне отзывчивое, а камера не очень ясно доносит, в какую сторону надо прыгать и сможет ли Улле допрыгнуть.
В игре очень крутой саундтрек. [...]
Если вы любите игры про маленьких героев в большом страшном мире, если вам нравились Little Nightmares, Limbo или A Plague Tale, Bramble обязательно стоит пройти, это настоящий hidden gem. А если вы ещё и интересуетесь скандинавской мифологией и фольклором — тем более. Очень рекомендую, и ещё раз спасибо Ивану, без него я бы про эту игру, скорее всего, и не узнал.
#tgif #games
Bramble: The Mountain King
[...]
Dimfrost Studio в своей второй игре использовали шведский фольклор и мифологию. [...] Один из главных источников вдохновения — шведский художник Юн Бауэр (John Bauer, 1882–1918). Лично я про него впервые услышал, и было любопытно узнать. Бауэр прославился иллюстрациями к ежегоднику “Bland tomtar och troll”...
[...]
В первую очередь Bramble: The Mountain King — это очень, очень красивая игра. Главный герой, скандинавский мальчик Улле, просыпается ночью, не находит рядом сестру Лиллемор и отправляется на поиски в лес.
Лес сделан просто невероятно, с крутым освещением и совершенно потрясающей водой; кажется, нормальная физика воды — это утерянная технология древних в игровой индустрии, и вот Dimfrost её таки откопали. Освещение в игре вообще играет очень важную роль: каждая глава имеет свою световую палитру, свою атмосферу, и переходы между ними сделаны так, что ты физически ощущаешь, как меняется настроение.
[...]
Всем известно, что настоящие сказки мрачные и жёсткие. Сёстры Золушки отрезают себе одна палец, другая пятку, чтобы влезть в туфельку, и принц обнаруживает обман, когда голуби указывают ему на кровь, текущую из башмачка. На свадьбе Золушки те же голуби выклёвывают сёстрам глаза. [...] И здесь разработчики очень постарались сделать сказки настоящими!
[...]
Когда Улле попадает к троллю, он находит там много разнообразного мяса. А одна из самых мрачных глав — эпизод с болотной ведьмой Кэрхексан, которая топит собственного младенца в рамках сатанинского ритуала, а потом вешается. Улле побеждает ведьму, но не может спасти ребёнка.
[...]
Пожалуй, единственный минус — что управление иногда не вполне отзывчивое, а камера не очень ясно доносит, в какую сторону надо прыгать и сможет ли Улле допрыгнуть.
В игре очень крутой саундтрек. [...]
Если вы любите игры про маленьких героев в большом страшном мире, если вам нравились Little Nightmares, Limbo или A Plague Tale, Bramble обязательно стоит пройти, это настоящий hidden gem. А если вы ещё и интересуетесь скандинавской мифологией и фольклором — тем более. Очень рекомендую, и ещё раз спасибо Ивану, без него я бы про эту игру, скорее всего, и не узнал.
#tgif #games
🔥16❤7👍4
В следующий раз на семинаре лаборатории Маркова будем заканчивать разбор лучших статей NeurIPS. Напомню, что первая часть была в декабре, и тогда мы разобрали три из семи best papers. Вот что осталось:
Разбор лучших статей NeurIPS 2025, часть II
Ссылка на трансляцию (пятница 27 февраля, 14:00)
Сотрудники лаборатории Маркова
Лучшие из пяти тысяч статей NeurIPS, получившие best paper awards, были опубликованы в декабре 2025 года. Тогда на заседании семинара мы решили провести их краткий разбор, и три из семи разобрали, но разборы вышли не такими краткими, как изначально планировалось.
Поэтому во второй части будем разбирать оставшиеся:
— Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond)
— Gated Attention for Large Language Models: Non-linearity, Sparsity, and Attention-Sink-Free
— Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?
— Optimal Mistake Bounds for Transductive Online Learning
P.S. Восхищаться, как круто рисуют картинки Gemini и GPT, уже давно very last year, но всё равно порадовался тому, как Gemini модифицировал картинку прошлого анонса.
#markovlab #seminar #spsu
Разбор лучших статей NeurIPS 2025, часть II
Ссылка на трансляцию (пятница 27 февраля, 14:00)
Сотрудники лаборатории Маркова
Лучшие из пяти тысяч статей NeurIPS, получившие best paper awards, были опубликованы в декабре 2025 года. Тогда на заседании семинара мы решили провести их краткий разбор, и три из семи разобрали, но разборы вышли не такими краткими, как изначально планировалось.
Поэтому во второй части будем разбирать оставшиеся:
— Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond)
— Gated Attention for Large Language Models: Non-linearity, Sparsity, and Attention-Sink-Free
— Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?
— Optimal Mistake Bounds for Transductive Online Learning
P.S. Восхищаться, как круто рисуют картинки Gemini и GPT, уже давно very last year, но всё равно порадовался тому, как Gemini модифицировал картинку прошлого анонса.
#markovlab #seminar #spsu
❤8😍5👍2🔥2
Мне внезапно прислали свежую статью (Константин, привет!), которая объединяет два совсем разных направления, о которых я недавно писал в блоге и рассказывал в докладах:
— с позитивной стороны, здесь развивается идея representation recycling, о которой я вам рассказывал в контексте thinking tokens;
— с негативной, это почти буквально The Most Forbidden Technique; точнее, всё это направление просто-напросто отменяет идею легко интерпретируемых рассуждений в виде chain-of-thought (о которых я рассказывал здесь);
— кроме того, это те самые process reward models, которые по идее не работают в рассуждающих моделях, но с неожиданной стороны.
Написал пост об этой статье с контекстом про петлевые языковые модели (LoopLMs) и всеми этими связями:
LoopLMs: за и против
Введение
Вся эта история начинается с естественной, но всё равно ещё не вполне исследованной идеи в контексте рассуждающих моделей — латентных рассуждений: а что если модель будет думать не словами, записывая свои промежуточные мысли в блокнотик, а молча, итеративно уточняя свои внутренние представления?
Но попытки улучшить такие модели с помощью обучения с подкреплением до сих пор проваливались. И вот новая статья Williams & Tureci (2026) объясняет, почему проваливались, и предлагает красивое решение: RLTT (Reward Latent Thought Trajectories), метод, который награждает не только финальный результат размышлений, но и всю траекторию латентных мыслей модели.
[...дальше уже читайте пост, там ещё много...]
А вы за LoopLMs или против? :)
#ai #longreads #blog
— с позитивной стороны, здесь развивается идея representation recycling, о которой я вам рассказывал в контексте thinking tokens;
— с негативной, это почти буквально The Most Forbidden Technique; точнее, всё это направление просто-напросто отменяет идею легко интерпретируемых рассуждений в виде chain-of-thought (о которых я рассказывал здесь);
— кроме того, это те самые process reward models, которые по идее не работают в рассуждающих моделях, но с неожиданной стороны.
Написал пост об этой статье с контекстом про петлевые языковые модели (LoopLMs) и всеми этими связями:
LoopLMs: за и против
Введение
Вся эта история начинается с естественной, но всё равно ещё не вполне исследованной идеи в контексте рассуждающих моделей — латентных рассуждений: а что если модель будет думать не словами, записывая свои промежуточные мысли в блокнотик, а молча, итеративно уточняя свои внутренние представления?
Но попытки улучшить такие модели с помощью обучения с подкреплением до сих пор проваливались. И вот новая статья Williams & Tureci (2026) объясняет, почему проваливались, и предлагает красивое решение: RLTT (Reward Latent Thought Trajectories), метод, который награждает не только финальный результат размышлений, но и всю траекторию латентных мыслей модели.
[...дальше уже читайте пост, там ещё много...]
А вы за LoopLMs или против? :)
#ai #longreads #blog
👍10🔥6🤔5❤2