Сегодня у нас добрая игра о потере и любви из Индонезии, которая ещё и позволила мне вспомнить два других отличных проекта: A Space for the Unbound и Until Then. Как всегда, здесь сильно сокращённая версия, полная на сайте:
Afterlove EP (и ещё две игры бонусом)
(и вот выложил на DTF)
Делала игру индонезийская студия Pikselnesia, основанная геймдизайнером и писателем Мохаммадом Фахми. Фахми был креативным директором Coffee Talk, уютной игры про бариста в дождливом Сиэтле, обслуживающую эльфов и оборотней, и What Comes After, в которую я всё собираюсь как-нибудь поиграть.
Анонсировали Afterlove EP в 2021-м, а в марте 2022-го... Фахми внезапно умер в возрасте 32 лет. Команда на два месяца остановила разработку, а потом решила игру всё-таки доделать, по черновикам и наброскам, которые Фахми оставил. Зная это, на Afterlove EP смотришь уже иначе, ведь это игра про потерю любимого человека. [...]
Главная причина, по которой я уделяю Afterlove EP целый пост, в том, что она заставила меня вспомнить две другие отличные игры: A Space for the Unbound и особенно Until Then.
Играл я в них довольно давно, так что полноценных обзоров уже не напишу. Но помню, что мне понравилось, [и в полной версии говорю про каждую пару слов]. Очень рекомендую особенно вторую — лично мне Until Then попала прямо в сердечко, в главных моментах не раз буквально слёзы наворачивались. Только один совет: не повторяйте мою ошибку и не идите гуглить рецензии, как только пойдут титры.
Теперь о самой Afterlove EP. Во-первых, это игра из Индонезии, что уже само по себе интересно. [...] Afterlove EP — тоже рисованная бродилка с видом сбоку, смотрится довольно стандартно [...]
Но главное тут, конечно, не рисовка, а сюжет. Ты играешь за парня-гитариста по имени Рама, который пытается пробиться на инди-сцену Джакарты со своей группой из трёх человек (он сам, барабанщик и басистка). Главный поворот (не спойлер, это сразу становится известно) в том, что год назад у него умерла девушка по имени Синта, и он это очень тяжело переживал и до сих пор переживает.
Настолько тяжело, что девушка в итоге поселилась у него в голове. Разговаривает с вами, имеет своё мнение, поддерживает диалог и кажется полноценной личностью, вот только никто кроме Рамы её не видит. Тульпа, как говорили в некоторых кругах. Кстати, в игре есть очень крутой штрих: Синта в игре является единственным озвученным персонажем, остальные разговаривают только текстом. [...]
В общем, это типичная young adult игра про отношения, но хорошо сделано! Персонажи относительно плоские, но совсем не карикатурные, и за развитием этой мыльной оперы следить было интересно.
Когда Рама репетирует (один или с группой) или выступает, начинается ритм-игра, в которой надо вовремя попадать по кнопкам. [...] Самым главным недостатком лично для меня было неловкое управление [...] Но это мелочи.
Дальше я вам сюжет спойлерить не буду. [...] Если вам кажется, что такой жанр может вас заинтересовать, то рекомендую попробовать [...] Если нет — нет, ничего такого уж гениального и выходящего за пределы своего жанра я тут не нашёл. В целом мне понравилось. Это достойный продолжатель дела A Space for the Unbound и Until Then, хотя я, пожалуй, рекомендую начать именно с них. Особенно Until Then.
#tgif #games
Afterlove EP (и ещё две игры бонусом)
(и вот выложил на DTF)
Делала игру индонезийская студия Pikselnesia, основанная геймдизайнером и писателем Мохаммадом Фахми. Фахми был креативным директором Coffee Talk, уютной игры про бариста в дождливом Сиэтле, обслуживающую эльфов и оборотней, и What Comes After, в которую я всё собираюсь как-нибудь поиграть.
Анонсировали Afterlove EP в 2021-м, а в марте 2022-го... Фахми внезапно умер в возрасте 32 лет. Команда на два месяца остановила разработку, а потом решила игру всё-таки доделать, по черновикам и наброскам, которые Фахми оставил. Зная это, на Afterlove EP смотришь уже иначе, ведь это игра про потерю любимого человека. [...]
Главная причина, по которой я уделяю Afterlove EP целый пост, в том, что она заставила меня вспомнить две другие отличные игры: A Space for the Unbound и особенно Until Then.
Играл я в них довольно давно, так что полноценных обзоров уже не напишу. Но помню, что мне понравилось, [и в полной версии говорю про каждую пару слов]. Очень рекомендую особенно вторую — лично мне Until Then попала прямо в сердечко, в главных моментах не раз буквально слёзы наворачивались. Только один совет: не повторяйте мою ошибку и не идите гуглить рецензии, как только пойдут титры.
Теперь о самой Afterlove EP. Во-первых, это игра из Индонезии, что уже само по себе интересно. [...] Afterlove EP — тоже рисованная бродилка с видом сбоку, смотрится довольно стандартно [...]
Но главное тут, конечно, не рисовка, а сюжет. Ты играешь за парня-гитариста по имени Рама, который пытается пробиться на инди-сцену Джакарты со своей группой из трёх человек (он сам, барабанщик и басистка). Главный поворот (не спойлер, это сразу становится известно) в том, что год назад у него умерла девушка по имени Синта, и он это очень тяжело переживал и до сих пор переживает.
Настолько тяжело, что девушка в итоге поселилась у него в голове. Разговаривает с вами, имеет своё мнение, поддерживает диалог и кажется полноценной личностью, вот только никто кроме Рамы её не видит. Тульпа, как говорили в некоторых кругах. Кстати, в игре есть очень крутой штрих: Синта в игре является единственным озвученным персонажем, остальные разговаривают только текстом. [...]
В общем, это типичная young adult игра про отношения, но хорошо сделано! Персонажи относительно плоские, но совсем не карикатурные, и за развитием этой мыльной оперы следить было интересно.
Когда Рама репетирует (один или с группой) или выступает, начинается ритм-игра, в которой надо вовремя попадать по кнопкам. [...] Самым главным недостатком лично для меня было неловкое управление [...] Но это мелочи.
Дальше я вам сюжет спойлерить не буду. [...] Если вам кажется, что такой жанр может вас заинтересовать, то рекомендую попробовать [...] Если нет — нет, ничего такого уж гениального и выходящего за пределы своего жанра я тут не нашёл. В целом мне понравилось. Это достойный продолжатель дела A Space for the Unbound и Until Then, хотя я, пожалуй, рекомендую начать именно с них. Особенно Until Then.
#tgif #games
🔥9❤5👌3
В СПбГУ подходит время экзамена у выпускного курса (им надо всё сдать раньше, ещё фактически в течение семестра), так что нарушу естественный порядок и выложу сразу пятничную лекцию из курса "Графические вероятностные модели":
СПбГУ — 2026.05.15 — Методы Монте-Карло в RL и TD обучение
(слайды и доска, как всегда, на странице курса)
Здесь началась главная мякотка обучения с подкреплением: откуда нам брать оптимальные стратегии или хотя бы функции V и Q, если мы не знаем динамики окружающей среды (а мы в подавляющем большинстве реальных случаев не знаем)?
Методы Монте-Карло отвечают на этот вопрос с обезоруживающей простотой: V и Q — это ожидания вознаграждений (returns), а мы в процессе обучения как раз их и получаем, то есть вознаграждения из опыта можно считать просто сэмплами для усреднения.
А TD-обучение делает чуть более хитрый трюк: разворачивает V или Q на один шаг вперёд и подставляет туда нашу же оценку (ту же функцию) для следующего состояния. Получается этакий bootstrap-метод (в прямом смысле вытягивания самого себя из болота за шнурки), и на практике TD-обучение обычно оказывается лучше.
Это я объяснил совсем на пальцах, в реальности, конечно, там есть много интересных подробностей, проблем, примеров с бесконечной дисперсией, разницей между on-policy и off-policy методами (для off-policy нужно было вспомнить веса значимости, которые мы в сэмплировании проходили) и так далее, и тому подобное. Надеюсь, было интересно.
Мякотка началась, но не закончилась! Дальше будет, пожалуй, ещё более интересная часть: методы градиента по стратегиям. Ну и приближённые методы в RL тоже, соответственно, без них никуда.
#spsu #lectures #pgm2026
СПбГУ — 2026.05.15 — Методы Монте-Карло в RL и TD обучение
(слайды и доска, как всегда, на странице курса)
Здесь началась главная мякотка обучения с подкреплением: откуда нам брать оптимальные стратегии или хотя бы функции V и Q, если мы не знаем динамики окружающей среды (а мы в подавляющем большинстве реальных случаев не знаем)?
Методы Монте-Карло отвечают на этот вопрос с обезоруживающей простотой: V и Q — это ожидания вознаграждений (returns), а мы в процессе обучения как раз их и получаем, то есть вознаграждения из опыта можно считать просто сэмплами для усреднения.
А TD-обучение делает чуть более хитрый трюк: разворачивает V или Q на один шаг вперёд и подставляет туда нашу же оценку (ту же функцию) для следующего состояния. Получается этакий bootstrap-метод (в прямом смысле вытягивания самого себя из болота за шнурки), и на практике TD-обучение обычно оказывается лучше.
Это я объяснил совсем на пальцах, в реальности, конечно, там есть много интересных подробностей, проблем, примеров с бесконечной дисперсией, разницей между on-policy и off-policy методами (для off-policy нужно было вспомнить веса значимости, которые мы в сэмплировании проходили) и так далее, и тому подобное. Надеюсь, было интересно.
Мякотка началась, но не закончилась! Дальше будет, пожалуй, ещё более интересная часть: методы градиента по стратегиям. Ну и приближённые методы в RL тоже, соответственно, без них никуда.
#spsu #lectures #pgm2026
❤8👍4🔥2
А вот и последний пока что семинар лаборатории Маркова. Артём Липиньски рассказывал о проекте, в котором сам участвовал:
Семинар Markov Lab — 2026-05-08 — Создание арабской языковой модели методом непрерывного дообучения
(слайды на странице семинара)
Артём Липиньски (СПбГУ)
Как учат LLM арабскому? Оказывается, что хотя это очень популярный язык, задача получается нетривиальная, потому что арабского в интернете меньше 1%, у топовых моделей он проседает, а арабоцентричные модели вроде Jais и AceGPT пока не дотягивают до лидеров рынка. Артём рассказал про continuous pretrain поверх Qwen3-1.7B, причём прошёл по всем пунктам: архитектура, метрики, данные, токенизатор, обучение.
Вообще рассказ был очень интересный, и Артём рассказывал хорошо, не углубляясь в технические детали и циферки; мне кажется, стоит посмотреть. Вот, например, их история про многоязычность. Следуя рекомендациям, коллеги добавили в корпус английский, потом французский — и модель внезапно начала отвечать... по-китайски. Добавили китайский — стала отвечать по-русски! Добавили русский — и тут получили +20% к качеству порождения против чисто арабских данных. В итоговом миксе у них 50% арабского, 22% английского, дальше китайский, французский и русский — и итоговая 1.7B-модель на OALL обгоняет по среднему баллу Gemma-2-9B, Falcon3-10B и Llama-3.2-3B, то есть модели в 2–6 раз больше.
Хорошая иллюстрация к тому, что обучение LLM — это всё ещё очень эмпирическая дисциплина, где много разных сюрпризов.
#spsu #seminar #markovlab
Семинар Markov Lab — 2026-05-08 — Создание арабской языковой модели методом непрерывного дообучения
(слайды на странице семинара)
Артём Липиньски (СПбГУ)
Как учат LLM арабскому? Оказывается, что хотя это очень популярный язык, задача получается нетривиальная, потому что арабского в интернете меньше 1%, у топовых моделей он проседает, а арабоцентричные модели вроде Jais и AceGPT пока не дотягивают до лидеров рынка. Артём рассказал про continuous pretrain поверх Qwen3-1.7B, причём прошёл по всем пунктам: архитектура, метрики, данные, токенизатор, обучение.
Вообще рассказ был очень интересный, и Артём рассказывал хорошо, не углубляясь в технические детали и циферки; мне кажется, стоит посмотреть. Вот, например, их история про многоязычность. Следуя рекомендациям, коллеги добавили в корпус английский, потом французский — и модель внезапно начала отвечать... по-китайски. Добавили китайский — стала отвечать по-русски! Добавили русский — и тут получили +20% к качеству порождения против чисто арабских данных. В итоговом миксе у них 50% арабского, 22% английского, дальше китайский, французский и русский — и итоговая 1.7B-модель на OALL обгоняет по среднему баллу Gemma-2-9B, Falcon3-10B и Llama-3.2-3B, то есть модели в 2–6 раз больше.
Хорошая иллюстрация к тому, что обучение LLM — это всё ещё очень эмпирическая дисциплина, где много разных сюрпризов.
#spsu #seminar #markovlab
❤13🔥3
На следующем семинаре лаборатории Маркова будет сразу два доклада по цене одного:
Потоковое распознавание речи в реальном времени с внутренним механизмом финализации
Ссылка на трансляцию (пятница 22 мая, 14:00)
Даниил Павленко (СПбГУ)
Системы автоматического распознавания речи все чаще используются не как самостоятельные инструменты, а как компоненты более сложных систем: голосовых ассистентов, диалоговых интерфейсов, сервисов онлайн-транскрибации звонков и встреч. В таких сценариях важно не только получить качественную транскрипцию, но и уметь работать с аудио в реальном времени: выдавать промежуточные гипотезы, поддерживать длинные сессии, а также своевременно понимать, когда текущий фрагмент распознавания уже достаточно стабилен и его можно передавать дальше.
В данной работе предлагается новый подход к решению этой задачи. Ключевая гипотеза работы состоит в том, что решение о финализации распознавания может быть частью самой модели, а не внешним модулем. При таком подходе модель может сама определять, достаточно ли ей контекста, чтобы завершить текущий фрагмент, или ей нужно продолжить слушать аудио до появления более устойчивой гипотезы. В рамках работы представлен первый этап разработки такой системы (pretrain), который содержит все основные шаги подготовки модели: от выбора метрик и сбора данных и до обучения и сравнительного анализа с современными системами распознавания речи.
Объединяя модели клиентов: внедрение графовых вложений в модели последовательностей событий
Ссылка на трансляцию (пятница 22 мая, примерно в 14:45 — 15)
Гарри Прошян (ПОМИ РАН)
Для эффективного антифрода, скоринга и таргетинга платформам нужны точные и репрезентативные эмбеддинги пользователей, способные предсказывать их свойства. Стандартный подход — применять SSL-модели (self-supervised learning), которые строят вектор представления для каждого пользователя на основе его личной последовательности транзакций или логов. У такого подхода есть существенный минус: рассматривая клиентов в изоляции друг от друга, мы упускаем из виду глобальную графовую структуру их взаимодействий. В докладе будет рассмотрено, как исправить это слепое пятно.
Мы предлагаем три модельно-независимых метода интеграции графовой структуры в sequential SSL модели: GrEmb инициализирует представления неклиентских сущностей GNN-вложениями; Reg вводит CLIP-подобное согласование представлений пользователей, полученных из разных модальностей (последовательности и графы), в качестве регуляризации; Loss добавляет вспомогательную pretext-задачу: в то время как базовый SSL-лосс сближает пользователей по сходству паттернов поведения, дополнительный лосс обеспечивает близость на основе структурного соседства в графе. Мы получаем прирост качества над сильными бейзлайнами (CoLES, Barlow Twins), и эффект стабильно воспроизводится на четырёх датасетах объёмом до 530 млн событий. Статья опубликована на The Web Conference 2026 (A*).
#markovlab #seminar #spsu
Потоковое распознавание речи в реальном времени с внутренним механизмом финализации
Ссылка на трансляцию (пятница 22 мая, 14:00)
Даниил Павленко (СПбГУ)
Системы автоматического распознавания речи все чаще используются не как самостоятельные инструменты, а как компоненты более сложных систем: голосовых ассистентов, диалоговых интерфейсов, сервисов онлайн-транскрибации звонков и встреч. В таких сценариях важно не только получить качественную транскрипцию, но и уметь работать с аудио в реальном времени: выдавать промежуточные гипотезы, поддерживать длинные сессии, а также своевременно понимать, когда текущий фрагмент распознавания уже достаточно стабилен и его можно передавать дальше.
В данной работе предлагается новый подход к решению этой задачи. Ключевая гипотеза работы состоит в том, что решение о финализации распознавания может быть частью самой модели, а не внешним модулем. При таком подходе модель может сама определять, достаточно ли ей контекста, чтобы завершить текущий фрагмент, или ей нужно продолжить слушать аудио до появления более устойчивой гипотезы. В рамках работы представлен первый этап разработки такой системы (pretrain), который содержит все основные шаги подготовки модели: от выбора метрик и сбора данных и до обучения и сравнительного анализа с современными системами распознавания речи.
Объединяя модели клиентов: внедрение графовых вложений в модели последовательностей событий
Ссылка на трансляцию (пятница 22 мая, примерно в 14:45 — 15)
Гарри Прошян (ПОМИ РАН)
Для эффективного антифрода, скоринга и таргетинга платформам нужны точные и репрезентативные эмбеддинги пользователей, способные предсказывать их свойства. Стандартный подход — применять SSL-модели (self-supervised learning), которые строят вектор представления для каждого пользователя на основе его личной последовательности транзакций или логов. У такого подхода есть существенный минус: рассматривая клиентов в изоляции друг от друга, мы упускаем из виду глобальную графовую структуру их взаимодействий. В докладе будет рассмотрено, как исправить это слепое пятно.
Мы предлагаем три модельно-независимых метода интеграции графовой структуры в sequential SSL модели: GrEmb инициализирует представления неклиентских сущностей GNN-вложениями; Reg вводит CLIP-подобное согласование представлений пользователей, полученных из разных модальностей (последовательности и графы), в качестве регуляризации; Loss добавляет вспомогательную pretext-задачу: в то время как базовый SSL-лосс сближает пользователей по сходству паттернов поведения, дополнительный лосс обеспечивает близость на основе структурного соседства в графе. Мы получаем прирост качества над сильными бейзлайнами (CoLES, Barlow Twins), и эффект стабильно воспроизводится на четырёх датасетах объёмом до 530 млн событий. Статья опубликована на The Web Conference 2026 (A*).
#markovlab #seminar #spsu
❤11🔥8
В курсе "Введение в глубокое обучение" в ЮФУ я перестал рассказывать про обучение с подкреплением и вернулся к основным темам:
ЮФУ — 2026.05.14 — Языковое моделирование
(слайды и доска на странице курса)
Это была лекция о том, что такое языковые модели вообще, в довольно популярном формате, так что всем рекомендую.
Начал от печки: первую языковую модель, как известно, сделал ещё Андрей Андреевич Марков в 1913 году, и следующие девяносто лет языковые модели были в основном марковские, на n-граммах.
В 2000 году Йошуа Бенджи сотоварищи придумали нейросетевые LM и заодно начали осознавать мощь векторных представлений слов, о которых мы тоже поговорили. До word2vec оставалось ещё больше десяти лет, но это уже было по сути именно оно.
А в те времена, когда по планете начал шагать word2vec (2013-2014), стало вполне возможно обучать и рекуррентные языковые модели, и в 2015 появился тот самый пост Андрея Карпатого "The Unreasonable Effectiveness of Recurrent Neural Networks", который мы тоже обсудили.
Ну и дальше, конечно, мы перешли к LLM на трансформерах. О самих трансформерах мы говорили подробно раньше, так что в этой лекции обсудил дообучение: RLHF (вот и обучение с подкреплением пригодилось), PEFT в виде адаптеров и конкретно LoRA.
#sfu #lectures #dsfrontiers
ЮФУ — 2026.05.14 — Языковое моделирование
(слайды и доска на странице курса)
Это была лекция о том, что такое языковые модели вообще, в довольно популярном формате, так что всем рекомендую.
Начал от печки: первую языковую модель, как известно, сделал ещё Андрей Андреевич Марков в 1913 году, и следующие девяносто лет языковые модели были в основном марковские, на n-граммах.
В 2000 году Йошуа Бенджи сотоварищи придумали нейросетевые LM и заодно начали осознавать мощь векторных представлений слов, о которых мы тоже поговорили. До word2vec оставалось ещё больше десяти лет, но это уже было по сути именно оно.
А в те времена, когда по планете начал шагать word2vec (2013-2014), стало вполне возможно обучать и рекуррентные языковые модели, и в 2015 появился тот самый пост Андрея Карпатого "The Unreasonable Effectiveness of Recurrent Neural Networks", который мы тоже обсудили.
Ну и дальше, конечно, мы перешли к LLM на трансформерах. О самих трансформерах мы говорили подробно раньше, так что в этой лекции обсудил дообучение: RLHF (вот и обучение с подкреплением пригодилось), PEFT в виде адаптеров и конкретно LoRA.
#sfu #lectures #dsfrontiers
🔥10❤3
Вышла очень крутая (как это часто бывает) работа от Anthropic по AI Safety (краткий анонс, полная версия Kutasov et al., 2026). Не могу вам о ней не рассказать:
Teaching Claude Why: не что, а почему
Пост как всегда длинный, приведу здесь оглавление и заключение.
1. Введение и контекст: agentic misalignment
2. Откуда берётся шантаж: три гипотезы
3. Как Anthropic перевоспитывает Claude: общая схема
4. Главный трюк: "трудные советы"
5. Документы про конституцию и истории про хороший AI
6. Почему “почему” важнее, чем “как”
7. “Что думает Claude” vs “что думаю я”
8. Обсуждение: Janus и Zvi
9. Заключение
Что же в итоге? Ну, во-первых, ещё одна блестящая работа от Anthropic. Kutasov et al. докопались до источника agentic misalignment, придумали эксперименты, как это проверить, и даже более того, придумали, как всё это исправить. Надеюсь, что датасет Difficult Advice они тоже выложат, хотя это не выглядит принципиальным: они уже объяснили, как всё это воспроизвести.
Во-вторых, есть глубокий главный вывод: принципы и логика рассуждений важнее примеров и правил. Современные LLM нужно обучать не правильному поведению в отдельных ситуациях, а обоснованиям, по которым эти поведения правильны, — тогда обобщение происходит гораздо лучше.
В-третьих, разумеется, остаются пробелы и проблемы: persona attachment gap, замечание Janus про обобщение на собственное поведение, беспокойство Zvi по поводу хрупкости alignment… Отчасти опять получается, что мы вылечили симптом, но не болезнь. Но всё-таки кажется, что Anthropic движется в правильном направлении.
От себя сделаю такой вывод. Это точно лучшая работа по AI alignment, которую я читал за этот год. Здесь есть и ценные наблюдения, и наука с большой буквы “Н”, и конкретные практические рецепты, которые приносят существенные улучшения.
Но эта работа по сути опять говорит нам, что мы плохо понимаем современные LLM! С одной стороны, надо объяснять, приводить рассуждения, стараться формировать этические принципы, а не тупо бихевиористски давать конфетки. Это очень по-человечески и звучит вроде бы понятно. Но с другой стороны, всё равно возникает зазор между “Claude” и “я”, а LLM всё равно остаётся суперпозицией огромного числа разных персонажей, между которыми она “выбирает” по ситуации — и это уже совсем другое, нечеловеческое свойство.
В общем, вывод пока остаётся тем же: AI alignment — очень сложная задача, и даже блестящие работы, пожалуй, скорее расширяют наше понимание того, насколько она сложная, чем её решают. А человечеству надо её решить, иначе, как говорится, everyone dies. Такие дела.
#ai #blog #longreads
Teaching Claude Why: не что, а почему
Пост как всегда длинный, приведу здесь оглавление и заключение.
1. Введение и контекст: agentic misalignment
2. Откуда берётся шантаж: три гипотезы
3. Как Anthropic перевоспитывает Claude: общая схема
4. Главный трюк: "трудные советы"
5. Документы про конституцию и истории про хороший AI
6. Почему “почему” важнее, чем “как”
7. “Что думает Claude” vs “что думаю я”
8. Обсуждение: Janus и Zvi
9. Заключение
Что же в итоге? Ну, во-первых, ещё одна блестящая работа от Anthropic. Kutasov et al. докопались до источника agentic misalignment, придумали эксперименты, как это проверить, и даже более того, придумали, как всё это исправить. Надеюсь, что датасет Difficult Advice они тоже выложат, хотя это не выглядит принципиальным: они уже объяснили, как всё это воспроизвести.
Во-вторых, есть глубокий главный вывод: принципы и логика рассуждений важнее примеров и правил. Современные LLM нужно обучать не правильному поведению в отдельных ситуациях, а обоснованиям, по которым эти поведения правильны, — тогда обобщение происходит гораздо лучше.
В-третьих, разумеется, остаются пробелы и проблемы: persona attachment gap, замечание Janus про обобщение на собственное поведение, беспокойство Zvi по поводу хрупкости alignment… Отчасти опять получается, что мы вылечили симптом, но не болезнь. Но всё-таки кажется, что Anthropic движется в правильном направлении.
От себя сделаю такой вывод. Это точно лучшая работа по AI alignment, которую я читал за этот год. Здесь есть и ценные наблюдения, и наука с большой буквы “Н”, и конкретные практические рецепты, которые приносят существенные улучшения.
Но эта работа по сути опять говорит нам, что мы плохо понимаем современные LLM! С одной стороны, надо объяснять, приводить рассуждения, стараться формировать этические принципы, а не тупо бихевиористски давать конфетки. Это очень по-человечески и звучит вроде бы понятно. Но с другой стороны, всё равно возникает зазор между “Claude” и “я”, а LLM всё равно остаётся суперпозицией огромного числа разных персонажей, между которыми она “выбирает” по ситуации — и это уже совсем другое, нечеловеческое свойство.
В общем, вывод пока остаётся тем же: AI alignment — очень сложная задача, и даже блестящие работы, пожалуй, скорее расширяют наше понимание того, насколько она сложная, чем её решают. А человечеству надо её решить, иначе, как говорится, everyone dies. Такие дела.
#ai #blog #longreads
❤17🔥11👍4🤔2
Ну что, коллеги, свершилось, кажется. Со всех сторон пришла ко мне эта новость: GPT доказал настоящую новую теорему.
Причём не просто решил какую-то "задачу Эрдёша номер эн", над которой до этого пару дней думали три с половиной математика в 1970-х, а опроверг гипотезу... чёрт, опять Эрдёша. Но действительно важную, и про неё люди думали долго и хорошо.
Вот основной пост на сайте OpenAI:
An OpenAI model has disproved a central conjecture in discrete geometry
Филдсовский лауреат Тимоти Гауэрс хвалит и называет поворотным моментом. А ещё говорят, что доказательство крутое и интересное. И важно, что оно получено не двухнедельным поиском через Lean, а буквально языковой моделью, без дополнительных наворотов.
У меня на два больших поста два дня подряд сил не нашлось, так что с моей стороны пока просто новость, без долгих комментариев. Но будет ли вам интересно, если я таки разберусь и напишу подробно о том, что именно сделал GPT? Саму постановку задачи понять и объяснить очень легко, но вот в своих силах насчёт доказательства я уже не так уверен.)
#ai #news #math
Причём не просто решил какую-то "задачу Эрдёша номер эн", над которой до этого пару дней думали три с половиной математика в 1970-х, а опроверг гипотезу... чёрт, опять Эрдёша. Но действительно важную, и про неё люди думали долго и хорошо.
Вот основной пост на сайте OpenAI:
An OpenAI model has disproved a central conjecture in discrete geometry
Филдсовский лауреат Тимоти Гауэрс хвалит и называет поворотным моментом. А ещё говорят, что доказательство крутое и интересное. И важно, что оно получено не двухнедельным поиском через Lean, а буквально языковой моделью, без дополнительных наворотов.
У меня на два больших поста два дня подряд сил не нашлось, так что с моей стороны пока просто новость, без долгих комментариев. Но будет ли вам интересно, если я таки разберусь и напишу подробно о том, что именно сделал GPT? Саму постановку задачи понять и объяснить очень легко, но вот в своих силах насчёт доказательства я уже не так уверен.)
#ai #news #math
1👍106❤23🔥7👀6