Сегодня у нас забытая игра 2013 года, и я от неё в восторге! Contrast — платформер с одной очень крутой идеей: героиня умеет превращаться в тень на стене, и трёхмерный мир в этот момент становится двумерным. Плюс отлично сделанный стиль эпохи джаза, хорошо рассказанная история и три-четыре часа геймплея, после которых всё закругляется.
Contrast
(и вот на DTF)
Кто это сделал. Contrast — первая игра монреальской студии Compulsion Games, той самой, которая потом сделает We Happy Few и South of Midnight. Собственно, так я к этой игре и пришёл: захотелось AAA, решил поиграть в South of Midnight, но заодно, конечно, в бандле оказалась и предыдущая игра студии. [...]
Эпоха джаза. Я вообще люблю эту стилистику, и здесь она сделана потрясающе. [...] Всё это нарисовано в тёплой сепии с резкими чёрными тенями, как будто через объектив старой камеры, и выглядит до сих пор замечательно — концептуальная графика стареет куда медленнее реалистичной.
И в этом мире нет людей. Точнее, есть, но мы их не видим: все взрослые здесь — тени на стенах. Певица в клубе — силуэт в круге прожектора; её ухажёр, ссора, драка — всё разыгрывается как в театре теней или в старом кино. Полностью объёмных персонажей всего два: девочка Диди и её воображаемая подруга Дон, за которую мы и играем. Это одновременно и стиль, и сюжетный приём, и суть геймплея.
Завязка. Диди — девятилетняя девочка, которая живёт с мамой на чердаке с круглым окном, рисует цветными карандашами и подслушивает взрослые разговоры. Мама Кэт поёт в Ghost Note и вот-вот выйдет на сцену с премьерой; папа Джонни ушёл из семьи, задолжал кому не следует и теперь пытается открыть цирк, чтобы расплатиться. [...]
История рассказана с позиции ребёнка — идея довольно стандартная, но рассказано хорошо, хоть игре и больше десяти лет. Взрослые проблемы (долги, гангстеры, служба опеки, выселение) подаются ровно так, как их видит девятилетняя: обрывками из-за двери, газетными вырезками и тенями, которые ссорятся на стене. [...]
Тень на стене. А теперь о базовой идее геймплея. Дон может “уйти в тень”, став из трёхмерной фигуры плоским силуэтом на ближайшей освещённой стене. В этот момент 3D-платформер превращается в 2D-платформер: по тени от перил можно бежать, по тени от лестницы — подниматься, с тени от фонаря прыгнуть на тень от вывески. В любой момент можно выйти из стены обратно в 3D.
Головоломки, соответственно, в основном про свет. Повернуть прожектор, чтобы тень от ящика легла на нужное место; включить кинопроектор, чтобы на стене появилась плёночная лестница; подтолкнуть в 3D предмет, чтобы в 2D сдвинулась его тень. Ничего сверхсложного, это не пазл по жанру, но в целом головоломки хорошо сделаны и приносят удовлетворение от решений.
Один из лучших эпизодов игры, что логично, — театр теней в цирке, где Диди устраивает представление, а Дон буквально играет в нём принцессу: сказка про замок, великана и дракона разыгрывается силуэтами на бумажном экране, и ты пробегаешь её изнутри, как двумерный платформер. [...]
Заключение. Да, игра короткая: три с половиной часа — и всё. Но история полноценно закругляется, а за это время игра успевает показать и клуб, и цирк, и кино, и театр теней, и не повторить ни одной головоломки дважды. Тогда, в 2013-м, краткость ставили ей в упрёк; сейчас, по-моему, это достоинство. Если бы она шла десять часов, головоломки или надоели бы, или стали бы запредельно сложными.
А так Contrast — красивая, умная и очень цельная маленькая игра с идеей, которую за тринадцать лет никто толком не повторил. Если вы любите эпоху джаза, платформеры с головоломками или просто хотите попробовать необычный 2D/3D геймплей — очень рекомендую.
#tgif #games
Contrast
(и вот на DTF)
Кто это сделал. Contrast — первая игра монреальской студии Compulsion Games, той самой, которая потом сделает We Happy Few и South of Midnight. Собственно, так я к этой игре и пришёл: захотелось AAA, решил поиграть в South of Midnight, но заодно, конечно, в бандле оказалась и предыдущая игра студии. [...]
Эпоха джаза. Я вообще люблю эту стилистику, и здесь она сделана потрясающе. [...] Всё это нарисовано в тёплой сепии с резкими чёрными тенями, как будто через объектив старой камеры, и выглядит до сих пор замечательно — концептуальная графика стареет куда медленнее реалистичной.
И в этом мире нет людей. Точнее, есть, но мы их не видим: все взрослые здесь — тени на стенах. Певица в клубе — силуэт в круге прожектора; её ухажёр, ссора, драка — всё разыгрывается как в театре теней или в старом кино. Полностью объёмных персонажей всего два: девочка Диди и её воображаемая подруга Дон, за которую мы и играем. Это одновременно и стиль, и сюжетный приём, и суть геймплея.
Завязка. Диди — девятилетняя девочка, которая живёт с мамой на чердаке с круглым окном, рисует цветными карандашами и подслушивает взрослые разговоры. Мама Кэт поёт в Ghost Note и вот-вот выйдет на сцену с премьерой; папа Джонни ушёл из семьи, задолжал кому не следует и теперь пытается открыть цирк, чтобы расплатиться. [...]
История рассказана с позиции ребёнка — идея довольно стандартная, но рассказано хорошо, хоть игре и больше десяти лет. Взрослые проблемы (долги, гангстеры, служба опеки, выселение) подаются ровно так, как их видит девятилетняя: обрывками из-за двери, газетными вырезками и тенями, которые ссорятся на стене. [...]
Тень на стене. А теперь о базовой идее геймплея. Дон может “уйти в тень”, став из трёхмерной фигуры плоским силуэтом на ближайшей освещённой стене. В этот момент 3D-платформер превращается в 2D-платформер: по тени от перил можно бежать, по тени от лестницы — подниматься, с тени от фонаря прыгнуть на тень от вывески. В любой момент можно выйти из стены обратно в 3D.
Головоломки, соответственно, в основном про свет. Повернуть прожектор, чтобы тень от ящика легла на нужное место; включить кинопроектор, чтобы на стене появилась плёночная лестница; подтолкнуть в 3D предмет, чтобы в 2D сдвинулась его тень. Ничего сверхсложного, это не пазл по жанру, но в целом головоломки хорошо сделаны и приносят удовлетворение от решений.
Один из лучших эпизодов игры, что логично, — театр теней в цирке, где Диди устраивает представление, а Дон буквально играет в нём принцессу: сказка про замок, великана и дракона разыгрывается силуэтами на бумажном экране, и ты пробегаешь её изнутри, как двумерный платформер. [...]
Заключение. Да, игра короткая: три с половиной часа — и всё. Но история полноценно закругляется, а за это время игра успевает показать и клуб, и цирк, и кино, и театр теней, и не повторить ни одной головоломки дважды. Тогда, в 2013-м, краткость ставили ей в упрёк; сейчас, по-моему, это достоинство. Если бы она шла десять часов, головоломки или надоели бы, или стали бы запредельно сложными.
А так Contrast — красивая, умная и очень цельная маленькая игра с идеей, которую за тринадцать лет никто толком не повторил. Если вы любите эпоху джаза, платформеры с головоломками или просто хотите попробовать необычный 2D/3D геймплей — очень рекомендую.
#tgif #games
❤13👍3🔥3
Мои доклады с кодовым названием "Vibemathed" пришлись в тему. Математическое сообщество действительно беспокоится, и действительно есть о чём беспокоиться, так же как есть и чем восхищаться. Так что приглашают с такими докладами постоянно.
Сегодня выступал на "Проектной школе" НИУ ВШЭ с рассказом об этом. И действительно, и студенты, и взрослые коллеги слушали не отрываясь и задавали очень крутые вопросы. Вообще очень понравилось там выступать, даже жаль, что мог только приехать и сразу уехать, дело было в особняке Кочубея в Пушкине, интересное место.
Записать доклад для вас в этот раз что-то не сообразил, но не беспокойтесь, записал почти такой же, который делал на студкемпе МКН СПбГУ в среду. Скоро выложу.)
#talks #events #lifestyle
Сегодня выступал на "Проектной школе" НИУ ВШЭ с рассказом об этом. И действительно, и студенты, и взрослые коллеги слушали не отрываясь и задавали очень крутые вопросы. Вообще очень понравилось там выступать, даже жаль, что мог только приехать и сразу уехать, дело было в особняке Кочубея в Пушкине, интересное место.
Записать доклад для вас в этот раз что-то не сообразил, но не беспокойтесь, записал почти такой же, который делал на студкемпе МКН СПбГУ в среду. Скоро выложу.)
#talks #events #lifestyle
❤27🔥11👍5
Ох, день был длинный и приятный.) Почти забыл лекцию вам выложить — но не забыл!
Трансформеру из "Attention Is All You Need" уже девять лет, а его основные черты всё ещё прекрасно узнаются в современных языковых моделях. Что же в нём всё-таки изменилось за это время?
СПбГУ — 2026.10.23 — Трансформер с 2017 до 2026: классический рецепт и последние новости
(слайды и доска на странице курса)
В прошлый раз мы обсудили self-attention, а здесь сначала собираем классический рецепт целиком: самовнимание, энкодер и декодер, остаточные связи, нормализацию и полносвязанные слои.
Обсуждаем, зачем декодеру маски, как teacher forcing позволяет обучать его параллельно и почему потом возникают проблемы с собственными ошибками. Отдельно разбираем BPE, позиционные вложения и то, куда на самом деле уходят параметры, вычисления и память.
Потом переходим к современным деталям: RoPE, RMSNorm, Pre-LN, SwiGLU, KV-кэш и grouped-query attention. Базовая идея самовнимания пережила всё это почти без изменений, но отдельные небольшие новшества сильно меняют скорость обучения и расход памяти. А эксперименты с маленьким трансформером (да-да, даже результаты экспериментов показывал) говорят, что универсальных победителей среди улучшений мало, и обычно выигрыш зависит от задачи.
#spsu #dl2026 #lectures
Трансформеру из "Attention Is All You Need" уже девять лет, а его основные черты всё ещё прекрасно узнаются в современных языковых моделях. Что же в нём всё-таки изменилось за это время?
СПбГУ — 2026.10.23 — Трансформер с 2017 до 2026: классический рецепт и последние новости
(слайды и доска на странице курса)
В прошлый раз мы обсудили self-attention, а здесь сначала собираем классический рецепт целиком: самовнимание, энкодер и декодер, остаточные связи, нормализацию и полносвязанные слои.
Обсуждаем, зачем декодеру маски, как teacher forcing позволяет обучать его параллельно и почему потом возникают проблемы с собственными ошибками. Отдельно разбираем BPE, позиционные вложения и то, куда на самом деле уходят параметры, вычисления и память.
Потом переходим к современным деталям: RoPE, RMSNorm, Pre-LN, SwiGLU, KV-кэш и grouped-query attention. Базовая идея самовнимания пережила всё это почти без изменений, но отдельные небольшие новшества сильно меняют скорость обучения и расход памяти. А эксперименты с маленьким трансформером (да-да, даже результаты экспериментов показывал) говорят, что универсальных победителей среди улучшений мало, и обычно выигрыш зависит от задачи.
#spsu #dl2026 #lectures
🔥11❤10👍5
А потом, в ту же пятницу, вечером окончательно лишался голоса в Центральном университете.) Посмотрите, какое счастье было на последнем слайде, уже сильно за десять вечера.))
Как понять, что кривая, идеально проходящая через все точки, может оказаться плохой моделью? В этих лекциях мы пытаемся превратить бритву Оккама в формулу:
ЦУ — 2026.10.23 — Байесовский выбор моделей, информационные критерии
(слайды, доска и ноутбук на странице курса)
Сравниваем целые модели, а не отдельные значения их параметров. Начинаем с честной и нечестной монетки, затем разбираемся, почему лишняя выразительность может уменьшить обоснованность модели. По дороге обсудили KL-дивергенцию с двумя очень разными способами приблизить двугорбое распределение одногорбым. А потом эмпирический Байес: подбор гиперпараметров через то же маргинальное правдоподобие.
Во второй части приходим к BIC и AIC с разных сторон: через лапласовскую аппроксимацию и через смещение статистической оценки. Для этого разбираем информацию Фишера, а затем сравниваем критерии на полиномиальной регрессии. Это всё та же проблема: хорошее совпадение с обучающей выборкой ещё не говорит, насколько удачно мы выбрали модель. И здесь у штрафа за сложность появляется точный математический смысл.
#centraluni #cubayes2026 #lectures
Как понять, что кривая, идеально проходящая через все точки, может оказаться плохой моделью? В этих лекциях мы пытаемся превратить бритву Оккама в формулу:
ЦУ — 2026.10.23 — Байесовский выбор моделей, информационные критерии
(слайды, доска и ноутбук на странице курса)
Сравниваем целые модели, а не отдельные значения их параметров. Начинаем с честной и нечестной монетки, затем разбираемся, почему лишняя выразительность может уменьшить обоснованность модели. По дороге обсудили KL-дивергенцию с двумя очень разными способами приблизить двугорбое распределение одногорбым. А потом эмпирический Байес: подбор гиперпараметров через то же маргинальное правдоподобие.
Во второй части приходим к BIC и AIC с разных сторон: через лапласовскую аппроксимацию и через смещение статистической оценки. Для этого разбираем информацию Фишера, а затем сравниваем критерии на полиномиальной регрессии. Это всё та же проблема: хорошее совпадение с обучающей выборкой ещё не говорит, насколько удачно мы выбрали модель. И здесь у штрафа за сложность появляется точный математический смысл.
#centraluni #cubayes2026 #lectures
❤7👍5🔥4
А вот третья и четвёртая лекции по "Трендам искусственного интеллекта" в ИТМО. Напоминаю, что это тоже вводный курс для первокурсников, без технических деталей, и здесь мы в основном говорим о главных понятиях машинного обучения.
На этот раз начали с истории и GOFAI, а потом обсудили самые-самые основы того, на чём стоит искусственный интеллект, а именно основы теории вероятностей. Например, почему довольно точный медицинский тест может ошибаться в большинстве положительных диагнозов — и при чём тут машинное обучение?
ИТМО — 2026.10.28 — GOFAI и вероятностные основы обучения
(слайды и доска на странице курса)
Вторую сдвоенную лекцию начали с ранних AI-систем: Logic Theorist, Shakey, ELIZA, SHRDLU, машинный перевод и экспертные системы. Разбираемся, как большие ожидания привели к зиме искусственного интеллекта и какие идеи дожили до наших дней. Например, графы знаний до сих пор помогают организовать факты и рассуждать по цепочкам связей.
Затем переходим к вероятностям как языку неполного знания, основному аппарату для работы с неопределённостями. Немного поговорил о самом теорвере, например о совместных и условных распределениях, а потом перешёл в основным вероятностным понятиям машинного обучения: правдоподобие, априорное и апостериорное распределения, теорема Байеса и предсказания. Разобрали яркие примеры: медицинский тест, парадокс Монти Холла, ошибки прокурора и адвоката, парадокс Спящей красавицы. А потом отчасти даже разобрали пример с монеткой, где удалось показать основные задачи байесовского вывода.
Всё машинное обучение стоит на теории вероятностей: весь принцип обучения состоит в том, что нам дают неполную информацию, выборку из некоторого неизвестного распределения, и нам нужно извлечь из этой выборки как можно больше информации о том, что происходит на самом деле, то есть как эта выборка была порождена. Этот принцип я и попытался передать.
#lectures #itmo #trends
На этот раз начали с истории и GOFAI, а потом обсудили самые-самые основы того, на чём стоит искусственный интеллект, а именно основы теории вероятностей. Например, почему довольно точный медицинский тест может ошибаться в большинстве положительных диагнозов — и при чём тут машинное обучение?
ИТМО — 2026.10.28 — GOFAI и вероятностные основы обучения
(слайды и доска на странице курса)
Вторую сдвоенную лекцию начали с ранних AI-систем: Logic Theorist, Shakey, ELIZA, SHRDLU, машинный перевод и экспертные системы. Разбираемся, как большие ожидания привели к зиме искусственного интеллекта и какие идеи дожили до наших дней. Например, графы знаний до сих пор помогают организовать факты и рассуждать по цепочкам связей.
Затем переходим к вероятностям как языку неполного знания, основному аппарату для работы с неопределённостями. Немного поговорил о самом теорвере, например о совместных и условных распределениях, а потом перешёл в основным вероятностным понятиям машинного обучения: правдоподобие, априорное и апостериорное распределения, теорема Байеса и предсказания. Разобрали яркие примеры: медицинский тест, парадокс Монти Холла, ошибки прокурора и адвоката, парадокс Спящей красавицы. А потом отчасти даже разобрали пример с монеткой, где удалось показать основные задачи байесовского вывода.
Всё машинное обучение стоит на теории вероятностей: весь принцип обучения состоит в том, что нам дают неполную информацию, выборку из некоторого неизвестного распределения, и нам нужно извлечь из этой выборки как можно больше информации о том, что происходит на самом деле, то есть как эта выборка была порождена. Этот принцип я и попытался передать.
#lectures #itmo #trends
❤6🔥5👍3😢1
А вот и в курсе "Основы байесовского вывода" в СПбГУ, как раз под Хэллоуин, мы дошли до статистической теории принятия решений, разложения bias-variance-noise и всего такого прочего:
СПбГУ — 2026.10.30 — Статистическая теория принятия решений
(слайды, доска и ноутбук на странице курса)
Начинаем с метода ближайших соседей и проклятия размерности, а затем переходим к статистической теории принятия решений. Выводим оптимальное предсказание из функции потерь: для квадратичной ошибки это условное среднее, для ошибки 0–1 — наиболее вероятный класс.
Даже этот тривиальный результат уже полезен на практике — он говорит, что делать, когда ошибки в разные стороны стоят по-разному, и одних вероятностей классов здесь уже недостаточно.
Во второй половине раскладываем ошибку на смещение, разброс и шум. На примере синусоиды и полиномиальной регрессии смотрим, как меняются предсказания при замене обучающей выборки и усилении регуляризации. Этот классический результат до сих пор помогает отличать ограничения модели от случайностей конкретного датасета и неустранимого шума: данных всегда конечное количество, и даже правильной модели может с ними не повезти.
#spsu #bayes2026 #lectures
СПбГУ — 2026.10.30 — Статистическая теория принятия решений
(слайды, доска и ноутбук на странице курса)
Начинаем с метода ближайших соседей и проклятия размерности, а затем переходим к статистической теории принятия решений. Выводим оптимальное предсказание из функции потерь: для квадратичной ошибки это условное среднее, для ошибки 0–1 — наиболее вероятный класс.
Даже этот тривиальный результат уже полезен на практике — он говорит, что делать, когда ошибки в разные стороны стоят по-разному, и одних вероятностей классов здесь уже недостаточно.
Во второй половине раскладываем ошибку на смещение, разброс и шум. На примере синусоиды и полиномиальной регрессии смотрим, как меняются предсказания при замене обучающей выборки и усилении регуляризации. Этот классический результат до сих пор помогает отличать ограничения модели от случайностей конкретного датасета и неустранимого шума: данных всегда конечное количество, и даже правильной модели может с ними не повезти.
#spsu #bayes2026 #lectures
❤6👍4🔥4
Расскажу вам о горячей новости, которая мне на второй взгляд показалась даже более интересной, чем на первый.
2 ноября исследователи из MIT CSAIL выложили эксперименты о том, что получило название weight-space programming, программирование в пространстве весов. GPT-6 Astra показывают веса небольшой сети в виде длинного текста с числами и спрашивают, в какую игру она играет. Astra узнала Breakout, Pong, Pac-Man и Freeway (это такой простенький Frogger) без запуска сети и вообще без инструментов.
Дальше больше: ей дали правила нескольких игр, и она сама написала веса сетей, которые вполне успешно в эти игры играют! Вот просто взяла и написала, без обучения, не в виде программы, которая их порождает, а буквально сразу как числа. Эксперименты тут же успешно повторили с другими алгоритмическими задачами вроде сортировки или умножения чисел.
А когда Astra попросили улучшить Qwen3.5-0.8B, то есть модель примерно на 800 миллионов параметров, которая постоянно зацикливалась в рассуждениях, Astra нашла связанные с повторением направления, исправила около 130 тысяч весов в двух слоях (опять вручную!) и подняла результат на MATH-500 поднимается с 7,9% до 48,1%. Заодно улучшилось исполнение инструкций.
Наверное, это не звучит как-то невероятно удивительно по нынешним временам. Но именно здесь у меня, наверное, впервые за историю недавней AI-революции возникло сильное ощущение чего-то совершенно нечеловеческого.
Написать программу, решить задачу, доказать теорему — это понятные нам занятия. То, что делали раньше LLM, в целом шло только немного дальше, чем "очень умный человек может", ну точнее "очень умный человек с интернетом может".
Но посмотреть на 20000 чисел и увидеть, в какую Atari-игру они играют?.. Это пример emergent capability, которого раньше не было ни у кого; "умный человек с компьютером" мог так сделать, написав код каких-нибудь probes и запустив его, но в том-то и новость, что Astra ничего такого не делала. Она просто читала числа и постигала их чистым интеллектом.
Тут стоит оговориться, что 800М весов Astra в уме не читала: в опыте с Qwen у неё были Python, тренировочные задачи и 50 пакетных обращений к модели. Сама правка тоже в целом объяснима человеческими методами интерпретируемости. Но человек с такими ресурсами всё равно так бы не смог.
Получается, что носитель, который мы привыкли считать нечитаемым результатом обучения, те самые large inscrutable matrices, оказывается вполне доступен обычной языковой модели для осмысленного чтения и редактирования. И даже относительно маленькие модели тоже так могут (хуже, конечно). Насколько далеко это может зайти — большой открытый вопрос.
Чувствую себя Катоном, но: что дальше, коллеги?..
#ai #blog #news #aisafety
2 ноября исследователи из MIT CSAIL выложили эксперименты о том, что получило название weight-space programming, программирование в пространстве весов. GPT-6 Astra показывают веса небольшой сети в виде длинного текста с числами и спрашивают, в какую игру она играет. Astra узнала Breakout, Pong, Pac-Man и Freeway (это такой простенький Frogger) без запуска сети и вообще без инструментов.
Дальше больше: ей дали правила нескольких игр, и она сама написала веса сетей, которые вполне успешно в эти игры играют! Вот просто взяла и написала, без обучения, не в виде программы, которая их порождает, а буквально сразу как числа. Эксперименты тут же успешно повторили с другими алгоритмическими задачами вроде сортировки или умножения чисел.
А когда Astra попросили улучшить Qwen3.5-0.8B, то есть модель примерно на 800 миллионов параметров, которая постоянно зацикливалась в рассуждениях, Astra нашла связанные с повторением направления, исправила около 130 тысяч весов в двух слоях (опять вручную!) и подняла результат на MATH-500 поднимается с 7,9% до 48,1%. Заодно улучшилось исполнение инструкций.
Наверное, это не звучит как-то невероятно удивительно по нынешним временам. Но именно здесь у меня, наверное, впервые за историю недавней AI-революции возникло сильное ощущение чего-то совершенно нечеловеческого.
Написать программу, решить задачу, доказать теорему — это понятные нам занятия. То, что делали раньше LLM, в целом шло только немного дальше, чем "очень умный человек может", ну точнее "очень умный человек с интернетом может".
Но посмотреть на 20000 чисел и увидеть, в какую Atari-игру они играют?.. Это пример emergent capability, которого раньше не было ни у кого; "умный человек с компьютером" мог так сделать, написав код каких-нибудь probes и запустив его, но в том-то и новость, что Astra ничего такого не делала. Она просто читала числа и постигала их чистым интеллектом.
Тут стоит оговориться, что 800М весов Astra в уме не читала: в опыте с Qwen у неё были Python, тренировочные задачи и 50 пакетных обращений к модели. Сама правка тоже в целом объяснима человеческими методами интерпретируемости. Но человек с такими ресурсами всё равно так бы не смог.
Получается, что носитель, который мы привыкли считать нечитаемым результатом обучения, те самые large inscrutable matrices, оказывается вполне доступен обычной языковой модели для осмысленного чтения и редактирования. И даже относительно маленькие модели тоже так могут (хуже, конечно). Насколько далеко это может зайти — большой открытый вопрос.
Чувствую себя Катоном, но: что дальше, коллеги?..
#ai #blog #news #aisafety
🔥38❤10🤯4👍2👎1