Sinекура
5.2K subscribers
2.11K photos
23 videos
527 links
Канал Сергея Николенко обо всём, но в основном об AI.

Сайт с выступлениями, лекциями и публикациями: https://sergeynikolenko.ru/
Download Telegram
В пятничном посте сегодня очень симпатичная игра. Здесь и красивый пиксель-арт, и нарратив о колонизации глазами тех, кого колонизуют, и изобретательная боевая система, и отличная музыка со специально написанными песнями. Рекомендую (здесь в сильно сокращённом виде, как всегда):

Arco
(и вот выложил на DTF)

Arco вышла ещё в августе 2024 года, и с ней произошла странная и неприятная история. У игры сразу же были очень крутые отзывы от критиков... [...] А вот продаж было очень мало. Одна из статей об этом называется буквально “Arco and the Nightmare of Indie Game Publishing“. [...] Игра осталась нишевым проектом для тех, кому повезло о ней услышать. Лично мне вот повезло только сейчас, но пусть повезёт и вам! [...]

Авторы Arco — это даже не студия, а просто четыре человека с четырёх разных континентов, которые встретились в интернете и решили сделать игру вместе: польский художник, австралийский геймдизайнер, испанский композитор и мексиканский разработчик. Пять лет работали, каждый в своём часовом поясе, и всё у них отлично получилось.

Сеттинг — фэнтезийная альтернативная Северная Америка эпохи фронтира. Главные антагонисты — Red Company, корпорация “newcomers”, которые приехали из-за моря захватывать землю, добывать ресурсы и изводить местное население. Месседж весьма прозрачный, но игра не сводится к лекции о колониализме, это скорее вестерн наоборот, со стороны захватываемых. [...]

Очень крутой первый уровень, давайте его заспойлерю, раз уж он первый.

Ты играешь за маленького мальчика по имени Теко, которого папа учит драться и стрелять из лука. Приносишь какие-то яйца ящериц, помогаешь по хозяйству, ходишь по лесам. Всё это выглядит абсолютно как первый уровень долгого hero’s journey, которое тебе предстоит пройти: классическое детство-обучение перед большим путешествием.

А потом ты идёшь приносить жертву священному дереву, натыкаешься на белых пришельцев — newcomers с пистолетами, — и тебя убивают. [...]

Боевая система здесь интересная и неожиданная. Формально это пошаговая тактика, но не поочерёдная, а одновременная. Время стоит на паузе, пока ты выбираешь действие, и ты даже видишь, что собираются делать враги, а когда ты подтверждаешь ход, всё происходит одновременно. [...]

И есть ещё одна крутая идея — система вины (guilt). Игра отслеживает твои моральные выборы: убил кого-то ради выгоды, обманул, напал первым… всё это растит твой невидимый счётчик вины. И результат отражается прямо в боях: на поле начинают появляться призраки, физические проявления твоей нечистой совести. [...]

Отличный пиксель-арт: маленькие персонажи, большие фоны, тщательно прорисованные пейзажи. Хотя стилистически всё это узнаваемая мексиканская палитра, получилось разнообразно: пустыни, леса, горы, древние храмы, каньоны, заброшенные шахты. [...]

И музыка! Вроде бы всю дорогу ничего особенного, приятный фон… а потом вдруг тебе поют песню. На испанском, и очень даже красивую; слова пишут в субтитрах с переводом, и слова тоже выглядят хорошо.

В каждой главе по песне, и это неожиданное и крутое дополнение к игровому процессу. Композитор Хосе Рамон Гарсия в одном из интервью сказал, что вложил в этот саундтрек “много себя”, и это здесь хорошо слышно. [...]

Претензий две. Первая — интерфейс инвентаря и прокачки, и отчасти сама прокачка. Дерево навыков глубокое, но интерфейс довольно неудобный, а многие навыки не вызывают особенного желания их открывать и пробовать.

Вторая — текст. Я его хвалил с нарративной точки зрения, но стилистически, честно говоря, так себе, это явно писал современный человек современным языком, даже не пытаясь как-то вжиться в соответствующие роли. Хорошо это работает разве что при редких, но приятных шутеечках. [...]

Очень рекомендую, и не только потому, что игра реально хорошая, но и чтобы поддержать эту историю.

#tgif #games
❤10👍5🤩2
Вернулся из Китая и сразу поехал в Ярославль, частично даже автостопом, что всегда приятное приключение.) Так что нового контента пока нет, но могу выкладывать старый.

Вот второе моё выступление на Data Fusion 2026 (первое было здесь):

AI после LLM: каким будет следующее поколение больших моделей?
(выложил на страницу "Выступления")

Тут, правда, лучше смотреть с самого начала, с доклада Сергея Маркова, потому что когда слово дошло до меня, я решил забить на свою заявленную тему и устроить, как и было объявлено, дискуссию.

Прошёл по тому, что успел услышать в других докладах, и провёл главную мысль о том, что те недостатки LLM, на которые все мои коллеги абсолютно верно указывали, в общем-то людям тоже свойственны... кроме разве что памяти и continual learning, которые и впрямь являются важнейшими направлениями. А в остальном до AGI уже, кажется, недалеко...

Так что по слайдам я в целом так и не прошёл, но на страницу "Выступления" для вас их выложил. Впрочем, слайды наверняка уже безнадёжно устарели, я же их отправлял больше месяца назад.

#talks #events #ai
❤22😍4❤‍🔥3👍1
Ооо, сегодня был супер-эпичный турнир! Мы играли в Ярославле "Нехрустальную сову". Я всё-таки успел с самолёта из Китая на поезд в Москву, из которой мы вчера доехали автостопом, но это другая история.)

А в турнире мы долго лидировали, но перед последним туром сравнялись с "Борским корабелом". И последний тур тоже сыграли поровну: мы с "Корабелом" по 13 из 15, а ближайшие преследователи уже по 10...

И потом была эпичнейшая перестрелка. Мы вроде бы как проиграли на четвёртом или пятом вопросе — но потом сообразили, что наш ответ на самом деле правильный, и перестрелка уже после объявления результата всё-таки возобновилась!)

Увы, в итоге всё же "Корабел" победил, вопросе уже где-то на десятом. Но лиха беда начало — это было круто! Саша, Гимли, Ира, Вадим, Дима, спасибо вам за игру! И спасибо редакторам за вопросы, а организаторам за прекрасную организацию. Надеюсь приехать ещё!

#chgk #lifestyle #travel
1🔥28❤‍🔥7👍5🤩2👏1
Следующий анонс — на семинаре лаборатории Маркова мы теперь внезапно займёмся арабским языком:

Создание арабской языковой модели методом непрерывного дообучения (continuous pretraining)
Ссылка на трансляцию (пятница 8 мая, 14:00)

Артём Липиньски (Санкт-Петербургский государственный университет)

Арабский язык — один из крупнейших в мире по числу носителей, однако современные языковые модели работают с ним заметно хуже, чем с английским или китайским. Причина проста: качественных арабских данных в открытом доступе катастрофически мало, а существующие модели обучались преимущественно на англоязычных текстах.

В докладе будет представлена работа по созданию арабской языковой модели, которая способна осмысленно понимать и генерировать текст на арабском, при этом оставаясь достаточно компактной для практического применения.

Будет рассмотрено:

— как собрать и подготовить большой качественный корпус текста с нуля;

— почему смешение языков в обучающих данных помогает, а не мешает;

— полный pipeline адаптации LLM к новому языку, от сбора данных до SFT (с разбором того, как эффективно пройти каждый этап и каких ошибок избежать).

Результаты работы актуальны для всех, кто занимается адаптацией LLM к низкоресурсным языкам: подходы применимы далеко за пределами арабского.

#markovlab #seminar #spsu
1❤15👍4
Наконец-то я дома, и можно продолжать с обычным контентом. На последней лекции в курсе "Введение в глубокое обучение" в ЮФУ (прочитанной из Китая уже в районе полуночи по местному времени) мы начали разговор об обучении с подкреплением:

ЮФУ — 2026.04.23 — Основы RL и многорукие бандиты
(слайды и доска на странице курса)

Это ещё одна тема в машинном обучении, где пусть не всё, но многое можно рассказать на пальцах, не углубляясь в доказательства и не требуя практически никаких пререквизитов.

Так что мы начали с основных идей обучения с подкреплением — что это вообще такое, когда нужно, как ставится основная задача — а потом перешли к первой теме: многоруким бандитам. Это упрощённая постановка задачи, в которой нет никаких состояний, а есть только действия и их ожидаемые выигрыши. И тем не менее, даже в этом гораздо более простом случае возникает масса красивой математики... о которой, впрочем, мы не особенно поговорили, а только наметили основные идеи.

И всё равно мне кажется, что про RL рассказать в таком вводном курсе нужно. Хотя бы объяснить основные постановки задач, а там уже, конечно, в серьёзном ML-образовании курс по обучению с подкреплением желательно послушать отдельный.

#sfu #lectures #dsfrontiers
❤13👍4🔥2🐳2
Уфф, прошёл дедлайн NeurIPS 2026, в этот раз я две статьи подавал, и в обеих не сбоку участвовал, как когда-то раньше бывало, а самым прямым и активным образом. Так что вчера не было поста в канале. Если доведётся, то есть если выложим статьи, скажем, на arXiv, ещё расскажу вам о них, оно того стоит, на мой взгляд.

А пока продолжу с обычным своим контентом, о курсе "Графические вероятностные модели":

СПбГУ — 2026.04.24 — Expectation Propagation и TrueSkill
(слайды и доска, как всегда, на странице курса)

Сначала закончил разговор о topic modeling: обсудили сэмплирование по Гиббсу в LDA (сжатое сэмплирование по Гиббсу — интересная деталь!) и всевозможные классы расширений LDA. Они делятся главным образом на те, где у авторов получилось посчитать формулы вариационного приближения, и те, где не получилось, и пришлось делать сэмплирование по Гиббсу.

А потом ещё одна тема, близкая моему сердцу. Давным-давно, в 2010-м году, мы с Александром Сироткиным решили сделать байесовский рейтинг для спортивного "Что? Где? Когда?". Я уже рассказывал вам про рейтинг, но это была более поздняя работа, когда в рейтинге ЧГК уже появились повопросные результаты. А пока их не было, нужно было придумать что-то исходя из таблиц вида "кто кого обыграл и кто с кем поделил".

Мы нашли систему TrueSkill, разработанную в Microsoft Research для серверов Xbox Live. Казалось, что это идеальная система: она работала как раз на таких сравнительных результатах и представляла собой очень красивую графическую модель. Для неё как раз и с Expectation Propagation пришлось разобраться.

И вот мы её реализовали... и ни фига не заработало! Оказалось, что в модели TrueSkill были прямо натурально ошибки; главное — плохо обрабатывались ничьи, особенно ничьи с большим дележом мест, а в ЧГК по понятным причинам все такие. Мы с Шуриком смогли с этим справиться, изменив структуру модели. И именно из этого получилась моя первая серьёзная статья по машинному обучению: нас с рейтингом спортивного ЧГК приняли на ICML 2011! S.I. Nikolenko, A.V. Sirotkin, A New Bayesian Rating System for Team Competitions, Proc. 28th ICML, pp. 601—608, 2011.

Так что об этом всегда приятно рассказывать и, надеюсь, интересно для слушателей получается. И это естественным образом заканчивает нашу часть курса про приближённый вывод, и мы переходим к новой большой теме: обучению с подкреплением (reinforcement learning).

#spsu #lectures #pgm2026
🔥17❤2🆒1
Обсудим сегодня три игры-головоломки, по сути очень разные и с разным уровнем амбиций, но все три спокойные и уютные. Как всегда, полные обзоры по ссылке, здесь сокращено:

Три небольшие головоломки: SCHiM, Botany Manor, Spilled!
(и вот выложил на DTF)

SCHiM

Ты играешь за… бог знает кого, видимо, за духа под названием schim — я так понял, что это нарицательное имя, а не собственное (schim по-голландски значит “тень”). [...] Schim может жить только в тени и прыгать между тенями, а когда попадает в тень другого существа или предмета, может с ними иногда взаимодействовать.

В начале игры наш schim теряет “своего” человека и отправляется его догонять. [...]

С человеком в течение игры происходит какая-то история, которая в целом понятна, но поскольку в игре нет ни единого слова, история выглядит абстрактно и ничем не цепляет эмоционально. Это, на мой взгляд, минус.

Я вообще в подавляющем большинстве случаев не понимаю, зачем разработчики отказываются от простых человеческих слов. В редких случаях это интересный design choice, но и там обычно лучше ограничить его: например, в Stray было супер-логично, что кот не понимает язык роботов, но представьте себе, что у вас в Stray совсем не было бы понятного языка — была бы другая игра, и гораздо хуже.

Ну да ладно, это я отвлёкся. В целом SCHiM — простая прямолинейная игра, прыгать приятно, прошёл и забыл. Не уверен, что прямо рекомендую, но для условного самолёта пойдёт.

Botany Manor

Уютный расслабленный квест от первого лица, в котором ты играешь за престарелую ботаника Арабеллу Грин, вернувшуюся в фамильное поместье где-то на западе Англии в 1890 году. Арабелла собирает материал для своей последней книги — “Forgotten Flora”, собрание давно забытых магических растений. [...]

Любопытная деталь: главным визуальным источником вдохновения был Down House, особняк Чарльза Дарвина. А вторым — особняк Лары Крофт из Tomb Raider. И действительно, это обжитой викторианский дом с очевидным научным флёром, по которому хочется ходить и трогать вещи.

1890 год — это пик викторианской эпохи научных открытий, время “великих джентльменов-натуралистов” — и совсем не время для “великих леди”. История Арабеллы рассказывается фоном через письма, заметки, газеты и портреты, и в основном концентрируется на тогдашнем сексизме. [...]

Главное в головоломках, и они тут классные и разнообразные. Каждая глава вводит несколько растений, к каждому из которых по особняку разбросаны улики: ботанические плакаты, температурные карты, открытки, химические книги, старые фотографии, газетные заметки и так далее. Твоя задача — собрать улики в гипотезу о том, что нужно конкретному цветку, и затем создать ему правильные условия в одной из комнат особняка. Иногда это температура почвы, иногда определённый свет, иногда экзотическая химия, а иногда что-то совсем неожиданное, например вспышка грозы. [...]

Игра короткая, часа на три-четыре, но это и хорошо: загадок хватило на насыщенный геймплей, а попытка растянуть на подольше размыла бы то, что есть. Так что Botany Manor я в целом очень даже рекомендую.

Spilled!

Совсем крохотная зарисовка, меньше часа геймплея, но хорошо сделано. Ты играешь за кораблик, который очищает природу от чего-то чёрного, видимо, от разливов нефти или мазута. Спасаешь животных, доставляешь предметы в нужные места, иногда поливаешь водой берега. Милая рисовка, хорошие анимации, понятный месседж. [...]

Надо понимать, что игра абсолютно ни на что не претендует, типичный cozy time killer на часик. Но симпатичный, и история за ним, как мне кажется, тоже симпатичная.

#tgif #games
❤7
Теперь можно и китайские доклады повыкладывать; по крайней мере, вроде бы мне не запрещали этого делать. На семинаре в Great Bay University, куда меня пригласили перед основным мероприятием, рассказывал про функции влияния:

How to Evaluate Data for LLMs: From Simple Filters to Influence Function
(слайды на странице "Выступления")

По сути это примерно тот же доклад, который я когда-то читал на семинаре лаборатории Маркова. Мне до сих пор кажется, что это очень интересная наука и крутая идея: можно при помощи нехитрой, но изящной математики с первых двух курсов матанализа понять, какие именно документы и даже конкретные токены из обучающей выборки влияют на ответ модели на конкретный вопрос; интерпретируемее некуда, на самом-то деле.

Правда, когда я с функциями влияния столкнулся на практике, оказалось, что, как говорится, in theory, there is no difference between theory and practice; in practice, there is.) Но это уже совсем другая история...

А коллегам за приглашение большое спасибо, особенно профессору Jinqiao Duan, который меня собственно в Great Bay University и приглашал. Надеюсь, как-нибудь ещё посотрудничаем, хотя, как я писал в предыдущем посте, лучше будет посотрудничать как-нибудь без визитов в Китай.) Но в любом случае спасибо!

#talks #events #ai
❤8👍4
Выложил пред-предыдущий семинар лаборатории Маркова, на котором Максим Николаев рассказывал про TurboQuant:

Семинар Markov Lab — 2026-04-10 — TurboQuant: векторная квантизация с почти оптимальным уровнем искажений
(слайды на странице семинара)

На докладе меня не было, так что сам от своего лица сказать про доклад ничего не могу. Но вот про сам TurboQuant я уже очень много чего сказал недавно: читайте мой большой пост, смотрите рассказ Максима, и очень надеюсь, что они не противоречат друг другу!)

#spsu #seminar #markovlab
❤10👍5