Sinекура
5.33K subscribers
2.14K photos
23 videos
534 links
Канал Сергея Николенко обо всём, но в основном об AI.

Сайт с выступлениями, лекциями и публикациями: https://sergeynikolenko.ru/
Download Telegram
Сегодня мой профессиональный праздник. И хотя бывало у меня в жизни и гораздо больше часов преподавания, чем сейчас, праздник всё равно со временем становится всё более моим.

Поздравляю и вас, друзья и коллеги! Учить и учиться — это и приятные, и полезные обязанности, и я надеюсь, что всю жизнь буду продолжать и преподавать, и учиться новому. Кстати, кажется, в новом учебном году преподавания у меня будет существенно больше; посмотрим, что я для вас смогу выкладывать, но это в любом случае, как мне кажется, только к лучшему.

С Днём знаний!
Удачного учебного года всем, к кому это относится!

#lifestyle
❤100🎉17👍1
Надеюсь, что ностальгические посты станут пореже, потому что начинается семестр, а это мощный источник контента.) Тем не менее, следующая пачка старых постов из блога Synthesis AI действительно может быть интересна и сегодня.

А именно, интересна может быть серия AI Interviews, где я задавал какие-то вопросы (в основном по делу, но не исключительно) крутым AI-исследователям. Благодаря нашему CEO Яшару Бехзади мы начали серию с одного из крутейших исследователей в области computer vision, да и два последующих тоже люди широко известные.

AI Interviews: Serge Belongie — человек с h-index 126 по Google Scholar (тогда был 96), автор статей про COCO, FPN и AdaIN, получил ICCV Helmholtz Prize, был в списке Innovators under 35 от журнала MIT Technology Review, основал несколько стартапов и всё такое прочее

AI Interviews: Andrew Rabinovich — тоже важный человек в computer vision, наиболее известный, наверное, как Director of Deep Learning в стартапе Magic Leap, который в своё время поднял около $3B на дополненную реальность

AI Interviews: Victor Lempitsky — а третьего гостя я уже сам пригласил; Виктор был и остаётся одним из лучших учёных в области компьютерного зрения на мой взгляд, и мне как раз повезло примерно в то время с ним посотрудничать в Samsung Research

На этом, к сожалению, запал закончился, и серия интервью состояла всего из трёх постов; может быть, как-нибудь стоит это дело возродить в каком-то другом формате.

Ну а чтобы уже закрыть тему постов из Synthesis AI до самого generative AI (о котором мы ещё много будем говорить), вот серия обзоров CVPR 2022. Тогда это было уже не очень возможно, конференции уже разрастались до невозможности, но ещё можно было сделать обзор на конкретную тему. В данном случае, разумеется, о синтетике; здесь названия постов, думаю, самоописывающие:

CVPR ‘22, Part I: New Synthetic Datasets

CVPR ‘22, Part II: New Use Cases for Synthetic Data

CVPR ‘22, Part III: Digital Humans

CVPR ‘22, Part IV: Synthetic Data Generation

#longreads #synthesisai
🔥9❤5
Осенний семестр начался! В частности, началась новая итерация курса машинного обучения на факультете математики и компьютерных наук СПбГУ. Это большое дело, четыре семестра лекций (около 60 полуторачасовых рассказов), уложенные в три календарных семестра.

Первый семестр называется "Основы байесовского вывода", и вот страничка нового свеженачавшегося курса:

Основы байесовского вывода 2025

Первая лекция там уже выложена, соответствующий плейлист на моём youtube-канале тоже уже заведён, и вот прямая ссылка на первую лекцию:

СПбГУ -- 2025.09.04 -- Введение в машинное обучение и байесовский вывод

Как обычно, поговорили об истории искусственного интеллекта, о тесте Тьюринга, о тех частях AI, которые не были машинным обучением, а потом обсудили роль теории вероятностей в AI и основную суть байесовского вывода. До примера хотя бы с монеткой, правда, пока не дошли, об этом в следующий раз.

В целом первый семестр почти наверняка будет тем или иным подмножеством моей недавно вышедшей книги "Машинное обучение: основы", так что воспользуюсь случаем о ней напомнить. Вот пост о книге, и, разумеется, мне будет очень приятно, если люди будут её читать.

#spsu #lectures #bayes2025
❤52🔥13
С началом семестра времени на игры станет ещё меньше, так что думаю, что буду обозревать по одной, зато поподробнее, тем более что и в блоге разумнее постить отдельные обзоры. Начну ударно, с игры, которая мне очень понравилась.

The Roottrees Are Dead (Steam)

Совершенно потрясающая детективная игра. Я как погрузился, так и не вынырнул сначала в течение всего вечера, а потом ещё и следующего утра, пока не прошёл обе части (они внутри одной игры и в одном мире, но второе расследование отделено от первого, это что-то вроде DLC).

Суть довольно простая: ты сидишь в интернете и пытаешься установить родственные связи между кучей разных людей в одном семействе, заполнить генеалогическое древо. Из инструментов есть плохо работающий поиск в интернете (дело происходит в девяностые), поиск по библиотеке и по периодическим изданиям (но названия газет и журналов ещё нужно где-то найти). У тебя есть комната, и к тебе иногда приходят двигающие сюжет гости, но по комнате даже ходить нельзя, это просто элемент интерфейса.

Звучит довольно стандартно... но как это круто сделано! Уже учебное задание (tutorial про трёх сестёр) показывает намёки на то, какого типа здесь загадки и насколько они могут быть интересными, и дальше игра совершенно не разочаровывает.

Смысл у загадок типично детективный, раскрутка тоже: нашёл статью про музыканта, а там упоминается альбом, который он выпустил, а в статье про альбом есть сингл, но статья про него в интернете короткая и не помогает, зато можно найти обзор в специальном музыкальном журнале, название которого у тебя было открыто раньше по другим причинам, и там будет фото, на котором этот музыкант, а на заднем плане неизвестная женщина...

Перечитал — честно говоря, в моём изложении звучит гораздо более уныло, чем на самом деле играется. И сложность у загадок подобрана отменно: они действительно весьма нетривиальные, я довольно часто заходил в тупик, но за всё время встретил только одну загадку во второй части, которую без подсказок не осилил. В ней нужно было или поискать обычное словосочетание, ничем не выделяющееся в тексте, или вспомнить второстепенного человека из первой части, который во второй до сих пор не встречался, и это действительно выглядело слегка нечестно; но такой прокол там буквально один.

История игры тоже любопытная: разумеется, её сделал один человек, Джереми Джонстон. Сделал в 2023 году в рамках Global Game Jam за неделю, и это изначально была браузерная игра на itch.io, все арты в которой были сгенерированы Midjourney. Для релиза в Steam Джонстон сделал, конечно, ремастер и нанял иллюстратора, но я посмотрел и ту версию: арт местами плохой, но местами и вполне ничего, глаза вытекают редко; для примера на последней картинке слева оригинал, справа ремастер.

И это было два года назад! Согласитесь, очень вдохновляющая история; эх, был бы я помоложе... В общем, как вы понимаете, настоятельно рекомендую, очень круто.

#games #tgif
👍16❤8🔥5
И ещё немного о родном и любимом факультете МКН СПбГУ. Полная версия поста на сайте:

ICPC, IMC и Максим Туревский

Вы, возможно, слышали свежую новость: команда МКН СПбГУ в составе Максима Туревского, Леонида Данилевича и Федора Ушакова победила в финале ICPC 2025 (International Collegiate Programming Contest), то есть главного в мире соревнования по программированию. Категорически поздравляю, и отдельно поздравляю их тренера и моего когдатошнего однокурсника Ивана Казменко — это невероятное достижение!

Российские команды побеждают в ICPC часто, заметно чаще, чем нероссийские: ВШЭ в 2023, НижГУ в 2020, МГУ в 2018-2019, СПбГУ в 2014 и 2016, а команды из ИТМО какое-то время буквально доминировали, победив в 2008, 2009, 2012, 2013, 2015 и 2017 годах.

Кстати, по той же ссылке можно вспомнить и давно минувшие дни, когда в финалах ICPC 2000 и 2001 в команде СПбГУ побеждали Андрей Лопатин (позже вечный тренер чемпионских команд СПбГУ) и Николай Дуров (тот самый, да, все вы, конечно, знаете в первую очередь его выдающиеся результаты в алгебраической геометрии), сначала с Олегом Етеревским (не знаю, где он сейчас, но когда-то мы с Олегом вместе работали в Google — он, конечно, был старше и куда круче), а потом с нынешним деканом МКН Виктором Петровым.

Эту новость нужно соединить с чуть более ранней: в августе в Болгарии прошёл финал IMC 2025 (International Mathematics Competition for University Students), главной олимпиады по математике для студентов. И там тоже победила команда МКН СПбГУ!

Об этом вы слышали с меньшей вероятностью, потому что в математике, в отличие от программирования, более престижными считаются школьные олимпиады (IMO), и за IMC следят не так пристально. Это индивидуальное соревнование, но командный зачёт по формуле "top-3 + среднее" тоже есть.

Наверное, вас не удивит, что МКН СПбГУ в последние годы доминирует в IMC: в командном зачёте СПбГУ победил в 2018, 2021, 2023, 2024 и вот теперь 2025 годах, занял второе место в 2017 и 2020. Но важно и кто именно побеждает: и в IMC 2025 (с результатом 100 из 100, второе место 98), и в IMC 2024 (99 из 100, второе место 86), и в IMC 2023 (93 из 100, второе место 80) победил один и тот же человек, студент МКН СПбГУ Максим Туревский. Тот самый Максим Туревский, который только что победил в составе команды СПбГУ в финале ICPC. А в 2020-2022 годах Максим получил две золотых и одну серебряную медали на IMO.

Поздравляю Максима с золотым дублем!

Кстати, есть мнение, что олимпиады — это спорт высших достижений, который совсем не обязательно конвертируется в научные и жизненные успехи. В этом есть некоторая правда: олимпиады — это отдельный скилл, который нужно активно развивать и тренировать именно для победы в олимпиадах, только на общей гениальности победить вряд ли получится. Но на самом высоком уровне дело совсем другое: я уже упоминал Николая Дурова и Виктора Петрова, которые стали выдающимися математиками.

А если вернуться к IMO, то выдающиеся примеры можно черпать большой ложкой: научный руководитель МКН, лауреат филдсовской премии Станислав Смирнов дважды получал золотую медаль IMO со стопроцентным результатом, в 1986 и 1987. В 1988 году самым юным золотым медалистом IMO стал тринадцатилетний Теренс Тао, но доминировал тогда другой профессор МКН СПбГУ, наш бывший декан Сергей Иванов, который получил 100% результат в 1987 и 1989 и набрал 41 из 42 баллов в 1988. Многие медалисты IMO стали великими математиками: Юрий Матиясевич, Григорий Перельман, Ласло Ловас, Джордж Люстиг, Мариам Мирзахани, Владимир Дринфельд, Григорий Маргулис, Андрей Суслин, Александр Меркурьев…

Для меня большая честь прикоснуться к таким традициям. МКН СПбГУ хранит и развивает их: в этом году из 150 набранных на МКН первокурсников 82 поступили по результатам олимпиад, в том числе более 30 — по результатам всероссов по математике, физике и информатике.

Поздравляю ещё раз всех причастных!

#longreads
❤55👍16❤‍🔥4👏1
В прошлый четверг, кстати говоря, начался не только новый курс машинного обучения заново, но и третий семестр курса, который идёт с прошлой осени. Третий семестр посвящён, разумеется, нейросетям, и я планирую дойти так или иначе до фронтира.

Глубокое обучение 2025

Глубокое обучение — наука большая, и экспоненциально становящаяся всё больше. Поэтому, чтобы иметь шансы дойти до фронтира, в этот раз я начал разговор о нейросетях чуть пораньше. Так что тем, кто хочет посмотреть полный курс глубокого обучения, стоит начать с двух последних видео (четырёх лекций) из весеннего семестра, "Графические вероятностные модели".

В любом случае, первая лекция выложена, соответствующий плейлист на моём youtube-канале появился, и вот прямая ссылка на первую лекцию:

СПбГУ -- 2025.09.04 -- Свёрточные нейронные сети: мотивация, основные идеи и архитектуры

Свёрточные сети — отличный и, можно сказать, главный пример структурной регуляризации. Мы делаем сильное, но логичное предположение: извлечение локальных признаков из неструктурированного входа (вроде картинки) должно работать одинаково в разных частях картинки. В результате одной и той же маленькой нейросетью можно обработать вход любого размера, применив её к окнам, которыми эта картинка покрыта. Да ещё и "данных для обучения" у этой нейросети будет на порядок больше, потому что она обрабатывает много разных окон одними и теми же весами; в кавычках, но всё же.

#spsu #lectures #dl2025
❤19👏7