Sinекура
5.06K subscribers
2.03K photos
23 videos
510 links
Канал Сергея Николенко обо всём, но в основном об AI.

Сайт с выступлениями, лекциями и публикациями: https://sergeynikolenko.ru/
Download Telegram
Вы же не думали, что на курсах "Основы байесовского вывода" и "Глубокое обучение" в СПбГУ, "Глубокое обучение" в ИТМО, "Фронтиры науки о данных" в ЮФУ, семинаре лаборатории Маркова и ещё не выкладываемых публично занятиях в НИУ ВШЭ и ИТМО моя преподавательская нагрузка в этом семестре заканчивается?..

С этой осени я преподаю ещё и в Центральном университете. Это очень молодой частный университет, организованный Т-банком в 2023 году. Там работают совершенно потрясающие люди, и пока все мои взаимодействия с ЦУ проходят очень тепло и приятно. Надеюсь, что мы придумаем для вас и студентов ЦУ ещё кое-что менее формальное, чем лекции и выступления, но об этом потом, если таки соберёмся.

Более того, коллеги из ЦУ даже уговорили меня иногда лично приезжать в Москву. Две недели назад ездил в первый раз, за два дня прочитал четыре лекции, плюс ещё две удалённо в СПбГУ и большое выступление об AI в науке в "AI-клубе" Центрального университета. В общем, отлично отдохнул.)

Я там читаю свой обычный курс "Основы байесовского вывода", и, конечно, было приятно разок для разнообразия выступить с этим перед живой аудиторией, да ещё и такой прекрасной отзывчивой аудиторией, для которой курс оказался как раз в тему.

Мне разрешили выкладывать лекции из ЦУ в открытый доступ. Так что, как водится, я сделал страницу курса со слайдами и видеозаписями:

Основы байесовского вывода — Центральный Университет 2026

Но есть и плохая новость: добрая половина этих записей пока что абсолютно бесполезна. Я не знаю, почему так произошло, но большая часть того, что я писал на доске, просто... не попала в запись, а записывались при этом статичные слайды или страница с кодом. Там в ЦУ какая-то своя система с демонстрацией и записями, и логично, что записывалось то, что сейчас активно на экране, но вряд ли я мог полтора часа подряд писать на электронной доске так, что она при этом не выводилась на большой экран и была не видна студентам...

В общем, произошло что-то странное, и смотреть эти лекции смысла особого нет. Впрочем, по материалу вы ничего не потеряете, первые лекции, конечно, почти дословно идут по моему стандартному курсу из СПбГУ.

Но не написать вам про ЦУ не мог. Замечательная инициатива, замечательные люди, очень тёплый приём, и со стороны кажется, что к студентам этот университет относится не хуже, чем к преподавателям, а то и лучше.) Москвичам искренне рекомендую.

#centraluni #cubayes2026 #lectures
❤29🔥13👍8🥰2😁2🌚2❤‍🔥1💘1
Курс в Центральном университете продолжается онлайн, хотя я туда ещё приеду и лично. На прошедших лекциях обсудили линейные классификаторы:

ЦУ — 2026.09.25 — Основы классификации и логистическая регрессия
(слайды, доска и код на странице курса)

Классификация начинается с геометрии: как разделить классы гиперплоскостью, почему соединять центроиды не всегда хорошая идея и какое направление ищет дискриминант Фишера. Мне кажется, понимать геометрическую суть происходящего очень важно в любом случае.

Потом вернулись к формуле Байеса, строили классификаторы из гауссовских распределений и добрались до логистической регрессии. Заодно выяснили, откуда возникают логистический сигмоид и softmax — те самые, которые дожили до современных нейросетей.

А дальше разбираем, как градиент поворачивает разделяющую гиперплоскость, почему метод Ньютона сильнее учитывает примеры, в которых модель сомневается, и что байесовский подход добавляет к обычному предсказанию.

В целом идём по плану, дальше, как водится, будет больше!

#centraluni #cubayes2026 #lectures
❤10🔥5👍4
В пространстве размерности сто нет смысла покупать апельсины: они почти целиком состоят из кожуры. А ближайшие соседи там перестают быть близкими.

Последние лекции в Центральном университете были совсем поздними (я возвращался из поездки, и начало двух пар пришлось перенести с 19 часов на 20, да ещё и приехал к окончательно сломавшемуся компьютеру), но в итоге всё получилось:

ЦУ — 2026.10.09 — Проклятие размерности, bias-variance и гауссиан
(слайды, доска и ноутбук на странице курса)

В первой части разбираем проклятие размерности: почему нельзя просто перебрать все варианты, взять интеграл по сетке или везде обойтись ближайшими соседями. Затем смотрим на машинное обучение через статистическую теорию принятия решений и раскладываем ошибку на смещение, разброс и неустранимый шум.

Во второй части проводим байесовский вывод для гауссиана с неизвестными средним и дисперсией. Здесь есть небольшой сюрприз: и распределение среднего, и предсказательное распределение оказываются распределениями Стьюдента, то есть не просто гауссианом с большей дисперсией, а реально другим распределением с гораздо более тяжёлыми хвостами.

Эти сюжеты никуда не исчезли из современного ML. Поиск соседей нужен для поиска, в том числе поиска по эмбеддингам, геометрия в высоких размерностях всё так же требует осторожности. Разложение bias-variance-noise помогает понимать эффект регуляризации, а байесовский гауссиан показывает, что неопределённость в параметрах может менять даже форму предсказаний. В ноутбуке все три истории можно увидеть на картинках и сравнить аналитические формулы с экспериментами.

#centraluni #cubayes2026 #lectures
🔥17👍8❤5❤‍🔥1🙏1💘1