Начался и курс глубокого обучения! Вот страничка нового курса:
Глубокое обучение — 2026
Первая лекция:
СПбГУ — 2026.09.04 — Общие сюжеты глубокого обучения: dropout, инициализация и BatchNorm
(слайды и доска на странице курса)
Напоминаю, что это на самом деле не первая лекция о глубоком обучении; как это обычно теперь бывает, я начал DL ещё во втором семестре курса. Слишком уж быстро растёт эта наука, хочется больше времени ей уделять.
А идеи, которые мы обсуждали, в DL уже довольно давно, но ни dropout, ни слои нормализации, ни инициализация за это время никуда не делись. Dropout, правда, уже давно не метод, который можно встретить в любой сети: у огромных моделей и данных много, и дополнительного шума хватает, поэтому в современных LLM частенько attention dropout выставляют буквально в 0.0. Зато там, где переобучение действительно видно, он всё ещё остаётся относительно простым и недорогим методом с ним справиться, а в компьютерном зрении та же идея превратилась в стохастическую глубину, где выключают уже не отдельные нейроны, а целые residual-ветки.
С нормализациями получилось наоборот: они превратились в основополагающий, несущий механизм. BatchNorm по-прежнему актуален для всех свёрточных сетей, а трансформеры в основном перешли на LayerNorm и RMSNorm, обычно перед attention и MLP. При этом объяснение про internal covariate shift устарело (в лекции я об этом говорю): слои нормализации прежде всего делают ландшафт оптимизации более гладким и предсказуемым.
В общем, рад начать новый долгий путь к фронтирам глубокого обучения! Надеюсь, что мы до этого самого фронтира успеем дойти.)
#spsu #lectures #dl2026
Глубокое обучение — 2026
Первая лекция:
СПбГУ — 2026.09.04 — Общие сюжеты глубокого обучения: dropout, инициализация и BatchNorm
(слайды и доска на странице курса)
Напоминаю, что это на самом деле не первая лекция о глубоком обучении; как это обычно теперь бывает, я начал DL ещё во втором семестре курса. Слишком уж быстро растёт эта наука, хочется больше времени ей уделять.
А идеи, которые мы обсуждали, в DL уже довольно давно, но ни dropout, ни слои нормализации, ни инициализация за это время никуда не делись. Dropout, правда, уже давно не метод, который можно встретить в любой сети: у огромных моделей и данных много, и дополнительного шума хватает, поэтому в современных LLM частенько attention dropout выставляют буквально в 0.0. Зато там, где переобучение действительно видно, он всё ещё остаётся относительно простым и недорогим методом с ним справиться, а в компьютерном зрении та же идея превратилась в стохастическую глубину, где выключают уже не отдельные нейроны, а целые residual-ветки.
С нормализациями получилось наоборот: они превратились в основополагающий, несущий механизм. BatchNorm по-прежнему актуален для всех свёрточных сетей, а трансформеры в основном перешли на LayerNorm и RMSNorm, обычно перед attention и MLP. При этом объяснение про internal covariate shift устарело (в лекции я об этом говорю): слои нормализации прежде всего делают ландшафт оптимизации более гладким и предсказуемым.
В общем, рад начать новый долгий путь к фронтирам глубокого обучения! Надеюсь, что мы до этого самого фронтира успеем дойти.)
#spsu #lectures #dl2026
❤🔥22🔥10❤8👏2🤩1🆒1👾1
Как вы наверняка догадываетесь, на СПбГУ моё преподавание в этом семестре отнюдь не заканчивается. Сегодня пост про Факультет технологий искусственного интеллекта (ФТИИ) Университета ИТМО, где я тоже начал новый курс глубокого обучения.
Главный идейный вдохновитель всего этого — Семён Краев. С Семёном мы давно взаимодействуем, и уже много за что хочется сказать ему спасибо. Во-первых, конечно, за то, что я в ИТМО преподаю уже довольно давно, так или иначе каждый год, и лекции мои там встречают с радостью и удовольствием.
Во-вторых, отдельное огромное спасибо за приглашение на ЗМШ, Зимнюю Математическую Школу, одним из идейных вдохновителей которой Семён, собственно, и является. Я про свою поездку в уральские леса писал вот здесь, и до сих пор очень рад, что удалось тогда выбраться.
Ну а в этом семестре Семёну и всему ИТМО ещё отдельное спасибо за то, что они разрешили выкладывать лекции в открытый доступ! Так что вот, именно это я и начинаю делать, вот страничка курса:
Глубокое обучение 2026 (ФТИИ ИТМО)
А вот первая лекция, точнее две, они там будут сдвоенные:
История искусственного интеллекта, введение в ML и глубокое обучение
(слайды и доска на странице курса)
Это мои обычные вводные лекции, причём пока ещё не имеющие отношения именно к глубокому обучению. В этом курсе я после исторического экскурса начал с введения в обычное машинное обучение, неглубокое для начала.) Думал немного рассказать о вероятностных основах того, что в ML вообще происходит, прежде чем переходить уже к собственно нейросетям.
И надо сказать, что студенты ФТИИ ИТМО меня очень приятно удивили! Они уже были в курсе основ байесовского вывода, того, при чём тут формула Баейса, что такое априорные распределения и сопряжённые априорные распределения... В общем, очень продуктивно мы поговорили, вспомнили основы, удостоверились, что все понимают то, что станет последними слоями любых нейросетей — линейную и логистическую регрессию и так далее.
Со следующего раза будем уже точно говорить о нейросетях! Ещё раз спасибо Семёну и надеюсь, что это сотрудничество станет прочным и долгосрочным!
#lectures #itmo #dl2026
Главный идейный вдохновитель всего этого — Семён Краев. С Семёном мы давно взаимодействуем, и уже много за что хочется сказать ему спасибо. Во-первых, конечно, за то, что я в ИТМО преподаю уже довольно давно, так или иначе каждый год, и лекции мои там встречают с радостью и удовольствием.
Во-вторых, отдельное огромное спасибо за приглашение на ЗМШ, Зимнюю Математическую Школу, одним из идейных вдохновителей которой Семён, собственно, и является. Я про свою поездку в уральские леса писал вот здесь, и до сих пор очень рад, что удалось тогда выбраться.
Ну а в этом семестре Семёну и всему ИТМО ещё отдельное спасибо за то, что они разрешили выкладывать лекции в открытый доступ! Так что вот, именно это я и начинаю делать, вот страничка курса:
Глубокое обучение 2026 (ФТИИ ИТМО)
А вот первая лекция, точнее две, они там будут сдвоенные:
История искусственного интеллекта, введение в ML и глубокое обучение
(слайды и доска на странице курса)
Это мои обычные вводные лекции, причём пока ещё не имеющие отношения именно к глубокому обучению. В этом курсе я после исторического экскурса начал с введения в обычное машинное обучение, неглубокое для начала.) Думал немного рассказать о вероятностных основах того, что в ML вообще происходит, прежде чем переходить уже к собственно нейросетям.
И надо сказать, что студенты ФТИИ ИТМО меня очень приятно удивили! Они уже были в курсе основ байесовского вывода, того, при чём тут формула Баейса, что такое априорные распределения и сопряжённые априорные распределения... В общем, очень продуктивно мы поговорили, вспомнили основы, удостоверились, что все понимают то, что станет последними слоями любых нейросетей — линейную и логистическую регрессию и так далее.
Со следующего раза будем уже точно говорить о нейросетях! Ещё раз спасибо Семёну и надеюсь, что это сотрудничество станет прочным и долгосрочным!
#lectures #itmo #dl2026
❤26🔥13👍6👎1🥰1👏1
В курсе "Глубокое обучение" в СПбГУ добрались наконец до архитектурных идей:
СПбГУ — 2026.09.11 — Свёрточные нейронные сети
(слайды и доска на странице курса)
Начали, как всегда, издалека, с исследований зрительной коры Хьюбела и Визела, а потом разобрались с главной идеей: один и тот же детектор признака можно применять в разных местах картинки. Это сразу даёт и меньше параметров, и больше примеров для обучения каждого из них. Дальше из простых локальных признаков постепенно собираются более сложные, а поле зрения нейронов растёт от слоя к слою.
Разобрали устройство свёрточного слоя, пулинг, градиенты для общих весов, padding и stride. Из архитектур успели посмотреть LeNet и AlexNet, а заодно поговорить об ImageNet и том самом прорыве, после которого глубокое обучение стало трудно игнорировать. AlexNet стал поводом для того, чтобы поговорить об обучении на нескольких видеокартах, параллелизме по модели и по данным и об аугментации изображений.
LeNet и AlexNet уже стали историей, но свёртки продолжают жить и развиваться: например, в семействе DINOv3 (до которого в курсе мы дойдём не скоро, if ever) есть модели на ConvNeXt. Идея локального фильтра с общими весами до наших дней, безусловно, дожила. И понять, почему она работает, полезно даже тогда, когда готовую модель можно загрузить одной строчкой.
#spsu #dl2026 #lectures
СПбГУ — 2026.09.11 — Свёрточные нейронные сети
(слайды и доска на странице курса)
Начали, как всегда, издалека, с исследований зрительной коры Хьюбела и Визела, а потом разобрались с главной идеей: один и тот же детектор признака можно применять в разных местах картинки. Это сразу даёт и меньше параметров, и больше примеров для обучения каждого из них. Дальше из простых локальных признаков постепенно собираются более сложные, а поле зрения нейронов растёт от слоя к слою.
Разобрали устройство свёрточного слоя, пулинг, градиенты для общих весов, padding и stride. Из архитектур успели посмотреть LeNet и AlexNet, а заодно поговорить об ImageNet и том самом прорыве, после которого глубокое обучение стало трудно игнорировать. AlexNet стал поводом для того, чтобы поговорить об обучении на нескольких видеокартах, параллелизме по модели и по данным и об аугментации изображений.
LeNet и AlexNet уже стали историей, но свёртки продолжают жить и развиваться: например, в семействе DINOv3 (до которого в курсе мы дойдём не скоро, if ever) есть модели на ConvNeXt. Идея локального фильтра с общими весами до наших дней, безусловно, дожила. И понять, почему она работает, полезно даже тогда, когда готовую модель можно загрузить одной строчкой.
#spsu #dl2026 #lectures
❤13👍6🔥4🎉1
Зачем делать нейросеть глубже, а потом специально добавлять в неё пути в обход новых слоёв? Оказывается, именно так глубокой сети бывает проще обучиться:
СПбГУ — 2026.09.18 — Идеи свёрточных архитектур от VGG до EfficientNet
(слайды и доска на странице курса)
Мы продолжили разбирать свёрточные архитектуры: от маленьких фильтров VGG и блоков Inception до остаточных связей ResNet, MobileNet и EfficientNet.
Суть, конечно, не в самих архитектурах, а в довольно наглядных идеях: как расширить поле зрения, сэкономить параметры, провести градиент через много слоёв и не потратить на всё это слишком много вычислений.
Эти идеи полезны и за пределами CNN: например, остаточные связи используются буквально везде, и в трансформерах, конечно, тоже. А, например, идея EfficientNet специфична для свёрток, но сама мысль согласованно подбирать гиперпараметры единой формулой, безусловно, полезна до сих пор.
[Метакомментарий: как видите, пытаюсь немного разнообразить стиль, но в целом пока канал в этом семестре устойчиво скатывается в сплошные лекции, их реально у меня больше накапливается, чем дней в неделе. Это вам норм, дорогие подписчики? Или лучше пусть выкладывание лекций отстаёт, но в канале пусть бывает и что-то другое?]
#spsu #dl2026 #lectures
СПбГУ — 2026.09.18 — Идеи свёрточных архитектур от VGG до EfficientNet
(слайды и доска на странице курса)
Мы продолжили разбирать свёрточные архитектуры: от маленьких фильтров VGG и блоков Inception до остаточных связей ResNet, MobileNet и EfficientNet.
Суть, конечно, не в самих архитектурах, а в довольно наглядных идеях: как расширить поле зрения, сэкономить параметры, провести градиент через много слоёв и не потратить на всё это слишком много вычислений.
Эти идеи полезны и за пределами CNN: например, остаточные связи используются буквально везде, и в трансформерах, конечно, тоже. А, например, идея EfficientNet специфична для свёрток, но сама мысль согласованно подбирать гиперпараметры единой формулой, безусловно, полезна до сих пор.
[Метакомментарий: как видите, пытаюсь немного разнообразить стиль, но в целом пока канал в этом семестре устойчиво скатывается в сплошные лекции, их реально у меня больше накапливается, чем дней в неделе. Это вам норм, дорогие подписчики? Или лучше пусть выкладывание лекций отстаёт, но в канале пусть бывает и что-то другое?]
#spsu #dl2026 #lectures
❤30👍10🔥8
[Метакомментарий: не знаю пока, как разбавлять лекции, но уж точно не могу себе позволить за целый день только анонс семинара выложить...]
Как обучают нейросети с миллионами весов на огромных наборах данных? Получается ведь, что даже просто подсчитать функцию ошибки для нас слишком дорого, ведь это требует прохода по всему датасету. Об этом говорили в следующих лекциях курса в ИТМО:
ИТМО — 2026.09.21 — Основы нейронных сетей, backpropagation, алгоритмы стохастического градиентного спуска
(слайды, доска и код на странице курса)
Сначала разобрали функции активации и backpropagation: на маленьком графе вычислений прошли вперёд и назад и получили производные по всем весам. Потом посмотрели, как градиентный спуск может изрядно помучаться даже на сумме двух квадратов, и начали ему помогать: инерцией, скользящими средними и отдельным шагом для каждой координаты. Так добрались до Adam и AdamW.
Это основа обучения современных нейросетей, хотя далеко не каждая красивая идея оказывается одинаково полезной на практике. В начале курса глубокого обучения я всегда привожу такие примеры: активации ACON, superconvergence и amsgrad. Каждая из них звучала очень круто, когда её придумали, но в итоге как-то ни одна не взлетела.
И в конце ещё успели обсудить dropout: зачем случайно выкидывать нейроны, чем это похоже на секс и почему этот когда-то почти обязательный приём теперь применяется гораздо избирательнее. Дальше уже перейдём к архитектурам...
#lectures #itmo #dl2026
Как обучают нейросети с миллионами весов на огромных наборах данных? Получается ведь, что даже просто подсчитать функцию ошибки для нас слишком дорого, ведь это требует прохода по всему датасету. Об этом говорили в следующих лекциях курса в ИТМО:
ИТМО — 2026.09.21 — Основы нейронных сетей, backpropagation, алгоритмы стохастического градиентного спуска
(слайды, доска и код на странице курса)
Сначала разобрали функции активации и backpropagation: на маленьком графе вычислений прошли вперёд и назад и получили производные по всем весам. Потом посмотрели, как градиентный спуск может изрядно помучаться даже на сумме двух квадратов, и начали ему помогать: инерцией, скользящими средними и отдельным шагом для каждой координаты. Так добрались до Adam и AdamW.
Это основа обучения современных нейросетей, хотя далеко не каждая красивая идея оказывается одинаково полезной на практике. В начале курса глубокого обучения я всегда привожу такие примеры: активации ACON, superconvergence и amsgrad. Каждая из них звучала очень круто, когда её придумали, но в итоге как-то ни одна не взлетела.
И в конце ещё успели обсудить dropout: зачем случайно выкидывать нейроны, чем это похоже на секс и почему этот когда-то почти обязательный приём теперь применяется гораздо избирательнее. Дальше уже перейдём к архитектурам...
#lectures #itmo #dl2026
❤12👍5🔥3
Даа, посты явно сильно отстают от темпа, заданного этим семестром... Впрочем, какая разница, это же не злободневные новости, а фундаментальные курсы лекций. Сегодня вот дошли до лекции, которая была в "Глубоком обучении" в позапрошлую пятницу:
СПбГУ — 2026.09.25 — Распознавание объектов
(слайды и доска на странице курса)
В новой лекции по глубокому обучению переходим от классификации картинок к распознаванию объектов. Я на этот раз сократил часть про компьютерное зрение, хочется всё-таки побольше поговорить про generative AI, но мы всё равно прошли стандартный путь от R-CNN, который отдельно обрабатывал каждый предложенный прямоугольник, до Faster R-CNN и YOLO. По дороге обсудили, как вообще обучать сеть с переменным числом ответов, почему маленькие объекты так трудно находить и как иерархия классов помогает объединять разные датасеты.
Как всегда, эта история интересна не конкретными архитектурами, а идеями, которые пригождаются далеко за пределами распознавания котиков: один раз посчитать общие признаки, добавить маленькому объекту контекст всей картинки, не дать тысячам простых отрицательных примеров заглушить несколько важных положительных... Архитектуры меняются, а идеи остаются, так что и в эпоху трансформеров их полезно понимать.
#spsu #dl2026 #lectures
СПбГУ — 2026.09.25 — Распознавание объектов
(слайды и доска на странице курса)
В новой лекции по глубокому обучению переходим от классификации картинок к распознаванию объектов. Я на этот раз сократил часть про компьютерное зрение, хочется всё-таки побольше поговорить про generative AI, но мы всё равно прошли стандартный путь от R-CNN, который отдельно обрабатывал каждый предложенный прямоугольник, до Faster R-CNN и YOLO. По дороге обсудили, как вообще обучать сеть с переменным числом ответов, почему маленькие объекты так трудно находить и как иерархия классов помогает объединять разные датасеты.
Как всегда, эта история интересна не конкретными архитектурами, а идеями, которые пригождаются далеко за пределами распознавания котиков: один раз посчитать общие признаки, добавить маленькому объекту контекст всей картинки, не дать тысячам простых отрицательных примеров заглушить несколько важных положительных... Архитектуры меняются, а идеи остаются, так что и в эпоху трансформеров их полезно понимать.
#spsu #dl2026 #lectures
❤11👍5👏2
Почему свёрточная сеть не похожа на мозг, хотя её придумали по мотивам зрительной коры? В чём главный бонус от свёрток и почему у нас в голове так не получается? И какие ещё идеи, возникшие в свёрточных архитектурах, стоит понимать и в наши дни? Об этом в следующих лекциях в курсе глубокого обучения в ИТМО:
ИТМО — 2026.10.05 — Свёрточные нейронные сети
(слайды и доска на странице курса)
В этой сдвоенной лекции сначала разбираемся, что позволяет вообще обучать глубокую сеть: откуда берутся инициализация Ксавье и нормализация по мини-батчам, почему градиенты затухают и как с этим бороться. Потом переходим от опытов Хьюбела и Визеля к свёрткам: считаем размеры тензоров и число весов, рисуем receptive field, pooling, padding и stride. На примере LeNet хорошо видно, как миллионы потенциальных параметров превращаются в сотни, а локальные признаки постепенно становятся глобальными.
Во второй части идём по архитектурным идеям от AlexNet и VGG до Inception, ResNet и EfficientNet: маленькие свёртки вместо больших, подсети внутри сети, остаточные связи, узкие горлышки и параллельные ветви обработки. Этот материал давно вышел за пределы классического компьютерного зрения: остаточные связи и слои нормализации работают и в современных трансформерах. Свёрточные сети, кстати, тоже продолжают жить, хотя. конечно, до последних новостей мы здесь не добрались.
#lectures #itmo #dl2026
ИТМО — 2026.10.05 — Свёрточные нейронные сети
(слайды и доска на странице курса)
В этой сдвоенной лекции сначала разбираемся, что позволяет вообще обучать глубокую сеть: откуда берутся инициализация Ксавье и нормализация по мини-батчам, почему градиенты затухают и как с этим бороться. Потом переходим от опытов Хьюбела и Визеля к свёрткам: считаем размеры тензоров и число весов, рисуем receptive field, pooling, padding и stride. На примере LeNet хорошо видно, как миллионы потенциальных параметров превращаются в сотни, а локальные признаки постепенно становятся глобальными.
Во второй части идём по архитектурным идеям от AlexNet и VGG до Inception, ResNet и EfficientNet: маленькие свёртки вместо больших, подсети внутри сети, остаточные связи, узкие горлышки и параллельные ветви обработки. Этот материал давно вышел за пределы классического компьютерного зрения: остаточные связи и слои нормализации работают и в современных трансформерах. Свёрточные сети, кстати, тоже продолжают жить, хотя. конечно, до последних новостей мы здесь не добрались.
#lectures #itmo #dl2026
❤12👍6🔥3❤🔥1🥰1😍1
Как заставить нейросеть сначала закрасить силуэт панды на фотографии, а потом уверенно увидеть в ней гиббона? В курсе "Глубокое обучение" в СПбГУ на прошлой неделе была сдвоенная лекция (потому что в эту пятницу я уезжал, так что, может, даже какой-нибудь не-лекционный пост или лишний обзор игры найдётся для вас на следующей неделе):
СПбГУ — 2026.10.02 — Сегментация и рекуррентные сети
(слайды и доска на странице курса)
В лекции мы сначала переходим от прямоугольников вокруг объектов к попиксельным маскам: FCN, U-Net, Mask R-CNN и несколько способов не растерять точную геометрию картинки. У идеи U-Net оказалась долгая жизнь: энкодер, декодер и связи между ними сохраняются и в моделях, где свёртки заменяют механизмами внимания.
Затем разбираемся, как почти незаметная добавка к изображению может кардинально изменить ответ сети и почему такие состязательные примеры можно использовать для обучения.
А вторая лекция была посвящена рекуррентным сетям. Мы выяснили, почему им трудно помнить далёкое прошлое, а потом представили возможные решения этой проблемы. LSTM становится гораздо понятнее, если видеть в нём контроллер памяти: один гейт стирает из памяти, другой записывает, третий решает, что прочитать. Мы сравнили его с GRU и обсудили, почему попытки сэкономить на матрицах так и не сделали LSTM ненужным.
Впереди уже механизмы внимания, а там и великий и ужасный трансформер!
#spsu #dl2026 #lectures
СПбГУ — 2026.10.02 — Сегментация и рекуррентные сети
(слайды и доска на странице курса)
В лекции мы сначала переходим от прямоугольников вокруг объектов к попиксельным маскам: FCN, U-Net, Mask R-CNN и несколько способов не растерять точную геометрию картинки. У идеи U-Net оказалась долгая жизнь: энкодер, декодер и связи между ними сохраняются и в моделях, где свёртки заменяют механизмами внимания.
Затем разбираемся, как почти незаметная добавка к изображению может кардинально изменить ответ сети и почему такие состязательные примеры можно использовать для обучения.
А вторая лекция была посвящена рекуррентным сетям. Мы выяснили, почему им трудно помнить далёкое прошлое, а потом представили возможные решения этой проблемы. LSTM становится гораздо понятнее, если видеть в нём контроллер памяти: один гейт стирает из памяти, другой записывает, третий решает, что прочитать. Мы сравнили его с GRU и обсудили, почему попытки сэкономить на матрицах так и не сделали LSTM ненужным.
Впереди уже механизмы внимания, а там и великий и ужасный трансформер!
#spsu #dl2026 #lectures
❤10👍5🔥3👀2