Сегодня тоже был отличный семинар, коротко и по сути. Спасибо Татьяне!
Жду роботов-гуманоидов за $1K от Xiaomi. А вы ждёте?)
#markovlab #seminar #spsu
Жду роботов-гуманоидов за $1K от Xiaomi. А вы ждёте?)
#markovlab #seminar #spsu
🔥26👍8👏2
В курсе "Глубокое обучение" в СПбГУ добрались наконец до архитектурных идей:
СПбГУ — 2026.09.11 — Свёрточные нейронные сети
(слайды и доска на странице курса)
Начали, как всегда, издалека, с исследований зрительной коры Хьюбела и Визела, а потом разобрались с главной идеей: один и тот же детектор признака можно применять в разных местах картинки. Это сразу даёт и меньше параметров, и больше примеров для обучения каждого из них. Дальше из простых локальных признаков постепенно собираются более сложные, а поле зрения нейронов растёт от слоя к слою.
Разобрали устройство свёрточного слоя, пулинг, градиенты для общих весов, padding и stride. Из архитектур успели посмотреть LeNet и AlexNet, а заодно поговорить об ImageNet и том самом прорыве, после которого глубокое обучение стало трудно игнорировать. AlexNet стал поводом для того, чтобы поговорить об обучении на нескольких видеокартах, параллелизме по модели и по данным и об аугментации изображений.
LeNet и AlexNet уже стали историей, но свёртки продолжают жить и развиваться: например, в семействе DINOv3 (до которого в курсе мы дойдём не скоро, if ever) есть модели на ConvNeXt. Идея локального фильтра с общими весами до наших дней, безусловно, дожила. И понять, почему она работает, полезно даже тогда, когда готовую модель можно загрузить одной строчкой.
#spsu #dl2026 #lectures
СПбГУ — 2026.09.11 — Свёрточные нейронные сети
(слайды и доска на странице курса)
Начали, как всегда, издалека, с исследований зрительной коры Хьюбела и Визела, а потом разобрались с главной идеей: один и тот же детектор признака можно применять в разных местах картинки. Это сразу даёт и меньше параметров, и больше примеров для обучения каждого из них. Дальше из простых локальных признаков постепенно собираются более сложные, а поле зрения нейронов растёт от слоя к слою.
Разобрали устройство свёрточного слоя, пулинг, градиенты для общих весов, padding и stride. Из архитектур успели посмотреть LeNet и AlexNet, а заодно поговорить об ImageNet и том самом прорыве, после которого глубокое обучение стало трудно игнорировать. AlexNet стал поводом для того, чтобы поговорить об обучении на нескольких видеокартах, параллелизме по модели и по данным и об аугментации изображений.
LeNet и AlexNet уже стали историей, но свёртки продолжают жить и развиваться: например, в семействе DINOv3 (до которого в курсе мы дойдём не скоро, if ever) есть модели на ConvNeXt. Идея локального фильтра с общими весами до наших дней, безусловно, дожила. И понять, почему она работает, полезно даже тогда, когда готовую модель можно загрузить одной строчкой.
#spsu #dl2026 #lectures
❤13👍6🔥4🎉1
Следующий доклад на семинаре лаборатории Маркова скорее внутренний, в том смысле что докладчик из СПбГУ, хотя я, честно говоря, не уверен, на каком языке он будет:
Моделирование динамики мнений по цифровым следам: онлайн-сообщества и программные репозитории
Ссылка на трансляцию (среда 23 сентября, 13:40)
Юйлун Хэ (СПбГУ)
В докладе обсуждается применение моделей динамики мнений к данным, где позиции участников не измеряются напрямую, а выводятся из цифровой активности. Текстовые реакции и изменения программного кода преобразуются в последовательности численных состояний, после чего используются для оценки интерпретируемых зависимостей между участниками. На двух прикладных примерах рассматриваются способы построения таких состояний, различие между наблюдаемыми и скрытыми позициями, а также границы интерпретации восстановленных структур влияния.
Доклад может быть интересен широкой аудитории, в особенности — специалистам по сетевым играм, теории управления, анализу соцсетей (SNA), а также интересующимся анализом процессов разработки программного кода.
Доклад подготовлен на основе работ:
— Opinion Dynamics Models for Sentiment Evolution in Weibo Blogs. Yulong He, Anton V. Proskurnikov, Artem Sedakov, 8/2026 // Social Network Analysis and Mining (принято к публикации)
— Social Life of Code: Modeling Evolution through Code Embedding and Opinion Dynamics. Yulong He, Nikita Verbin, Sergey Kovalchuk, 3/2026 // Journal of Computational Science. 96, 102824
#markovlab #seminar #spsu
Моделирование динамики мнений по цифровым следам: онлайн-сообщества и программные репозитории
Ссылка на трансляцию (среда 23 сентября, 13:40)
Юйлун Хэ (СПбГУ)
В докладе обсуждается применение моделей динамики мнений к данным, где позиции участников не измеряются напрямую, а выводятся из цифровой активности. Текстовые реакции и изменения программного кода преобразуются в последовательности численных состояний, после чего используются для оценки интерпретируемых зависимостей между участниками. На двух прикладных примерах рассматриваются способы построения таких состояний, различие между наблюдаемыми и скрытыми позициями, а также границы интерпретации восстановленных структур влияния.
Доклад может быть интересен широкой аудитории, в особенности — специалистам по сетевым играм, теории управления, анализу соцсетей (SNA), а также интересующимся анализом процессов разработки программного кода.
Доклад подготовлен на основе работ:
— Opinion Dynamics Models for Sentiment Evolution in Weibo Blogs. Yulong He, Anton V. Proskurnikov, Artem Sedakov, 8/2026 // Social Network Analysis and Mining (принято к публикации)
— Social Life of Code: Modeling Evolution through Code Embedding and Opinion Dynamics. Yulong He, Nikita Verbin, Sergey Kovalchuk, 3/2026 // Journal of Computational Science. 96, 102824
#markovlab #seminar #spsu
🔥11👍5❤2👏2
В пятницу в СПбГУ на "Основах байесовского вывода" закончили историю с монеткой и добрались до линейной регрессии:
СПбГУ — 2026.09.18 — Сопряжённые априорные распределения и линейная регрессия
(слайды, доска и код на странице курса)
Сначала разобрали, как выбрать априорное семейство так, чтобы весь байесовский вывод свёлся к пересчёту нескольких чисел. Заодно от монетки из магазина фокусов дошли до распределения Дирихле и его связи с тематическими моделями (пока поверхностно).
А потом перешли к линейной регрессии: вывели метод наименьших квадратов и обсудили, какие предположения о шуме за ним стоят и что делать, если они не выполняются.
Линейная регрессия, конечно, и в 2026-м никуда не делась: в большой нейросети, предсказывающей число, в конце обычно стоит именно она, а всё остальное извлекает для неё признаки. Мы пока извлекали их руками — полиномиальные и локальные, на радиальных базисных функциях, — и посмотрели, какие кривые из этого получаются.
В следующий раз уже будем заниматься настоящим байесовским выводом, с априорными распределениями, а может, бог даст, и с предсказательными.
#spsu #bayes2026 #lectures
СПбГУ — 2026.09.18 — Сопряжённые априорные распределения и линейная регрессия
(слайды, доска и код на странице курса)
Сначала разобрали, как выбрать априорное семейство так, чтобы весь байесовский вывод свёлся к пересчёту нескольких чисел. Заодно от монетки из магазина фокусов дошли до распределения Дирихле и его связи с тематическими моделями (пока поверхностно).
А потом перешли к линейной регрессии: вывели метод наименьших квадратов и обсудили, какие предположения о шуме за ним стоят и что делать, если они не выполняются.
Линейная регрессия, конечно, и в 2026-м никуда не делась: в большой нейросети, предсказывающей число, в конце обычно стоит именно она, а всё остальное извлекает для неё признаки. Мы пока извлекали их руками — полиномиальные и локальные, на радиальных базисных функциях, — и посмотрели, какие кривые из этого получаются.
В следующий раз уже будем заниматься настоящим байесовским выводом, с априорными распределениями, а может, бог даст, и с предсказательными.
#spsu #bayes2026 #lectures
❤9👍6🔥3
Зато с контентом для телеграм-канала вообще никаких проблем в этом семестре. Кажется, теперь, когда все курсы начались, я уже буквально не буду успевать выкладывать их по посту в день, накапливаться будут быстрее.
Сегодня следующий доклад на семинаре лаборатории Маркова, а я пока что выкладываю только предыдущий:
Семинар Markov Lab — 2026.09.16 — Навигация интеллектуальных агентов на основе мультимодальных представлений сцен
(слайды на странице семинара)
Татьяна Земскова (МФТИ)
Если попросить робота найти красную кружку на кухонном столе, ему мало уметь распознавать кружки: надо ещё понять, куда ехать, куда посмотреть и как связать увиденное с запросом. В докладе — сегментация вместе с навигацией, активное восприятие и графы сцены, позволяющие искать объекты по довольно сложным текстовым описаниям.
Особенно интересно, как эти задачи меняются с появлением больших языковых и мультимодальных моделей: где представление сцены нужно специально обучать, а где уже можно собрать систему из готовых компонентов. И насколько всё это работает на настоящем роботе, с ошибками камеры и ограниченными вычислениями. Как всегда, обсуждение после доклада тоже есть в записи.
#markovlab #seminar #spsu
Сегодня следующий доклад на семинаре лаборатории Маркова, а я пока что выкладываю только предыдущий:
Семинар Markov Lab — 2026.09.16 — Навигация интеллектуальных агентов на основе мультимодальных представлений сцен
(слайды на странице семинара)
Татьяна Земскова (МФТИ)
Если попросить робота найти красную кружку на кухонном столе, ему мало уметь распознавать кружки: надо ещё понять, куда ехать, куда посмотреть и как связать увиденное с запросом. В докладе — сегментация вместе с навигацией, активное восприятие и графы сцены, позволяющие искать объекты по довольно сложным текстовым описаниям.
Особенно интересно, как эти задачи меняются с появлением больших языковых и мультимодальных моделей: где представление сцены нужно специально обучать, а где уже можно собрать систему из готовых компонентов. И насколько всё это работает на настоящем роботе, с ошибками камеры и ограниченными вычислениями. Как всегда, обсуждение после доклада тоже есть в записи.
#markovlab #seminar #spsu
❤15👍3🔥1👏1
Сегодня семинар был несколько неожиданно кратким, но оно и неплохо, наверное.) Зато потом хорошо пообщались.
#spsu #markovlab #seminar
#spsu #markovlab #seminar
❤22❤🔥5🥰4👏1
Зачем делать нейросеть глубже, а потом специально добавлять в неё пути в обход новых слоёв? Оказывается, именно так глубокой сети бывает проще обучиться:
СПбГУ — 2026.09.18 — Идеи свёрточных архитектур от VGG до EfficientNet
(слайды и доска на странице курса)
Мы продолжили разбирать свёрточные архитектуры: от маленьких фильтров VGG и блоков Inception до остаточных связей ResNet, MobileNet и EfficientNet.
Суть, конечно, не в самих архитектурах, а в довольно наглядных идеях: как расширить поле зрения, сэкономить параметры, провести градиент через много слоёв и не потратить на всё это слишком много вычислений.
Эти идеи полезны и за пределами CNN: например, остаточные связи используются буквально везде, и в трансформерах, конечно, тоже. А, например, идея EfficientNet специфична для свёрток, но сама мысль согласованно подбирать гиперпараметры единой формулой, безусловно, полезна до сих пор.
[Метакомментарий: как видите, пытаюсь немного разнообразить стиль, но в целом пока канал в этом семестре устойчиво скатывается в сплошные лекции, их реально у меня больше накапливается, чем дней в неделе. Это вам норм, дорогие подписчики? Или лучше пусть выкладывание лекций отстаёт, но в канале пусть бывает и что-то другое?]
#spsu #dl2026 #lectures
СПбГУ — 2026.09.18 — Идеи свёрточных архитектур от VGG до EfficientNet
(слайды и доска на странице курса)
Мы продолжили разбирать свёрточные архитектуры: от маленьких фильтров VGG и блоков Inception до остаточных связей ResNet, MobileNet и EfficientNet.
Суть, конечно, не в самих архитектурах, а в довольно наглядных идеях: как расширить поле зрения, сэкономить параметры, провести градиент через много слоёв и не потратить на всё это слишком много вычислений.
Эти идеи полезны и за пределами CNN: например, остаточные связи используются буквально везде, и в трансформерах, конечно, тоже. А, например, идея EfficientNet специфична для свёрток, но сама мысль согласованно подбирать гиперпараметры единой формулой, безусловно, полезна до сих пор.
[Метакомментарий: как видите, пытаюсь немного разнообразить стиль, но в целом пока канал в этом семестре устойчиво скатывается в сплошные лекции, их реально у меня больше накапливается, чем дней в неделе. Это вам норм, дорогие подписчики? Или лучше пусть выкладывание лекций отстаёт, но в канале пусть бывает и что-то другое?]
#spsu #dl2026 #lectures
❤30👍10🔥8
В курсе "Основы байесовского вывода" дошли до линейной регрессии и классического оверфиттинга. Пример с полиномиальной регрессией привожу всегда, он вечен:
СПбГУ — 2026.09.25 — Линейная регрессия
(слайды, доска и код на странице курса)
В новой лекции по байесовскому выводу разбираемся с переобучением и регуляризацией. Многочлен начинает бессмысленно извиваться между точками, особенно когда становится интерполяционным, но его можно успокоить штрафами за большие веса. Обсудили геометрический смысл регуляризации и то, как всё это получается из априорных распределений.
А дальше начинается самое интересное: вместо одного "лучшего" вектора весов у нас появляется апостериорное распределение на них. Мы увидели, какое оно получается, а потом проиллюстрировали байесовский вывод: стали добавлять данные по одной точке и смотреть, как меняется распределение и насколько можно доверять предсказаниям вдали от наблюдений. Именно ради этой неопределённости и стоит разбираться с байесовским выводом, ведь проблема никуда не исчезает, когда вместо прямой у нас большая нейросеть.
Аналитический вывод предсказательного распределения оставили на следующий раз, но главную идею уже объяснили на картинках.
#spsu #bayes2026 #lectures
СПбГУ — 2026.09.25 — Линейная регрессия
(слайды, доска и код на странице курса)
В новой лекции по байесовскому выводу разбираемся с переобучением и регуляризацией. Многочлен начинает бессмысленно извиваться между точками, особенно когда становится интерполяционным, но его можно успокоить штрафами за большие веса. Обсудили геометрический смысл регуляризации и то, как всё это получается из априорных распределений.
А дальше начинается самое интересное: вместо одного "лучшего" вектора весов у нас появляется апостериорное распределение на них. Мы увидели, какое оно получается, а потом проиллюстрировали байесовский вывод: стали добавлять данные по одной точке и смотреть, как меняется распределение и насколько можно доверять предсказаниям вдали от наблюдений. Именно ради этой неопределённости и стоит разбираться с байесовским выводом, ведь проблема никуда не исчезает, когда вместо прямой у нас большая нейросеть.
Аналитический вывод предсказательного распределения оставили на следующий раз, но главную идею уже объяснили на картинках.
#spsu #bayes2026 #lectures
❤10👍7🔥4🍓1
В среду у нас на семинаре интересная гостья, которая обещает рассказать, чем сейчас, в наше сложное и быстро меняющееся время, живёт математическая лингвистика. Может показаться, что современные LLM уже полностью овладели языком, но, видимо, это не так? Из списка литературы лично мне интереснее всего будет про персоны поговорить, Persona Selection Model уже давно появляется в моих докладах по AI safety, и это действительно важное направление как минимум в интерпретируемости.
Присоединяйтесь в среду:
Интерпретация явлений естественного языка в LLM для задачи контролируемой генерации текстов
Ольга Александровна Митрофанова
(к.ф.н., доц. СПбГУ)
Ссылка на трансляцию (среда 30 сентября, 13:40)
Современные языковые модели успешно справляются с порождением связных текстов, воспроизводя задаваемые пользователем характеристики (язык, стиль, структура и т.д.).
Вместе с тем, есть те лингвистические задачи, которые представляют сложность для LLM, в частности, моделирование лексико-семантических отношений в словосочетаниях, дифференциация синонимии и антонимии, моделирование внутрисловных связей и т.д.
В докладе рассматриваются решения, позволяющие повысить интерпретируемость результатов работы LLM. Материалы доклада могут заинтересовать как лингвистов, использующих LLM в своих исследованиях, так и прикладных математиков, разрабатывающих новые нейросетевые архитектуры.
Литература:
Astapenka, L., & Mitrofanova, O. (2026). Prediction of Lexical-Semantic Relations In Belarusian: From Word2Vec to LLM. In Computación y Sistemas, 30(1)
Athugodage, M., & Mitrofanova, O. (2025, June). The Influence of Language Typological Features on Neural Summarization Performance. In International Conference on Internet and Modern Society (pp. 132-144). Cham: Springer Nature Switzerland.
Bakaev, M., Gorovaia, S., & Mitrofanova, O. (2025). Who will author the synthetic texts? Evoking multiple personas from large language models to represent users’ associative thesauri. In Big Data and Cognitive Computing, 9(2), 46.
Mitrofanova, O., Iurevtseva, P., & Bakaev, M. (2025, October). What Do LLMs Know About Human Emotions? The Russian Case Study. In International Conference on Speech and Computer (pp. 129-144). Cham: Springer Nature Switzerland.
Rodionova, D. K., & Mitrofanova, O. A. (2026). Representation of Intraword Syntagmatic Relations in Vector Language Models. In Automatic Documentation and Mathematical Linguistics, 60(Suppl 3), 353-359.
#markovlab #seminar #spsu
Присоединяйтесь в среду:
Интерпретация явлений естественного языка в LLM для задачи контролируемой генерации текстов
Ольга Александровна Митрофанова
(к.ф.н., доц. СПбГУ)
Ссылка на трансляцию (среда 30 сентября, 13:40)
Современные языковые модели успешно справляются с порождением связных текстов, воспроизводя задаваемые пользователем характеристики (язык, стиль, структура и т.д.).
Вместе с тем, есть те лингвистические задачи, которые представляют сложность для LLM, в частности, моделирование лексико-семантических отношений в словосочетаниях, дифференциация синонимии и антонимии, моделирование внутрисловных связей и т.д.
В докладе рассматриваются решения, позволяющие повысить интерпретируемость результатов работы LLM. Материалы доклада могут заинтересовать как лингвистов, использующих LLM в своих исследованиях, так и прикладных математиков, разрабатывающих новые нейросетевые архитектуры.
Литература:
Astapenka, L., & Mitrofanova, O. (2026). Prediction of Lexical-Semantic Relations In Belarusian: From Word2Vec to LLM. In Computación y Sistemas, 30(1)
Athugodage, M., & Mitrofanova, O. (2025, June). The Influence of Language Typological Features on Neural Summarization Performance. In International Conference on Internet and Modern Society (pp. 132-144). Cham: Springer Nature Switzerland.
Bakaev, M., Gorovaia, S., & Mitrofanova, O. (2025). Who will author the synthetic texts? Evoking multiple personas from large language models to represent users’ associative thesauri. In Big Data and Cognitive Computing, 9(2), 46.
Mitrofanova, O., Iurevtseva, P., & Bakaev, M. (2025, October). What Do LLMs Know About Human Emotions? The Russian Case Study. In International Conference on Speech and Computer (pp. 129-144). Cham: Springer Nature Switzerland.
Rodionova, D. K., & Mitrofanova, O. A. (2026). Representation of Intraword Syntagmatic Relations in Vector Language Models. In Automatic Documentation and Mathematical Linguistics, 60(Suppl 3), 353-359.
#markovlab #seminar #spsu
👍9🔥4❤3👏1
Очередной семинар лаборатории Маркова уже почти идёт, а я вот выкладываю предыдущий:
Семинар лаборатории Маркова — 2026.09.23 — Моделирование динамики мнений по цифровым следам
(слайды на странице семинара)
Хэ Юйлун (СПбГУ) рассказывает о двух способах превратить цифровые следы в данные для моделей динамики мнений: через тональность комментариев в Weibo и через векторные представления изменений программного кода. В докладе он рассказывал о том, как переходить от текстов к численным траекториям, оценивать и прогнозировать связи между участниками; потом было ещё некоторое обсуждение о том, что именно эти числа измеряют и можно ли считать их "мнением".
Грубо говоря, классические модели усреднения мнений и влияния соседей всё ещё живы, но теперь к ним можно добавить данные, извлечённые нейросетями из текста и кода. Это даёт новые возможности для проверки моделей, хотя с интерпретацией всё ещё нужно обращаться осторожно: сходство траекторий не доказывает влияния одного человека на другого.
#markovlab #seminar #spsu
Семинар лаборатории Маркова — 2026.09.23 — Моделирование динамики мнений по цифровым следам
(слайды на странице семинара)
Хэ Юйлун (СПбГУ) рассказывает о двух способах превратить цифровые следы в данные для моделей динамики мнений: через тональность комментариев в Weibo и через векторные представления изменений программного кода. В докладе он рассказывал о том, как переходить от текстов к численным траекториям, оценивать и прогнозировать связи между участниками; потом было ещё некоторое обсуждение о том, что именно эти числа измеряют и можно ли считать их "мнением".
Грубо говоря, классические модели усреднения мнений и влияния соседей всё ещё живы, но теперь к ним можно добавить данные, извлечённые нейросетями из текста и кода. Это даёт новые возможности для проверки моделей, хотя с интерпретацией всё ещё нужно обращаться осторожно: сходство траекторий не доказывает влияния одного человека на другого.
#markovlab #seminar #spsu
❤6🔥5👍3
Сегодня на семинар много людей собралось! Про лингвистику вообще всегда интересно послушать, большое спасибо Ольге Александровне!
Вот когда ещё, например, наш семинар получил бы рейтинг 18+?.. Посмотрим, что YouTube об этом скажет)
#seminar #spsu #markovlab
Вот когда ещё, например, наш семинар получил бы рейтинг 18+?.. Посмотрим, что YouTube об этом скажет)
#seminar #spsu #markovlab
❤16🔥8👍6
В среду на семинаре лаборатории Маркова очень крутая тема. Давно собирался добавить её к своим лекциям, но там и так тесно получается каждый год, а теперь вот будет на что сослаться, надеюсь:
Индуктивный вывод по Соломонову: универсальный алгоритм машинного обучения, лучший среди всех?
Кирилл Соколов (СПбГУ)
Ссылка на трансляцию (среда 07 октября, 13:40)
Существует ли универсальный алгоритм машинного обучения, лучший среди всех алгоритмов на свете?
Оказывается, да! Он называется "индуктивный вывод Соломонова" (Solomonoff's inductive inference), в честь Рея Соломонова, разработавшего эту теорию ещё в 1960-х годах.
Что это за алгоритм, в каком смысле он "лучший" и почему вы о нём ничего не слышали — обо всём этом я подробно расскажу 7 октября на заседании семинара лаборатории Маркова.
В докладе будет много красивейшей математики! Чтобы слушать с кайфом, ничего даже из стандартного ML знать не требуется. Проще всего будет студентам-математикам 2-3 курсов бакалавриата. Задействованные области математики: теория вероятностей, теория меры, теоретическая информатика.
#markovlab #seminar #spsu
Индуктивный вывод по Соломонову: универсальный алгоритм машинного обучения, лучший среди всех?
Кирилл Соколов (СПбГУ)
Ссылка на трансляцию (среда 07 октября, 13:40)
Существует ли универсальный алгоритм машинного обучения, лучший среди всех алгоритмов на свете?
Оказывается, да! Он называется "индуктивный вывод Соломонова" (Solomonoff's inductive inference), в честь Рея Соломонова, разработавшего эту теорию ещё в 1960-х годах.
Что это за алгоритм, в каком смысле он "лучший" и почему вы о нём ничего не слышали — обо всём этом я подробно расскажу 7 октября на заседании семинара лаборатории Маркова.
В докладе будет много красивейшей математики! Чтобы слушать с кайфом, ничего даже из стандартного ML знать не требуется. Проще всего будет студентам-математикам 2-3 курсов бакалавриата. Задействованные области математики: теория вероятностей, теория меры, теоретическая информатика.
#markovlab #seminar #spsu
🔥31👍10❤9
Даа, посты явно сильно отстают от темпа, заданного этим семестром... Впрочем, какая разница, это же не злободневные новости, а фундаментальные курсы лекций. Сегодня вот дошли до лекции, которая была в "Глубоком обучении" в позапрошлую пятницу:
СПбГУ — 2026.09.25 — Распознавание объектов
(слайды и доска на странице курса)
В новой лекции по глубокому обучению переходим от классификации картинок к распознаванию объектов. Я на этот раз сократил часть про компьютерное зрение, хочется всё-таки побольше поговорить про generative AI, но мы всё равно прошли стандартный путь от R-CNN, который отдельно обрабатывал каждый предложенный прямоугольник, до Faster R-CNN и YOLO. По дороге обсудили, как вообще обучать сеть с переменным числом ответов, почему маленькие объекты так трудно находить и как иерархия классов помогает объединять разные датасеты.
Как всегда, эта история интересна не конкретными архитектурами, а идеями, которые пригождаются далеко за пределами распознавания котиков: один раз посчитать общие признаки, добавить маленькому объекту контекст всей картинки, не дать тысячам простых отрицательных примеров заглушить несколько важных положительных... Архитектуры меняются, а идеи остаются, так что и в эпоху трансформеров их полезно понимать.
#spsu #dl2026 #lectures
СПбГУ — 2026.09.25 — Распознавание объектов
(слайды и доска на странице курса)
В новой лекции по глубокому обучению переходим от классификации картинок к распознаванию объектов. Я на этот раз сократил часть про компьютерное зрение, хочется всё-таки побольше поговорить про generative AI, но мы всё равно прошли стандартный путь от R-CNN, который отдельно обрабатывал каждый предложенный прямоугольник, до Faster R-CNN и YOLO. По дороге обсудили, как вообще обучать сеть с переменным числом ответов, почему маленькие объекты так трудно находить и как иерархия классов помогает объединять разные датасеты.
Как всегда, эта история интересна не конкретными архитектурами, а идеями, которые пригождаются далеко за пределами распознавания котиков: один раз посчитать общие признаки, добавить маленькому объекту контекст всей картинки, не дать тысячам простых отрицательных примеров заглушить несколько важных положительных... Архитектуры меняются, а идеи остаются, так что и в эпоху трансформеров их полезно понимать.
#spsu #dl2026 #lectures
❤11👍5👏2
Математика закрывается, а математики живее всех живых!
На сегодняшний доклад, самый теоретический и абстрактный из всех, пришло больше всего слушателей. И это прекрасно!
#seminar #spsu #markovlab
На сегодняшний доклад, самый теоретический и абстрактный из всех, пришло больше всего слушателей. И это прекрасно!
#seminar #spsu #markovlab
❤37❤🔥8👍5🤩1🍓1
Ну и рекордный третий пост за день, но иначе уже невозможно — надо всё-таки выложить предыдущий семинар, раз следующий уже сегодня прошёл:
Семинар Markov Lab — 2026.09.30 — Интерпретация явлений естественного языка в LLM для задачи контролируемой генерации текстов
(слайды на странице семинара)
Ольга Александровна Митрофанова (СПбГУ) рассказывала о персонификации языковых моделей: как задавать им возраст, пол, образование и другие характеристики и проверять, что получилось. В докладе — синтетические корпусы, сравнение ассоциаций людей и LLM, а также эксперименты с языковым выражением эмоций: как модель отвечает ребёнку или взрослому, который радуется или грустит.
Здесь у классической лингвистики появляется новая работа: представления о языковой личности, корпусные методы и ассоциативные эксперименты помогают разбирать ответы LLM. Впрочем, правдоподобно сыгранная роль ещё не значит, что модель воспроизводит человеческие закономерности.
В обсуждении много говорили о том, как сравнивать людей и модели, отделять влияние персоны от самого запроса и как вообще заниматься этой наукой, если модели постоянно меняются (а они меняются!).
В целом, доклад вызвал действительно очень живое обсуждение и длинную дискуссию, и мне кажется, что это было очень круто. Уважаемые лингвисты, приходите ещё! :)
#markovlab #seminar #spsu
Семинар Markov Lab — 2026.09.30 — Интерпретация явлений естественного языка в LLM для задачи контролируемой генерации текстов
(слайды на странице семинара)
Ольга Александровна Митрофанова (СПбГУ) рассказывала о персонификации языковых моделей: как задавать им возраст, пол, образование и другие характеристики и проверять, что получилось. В докладе — синтетические корпусы, сравнение ассоциаций людей и LLM, а также эксперименты с языковым выражением эмоций: как модель отвечает ребёнку или взрослому, который радуется или грустит.
Здесь у классической лингвистики появляется новая работа: представления о языковой личности, корпусные методы и ассоциативные эксперименты помогают разбирать ответы LLM. Впрочем, правдоподобно сыгранная роль ещё не значит, что модель воспроизводит человеческие закономерности.
В обсуждении много говорили о том, как сравнивать людей и модели, отделять влияние персоны от самого запроса и как вообще заниматься этой наукой, если модели постоянно меняются (а они меняются!).
В целом, доклад вызвал действительно очень живое обсуждение и длинную дискуссию, и мне кажется, что это было очень круто. Уважаемые лингвисты, приходите ещё! :)
#markovlab #seminar #spsu
❤22❤🔥11👍7
Следующий доклад на семинаре лаборатории Маркова опять внутренний, но от этого не менее интересный:
Методы эвристического поиска и машинного обучения для решения головоломок
Ссылка на трансляцию (среда 14 октября, 13:40)
Александр Ананикян, Даниил Дроздов
(Лаборатория Маркова, СПбГУ)
С появлением ARC-AGI наука о решении головоломок разгерметизировалась. Теперь это не только развлечение для энтузиастов, но и важный бенчмарк для LLM. Однако прежде чем проверять интеллект на головоломках, неплохо бы разобраться, как их вообще решать.
В докладе мы дадим обзор современных подходов к решению кубика Рубика, познакомимся с PushWorld — головоломкой от DeepMind, в которой нужно толкать объекты к заданным целям, — и расскажем, как решали эти головоломки в рамках своих дипломных работ.
#markovlab #seminar #spsu
Методы эвристического поиска и машинного обучения для решения головоломок
Ссылка на трансляцию (среда 14 октября, 13:40)
Александр Ананикян, Даниил Дроздов
(Лаборатория Маркова, СПбГУ)
С появлением ARC-AGI наука о решении головоломок разгерметизировалась. Теперь это не только развлечение для энтузиастов, но и важный бенчмарк для LLM. Однако прежде чем проверять интеллект на головоломках, неплохо бы разобраться, как их вообще решать.
В докладе мы дадим обзор современных подходов к решению кубика Рубика, познакомимся с PushWorld — головоломкой от DeepMind, в которой нужно толкать объекты к заданным целям, — и расскажем, как решали эти головоломки в рамках своих дипломных работ.
#markovlab #seminar #spsu
🔥11❤6👍3
Как заставить нейросеть сначала закрасить силуэт панды на фотографии, а потом уверенно увидеть в ней гиббона? В курсе "Глубокое обучение" в СПбГУ на прошлой неделе была сдвоенная лекция (потому что в эту пятницу я уезжал, так что, может, даже какой-нибудь не-лекционный пост или лишний обзор игры найдётся для вас на следующей неделе):
СПбГУ — 2026.10.02 — Сегментация и рекуррентные сети
(слайды и доска на странице курса)
В лекции мы сначала переходим от прямоугольников вокруг объектов к попиксельным маскам: FCN, U-Net, Mask R-CNN и несколько способов не растерять точную геометрию картинки. У идеи U-Net оказалась долгая жизнь: энкодер, декодер и связи между ними сохраняются и в моделях, где свёртки заменяют механизмами внимания.
Затем разбираемся, как почти незаметная добавка к изображению может кардинально изменить ответ сети и почему такие состязательные примеры можно использовать для обучения.
А вторая лекция была посвящена рекуррентным сетям. Мы выяснили, почему им трудно помнить далёкое прошлое, а потом представили возможные решения этой проблемы. LSTM становится гораздо понятнее, если видеть в нём контроллер памяти: один гейт стирает из памяти, другой записывает, третий решает, что прочитать. Мы сравнили его с GRU и обсудили, почему попытки сэкономить на матрицах так и не сделали LSTM ненужным.
Впереди уже механизмы внимания, а там и великий и ужасный трансформер!
#spsu #dl2026 #lectures
СПбГУ — 2026.10.02 — Сегментация и рекуррентные сети
(слайды и доска на странице курса)
В лекции мы сначала переходим от прямоугольников вокруг объектов к попиксельным маскам: FCN, U-Net, Mask R-CNN и несколько способов не растерять точную геометрию картинки. У идеи U-Net оказалась долгая жизнь: энкодер, декодер и связи между ними сохраняются и в моделях, где свёртки заменяют механизмами внимания.
Затем разбираемся, как почти незаметная добавка к изображению может кардинально изменить ответ сети и почему такие состязательные примеры можно использовать для обучения.
А вторая лекция была посвящена рекуррентным сетям. Мы выяснили, почему им трудно помнить далёкое прошлое, а потом представили возможные решения этой проблемы. LSTM становится гораздо понятнее, если видеть в нём контроллер памяти: один гейт стирает из памяти, другой записывает, третий решает, что прочитать. Мы сравнили его с GRU и обсудили, почему попытки сэкономить на матрицах так и не сделали LSTM ненужным.
Впереди уже механизмы внимания, а там и великий и ужасный трансформер!
#spsu #dl2026 #lectures
❤10👍5🔥3👀2
Уже традиционно выкладываю предыдущий семинар в день следующего.
Что, если вместо выбора конкретной модели машинного обучения усреднить предсказания всех моделей на свете? Если у вас есть бесконечные вычислительные ресурсы, это оказывается очень сильной идеей, связанной и с байесовским выводом, и с колмогоровской сложностью:
Семинар Markov Lab — 2026.10.07 — Индуктивный вывод Рея Соломонова
(слайды на странице семинара)
Кирилл Соколов (СПбГУ)
Начинается доклад с простого вопроса: как угадать следующее число в последовательности? Дальше появляются вероятностные меры, байесовский вывод и идея усреднить предсказания всех программ, которые могли породить наши наблюдения. Чем короче программа, тем больше её вес; здесь прогнозирование встречается с колмогоровской сложностью.
Получается удивительно сильный предсказатель — конечно, с оговоркой о том, что вычислить его в общем случае нельзя.
Эта идея остаётся разумной точкой отсчёта и сегодня. Любопытно, что разговор всю дорогу шёл фактически про языковые модели, которые учатся предсказывать следующий токен в последовательности — этим же действительно можно выразить любую задачу ML.
В докладе обсудили, что теряется при переходе от идеального вывода к доступным вычислениям, как на это смотреть через смеси моделей, dropout и SGD и почему одной гарантии качества недостаточно без вопроса о времени работы. А заодно разобрались, чем индукция отличается от дедукции и как это связано с "no free lunch"-теоремами.
#markovlab #seminar #spsu
Что, если вместо выбора конкретной модели машинного обучения усреднить предсказания всех моделей на свете? Если у вас есть бесконечные вычислительные ресурсы, это оказывается очень сильной идеей, связанной и с байесовским выводом, и с колмогоровской сложностью:
Семинар Markov Lab — 2026.10.07 — Индуктивный вывод Рея Соломонова
(слайды на странице семинара)
Кирилл Соколов (СПбГУ)
Начинается доклад с простого вопроса: как угадать следующее число в последовательности? Дальше появляются вероятностные меры, байесовский вывод и идея усреднить предсказания всех программ, которые могли породить наши наблюдения. Чем короче программа, тем больше её вес; здесь прогнозирование встречается с колмогоровской сложностью.
Получается удивительно сильный предсказатель — конечно, с оговоркой о том, что вычислить его в общем случае нельзя.
Эта идея остаётся разумной точкой отсчёта и сегодня. Любопытно, что разговор всю дорогу шёл фактически про языковые модели, которые учатся предсказывать следующий токен в последовательности — этим же действительно можно выразить любую задачу ML.
В докладе обсудили, что теряется при переходе от идеального вывода к доступным вычислениям, как на это смотреть через смеси моделей, dropout и SGD и почему одной гарантии качества недостаточно без вопроса о времени работы. А заодно разобрались, чем индукция отличается от дедукции и как это связано с "no free lunch"-теоремами.
#markovlab #seminar #spsu
❤13👍8🔥6
Семинар сегодня вышел... терапевтическим. Времена нынче сложные, и нам всем нужно в каком-то смысле перепридумывать себя.
Коллеги рассказывали о том, как решать головоломки - но в том числе и о том, чем сейчас можно заниматься и как это выглядит.
А выглядит, кстати, весьма прикольно.) Не переживайте, всё ещё будет хорошо.)
#spsu #markovlab #seminar
Коллеги рассказывали о том, как решать головоломки - но в том числе и о том, чем сейчас можно заниматься и как это выглядит.
А выглядит, кстати, весьма прикольно.) Не переживайте, всё ещё будет хорошо.)
#spsu #markovlab #seminar
🔥22❤8👍3❤🔥1🥰1🤓1
Линейная регрессия нарисовала прямую. Но насколько она уверена в ответе — особенно там, где не видела ни одной точки? Продолжаем разговор о байесовском выводе:
СПбГУ — 2026.10.16 — Предсказания и классификация
(слайды, доска и ноутбук на странице курса)
Сначала закончили байесовскую линейную регрессию: вместо одного "лучшего" набора весов учитываем всё апостериорное распределение и получаем не только прогноз, но и его неопределённость. На картинках и в ноутбуке видно, почему она зависит от того, где именно мы спрашиваем модель, и что происходит при экстраполяции.
Затем переходим к классификации: рисуем разделяющие поверхности, ищем хорошую проекцию методом Фишера и выводим оптимальный байесовский классификатор. Из предположения о гауссовских классах получаются QDA и LDA — и становится понятно, от чего зависит форма границы между классами. Эти классические идеи полезны и сегодня: на них хорошо видно, как связаны геометрия, вероятности и предположения о данных.
#spsu #bayes2026 #lectures
СПбГУ — 2026.10.16 — Предсказания и классификация
(слайды, доска и ноутбук на странице курса)
Сначала закончили байесовскую линейную регрессию: вместо одного "лучшего" набора весов учитываем всё апостериорное распределение и получаем не только прогноз, но и его неопределённость. На картинках и в ноутбуке видно, почему она зависит от того, где именно мы спрашиваем модель, и что происходит при экстраполяции.
Затем переходим к классификации: рисуем разделяющие поверхности, ищем хорошую проекцию методом Фишера и выводим оптимальный байесовский классификатор. Из предположения о гауссовских классах получаются QDA и LDA — и становится понятно, от чего зависит форма границы между классами. Эти классические идеи полезны и сегодня: на них хорошо видно, как связаны геометрия, вероятности и предположения о данных.
#spsu #bayes2026 #lectures
❤6👍4🔥4