Даа, посты явно сильно отстают от темпа, заданного этим семестром... Впрочем, какая разница, это же не злободневные новости, а фундаментальные курсы лекций. Сегодня вот дошли до лекции, которая была в "Глубоком обучении" в позапрошлую пятницу:
СПбГУ — 2026.09.25 — Распознавание объектов
(слайды и доска на странице курса)
В новой лекции по глубокому обучению переходим от классификации картинок к распознаванию объектов. Я на этот раз сократил часть про компьютерное зрение, хочется всё-таки побольше поговорить про generative AI, но мы всё равно прошли стандартный путь от R-CNN, который отдельно обрабатывал каждый предложенный прямоугольник, до Faster R-CNN и YOLO. По дороге обсудили, как вообще обучать сеть с переменным числом ответов, почему маленькие объекты так трудно находить и как иерархия классов помогает объединять разные датасеты.
Как всегда, эта история интересна не конкретными архитектурами, а идеями, которые пригождаются далеко за пределами распознавания котиков: один раз посчитать общие признаки, добавить маленькому объекту контекст всей картинки, не дать тысячам простых отрицательных примеров заглушить несколько важных положительных... Архитектуры меняются, а идеи остаются, так что и в эпоху трансформеров их полезно понимать.
#spsu #dl2026 #lectures
СПбГУ — 2026.09.25 — Распознавание объектов
(слайды и доска на странице курса)
В новой лекции по глубокому обучению переходим от классификации картинок к распознаванию объектов. Я на этот раз сократил часть про компьютерное зрение, хочется всё-таки побольше поговорить про generative AI, но мы всё равно прошли стандартный путь от R-CNN, который отдельно обрабатывал каждый предложенный прямоугольник, до Faster R-CNN и YOLO. По дороге обсудили, как вообще обучать сеть с переменным числом ответов, почему маленькие объекты так трудно находить и как иерархия классов помогает объединять разные датасеты.
Как всегда, эта история интересна не конкретными архитектурами, а идеями, которые пригождаются далеко за пределами распознавания котиков: один раз посчитать общие признаки, добавить маленькому объекту контекст всей картинки, не дать тысячам простых отрицательных примеров заглушить несколько важных положительных... Архитектуры меняются, а идеи остаются, так что и в эпоху трансформеров их полезно понимать.
#spsu #dl2026 #lectures
❤11👍5👏2
Только что выкладывал здесь свой доклад "Vibemathed", а тут OpenAI подтвердила давние слухи и выложила массу новых результатов в виде препринтов.
Большой пост об этом писать не знаю как, учитывая, что большинство этих результатов я не понимаю даже на уровне формулировки. Но вот что при беглом прочтении кажется самым главным в списке:
— 003: квазигипотеза Римана, ну тут без вопросов, это огромный качественный прорыв;
— 032: гипотезы Ходжа и Тейта для важных случаев; это не вполне закрытая задача на миллион, но тоже очевидны огромные последствия;
— 004: десятая проблема Гильберта над Q; это я выбрал больше ностальгически как большой привет Юрию Владимировичу Матиясевичу, но это и правда была важная задача;
— 034: гипотеза изобилия, которая важна для классификации алгебраических многообразий;
— 002 + 006: гипотеза Бёрча-Свиннертона-Даера и гипотеза Голдфельда, которые в сумме тоже дают большой шаг к ещё одной задаче тысячелетия (но она не закрыта ещё совсем);
— 159: гипотеза Эрдёша об арифметических прогрессиях.
И в информатике, где я всё-таки могу понять, о чём конкретно идёт речь:
— 102: unique games; получены точные пределы приближения, и это сразу даёт массу результатов о (не)приближаемости разных NP-трудных задач;
— 103: L = RL = BPL, полная дерандомизация в классе алгоритмов с логарифмической памятью;
— 107: экспонента в сложности умножения матриц над С сведена до 2.25; новые алгоритмы об умножении матриц регулярно придумывают, в том числе автоматически, но здесь реально огромный скачок.
В целом, если бы это не было частью глобальной AI-революции, текст со скромным названием "OpenAI Research Catalog" стал бы главным математическим текстом тысячелетия, а может, и двух.
Но вопрос уже давно стоит шире любой конкретной задачи, будь она хоть на миллион, хоть на два. Выделю главную заключительную мысль из моего доклада, да и вообще из текущего математического zeitgeist (недавно как раз об этом разговаривал в дружественном канале Валентина Малых).
Главное в том, что сейчас пока не вполне понятно как, но точно радикально меняется понятие "результата" в математике.
Раньше как было: основной результат математика — доказанные теоремы. Если именную гипотезу доказал, над которой люди долго думали и не придумали, ты точно молодец. Это относительно легко проверяемая специалистами вещь (бывают исключения вроде abc-гипотезы, но они редки), и если специалисты проверили, то легко согласиться с тем, что результат есть и он крутой. Даже если надо быть очень узким специалистом, чтобы понять суть твоей работы. Конечно, я упрощаю, конечно, математики бывают разные, и это долгий разговор, но в целом было примерно так.
Сейчас ситуация изменилась радикально. Доказательства теперь не то чтобы ничего не стоят: не любую задачу можно решить, задачи бывают сложнее и проще, а AI-модели не всемогущи. Но человек перестал быть основным средством доказательства теорем, то есть доказательства перестали принадлежать людям. Пока ещё нужно проверять результаты и переписывать более понятно для других людей, но это тоже нужно всё в меньшей степени.
Что такое "результат" для человека теперь, математики пока не согласились, и любое новое определение ведёт к серьёзным институциональным изменениям. Да и вообще непонятно, что такое теперь "быть математиком". И это не думерский прогноз, а реальный вопрос, на который математическому сообществу придётся отвечать прямо сейчас.
Ещё одна важная деталь в том, что это результаты внутренней модели OpenAI. Иначе говоря, новые доказательства теперь не просто не людьми делаются, но и получить их из "чёрного ящика пришельцев" могут только очень специальные люди.
И, как вы понимаете, пока я говорю о математике, потому что там это уже случилось. Но другие науки ждёт то же самое в ближайшем будущем, а там и не только науки. Дивный новый мир становится всё интереснее...
#ai #math #news #blog
Большой пост об этом писать не знаю как, учитывая, что большинство этих результатов я не понимаю даже на уровне формулировки. Но вот что при беглом прочтении кажется самым главным в списке:
— 003: квазигипотеза Римана, ну тут без вопросов, это огромный качественный прорыв;
— 032: гипотезы Ходжа и Тейта для важных случаев; это не вполне закрытая задача на миллион, но тоже очевидны огромные последствия;
— 004: десятая проблема Гильберта над Q; это я выбрал больше ностальгически как большой привет Юрию Владимировичу Матиясевичу, но это и правда была важная задача;
— 034: гипотеза изобилия, которая важна для классификации алгебраических многообразий;
— 002 + 006: гипотеза Бёрча-Свиннертона-Даера и гипотеза Голдфельда, которые в сумме тоже дают большой шаг к ещё одной задаче тысячелетия (но она не закрыта ещё совсем);
— 159: гипотеза Эрдёша об арифметических прогрессиях.
И в информатике, где я всё-таки могу понять, о чём конкретно идёт речь:
— 102: unique games; получены точные пределы приближения, и это сразу даёт массу результатов о (не)приближаемости разных NP-трудных задач;
— 103: L = RL = BPL, полная дерандомизация в классе алгоритмов с логарифмической памятью;
— 107: экспонента в сложности умножения матриц над С сведена до 2.25; новые алгоритмы об умножении матриц регулярно придумывают, в том числе автоматически, но здесь реально огромный скачок.
В целом, если бы это не было частью глобальной AI-революции, текст со скромным названием "OpenAI Research Catalog" стал бы главным математическим текстом тысячелетия, а может, и двух.
Но вопрос уже давно стоит шире любой конкретной задачи, будь она хоть на миллион, хоть на два. Выделю главную заключительную мысль из моего доклада, да и вообще из текущего математического zeitgeist (недавно как раз об этом разговаривал в дружественном канале Валентина Малых).
Главное в том, что сейчас пока не вполне понятно как, но точно радикально меняется понятие "результата" в математике.
Раньше как было: основной результат математика — доказанные теоремы. Если именную гипотезу доказал, над которой люди долго думали и не придумали, ты точно молодец. Это относительно легко проверяемая специалистами вещь (бывают исключения вроде abc-гипотезы, но они редки), и если специалисты проверили, то легко согласиться с тем, что результат есть и он крутой. Даже если надо быть очень узким специалистом, чтобы понять суть твоей работы. Конечно, я упрощаю, конечно, математики бывают разные, и это долгий разговор, но в целом было примерно так.
Сейчас ситуация изменилась радикально. Доказательства теперь не то чтобы ничего не стоят: не любую задачу можно решить, задачи бывают сложнее и проще, а AI-модели не всемогущи. Но человек перестал быть основным средством доказательства теорем, то есть доказательства перестали принадлежать людям. Пока ещё нужно проверять результаты и переписывать более понятно для других людей, но это тоже нужно всё в меньшей степени.
Что такое "результат" для человека теперь, математики пока не согласились, и любое новое определение ведёт к серьёзным институциональным изменениям. Да и вообще непонятно, что такое теперь "быть математиком". И это не думерский прогноз, а реальный вопрос, на который математическому сообществу придётся отвечать прямо сейчас.
Ещё одна важная деталь в том, что это результаты внутренней модели OpenAI. Иначе говоря, новые доказательства теперь не просто не людьми делаются, но и получить их из "чёрного ящика пришельцев" могут только очень специальные люди.
И, как вы понимаете, пока я говорю о математике, потому что там это уже случилось. Но другие науки ждёт то же самое в ближайшем будущем, а там и не только науки. Дивный новый мир становится всё интереснее...
#ai #math #news #blog
❤36🔥11👍5😱3
Математика закрывается, а математики живее всех живых!
На сегодняшний доклад, самый теоретический и абстрактный из всех, пришло больше всего слушателей. И это прекрасно!
#seminar #spsu #markovlab
На сегодняшний доклад, самый теоретический и абстрактный из всех, пришло больше всего слушателей. И это прекрасно!
#seminar #spsu #markovlab
❤37❤🔥8👍5🤩1🍓1
Ну и рекордный третий пост за день, но иначе уже невозможно — надо всё-таки выложить предыдущий семинар, раз следующий уже сегодня прошёл:
Семинар Markov Lab — 2026.09.30 — Интерпретация явлений естественного языка в LLM для задачи контролируемой генерации текстов
(слайды на странице семинара)
Ольга Александровна Митрофанова (СПбГУ) рассказывала о персонификации языковых моделей: как задавать им возраст, пол, образование и другие характеристики и проверять, что получилось. В докладе — синтетические корпусы, сравнение ассоциаций людей и LLM, а также эксперименты с языковым выражением эмоций: как модель отвечает ребёнку или взрослому, который радуется или грустит.
Здесь у классической лингвистики появляется новая работа: представления о языковой личности, корпусные методы и ассоциативные эксперименты помогают разбирать ответы LLM. Впрочем, правдоподобно сыгранная роль ещё не значит, что модель воспроизводит человеческие закономерности.
В обсуждении много говорили о том, как сравнивать людей и модели, отделять влияние персоны от самого запроса и как вообще заниматься этой наукой, если модели постоянно меняются (а они меняются!).
В целом, доклад вызвал действительно очень живое обсуждение и длинную дискуссию, и мне кажется, что это было очень круто. Уважаемые лингвисты, приходите ещё! :)
#markovlab #seminar #spsu
Семинар Markov Lab — 2026.09.30 — Интерпретация явлений естественного языка в LLM для задачи контролируемой генерации текстов
(слайды на странице семинара)
Ольга Александровна Митрофанова (СПбГУ) рассказывала о персонификации языковых моделей: как задавать им возраст, пол, образование и другие характеристики и проверять, что получилось. В докладе — синтетические корпусы, сравнение ассоциаций людей и LLM, а также эксперименты с языковым выражением эмоций: как модель отвечает ребёнку или взрослому, который радуется или грустит.
Здесь у классической лингвистики появляется новая работа: представления о языковой личности, корпусные методы и ассоциативные эксперименты помогают разбирать ответы LLM. Впрочем, правдоподобно сыгранная роль ещё не значит, что модель воспроизводит человеческие закономерности.
В обсуждении много говорили о том, как сравнивать людей и модели, отделять влияние персоны от самого запроса и как вообще заниматься этой наукой, если модели постоянно меняются (а они меняются!).
В целом, доклад вызвал действительно очень живое обсуждение и длинную дискуссию, и мне кажется, что это было очень круто. Уважаемые лингвисты, приходите ещё! :)
#markovlab #seminar #spsu
❤22❤🔥11👍7
А вот контент совсем новый, которого раньше в моих лекциях не было. В курсе "Технологии и фронтиры науки о данных" в ЮФУ я на прошлой лекции в конце заметил, что разговор об одном нейроне прошёл вроде бы хорошо, но слушатели совсем потерялись, когда я перешёл к сетям и начал говорить об оптимизации, функциях ошибки и вообще о том, что технически значит "обучение".
Поэтому лекцию в понедельник я сделал совсем новую. Постарался рассказать о том, что такое "обучение AI-модели", в самых-самых простых словах, начиная от печки:
ЮФУ — 2026.10.05 — Как обучаются модели машинного обучения
(слайды и доска на странице курса)
Первая задача обучения в этой лекции звучит буквально так. Предположим, что вы начали работать в копицентре, но вам забыли выдать прайс-лист. Зато на столе лежат три вчерашних чека: в первом за одну страницу распечатки заплатили 30 рублей, во втором 60 рублей за две, в третьем — 90 рублей за три. Какое, на ваш взгляд, здесь правило ценообразования?
И вот от этого вопроса мы начали потихоньку разворачивать основные понятия машинного обучения: чем inference отличается от learning, что такое функция ошибки, как выглядит эта задача с двумя параметрами (условная цена за оформление заказа), как данным соответствует много разных моделей (к 30x можно же прибавить 10(x-1)(x-2)(x-3), сохраняя нулевую ошибку), как работает локальный поиск параметров, почему бы их просто не перебрать...
Дошли, в целом, до понятия градиентного спуска; в следующий раз попробую уже всё-таки на нейросети этот разговор спроецировать.
Это был очень новый для меня педагогический опыт, так что, наверное, объяснял я не идеально, но кажется, что получилось интересно, и студенты тоже в итоге сказали, что "шестерёнки в голове начали вращаться". Так что если вам интересно узнать, что такое машинное обучение, но у вас нет никакой подготовки в этой области, попробуйте, вдруг зайдёт.)
#sfu #lectures #dsfrontiers
Поэтому лекцию в понедельник я сделал совсем новую. Постарался рассказать о том, что такое "обучение AI-модели", в самых-самых простых словах, начиная от печки:
ЮФУ — 2026.10.05 — Как обучаются модели машинного обучения
(слайды и доска на странице курса)
Первая задача обучения в этой лекции звучит буквально так. Предположим, что вы начали работать в копицентре, но вам забыли выдать прайс-лист. Зато на столе лежат три вчерашних чека: в первом за одну страницу распечатки заплатили 30 рублей, во втором 60 рублей за две, в третьем — 90 рублей за три. Какое, на ваш взгляд, здесь правило ценообразования?
И вот от этого вопроса мы начали потихоньку разворачивать основные понятия машинного обучения: чем inference отличается от learning, что такое функция ошибки, как выглядит эта задача с двумя параметрами (условная цена за оформление заказа), как данным соответствует много разных моделей (к 30x можно же прибавить 10(x-1)(x-2)(x-3), сохраняя нулевую ошибку), как работает локальный поиск параметров, почему бы их просто не перебрать...
Дошли, в целом, до понятия градиентного спуска; в следующий раз попробую уже всё-таки на нейросети этот разговор спроецировать.
Это был очень новый для меня педагогический опыт, так что, наверное, объяснял я не идеально, но кажется, что получилось интересно, и студенты тоже в итоге сказали, что "шестерёнки в голове начали вращаться". Так что если вам интересно узнать, что такое машинное обучение, но у вас нет никакой подготовки в этой области, попробуйте, вдруг зайдёт.)
#sfu #lectures #dsfrontiers
❤17❤🔥8👍5🥰4
Сегодня у нас сразу три мини-обзора на пять игр, если считать трилогию по частям. И все очень маленькие. В Steam была распродажа Playism, я взял очень дешёвый бандл с кучей мини-игр, несколько прошёл, и некоторые даже понравились:
Мини-игры от Playism: 7 Days to End With You, Awareness Rooms, Star Sky 1–3
(и вот пост на DTF)
Playism — издательская марка осакской компании Active Gaming Media, существует с 2011 года. Придумана она была для того, чтобы возить японские додзин-игры на Запад, а западные инди — в Японию, и за пятнадцать лет через неё прошло больше полутора сотен игр, в том числе La-Mulana, Momodora, Omori (на консолях), Bright Memory, локализация Yume Nikki. Всё это широко известные тайтлы. Но рядом в каталоге лежит куча маленьких игр по сто-двести рублей, которые в распродажу можно взять охапкой не глядя.
7 Days to End With You
Начну с лучшего. 7 Days to End With You — игра японского разработчика-одиночки lizardry, вышла в 2022 году. И это очень крутая головоломка.
Завязка такая: вы открываете глаза в незнакомой комнате, ничего не помните, а рядом с кроватью стоит незнакомка с красными волосами и что-то говорит. И вы не понимаете ни слова — не в переносном смысле, а буквально: весь текст в игре написан на выдуманном языке из закорючек. Игра честно предупреждает на первом же экране: “вы наблюдатель этой истории”, “вы вольны понимать слова, которые читаете, как хотите”, “мир изменится в зависимости от вашего понимания”. [...]
Сначала мне вообще показалось, что это лингвистическая игра вроде Chants of Sennaar, где надо расшифровывать довольно разные между собой языки (о ней я вам обязательно расскажу, когда доиграю до конца). Потом всё-таки оказалось, что это не так, но спойлерить не буду, тут по сути вся игра про две догадки, и их, конечно, лучше сделать самому.
В общем, для такой маленькой игры очень круто. Лучшей рекомендацией будет, наверное, вот что: это первая игра за много лет, для которой я на полном серьёзе взялся за лист бумаги и карандаш.
Awareness Rooms
Awareness Rooms — совсем крохотная головоломка 2016 года, где-то на час геймплея. Сделал её тоже один человек, японец под ником BomB; по его словам, работал по выходным, в качестве хобби. Автор называет основными референсами Yume Nikki и The Room; оно и видно.
В игре есть некая свежая идея. [...] Правда, вот как раз эта идея не очень-то хорошо оказалась проработана. [...]
Зато загадки очень классные: изобретательные и не заезженные, играть было интересно. Комнат всего пять плюс нулевая обучающая, они действительно разнообразные и там очень даже есть о чём поразмыслить. Рекомендую!
Star Sky 1–3
Star Sky, Star Sky 2 и Star Sky 3 — трилогия шведа Мортена Йонссона, выходившая с 2015 по 2018 год; это проекты из разряда того, что называется медитативным опытом. Человек-силуэт идёт по ночному полю слева направо; над ним луна, звёзды, деревья; иногда идёт дождь, иногда пролетает комета. Всё, что от вас требуется, — идти и в некоторых местах останавливаться: постоишь под деревом — прилетит птица, постоишь на мосту — встретишь женщину, постоишь под дождём — появится радуга. [...]
Сделано на первый взгляд красиво и стильно, но по сути мне совсем не понравилось. Я пробежался по всем трём частям, суммарно примерно за час, все события, конечно, не выбивал — и так и не понял, что тут, собственно, происходит и зачем мне в этом разбираться. Никакой истории здесь, кажется, нет; никакого геймплея, кроме “остановиться или пройти мимо”, тоже. Не моё.
Заключение
Итого я совсем не пожалел, что потратил рублей сто-двести на весь этот бандл. 7 Days to End With You — очень рекомендую, крутая небольшая головоломка. Awareness Rooms — тоже рекомендую, часок проведёте с удовольствием. А вот Star Sky на любителя, и я не он.
#tgif #games
Мини-игры от Playism: 7 Days to End With You, Awareness Rooms, Star Sky 1–3
(и вот пост на DTF)
Playism — издательская марка осакской компании Active Gaming Media, существует с 2011 года. Придумана она была для того, чтобы возить японские додзин-игры на Запад, а западные инди — в Японию, и за пятнадцать лет через неё прошло больше полутора сотен игр, в том числе La-Mulana, Momodora, Omori (на консолях), Bright Memory, локализация Yume Nikki. Всё это широко известные тайтлы. Но рядом в каталоге лежит куча маленьких игр по сто-двести рублей, которые в распродажу можно взять охапкой не глядя.
7 Days to End With You
Начну с лучшего. 7 Days to End With You — игра японского разработчика-одиночки lizardry, вышла в 2022 году. И это очень крутая головоломка.
Завязка такая: вы открываете глаза в незнакомой комнате, ничего не помните, а рядом с кроватью стоит незнакомка с красными волосами и что-то говорит. И вы не понимаете ни слова — не в переносном смысле, а буквально: весь текст в игре написан на выдуманном языке из закорючек. Игра честно предупреждает на первом же экране: “вы наблюдатель этой истории”, “вы вольны понимать слова, которые читаете, как хотите”, “мир изменится в зависимости от вашего понимания”. [...]
Сначала мне вообще показалось, что это лингвистическая игра вроде Chants of Sennaar, где надо расшифровывать довольно разные между собой языки (о ней я вам обязательно расскажу, когда доиграю до конца). Потом всё-таки оказалось, что это не так, но спойлерить не буду, тут по сути вся игра про две догадки, и их, конечно, лучше сделать самому.
В общем, для такой маленькой игры очень круто. Лучшей рекомендацией будет, наверное, вот что: это первая игра за много лет, для которой я на полном серьёзе взялся за лист бумаги и карандаш.
Awareness Rooms
Awareness Rooms — совсем крохотная головоломка 2016 года, где-то на час геймплея. Сделал её тоже один человек, японец под ником BomB; по его словам, работал по выходным, в качестве хобби. Автор называет основными референсами Yume Nikki и The Room; оно и видно.
В игре есть некая свежая идея. [...] Правда, вот как раз эта идея не очень-то хорошо оказалась проработана. [...]
Зато загадки очень классные: изобретательные и не заезженные, играть было интересно. Комнат всего пять плюс нулевая обучающая, они действительно разнообразные и там очень даже есть о чём поразмыслить. Рекомендую!
Star Sky 1–3
Star Sky, Star Sky 2 и Star Sky 3 — трилогия шведа Мортена Йонссона, выходившая с 2015 по 2018 год; это проекты из разряда того, что называется медитативным опытом. Человек-силуэт идёт по ночному полю слева направо; над ним луна, звёзды, деревья; иногда идёт дождь, иногда пролетает комета. Всё, что от вас требуется, — идти и в некоторых местах останавливаться: постоишь под деревом — прилетит птица, постоишь на мосту — встретишь женщину, постоишь под дождём — появится радуга. [...]
Сделано на первый взгляд красиво и стильно, но по сути мне совсем не понравилось. Я пробежался по всем трём частям, суммарно примерно за час, все события, конечно, не выбивал — и так и не понял, что тут, собственно, происходит и зачем мне в этом разбираться. Никакой истории здесь, кажется, нет; никакого геймплея, кроме “остановиться или пройти мимо”, тоже. Не моё.
Заключение
Итого я совсем не пожалел, что потратил рублей сто-двести на весь этот бандл. 7 Days to End With You — очень рекомендую, крутая небольшая головоломка. Awareness Rooms — тоже рекомендую, часок проведёте с удовольствием. А вот Star Sky на любителя, и я не он.
#tgif #games
❤10👍3👀3🔥1👻1👾1
Почему свёрточная сеть не похожа на мозг, хотя её придумали по мотивам зрительной коры? В чём главный бонус от свёрток и почему у нас в голове так не получается? И какие ещё идеи, возникшие в свёрточных архитектурах, стоит понимать и в наши дни? Об этом в следующих лекциях в курсе глубокого обучения в ИТМО:
ИТМО — 2026.10.05 — Свёрточные нейронные сети
(слайды и доска на странице курса)
В этой сдвоенной лекции сначала разбираемся, что позволяет вообще обучать глубокую сеть: откуда берутся инициализация Ксавье и нормализация по мини-батчам, почему градиенты затухают и как с этим бороться. Потом переходим от опытов Хьюбела и Визеля к свёрткам: считаем размеры тензоров и число весов, рисуем receptive field, pooling, padding и stride. На примере LeNet хорошо видно, как миллионы потенциальных параметров превращаются в сотни, а локальные признаки постепенно становятся глобальными.
Во второй части идём по архитектурным идеям от AlexNet и VGG до Inception, ResNet и EfficientNet: маленькие свёртки вместо больших, подсети внутри сети, остаточные связи, узкие горлышки и параллельные ветви обработки. Этот материал давно вышел за пределы классического компьютерного зрения: остаточные связи и слои нормализации работают и в современных трансформерах. Свёрточные сети, кстати, тоже продолжают жить, хотя. конечно, до последних новостей мы здесь не добрались.
#lectures #itmo #dl2026
ИТМО — 2026.10.05 — Свёрточные нейронные сети
(слайды и доска на странице курса)
В этой сдвоенной лекции сначала разбираемся, что позволяет вообще обучать глубокую сеть: откуда берутся инициализация Ксавье и нормализация по мини-батчам, почему градиенты затухают и как с этим бороться. Потом переходим от опытов Хьюбела и Визеля к свёрткам: считаем размеры тензоров и число весов, рисуем receptive field, pooling, padding и stride. На примере LeNet хорошо видно, как миллионы потенциальных параметров превращаются в сотни, а локальные признаки постепенно становятся глобальными.
Во второй части идём по архитектурным идеям от AlexNet и VGG до Inception, ResNet и EfficientNet: маленькие свёртки вместо больших, подсети внутри сети, остаточные связи, узкие горлышки и параллельные ветви обработки. Этот материал давно вышел за пределы классического компьютерного зрения: остаточные связи и слои нормализации работают и в современных трансформерах. Свёрточные сети, кстати, тоже продолжают жить, хотя. конечно, до последних новостей мы здесь не добрались.
#lectures #itmo #dl2026
❤12👍6🔥3❤🔥1🥰1😍1