Вчера вдруг с нескольких сторон начали поздравлять с тем, что я вроде как стал одним из самых крутых российских учёных согласно вышедшему недавно датасету Elsevier и Scopus.
Новостной повод звучал максимально странно: "Шесть учёных и педагогов Яндекса попали в престижный научный рейтинг Elsevier", и среди них я, хотя к Яндексу я имею отношение только тем, что его премию получил в 2023 году (за что Яндексу, конечно, большое спасибо):
Gazeta.ru: Российские ученые вошли в топ-1% самых влиятельных в мире
Lenta.ru: Российские ученые попали в мировой рейтинг самых влиятельных исследователей
Rozetked: Российские учёные — в числе самых влиятельных в мире
В общем, конечно, мне стало интересно, датасет я скачал, и мы с Клодом в нём поразбирались. Всё, конечно, и так, и не совсем. :) Читайте по ссылке:
«Самые влиятельные учёные» от Elsevier
Краткое содержание ниже, но лучше по ссылке.
Что это за список. Группа Джона Иоаннидиса (того самого, который кризис репликации) раз в год считает для каждого автора Scopus композитный индекс c-score из шести логарифмически нормированных слагаемых. В список берут мировую сотню тысяч или 2% лучших в каждой из 174 подобластей. Так что "топ-2%" — это просто порог входа, а "топ-1%" — это как по факту в списке получилось.
Что в посте:
— Где я в этом потоке: По 2025 году — 1940-е место из 517 648 авторов в AI & Image Processing (топ-0,37%) и 106-е среди 989 российских учёных в списке. Среди соседей — авторы BLEU, HOG, Optuna, ReAct и глубоких ансамблей, а в карьерной таблице рядом стоит Уитфилд Диффи из протокола Диффи—Хеллмана.
— Из чего это сложилось: многие цитирования пришли из больших коллабораций (привет, SPAdes), плюс книги, написанные в одиночку; мораль: пишите книги!
— Что не так со списком: Scopus плохо видит ML, например, Андрей Карпатый в 2025 году ниже меня, а Дмитрия Ветрова в списке нет вовсе; первое место в AI, выше Бенджи и Хинтона, — у автора метаэвристик про серых волков и китов, а покойный Лотфи Заде и в 2025 году на пятом месте.
— Россиян не шесть, а около полутора тысяч: 1133 человека в карьерной таблице и 989 в годовой — 31-е и 36-е места; примерно семь человек на миллион жителей, как в Бразилии; правда, лучший "россиянин" 2025 года почти все свои статьи написал в Китае.
— Чем мы занимаемся: 41% российских участников — физики (в мире — 9%), клинической медицины в девять раз меньше мировой доли, российская часть списка старше (по возрасту) мировой лет на восемь.
— Самое неприятное открытие: по самоцитированию Россия находится на первом месте из всех стран с не меньшим числом участников списка, с большим отрывом, и составом наук это не объясняется...
Имеет ли всё это какое-то реальное значение? Конечно, нет. Но оказаться в такой компании приятно!
Что ж, буду считать, что это хороший повод написать ещё одну книгу — в одиночку, разумеется.)
А если вы хотите увидеть "учёного из топ-1% списка Elsevier" вживую и послушать о том, откуда берутся экзистенциальные риски от AI, приходите в воскресенье в "Бражник", у меня нечасто бывают настолько открытые всем желающим лекции.
#lifestyle #blog #ai #research
Новостной повод звучал максимально странно: "Шесть учёных и педагогов Яндекса попали в престижный научный рейтинг Elsevier", и среди них я, хотя к Яндексу я имею отношение только тем, что его премию получил в 2023 году (за что Яндексу, конечно, большое спасибо):
Gazeta.ru: Российские ученые вошли в топ-1% самых влиятельных в мире
Lenta.ru: Российские ученые попали в мировой рейтинг самых влиятельных исследователей
Rozetked: Российские учёные — в числе самых влиятельных в мире
В общем, конечно, мне стало интересно, датасет я скачал, и мы с Клодом в нём поразбирались. Всё, конечно, и так, и не совсем. :) Читайте по ссылке:
«Самые влиятельные учёные» от Elsevier
Краткое содержание ниже, но лучше по ссылке.
Что это за список. Группа Джона Иоаннидиса (того самого, который кризис репликации) раз в год считает для каждого автора Scopus композитный индекс c-score из шести логарифмически нормированных слагаемых. В список берут мировую сотню тысяч или 2% лучших в каждой из 174 подобластей. Так что "топ-2%" — это просто порог входа, а "топ-1%" — это как по факту в списке получилось.
Что в посте:
— Где я в этом потоке: По 2025 году — 1940-е место из 517 648 авторов в AI & Image Processing (топ-0,37%) и 106-е среди 989 российских учёных в списке. Среди соседей — авторы BLEU, HOG, Optuna, ReAct и глубоких ансамблей, а в карьерной таблице рядом стоит Уитфилд Диффи из протокола Диффи—Хеллмана.
— Из чего это сложилось: многие цитирования пришли из больших коллабораций (привет, SPAdes), плюс книги, написанные в одиночку; мораль: пишите книги!
— Что не так со списком: Scopus плохо видит ML, например, Андрей Карпатый в 2025 году ниже меня, а Дмитрия Ветрова в списке нет вовсе; первое место в AI, выше Бенджи и Хинтона, — у автора метаэвристик про серых волков и китов, а покойный Лотфи Заде и в 2025 году на пятом месте.
— Россиян не шесть, а около полутора тысяч: 1133 человека в карьерной таблице и 989 в годовой — 31-е и 36-е места; примерно семь человек на миллион жителей, как в Бразилии; правда, лучший "россиянин" 2025 года почти все свои статьи написал в Китае.
— Чем мы занимаемся: 41% российских участников — физики (в мире — 9%), клинической медицины в девять раз меньше мировой доли, российская часть списка старше (по возрасту) мировой лет на восемь.
— Самое неприятное открытие: по самоцитированию Россия находится на первом месте из всех стран с не меньшим числом участников списка, с большим отрывом, и составом наук это не объясняется...
Имеет ли всё это какое-то реальное значение? Конечно, нет. Но оказаться в такой компании приятно!
Что ж, буду считать, что это хороший повод написать ещё одну книгу — в одиночку, разумеется.)
А если вы хотите увидеть "учёного из топ-1% списка Elsevier" вживую и послушать о том, откуда берутся экзистенциальные риски от AI, приходите в воскресенье в "Бражник", у меня нечасто бывают настолько открытые всем желающим лекции.
#lifestyle #blog #ai #research
❤35🔥14👏3👍2
Линейная регрессия нарисовала прямую. Но насколько она уверена в ответе — особенно там, где не видела ни одной точки? Продолжаем разговор о байесовском выводе:
СПбГУ — 2026.10.16 — Предсказания и классификация
(слайды, доска и ноутбук на странице курса)
Сначала закончили байесовскую линейную регрессию: вместо одного "лучшего" набора весов учитываем всё апостериорное распределение и получаем не только прогноз, но и его неопределённость. На картинках и в ноутбуке видно, почему она зависит от того, где именно мы спрашиваем модель, и что происходит при экстраполяции.
Затем переходим к классификации: рисуем разделяющие поверхности, ищем хорошую проекцию методом Фишера и выводим оптимальный байесовский классификатор. Из предположения о гауссовских классах получаются QDA и LDA — и становится понятно, от чего зависит форма границы между классами. Эти классические идеи полезны и сегодня: на них хорошо видно, как связаны геометрия, вероятности и предположения о данных.
#spsu #bayes2026 #lectures
СПбГУ — 2026.10.16 — Предсказания и классификация
(слайды, доска и ноутбук на странице курса)
Сначала закончили байесовскую линейную регрессию: вместо одного "лучшего" набора весов учитываем всё апостериорное распределение и получаем не только прогноз, но и его неопределённость. На картинках и в ноутбуке видно, почему она зависит от того, где именно мы спрашиваем модель, и что происходит при экстраполяции.
Затем переходим к классификации: рисуем разделяющие поверхности, ищем хорошую проекцию методом Фишера и выводим оптимальный байесовский классификатор. Из предположения о гауссовских классах получаются QDA и LDA — и становится понятно, от чего зависит форма границы между классами. Эти классические идеи полезны и сегодня: на них хорошо видно, как связаны геометрия, вероятности и предположения о данных.
#spsu #bayes2026 #lectures
❤7👍4🔥4
На следующем заседании семинара лаборатории Маркова будет выступать мой давний друг и соавтор, Ирина Пионтковская. Причём рассказывать будет о наших совместных работах, о которых я уже писал здесь раньше. Более того, семинар не меняет время начала, но становится на этой неделе частью какого-то студкемпа, и ожидается гораздо более широкая аудитория, чем обычно. Очень надеюсь, что аудитории будет интересно -- мне, по крайней мере, точно будет:
Линейна ли адаптация больших моделей? Специализация и локальная геометрия дообученных трансформеров
Ссылка на трансляцию (среда 21 октября, 13:40)
Ирина Пионтковская (Сбер)
LoRA, task arithmetic, activation steering, случайный поиск вокруг предобученных весов — все эти методы исходят из одного негласного предположения: вокруг обученного чекпойнта поведение модели устроено почти линейно, и можно успешно адаптировать такую модель, просто сдвинувшись в правильном направлении. Мы задались вопросом, какие из этих линейных структур в сетях реально существуют, в каком масштабе и как долго живут.
Ответ оказался двойственным. Вдоль одного направления всё хорошо: изменение функции ошибки — это практически проекция возмущения на градиент, и именно поэтому работает случайный поиск даже в очень высокой размерности (у нас для этого есть и теорема). Но стоит взять два обновления, и порядок их применения начинает влиять на результат, а полезный базис в пространстве весов поворачивается до неузнаваемости довольно быстро.
Я расскажу о двух наших недавних работах, покажу, в каких случаях полноценное дообучение можно заменить небольшими вмешательствами и почему даже существующее в модели решение не всегда удаётся найти простыми методами.
#markovlab #seminar #spsu
Линейна ли адаптация больших моделей? Специализация и локальная геометрия дообученных трансформеров
Ссылка на трансляцию (среда 21 октября, 13:40)
Ирина Пионтковская (Сбер)
LoRA, task arithmetic, activation steering, случайный поиск вокруг предобученных весов — все эти методы исходят из одного негласного предположения: вокруг обученного чекпойнта поведение модели устроено почти линейно, и можно успешно адаптировать такую модель, просто сдвинувшись в правильном направлении. Мы задались вопросом, какие из этих линейных структур в сетях реально существуют, в каком масштабе и как долго живут.
Ответ оказался двойственным. Вдоль одного направления всё хорошо: изменение функции ошибки — это практически проекция возмущения на градиент, и именно поэтому работает случайный поиск даже в очень высокой размерности (у нас для этого есть и теорема). Но стоит взять два обновления, и порядок их применения начинает влиять на результат, а полезный базис в пространстве весов поворачивается до неузнаваемости довольно быстро.
Я расскажу о двух наших недавних работах, покажу, в каких случаях полноценное дообучение можно заменить небольшими вмешательствами и почему даже существующее в модели решение не всегда удаётся найти простыми методами.
#markovlab #seminar #spsu
🔥5❤2👍1