Выступаю сегодня на школе имени Бориса Поляка. Как и год назад, рассказываю про AI safety, но за год произошло довольно много всего интересного (вот J-space, например).
Очень крутые постеры здесь! Есть и ICML spotlight, но я вот подсвечу работу Александра Толмачева, который реально подвинул оценки чисел Борсука, стоявшие с работ Лассака 1980-х годов.
И нет, Александр подвинул оценки интересным новым методом со сложной комбинаторной оптимизацией, а не одним промптом к Fable. Но на что способен один промпт к Fable, я вам на днях тоже расскажу...
#talks #events #aisafety #ai
Очень крутые постеры здесь! Есть и ICML spotlight, но я вот подсвечу работу Александра Толмачева, который реально подвинул оценки чисел Борсука, стоявшие с работ Лассака 1980-х годов.
И нет, Александр подвинул оценки интересным новым методом со сложной комбинаторной оптимизацией, а не одним промптом к Fable. Но на что способен один промпт к Fable, я вам на днях тоже расскажу...
#talks #events #aisafety #ai
❤21👍2🔥1
У меня много контента для вас, есть даже чем немножко похвастаться. План постить по два обзора игр в неделю уже давно забыт. Но новости идут такие потрясающие, что пока всё-таки продолжаю обсуждать именно их, а к себе любимому вернусь позже.
На этой неделе (в первой половине этой недели...) главная AI-новость опять математическая. Claude Fable нашёл контрпример к проблеме якобиана, которая стояла с 1930-х годов и вошла, например, в известный список проблем Смейла. Проверить его ничего не стоит, сможет любой студент; но давайте попытаемся разобраться в контексте.
Ниже сокращённое введение, читать надо по ссылке:
Басня о якобиане: The Fable of the Jacobian Conjecture
Мы живём в дивном новом мире для математики. В мае внутренняя модель OpenAI опровергла гипотезу Эрдёша о единичных расстояниях, неделю назад GPT 5.6 доказала гипотезу о двойном покрытии циклами.
В прошлый раз я закончил пост словами: "Если у вас есть любимая гипотеза, в которую вы верите, самое время написать про неё хороший промпт". Что ж, люди так и сделали, и сегодня у нас третий эпизод того же сериала.
На этот раз отличилась модель от Anthropic: 19 июля, пока человечество смотрело финал чемпионата мира по футболу, Claude Fable 5 построил контрпример к проблеме якобиана (Jacobian conjecture) — одной из самых знаменитых открытых проблем алгебраической геометрии, номеру 16 в списке Смейла, простоявшей с 1939 года.
В прошлых сериях были хотя бы двухстраничные препринты, а здесь научная коммуникация ещё ближе к сингулярности; результат целиком существует в виде твита математика Левента Алпёге (Levent Alpöge). [...]
Что такое проблема якобиана
Возьмём отображение, заданное несколькими многочленами от нескольких переменных — скажем, тремя многочленами от трёх переменных. Из его частных производных собирается матрица, и её определитель (якобиан) измеряет, как отображение локально искажает объёмы. Там, где якобиан не ноль, отображение локально обратимо: маленькую окрестность точки оно переводит взаимно однозначно. У всякого обратимого полиномиального отображения якобиан оказывается ненулевой константой.
Проблема якобиана — это вопрос о том, верно ли обратное. Если якобиан — ненулевая константа, то есть отображение нигде локально не вырождается, обязано ли оно быть обратимым глобально (и тогда обратное к нему автоматически тоже полиномиальное)?
Оказалось что не обязано. Контрпример представляет собой три многочлена от трёх переменных степени 7, у которых якобиан (определитель матрицы 3x3) тождественно равен −2, но три разные точки переходят в одну и ту же. Проверка, когда контрпример уже построен, абсолютно тривиальная.
Что есть в посте:
— Предыдущие попытки и частичные результаты. К 1982 году было не менее пяти опубликованных и отрецензированных (!) ошибочных доказательств, в том числе от Сегре и Грёбнера; диссертация Итана Чжана тоже была про эту задачу. Верные результаты: степень 2 в любой размерности, две переменные до степени 100, сведение к кубическим отображениям; сеть эквивалентных гипотез (Диксмье, Пуассон, Матье) и вещественный контрпример Пинчука (1994).
— Контрпример и его проверка. Сам герой дня и базис Грёбнера, подтверждающий, что в твите приведён весь набор прообразов целиком.
— Как это устроено. Оказывается, прообразы любой точки — корни явно выписываемого кубического уравнения, так что "обратная функция" здесь — просто формула Кардано. Здесь есть и кое-какие картинки: фазовая диаграмма "сколько у точки вещественных прообразов", а также точка, у которой прообразов нет вовсе (отображение не сюръективно, что в данном случае естественно).
— Что ещё опровергает этот пример.
— Как это было найдено. Пока непонятно как: ни статьи, ни промпта, ни логов. Зато независимых проверок уже сколько угодно, а Wikipedia и MathWorld обновились за сутки.
В общем, дивный новый мир продолжается. Что дальше, коллеги?
#blog #ai #math #longreads
На этой неделе (в первой половине этой недели...) главная AI-новость опять математическая. Claude Fable нашёл контрпример к проблеме якобиана, которая стояла с 1930-х годов и вошла, например, в известный список проблем Смейла. Проверить его ничего не стоит, сможет любой студент; но давайте попытаемся разобраться в контексте.
Ниже сокращённое введение, читать надо по ссылке:
Басня о якобиане: The Fable of the Jacobian Conjecture
Мы живём в дивном новом мире для математики. В мае внутренняя модель OpenAI опровергла гипотезу Эрдёша о единичных расстояниях, неделю назад GPT 5.6 доказала гипотезу о двойном покрытии циклами.
В прошлый раз я закончил пост словами: "Если у вас есть любимая гипотеза, в которую вы верите, самое время написать про неё хороший промпт". Что ж, люди так и сделали, и сегодня у нас третий эпизод того же сериала.
На этот раз отличилась модель от Anthropic: 19 июля, пока человечество смотрело финал чемпионата мира по футболу, Claude Fable 5 построил контрпример к проблеме якобиана (Jacobian conjecture) — одной из самых знаменитых открытых проблем алгебраической геометрии, номеру 16 в списке Смейла, простоявшей с 1939 года.
В прошлых сериях были хотя бы двухстраничные препринты, а здесь научная коммуникация ещё ближе к сингулярности; результат целиком существует в виде твита математика Левента Алпёге (Levent Alpöge). [...]
Что такое проблема якобиана
Возьмём отображение, заданное несколькими многочленами от нескольких переменных — скажем, тремя многочленами от трёх переменных. Из его частных производных собирается матрица, и её определитель (якобиан) измеряет, как отображение локально искажает объёмы. Там, где якобиан не ноль, отображение локально обратимо: маленькую окрестность точки оно переводит взаимно однозначно. У всякого обратимого полиномиального отображения якобиан оказывается ненулевой константой.
Проблема якобиана — это вопрос о том, верно ли обратное. Если якобиан — ненулевая константа, то есть отображение нигде локально не вырождается, обязано ли оно быть обратимым глобально (и тогда обратное к нему автоматически тоже полиномиальное)?
Оказалось что не обязано. Контрпример представляет собой три многочлена от трёх переменных степени 7, у которых якобиан (определитель матрицы 3x3) тождественно равен −2, но три разные точки переходят в одну и ту же. Проверка, когда контрпример уже построен, абсолютно тривиальная.
Что есть в посте:
— Предыдущие попытки и частичные результаты. К 1982 году было не менее пяти опубликованных и отрецензированных (!) ошибочных доказательств, в том числе от Сегре и Грёбнера; диссертация Итана Чжана тоже была про эту задачу. Верные результаты: степень 2 в любой размерности, две переменные до степени 100, сведение к кубическим отображениям; сеть эквивалентных гипотез (Диксмье, Пуассон, Матье) и вещественный контрпример Пинчука (1994).
— Контрпример и его проверка. Сам герой дня и базис Грёбнера, подтверждающий, что в твите приведён весь набор прообразов целиком.
— Как это устроено. Оказывается, прообразы любой точки — корни явно выписываемого кубического уравнения, так что "обратная функция" здесь — просто формула Кардано. Здесь есть и кое-какие картинки: фазовая диаграмма "сколько у точки вещественных прообразов", а также точка, у которой прообразов нет вовсе (отображение не сюръективно, что в данном случае естественно).
— Что ещё опровергает этот пример.
— Как это было найдено. Пока непонятно как: ни статьи, ни промпта, ни логов. Зато независимых проверок уже сколько угодно, а Wikipedia и MathWorld обновились за сутки.
В общем, дивный новый мир продолжается. Что дальше, коллеги?
#blog #ai #math #longreads
🔥16❤14🍓4
Начинаю понемногу закрывать бэклог. Сегодня расскажу о том, что две недели назад вышел (пока онлайн) очередной том "Записок научных семинаров ПОМИ" под моей редакцией:
Том 552, "Исследования по прикладной математике и информатике. VI"
Моё участие как редактора "Записок" начиналось с идеи Валентина Малых о том, что надо бы где-то опубликовать журнальные версии лучших статей конференции AINL; поначалу почти ничего другого в моих томах и не было.
Мы это до сих пор делаем, и ближе к Новому Году я надеюсь подготовить новый том с AINL этого года. Но вот текущий том, 552-й, уже совсем другой по сути. Туда я действительно принимал статьи от коллег и знакомых, не объявлял официально call for papers (нет сил разгребать большой поток), но и так статей получилось немало, томик на 400 страниц вышел.
Рад, например, что начали присылать статьи сотрудники лаборатории Маркова СПбГУ, теперь вот в моём томе даже филдсовский лауреат опубликовался, плюс есть статьи не только про машинное обучение, но и, например, про коммуникационную сложность.
В этом томе вышел мой большой обзор в двух частях про influence functions, может быть, расскажу о нём отдельно потом. А пока вот, enjoy; и если вдруг у вас есть интересные статьи по машинному обучению, пишите; официального call for papers по-прежнему лучше не ждать.) Думаю, следующий том будет или в самом конце этого года, или в начале следующего.
#ai #publications #zapiski #research
Том 552, "Исследования по прикладной математике и информатике. VI"
Моё участие как редактора "Записок" начиналось с идеи Валентина Малых о том, что надо бы где-то опубликовать журнальные версии лучших статей конференции AINL; поначалу почти ничего другого в моих томах и не было.
Мы это до сих пор делаем, и ближе к Новому Году я надеюсь подготовить новый том с AINL этого года. Но вот текущий том, 552-й, уже совсем другой по сути. Туда я действительно принимал статьи от коллег и знакомых, не объявлял официально call for papers (нет сил разгребать большой поток), но и так статей получилось немало, томик на 400 страниц вышел.
Рад, например, что начали присылать статьи сотрудники лаборатории Маркова СПбГУ, теперь вот в моём томе даже филдсовский лауреат опубликовался, плюс есть статьи не только про машинное обучение, но и, например, про коммуникационную сложность.
В этом томе вышел мой большой обзор в двух частях про influence functions, может быть, расскажу о нём отдельно потом. А пока вот, enjoy; и если вдруг у вас есть интересные статьи по машинному обучению, пишите; официального call for papers по-прежнему лучше не ждать.) Думаю, следующий том будет или в самом конце этого года, или в начале следующего.
#ai #publications #zapiski #research
🔥25❤4✍3
Пятница у меня традиционно посвящена обзорам игр, но, как писал Лев Николаевич, не любил и не трудился не могу молчать. Обзор игры я напишу чуть позже, а сегодня опять про математику.
Оговорка "на этой неделе (в первой половине этой недели...)" оказалась пророческой, и вот у нас через два дня опять громкий результат. Опять пала широко известная гипотеза, на этот раз с чрезвычайно чистым примером полного отсутствия дополнительных harness'ов или хитрого промптинга.
Ниже только введение и оглавление, читать как всегда по ссылке (и очень рекомендую прочитать хотя бы часть про четыре промпта):
Всё течёт, всё опровергается: гипотеза Диница — Гарга — Гёманса
1. Введение
В прошлый раз, рассказывая про контрпример к проблеме якобиана, я закончил пост вопросом: "Что дальше, коллеги?"
Ответ занял два дня.
22 июля Дмитрий Рыбин написал в X, что GPT 5.6 Pro опровергла гипотезу Диница — Гарга — Гёманса (Dinitz–Garg–Goemans conjecture) из теории потоков в графах. Гипотеза простояла с конца 1990-х; в 2025 году Swamy et al. всё ещё называли её “a famous conjecture” и писали, что даже существенно ослабленный вариант был бы прорывом.
Как и в случае проблемы якобиана, здесь пока нет ни журнальной статьи, ни формального рецензирования, но они и не нужны, потому что проверить контрпример очень легко. У нас есть пост Рыбина, выложенный им полный диалог с моделью и четырёхстраничный арифметический сертификат, но в графе всего семь вершин, девять дуг и восемь возможных неделимых потоков. Мы с GPT независимо проверили все восемь программой, которая перебирает буквально все пути в графе, и никаких ошибок здесь нет.
Более того, контрпример оказался весьма интересно устроенным. Внутри него прячется известный в комбинаторной оптимизации объект — треугольник попарных конфликтов.
Давайте разберёмся, что такое делимые и неделимые потоки и в чём состояла гипотеза. Потом обсудим, почему она казалась естественной и почему её было так трудно доказать. Затем проверим контрпример, вытащим из него структурную идею и попробуем его уменьшить. А в конце, разумеется, посмотрим на промпты. Спойлер: там буквально написано "you should do a breakthrough".
2. Потоки, которые можно и нельзя делить
3. Теорема Диница — Гарга — Гёманса
4. Почему в гипотезу верили и почему она была сложной
5. Семь вершин и девять дуг
6. Что там происходит на самом деле
7. Проверка, уменьшение контрпримера и граница 9/8
(в этом разделе у меня даже получилось немножко продолжить рассуждение GPT и сформулировать то, как теперь выглядит открытый вопрос)
8. Четыре промпта
9. Заключение
[...]
За три последних поста мы увидели сначала двухстраничное доказательство гипотезы о двойном покрытии циклами, потом многочлен, помещающийся в твит, а теперь — контрпример в виде стандартного треугольника целочисленной оптимизации. Но каждый из этих кажущихся простыми результатов закрыл гипотезу, над которой действительно думало много живых математиков.
У меня нет сомнений, что если бы любой из этих результатов получил человек, он стал бы широко известен в узких кругах и всегда имел бы гарантированную профессорскую позицию в хорошем месте, даже если бы больше ничего великого не сделал и продолжал бы всю жизнь изучать следствия и расширения своего прорывного результата (таких примеров в науке много, это не что-то плохое). Так что вопрос о том, достигли ли AI-модели человеческого уровня в математике, кажется мне уже закрытым.
А что ещё дальше, коллеги?..
#ai #math #blog #longreads
Оговорка "на этой неделе (в первой половине этой недели...)" оказалась пророческой, и вот у нас через два дня опять громкий результат. Опять пала широко известная гипотеза, на этот раз с чрезвычайно чистым примером полного отсутствия дополнительных harness'ов или хитрого промптинга.
Ниже только введение и оглавление, читать как всегда по ссылке (и очень рекомендую прочитать хотя бы часть про четыре промпта):
Всё течёт, всё опровергается: гипотеза Диница — Гарга — Гёманса
1. Введение
В прошлый раз, рассказывая про контрпример к проблеме якобиана, я закончил пост вопросом: "Что дальше, коллеги?"
Ответ занял два дня.
22 июля Дмитрий Рыбин написал в X, что GPT 5.6 Pro опровергла гипотезу Диница — Гарга — Гёманса (Dinitz–Garg–Goemans conjecture) из теории потоков в графах. Гипотеза простояла с конца 1990-х; в 2025 году Swamy et al. всё ещё называли её “a famous conjecture” и писали, что даже существенно ослабленный вариант был бы прорывом.
Как и в случае проблемы якобиана, здесь пока нет ни журнальной статьи, ни формального рецензирования, но они и не нужны, потому что проверить контрпример очень легко. У нас есть пост Рыбина, выложенный им полный диалог с моделью и четырёхстраничный арифметический сертификат, но в графе всего семь вершин, девять дуг и восемь возможных неделимых потоков. Мы с GPT независимо проверили все восемь программой, которая перебирает буквально все пути в графе, и никаких ошибок здесь нет.
Более того, контрпример оказался весьма интересно устроенным. Внутри него прячется известный в комбинаторной оптимизации объект — треугольник попарных конфликтов.
Давайте разберёмся, что такое делимые и неделимые потоки и в чём состояла гипотеза. Потом обсудим, почему она казалась естественной и почему её было так трудно доказать. Затем проверим контрпример, вытащим из него структурную идею и попробуем его уменьшить. А в конце, разумеется, посмотрим на промпты. Спойлер: там буквально написано "you should do a breakthrough".
2. Потоки, которые можно и нельзя делить
3. Теорема Диница — Гарга — Гёманса
4. Почему в гипотезу верили и почему она была сложной
5. Семь вершин и девять дуг
6. Что там происходит на самом деле
7. Проверка, уменьшение контрпримера и граница 9/8
(в этом разделе у меня даже получилось немножко продолжить рассуждение GPT и сформулировать то, как теперь выглядит открытый вопрос)
8. Четыре промпта
9. Заключение
[...]
За три последних поста мы увидели сначала двухстраничное доказательство гипотезы о двойном покрытии циклами, потом многочлен, помещающийся в твит, а теперь — контрпример в виде стандартного треугольника целочисленной оптимизации. Но каждый из этих кажущихся простыми результатов закрыл гипотезу, над которой действительно думало много живых математиков.
У меня нет сомнений, что если бы любой из этих результатов получил человек, он стал бы широко известен в узких кругах и всегда имел бы гарантированную профессорскую позицию в хорошем месте, даже если бы больше ничего великого не сделал и продолжал бы всю жизнь изучать следствия и расширения своего прорывного результата (таких примеров в науке много, это не что-то плохое). Так что вопрос о том, достигли ли AI-модели человеческого уровня в математике, кажется мне уже закрытым.
А что ещё дальше, коллеги?..
#ai #math #blog #longreads
👍15🔥8❤7🙈3