Визуальные новеллы всегда проходили мимо меня, кроме выдающихся экземпляров вроде Doki Doki Literature Club. Но я всё думал, что надо бы всё-таки пройти нормальную хорошую визуальную новеллу; за что-то ведь людям нравится этот жанр.
Кроме того, мне всегда интуитивно этот жанр казался привлекательным: приятно, когда текст снабжён визуальным рядом, но комиксы для меня чересчур — рассматривать картинки не моя история, и получается, что страницу комикса ты читаешь за 10 секунд. Повыбирав немного по обзорам, остановился на:
ATRI: My Dear Moments
Как обычно, обзор по ссылке, здесь сильно сокращённая версия.
Сюжет
В недалёком будущем океан затопил большую часть цивилизации, и человечество ютится на немногих оставшихся клочках суши. [...]
[Герои] обнаруживают странную девушку, спящую в гробу на морском дне. Это Атри — робот, крайне похожий на человека и внешностью, и показываемыми эмоциями.
И вот герои проводят вместе лето в умирающем прибрежном городке. [...] История затрагивает типичные для жанра вопросы: что делает человека человеком, может ли AI по-настоящему чувствовать, где грань между программой и сознанием.
Плюсы
[...] Визуальная часть безупречна. [...] Саундтрек тоже отличный [...] одна из сцен подробно объясняет устройство турбины [...]
Экспозиция вместо сюжета
В обзоре Minds Beneath Us я хвалил экспозицию через slice of life, которой славятся азиатские разработчики. Но в M.B.U. это была именно экспозиция, то есть часть игры, в которой мы знакомимся с героями, проникаемся их проблемами, а потом у героев начинаются интересные приключения.
Здесь же это занимает 80, если не 90% игры. Сидишь и читаешь какие-то избитые тропы про японских школьниц с очень скучными шуточками. [...]
Слон в комнате: возраст героини
Кстати, про школьниц. Атри, романтический интерес протагониста — юная девушка-робот... и я так и не понял, почему ей на вид 13-14 лет и почему она ощущает и ведёт себя на этот возраст.
А это здесь ключевая сюжетообразующая штука. Многие обзоры пишут о том, что нехорошо устраивать лубофф с персонажами такого возраста, но у меня тут претензия другая: это просто абсолютно бессмысленно. [...]
Я не разделяю, но теоретически могу понять известный мем про “трёхсотлетнюю богиню, которая выглядит как четырнадцатилетняя девочка, и поэтому нам всё можно”. Это дурацкий приём, но хотя бы понятно, зачем авторы его применяют.
Но здесь авторы вывернули мем в совсем бессмысленное направление: “у нас AI-гуманоид, который выглядит как четырнадцатилетняя девочка, и поэтому мы будем всю игру шутить о том, что нам ничего нельзя”.
И по всему своему поведению в игре Атри и правда ещё маленькая! Но она же AI-модель — как её бабушка сделала (буквально бабушка протагониста, выдающийся учёный в мире игры), такая она и есть. А зачем бабушка так сделала — из игры совершенно непонятно.
Этот дисконнект лично мне очень мешал в течение всей игры. [...]
Выводы
В общем, ATRI пока что отбила у меня желание читать визуальные новеллы. Из примыкающих к ним жанров у меня гораздо удачнее всегда получалось с «почти-новеллами», где в основном текст, но есть и геймплей в том или ином виде: недавно рассказывал вам про Minds Beneath Us, когда-то играл и очень оценил Until Then, и так далее.
Ну что ж, пока не сложилось. Через годик, глядишь, ещё чего-нибудь попробую.
#tgif #games
Кроме того, мне всегда интуитивно этот жанр казался привлекательным: приятно, когда текст снабжён визуальным рядом, но комиксы для меня чересчур — рассматривать картинки не моя история, и получается, что страницу комикса ты читаешь за 10 секунд. Повыбирав немного по обзорам, остановился на:
ATRI: My Dear Moments
Как обычно, обзор по ссылке, здесь сильно сокращённая версия.
Сюжет
В недалёком будущем океан затопил большую часть цивилизации, и человечество ютится на немногих оставшихся клочках суши. [...]
[Герои] обнаруживают странную девушку, спящую в гробу на морском дне. Это Атри — робот, крайне похожий на человека и внешностью, и показываемыми эмоциями.
И вот герои проводят вместе лето в умирающем прибрежном городке. [...] История затрагивает типичные для жанра вопросы: что делает человека человеком, может ли AI по-настоящему чувствовать, где грань между программой и сознанием.
Плюсы
[...] Визуальная часть безупречна. [...] Саундтрек тоже отличный [...] одна из сцен подробно объясняет устройство турбины [...]
Экспозиция вместо сюжета
В обзоре Minds Beneath Us я хвалил экспозицию через slice of life, которой славятся азиатские разработчики. Но в M.B.U. это была именно экспозиция, то есть часть игры, в которой мы знакомимся с героями, проникаемся их проблемами, а потом у героев начинаются интересные приключения.
Здесь же это занимает 80, если не 90% игры. Сидишь и читаешь какие-то избитые тропы про японских школьниц с очень скучными шуточками. [...]
Слон в комнате: возраст героини
Кстати, про школьниц. Атри, романтический интерес протагониста — юная девушка-робот... и я так и не понял, почему ей на вид 13-14 лет и почему она ощущает и ведёт себя на этот возраст.
А это здесь ключевая сюжетообразующая штука. Многие обзоры пишут о том, что нехорошо устраивать лубофф с персонажами такого возраста, но у меня тут претензия другая: это просто абсолютно бессмысленно. [...]
Я не разделяю, но теоретически могу понять известный мем про “трёхсотлетнюю богиню, которая выглядит как четырнадцатилетняя девочка, и поэтому нам всё можно”. Это дурацкий приём, но хотя бы понятно, зачем авторы его применяют.
Но здесь авторы вывернули мем в совсем бессмысленное направление: “у нас AI-гуманоид, который выглядит как четырнадцатилетняя девочка, и поэтому мы будем всю игру шутить о том, что нам ничего нельзя”.
И по всему своему поведению в игре Атри и правда ещё маленькая! Но она же AI-модель — как её бабушка сделала (буквально бабушка протагониста, выдающийся учёный в мире игры), такая она и есть. А зачем бабушка так сделала — из игры совершенно непонятно.
Этот дисконнект лично мне очень мешал в течение всей игры. [...]
Выводы
В общем, ATRI пока что отбила у меня желание читать визуальные новеллы. Из примыкающих к ним жанров у меня гораздо удачнее всегда получалось с «почти-новеллами», где в основном текст, но есть и геймплей в том или ином виде: недавно рассказывал вам про Minds Beneath Us, когда-то играл и очень оценил Until Then, и так далее.
Ну что ж, пока не сложилось. Через годик, глядишь, ещё чего-нибудь попробую.
#tgif #games
😁20❤8🌭4🔥1🤔1
Расскажу вам сегодня о ещё одном деле, которым я уже довольно давно занимаюсь.
ПОМИ РАН (математический институт, это моё основное и нежно любимое место работы) выпускает журнал "Записки научных семинаров ПОМИ". Журнал хороший, входит во всевозможные "белые списки" в России, а за рубежом переводится и выходит в Springer как часть Journal of Mathematical Sciences. Конечно, у JMS нет никакого хорошего импакт-фактора, ведь в нём выходит всё подряд из многих разных источников, но всё равно, сам факт перевода в Springer — это уже некоторый знак качества.
И вот с 2021 года я стал редактором серии "Исследования по прикладной математике и информатике". Первый том (т.499 журнала) мы делали вместе с соредакторами Сергеем Игоревичем Репиным и Марией Александровной Скопиной, но быстро стало понятно, что темы у нас всё равно совсем разные, и тома разделились.
А заодно и нашёлся основной источник контента. Здесь большое спасибо Валентину Малых, с которым мы договорились каждый год публиковать в "Записках ПОМИ" лучшие статьи с конференции AINL: Artificial Intelligence and Natural Language Conference, которая в основном относится к постсоветскому пространству. AINL стала основным содержанием следующих моих выпусков: том 529, том 530, том 540, и вот последний, вышедший в конце прошлого года том 546.
Кстати, "Записки ПОМИ" выходят и в бумажном виде; я сейчас, понятное дело, всю коллекцию не могу показать, но пару фотографий прилагаю. Я человек старомодный, мне всегда приятно подержать в руках физический результат.
К чему я вам об этом рассказываю? К тому, что хотя AINL по-прежнему наверняка будет основным содержанием тома "Записок" каждый год, постепенно начинают появляться и другие источники статей. Например, прямо сейчас собираю новый том, в котором будет несколько моих собственных обзоров и несколько статей, присланных помимо AINL.
Так что, коллеги-машиннообучатели, обращайтесь и присылайте статьи! Конечно, "Записки ПОМИ" — это не A*-конференция, по-настоящему крутые результаты лучше отправить на ICML или NeurIPS, а не сюда. Но если у вас есть что-нибудь уровня вот как раз примерно AINL, буду рад рассмотреть.
Пока есть возможность попасть даже в ближайший том, но для этого надо прямщас прислать статью. И ещё маленькая просьба — если вы это читаете, и у вас должна быть статья в ближайшем томе, напомните мне про неё, пожалуйста; боюсь, что если мы о чём-то договаривались месяцы назад и не подтверждались недавно, то я уже всё забыл.
#ai #publications #zapiski
ПОМИ РАН (математический институт, это моё основное и нежно любимое место работы) выпускает журнал "Записки научных семинаров ПОМИ". Журнал хороший, входит во всевозможные "белые списки" в России, а за рубежом переводится и выходит в Springer как часть Journal of Mathematical Sciences. Конечно, у JMS нет никакого хорошего импакт-фактора, ведь в нём выходит всё подряд из многих разных источников, но всё равно, сам факт перевода в Springer — это уже некоторый знак качества.
И вот с 2021 года я стал редактором серии "Исследования по прикладной математике и информатике". Первый том (т.499 журнала) мы делали вместе с соредакторами Сергеем Игоревичем Репиным и Марией Александровной Скопиной, но быстро стало понятно, что темы у нас всё равно совсем разные, и тома разделились.
А заодно и нашёлся основной источник контента. Здесь большое спасибо Валентину Малых, с которым мы договорились каждый год публиковать в "Записках ПОМИ" лучшие статьи с конференции AINL: Artificial Intelligence and Natural Language Conference, которая в основном относится к постсоветскому пространству. AINL стала основным содержанием следующих моих выпусков: том 529, том 530, том 540, и вот последний, вышедший в конце прошлого года том 546.
Кстати, "Записки ПОМИ" выходят и в бумажном виде; я сейчас, понятное дело, всю коллекцию не могу показать, но пару фотографий прилагаю. Я человек старомодный, мне всегда приятно подержать в руках физический результат.
К чему я вам об этом рассказываю? К тому, что хотя AINL по-прежнему наверняка будет основным содержанием тома "Записок" каждый год, постепенно начинают появляться и другие источники статей. Например, прямо сейчас собираю новый том, в котором будет несколько моих собственных обзоров и несколько статей, присланных помимо AINL.
Так что, коллеги-машиннообучатели, обращайтесь и присылайте статьи! Конечно, "Записки ПОМИ" — это не A*-конференция, по-настоящему крутые результаты лучше отправить на ICML или NeurIPS, а не сюда. Но если у вас есть что-нибудь уровня вот как раз примерно AINL, буду рад рассмотреть.
Пока есть возможность попасть даже в ближайший том, но для этого надо прямщас прислать статью. И ещё маленькая просьба — если вы это читаете, и у вас должна быть статья в ближайшем томе, напомните мне про неё, пожалуйста; боюсь, что если мы о чём-то договаривались месяцы назад и не подтверждались недавно, то я уже всё забыл.
#ai #publications #zapiski
🔥29❤10👍6👏3😁1😍1
Трафик Бангкока в одной фотографии.
Впрочем, справедливости ради, ни одного настоящего accident я тут ещё не видел.
#travel #photo #fun #lifestyle
Впрочем, справедливости ради, ни одного настоящего accident я тут ещё не видел.
#travel #photo #fun #lifestyle
😁10😱7💯2❤1🔥1
Две небольшие новости о моём сайте
https://www.sergeynikolenko.ru/
1.
Наконец-то разобрался, почему сайт не был доступен из России. А то как-то странно получалось, ведь основная аудитория моего сайта — мои студенты из российских вузов.)
Всё оказалось просто: у меня deployment идёт через Vercel, и тот верселевский ip, куда резолвится мой домен, оказался заблокирован РКН. Очевидно, РКН не имел в виду мой сайт конкретно, но что-то он заблокировал по ip, а у Vercel на один ip может приходить очень много разных сайтов, как я понял.
Так что я просто зарегистрировался в Cloudflare и перешёл на их nameservers. Теперь всё должно работать из России без VPN. Правда, пока отзывы из России противоречивые — у кого-то работает, у кого-то нет, вероятно, или от провайдера зависит, или неравномерно пропагируются изменения в dns. Я в любом случае доволен, потому что кажется, что сайт стал заметно быстрее загружаться через кэш Cloudflare.
Впрочем, даже если у всех заработает, не уверен, что студентам от этого станет существенно легче, ведь они всё равно заходят в основном лекции смотреть, а лекции на YouTube... :) Но тут я уж ничего не могу поделать.
2.
Вторая история ещё смешнее. Я зашёл в гугл за ссылкой на одну из игр для недавнего обзора... и получил в топе выдачи свой собственный блог!
Приятно, скажете вы, но ссылка вела не на нормальную страничку, которую я показываю на сайте через GraphQL (вот, например, обзор Minds Beneath Us), а на страничку из самого WordPress-блога, которая выглядит плохо и не имеет навигации по сайту (вот она для того же обзора). Я, собственно, не пытался их запретить показывать только потому, что думал, что на них ниоткуда нет ссылок, и никто на них всё равно не попадёт...
К счастью, с этим разобраться оказалось ещё проще: оказалось, что я просто не сделал себе нормальный sitemap. Теперь сделал, зарегистрировался в Google Search Console и получил новый прекрасный инструмент для самомастурбации, ведь понятно, что мой сайт выдаётся в первую очередь по запросам вроде "сергей николенко".)
Это всё, правда, очень медленный процесс, я уже несколько дней назад добавил sitemap в google, но пока далеко не всё ещё проиндексировалось, а старые ссылки в выдаче ещё попадаются. Но когда-нибудь всё устаканится, а где-то уже даже видны AI-generated summaries моих постов.)
#web #blog
https://www.sergeynikolenko.ru/
1.
Наконец-то разобрался, почему сайт не был доступен из России. А то как-то странно получалось, ведь основная аудитория моего сайта — мои студенты из российских вузов.)
Всё оказалось просто: у меня deployment идёт через Vercel, и тот верселевский ip, куда резолвится мой домен, оказался заблокирован РКН. Очевидно, РКН не имел в виду мой сайт конкретно, но что-то он заблокировал по ip, а у Vercel на один ip может приходить очень много разных сайтов, как я понял.
Так что я просто зарегистрировался в Cloudflare и перешёл на их nameservers. Теперь всё должно работать из России без VPN. Правда, пока отзывы из России противоречивые — у кого-то работает, у кого-то нет, вероятно, или от провайдера зависит, или неравномерно пропагируются изменения в dns. Я в любом случае доволен, потому что кажется, что сайт стал заметно быстрее загружаться через кэш Cloudflare.
Впрочем, даже если у всех заработает, не уверен, что студентам от этого станет существенно легче, ведь они всё равно заходят в основном лекции смотреть, а лекции на YouTube... :) Но тут я уж ничего не могу поделать.
2.
Вторая история ещё смешнее. Я зашёл в гугл за ссылкой на одну из игр для недавнего обзора... и получил в топе выдачи свой собственный блог!
Приятно, скажете вы, но ссылка вела не на нормальную страничку, которую я показываю на сайте через GraphQL (вот, например, обзор Minds Beneath Us), а на страничку из самого WordPress-блога, которая выглядит плохо и не имеет навигации по сайту (вот она для того же обзора). Я, собственно, не пытался их запретить показывать только потому, что думал, что на них ниоткуда нет ссылок, и никто на них всё равно не попадёт...
К счастью, с этим разобраться оказалось ещё проще: оказалось, что я просто не сделал себе нормальный sitemap. Теперь сделал, зарегистрировался в Google Search Console и получил новый прекрасный инструмент для самомастурбации, ведь понятно, что мой сайт выдаётся в первую очередь по запросам вроде "сергей николенко".)
Это всё, правда, очень медленный процесс, я уже несколько дней назад добавил sitemap в google, но пока далеко не всё ещё проиндексировалось, а старые ссылки в выдаче ещё попадаются. Но когда-нибудь всё устаканится, а где-то уже даже видны AI-generated summaries моих постов.)
#web #blog
❤33👍7🤯5👏2
В октябре 2025 у Дарио Амодеи вышел текст “Machines of Loving Grace“, о позитивной стороне развития AI. И вот его новое эссе "The Adolescence of Technology" посвящено тому, как развитие AI может оказаться опасным.
Сегодня разбираю этот текст, с чем-то не соглашаюсь, но в основном спорить, конечно, не с чем. Пост по ссылке, здесь краткие выжимки:
Переходный возраст машин любви и благодати
AI Safety и роль Anthropic
Здесь Амодеи заслуженно горд достижениями Anthropic; эту область действительно в основном Anthropic и двигает в последнее время. [...]
Правы ли AI-думеры?
Амодеи проходится по классическим "думерским" аргументам вроде instrumental convergence. [...] Конечно, это не математические теоремы. [...] Лучше говорить не "ASI с вероятностью 99.9% уничтожит человечество", а "ASI с заметной вероятностью, более 10%, уничтожит человечество".
Но следствия из этого "более мягкого" утверждения будут всё равно ровно те же самые: этого никак нельзя допустить, и если мы не знаем как этого избежать, значит, не надо строить ASI. [...]
А на какую долю риска лично вы были бы согласны в таком мысленном эксперименте?
Интересные примеры
Дальше Дарио описывает некоторые из экспериментов Anthropic, показывая всякие плохие и просто интересные эффекты, а также о прогрессе в интерпретируемости. [...] Очень интересная тема!
Буквально один пример: [...]
Риски от плохих людей
Переходя к возможным рискам, Амодеи пишет о том, что “a superintelligent genius in your pocket” будет доступен не только хорошим людям, но и плохим. [...]
В этом разделе для меня самым интересным примером была история с mirror life. [...]
Добавлю ещё один источник, который на меня произвёл большое впечатление: книга “Nine Lives“, которую я, конечно же, не читал, а читал подробный обзор на Astralcodexten. Смысл, если кратко, в том, что у настоящих террористических организаций не так уж плохо с деньгами, доступом к ресурсам и т.п. Главное, чего им не хватает, — мозгов. То есть умных людей, потому что умных людей трудно привлечь к работе в террористических организациях. То есть кого-нибудь умного, не обязательно именно человека... [...]
Что же делать? Дарио Амодеи ратует за подход Anthropic, известный как Constitutional AI. [...]
Промышленная революция AI-моделей
После экзистенциальных рисков Амодеи переходит к рискам для рынков труда. Сначала он описывает классическую промышленную революцию... парадокс Джевонса... [...]
А потом Дарио объясняет, почему с AI вряд ли получится так же. [...]
И ничего с этим не поделаешь даже в самых оптимистичных сценариях:
Лавкрафт был оптимистом
Последний раздел эссе, "Black seas of infinity", посвящён unknown unknowns. [...]
Название раздела взято из "Call of Cthulhu", и если Дарио Амодеи может предполагать знакомство с источником, то для русскоязычной аудитории лучше привести цитату. Давайте на ней и закончим (пер. С. Лихачёвой):
#ai #longreads #blog #aisafety
Сегодня разбираю этот текст, с чем-то не соглашаюсь, но в основном спорить, конечно, не с чем. Пост по ссылке, здесь краткие выжимки:
Переходный возраст машин любви и благодати
AI Safety и роль Anthropic
Здесь Амодеи заслуженно горд достижениями Anthropic; эту область действительно в основном Anthropic и двигает в последнее время. [...]
Правы ли AI-думеры?
Амодеи проходится по классическим "думерским" аргументам вроде instrumental convergence. [...] Конечно, это не математические теоремы. [...] Лучше говорить не "ASI с вероятностью 99.9% уничтожит человечество", а "ASI с заметной вероятностью, более 10%, уничтожит человечество".
Но следствия из этого "более мягкого" утверждения будут всё равно ровно те же самые: этого никак нельзя допустить, и если мы не знаем как этого избежать, значит, не надо строить ASI. [...]
А на какую долю риска лично вы были бы согласны в таком мысленном эксперименте?
Интересные примеры
Дальше Дарио описывает некоторые из экспериментов Anthropic, показывая всякие плохие и просто интересные эффекты, а также о прогрессе в интерпретируемости. [...] Очень интересная тема!
Буквально один пример: [...]
Риски от плохих людей
Переходя к возможным рискам, Амодеи пишет о том, что “a superintelligent genius in your pocket” будет доступен не только хорошим людям, но и плохим. [...]
В этом разделе для меня самым интересным примером была история с mirror life. [...]
Добавлю ещё один источник, который на меня произвёл большое впечатление: книга “Nine Lives“, которую я, конечно же, не читал, а читал подробный обзор на Astralcodexten. Смысл, если кратко, в том, что у настоящих террористических организаций не так уж плохо с деньгами, доступом к ресурсам и т.п. Главное, чего им не хватает, — мозгов. То есть умных людей, потому что умных людей трудно привлечь к работе в террористических организациях. То есть кого-нибудь умного, не обязательно именно человека... [...]
Что же делать? Дарио Амодеи ратует за подход Anthropic, известный как Constitutional AI. [...]
Промышленная революция AI-моделей
После экзистенциальных рисков Амодеи переходит к рискам для рынков труда. Сначала он описывает классическую промышленную революцию... парадокс Джевонса... [...]
А потом Дарио объясняет, почему с AI вряд ли получится так же. [...]
И ничего с этим не поделаешь даже в самых оптимистичных сценариях:
Ultimately, I think of all of the above interventions as ways to buy time. In the end AI will be able to do everything, and we need to grapple with that.
Лавкрафт был оптимистом
Последний раздел эссе, "Black seas of infinity", посвящён unknown unknowns. [...]
Название раздела взято из "Call of Cthulhu", и если Дарио Амодеи может предполагать знакомство с источником, то для русскоязычной аудитории лучше привести цитату. Давайте на ней и закончим (пер. С. Лихачёвой):
Мы живем на безмятежном островке неведения посреди черных морей бесконечности, и дальние плавания нам заказаны. Науки, трудясь каждая в своем направлении, до сих пор особого вреда нам не причиняли. Но в один прекрасный день разобщенные познания будут сведены воедино, и перед нами откроются такие ужасающие горизонты реальности, равно как и наше собственное страшное положение, что мы либо сойдем с ума от этого откровения, либо бежим от смертоносного света в мир и покой нового темного средневековья.
#ai #longreads #blog #aisafety
👍20❤15🔥5🤔4😱2
Длинный пост про эссе Дарио Амодеи что-то не зашёл. Попробую короткий, про свежую статью на мою любимую тему "AI и математика". Выложил на сайт, но по ссылке можно не ходить, тут почти всё поместилось:
130K строк топологических доказательств за две недели: автоформализация для всех?
Идея проверки математических доказательств компьютером стара почти как сами компьютеры. Ещё в 1962 году Джон Маккарти писал, что это "потенциально одно из самых интересных и полезных применений вычислительных машин". Фактически первой AI-системой был Logic Theorist (1956), о котором я всё время рассказываю на лекциях (в третьей лекции, например) и в докладах о математике (например).
С тех пор появилось много систем автоматического доказательства и верификации: Mizar в 70-х, Isabelle/Isar в 2000-х, а сейчас самый популярный прувер — Lean, появившийся в 2013 году. Но все они требовали, чтобы человек вручную переводил математику на формальный язык, а это очень трудно.
Роль личности: кто такой Урбан
Йозеф Урбан — один из пионеров идеи автоматической формализации с помощью машинного обучения. В 2004 году, когда это казалось безумием, он уже начал это пропагандировать. В 2014 Урбан представил программу исследований и сделал несколько публичных ставок. Например: через 25 лет 50% утверждений из учебников уровня магистратуры будут автоматически парситься с корректной формальной семантикой. Урбан тогда добавил: "возможно, это произойдёт быстрее, чем я ожидал".
Прошло чуть больше десяти лет, и похоже, что он был прав насчёт "быстрее".
Что произошло
Математические доказательства — это текст на естественном языке, который читают и проверяют другие математики. Но люди ошибаются, и история знает случаи, когда "доказанные" теоремы оказывались неверными спустя годы. Формализация — это перевод доказательств на язык формальной логики, где каждый шаг проверяется компьютером. Если верификатор принял доказательство — оно гарантированно корректно.
В препринте Урбан запустил простой цикл: большая языковая модель (в основном ChatGPT 5.2) пишет формальные доказательства, верификатор проверяет, модель получает обратную связь и исправляет ошибки, и так далее.
За две недели система произвела около 130 тысяч строк формализованной топологии по учебнику Манкреса. Полностью доказаны серьёзные теоремы: лемма Урысона (3K строк), теорема метризации Урысона (2K), теорема Титце о продолжении (более 10K). Последняя даже потребовала от системы самостоятельно восполнить пробел в учебнике; GPT думал долго, но в итоге справился.
Что здесь удивительного?
Во-первых, цена: $100 на LLM-подписки и всё.
Во-вторых, система доказательств: Урбан использовал не Lean, с которым LLM работают давно, а Megalodon — малоизвестный верификатор на основе логики высших порядков. И это ничему не помешало.
В-третьих, степень автономности. Вот очень милая цитата про workflow Урбана:
Куда всё это катится?
Урбан осторожно предполагает, что в 2026 году мы можем увидеть автоформализацию большинства стандартных учебников. Или не увидеть — возможно, система упрётся в какие-то пределы. Но сам факт, что это теперь "дёшево и доступно каждому", меняет многое.
Будущее предсказать всегда трудно, но опять кажется, что движемся мы туда быстрее, чем ожидали.
#ai #longreads
130K строк топологических доказательств за две недели: автоформализация для всех?
Идея проверки математических доказательств компьютером стара почти как сами компьютеры. Ещё в 1962 году Джон Маккарти писал, что это "потенциально одно из самых интересных и полезных применений вычислительных машин". Фактически первой AI-системой был Logic Theorist (1956), о котором я всё время рассказываю на лекциях (в третьей лекции, например) и в докладах о математике (например).
С тех пор появилось много систем автоматического доказательства и верификации: Mizar в 70-х, Isabelle/Isar в 2000-х, а сейчас самый популярный прувер — Lean, появившийся в 2013 году. Но все они требовали, чтобы человек вручную переводил математику на формальный язык, а это очень трудно.
Роль личности: кто такой Урбан
Йозеф Урбан — один из пионеров идеи автоматической формализации с помощью машинного обучения. В 2004 году, когда это казалось безумием, он уже начал это пропагандировать. В 2014 Урбан представил программу исследований и сделал несколько публичных ставок. Например: через 25 лет 50% утверждений из учебников уровня магистратуры будут автоматически парситься с корректной формальной семантикой. Урбан тогда добавил: "возможно, это произойдёт быстрее, чем я ожидал".
Прошло чуть больше десяти лет, и похоже, что он был прав насчёт "быстрее".
Что произошло
Математические доказательства — это текст на естественном языке, который читают и проверяют другие математики. Но люди ошибаются, и история знает случаи, когда "доказанные" теоремы оказывались неверными спустя годы. Формализация — это перевод доказательств на язык формальной логики, где каждый шаг проверяется компьютером. Если верификатор принял доказательство — оно гарантированно корректно.
В препринте Урбан запустил простой цикл: большая языковая модель (в основном ChatGPT 5.2) пишет формальные доказательства, верификатор проверяет, модель получает обратную связь и исправляет ошибки, и так далее.
За две недели система произвела около 130 тысяч строк формализованной топологии по учебнику Манкреса. Полностью доказаны серьёзные теоремы: лемма Урысона (3K строк), теорема метризации Урысона (2K), теорема Титце о продолжении (более 10K). Последняя даже потребовала от системы самостоятельно восполнить пробел в учебнике; GPT думал долго, но в итоге справился.
Что здесь удивительного?
Во-первых, цена: $100 на LLM-подписки и всё.
Во-вторых, система доказательств: Урбан использовал не Lean, с которым LLM работают давно, а Megalodon — малоизвестный верификатор на основе логики высших порядков. И это ничему не помешало.
В-третьих, степень автономности. Вот очень милая цитата про workflow Урбана:
Before December 22, I was "babysitting" the command-line interface, i.e., looking every now and then... This was manageable, because my early $20/month LLM subscriptions would quickly run out of credits anyway... With the $200/month ChatGPT Pro subscription the limits on usage got much higher and automating the prompting became necessary. I have implemented it by writing the following script that watches the tmux session and feeds it the prompt followed by "Enter" whenever there has not been any change in the session for 60 seconds
Куда всё это катится?
Урбан осторожно предполагает, что в 2026 году мы можем увидеть автоформализацию большинства стандартных учебников. Или не увидеть — возможно, система упрётся в какие-то пределы. Но сам факт, что это теперь "дёшево и доступно каждому", меняет многое.
Будущее предсказать всегда трудно, но опять кажется, что движемся мы туда быстрее, чем ожидали.
#ai #longreads
1🔥26❤6👍5