Год с лишним назад вышел AI 2027, который не побоялся поставить конкретные даты на дороге к AGI, RSI, ASI и так далее. А пару недель назад сооснователь Anthropic Джек Кларк написал, что по его оценкам с вероятностью 60%+ к концу 2028 года появится ИИ, способный полностью автономно обучить своего преемника. "I don't know how to wrap my head around it".
Сегодня у нас большой разбор: где мы сейчас на пути к recursive self-improvement, насколько сбывается AI 2027 и запустят ли LLM-агенты сингулярность. Пост по ссылке, ниже оглавление и краткие саммари разделов:
AI 2027 в 2026: нам и правда остался год?
1. Предисловие
2. AI 2027 чуть подробнее: идея сценария, SC → SAR → ASI. 2027 — это мода, а не медиана. Сами авторы сейчас ставят сверхинтеллект на 2031–2035.
3. Табель успеваемости: две ретроспективы: реальность идёт с некоторым количественным отставанием, но качественные предсказания (агенты, инвестиции, отставание регулирования) сбываются. А автономный поиск 0-day уязвимостей, как мы все знаем, опережает прогноз.)
4. Горизонт автономности: главный график про агентов. METR time horizon удваивается каждые ~3–7 месяцев и ускоряется. Mythos почти буквально уже "superhuman coder" из прогноза.
5. Проблема надёжности: от бенчмарка к реальной работе. Скепсис: METR писал, что AI-инструменты замедляли разработчиков, а не ускоряли, половину проходящих тестов PR мейнтейнеры бы не приняли и так далее. Бенчмарк — это ещё не совсем то.
6. Автономия и autoresearch: бенчмарки. Что с autoresearch? SWE-bench по сути на свалке истории, на MLE-bench 17% → 64% за полтора года, RE-Bench насыщается, PaperBench не обновляется, а на фронтире сейчас AutoResearchBench (~9%). Чем более открытая задача, тем нужнее пока что человек.
7. Автономия и autoresearch: позитивные результаты. Но там, где есть быстрый честный верификатор, агенты уже делают настоящие открытия: гипотеза Эрдёша, AlphaEvolve, AI Co-Mathematician. Да и просто — вы сами-то пробовали последние модели?
8. Инфраструктура и сроки. Это та часть AI 2027, которая сбывается с опережением: компьют растёт на 5× в год, инвестиции в сотнях миллиардов $, Stargate опережает график. Компьют ограничителем вряд ли станет — если только не упрёмся в то, что каждую идею надо проверять дорогим обучением.
9. Запустят ли LLM-агенты сингулярность? Главный вопрос, конечно, не в дате, а в том, сходящийся это ряд или расходящийся. Уже сейчас Claude пишет 80% кода Anthropic, но сама Anthropic говорит, что RSI ещё не предопределено. Пока ещё появляются новые узкие места.
10. Чего именно не хватает: память и непрерывное обучение, надёжность на длинном горизонте, sample efficiency, вкус и постановка задачи, модель мира. Вряд ли эти стены так уж непреодолимы, но и не падают пока что.
11. Заключение: AI 2027, возможно, ошибся в скорости, но не в направлении. К концу 2027-го не стоит ждать развязки (слава богу!), мы в более медленном таймлайне. Но "не так скоро" не значит "никогда" или даже "не скоро": ставки против прогресса AI пока не сработали ни разу.
#blog #longreads #ai
Сегодня у нас большой разбор: где мы сейчас на пути к recursive self-improvement, насколько сбывается AI 2027 и запустят ли LLM-агенты сингулярность. Пост по ссылке, ниже оглавление и краткие саммари разделов:
AI 2027 в 2026: нам и правда остался год?
1. Предисловие
2. AI 2027 чуть подробнее: идея сценария, SC → SAR → ASI. 2027 — это мода, а не медиана. Сами авторы сейчас ставят сверхинтеллект на 2031–2035.
3. Табель успеваемости: две ретроспективы: реальность идёт с некоторым количественным отставанием, но качественные предсказания (агенты, инвестиции, отставание регулирования) сбываются. А автономный поиск 0-day уязвимостей, как мы все знаем, опережает прогноз.)
4. Горизонт автономности: главный график про агентов. METR time horizon удваивается каждые ~3–7 месяцев и ускоряется. Mythos почти буквально уже "superhuman coder" из прогноза.
5. Проблема надёжности: от бенчмарка к реальной работе. Скепсис: METR писал, что AI-инструменты замедляли разработчиков, а не ускоряли, половину проходящих тестов PR мейнтейнеры бы не приняли и так далее. Бенчмарк — это ещё не совсем то.
6. Автономия и autoresearch: бенчмарки. Что с autoresearch? SWE-bench по сути на свалке истории, на MLE-bench 17% → 64% за полтора года, RE-Bench насыщается, PaperBench не обновляется, а на фронтире сейчас AutoResearchBench (~9%). Чем более открытая задача, тем нужнее пока что человек.
7. Автономия и autoresearch: позитивные результаты. Но там, где есть быстрый честный верификатор, агенты уже делают настоящие открытия: гипотеза Эрдёша, AlphaEvolve, AI Co-Mathematician. Да и просто — вы сами-то пробовали последние модели?
8. Инфраструктура и сроки. Это та часть AI 2027, которая сбывается с опережением: компьют растёт на 5× в год, инвестиции в сотнях миллиардов $, Stargate опережает график. Компьют ограничителем вряд ли станет — если только не упрёмся в то, что каждую идею надо проверять дорогим обучением.
9. Запустят ли LLM-агенты сингулярность? Главный вопрос, конечно, не в дате, а в том, сходящийся это ряд или расходящийся. Уже сейчас Claude пишет 80% кода Anthropic, но сама Anthropic говорит, что RSI ещё не предопределено. Пока ещё появляются новые узкие места.
10. Чего именно не хватает: память и непрерывное обучение, надёжность на длинном горизонте, sample efficiency, вкус и постановка задачи, модель мира. Вряд ли эти стены так уж непреодолимы, но и не падают пока что.
11. Заключение: AI 2027, возможно, ошибся в скорости, но не в направлении. К концу 2027-го не стоит ждать развязки (слава богу!), мы в более медленном таймлайне. Но "не так скоро" не значит "никогда" или даже "не скоро": ставки против прогресса AI пока не сработали ни разу.
#blog #longreads #ai
❤20😨5🤔2👍1
Не знаю уж, как мы на чемпионате России выступим. Не давался нам этот турнир даже в лучшие времена, в прошлом году вообще был полный провал, надеюсь, в этот раз всё-таки такого не случится.
Но вид из окна у меня огненный уже прямо сейчас!
#chgk #lifestyle
Но вид из окна у меня огненный уже прямо сейчас!
#chgk #lifestyle
❤34🔥17👍4🏆3🤩1😍1
Разбираем сегодня небольшую детективную RPG, которая сделана во многом настолько плохо, что действительно становится хорошо! Душевно и по-баварски:
Inspector Schmidt — A Bavarian Tale
(и вот выложил на DTF)
Сделала Inspector Schmidt мюнхенская инди-студия Active Fungus Studios [...] делали проект люди с куда большим энтузиазмом, чем бюджетом и опытом. [...]
Действие происходит в 1866 году в Верхней Баварии, сразу после Семинедельной войны, той самой, где немцы воевали с немцами (и немного с итальянцами), а Пруссия победила, как ясно из названия, очень быстро и объединила Германию под своим началом, а не австрийским.
Вы играете за Валентина Шмидта — студента-медика, который приезжает в тихую деревню Вольпертсхофен собрать данные для отчёта старшего коллеги. И тут, как водится, в луже находят погибшего после кабацкой драки крестьянина, и спокойная деревенская идиллия постепенно оборачивается набором тёмных секретов. А главному герою предстоит вовсю совать нос в чужие дела, чего простые баварские мужики не любят.
Геймплей
Ох, какой здесь геймплей! Это настолько невероятно плохо, что действительно в какой-то момент становится хорошо.
Вот, например, самое начало. Вы запускаете детективную игру, в которой вас отправили в небольшой баварский городок с формальным государственным делом. Вы идёте по узкой тропинке и приходите к мосту, через который вас не пускают.
Чтобы пройти, надо отвлечь охранников (что уже странно — вы вроде как при бумагах, практически представитель власти), и вам готов помочь местный мальчишка… если вы соберёте для него десять грибочков! [...]
А дальше начинается диалоговая RPG, где надо выбирать варианты ответов, но особых разветвлений нет. [...]
Но и настоящих проблем в геймплее было немало, в том числе багов. [...]
Создавалось впечатление, что каждую механику авторы делали впервые в жизни — потому что, видимо, так оно и было…
Стиль и атмосфера
Но в итоге все эти странненькие эпизоды, и даже баги, каким-то невероятным образом работают на атмосферу! Она здесь именно такая: чистый camp, добрая домашняя ролёвка с шутками-прибаутками. Игра прекрасно понимает свои ограничения, понимает всю свою корявость и, как говорится, embraces it, и от этого корявость превращается в обаяние.
Дух баварской деревни тут и правда чувствуется, несмотря на графику где-то между A и AA. И играть реально интересно! История действительно детективная, диалоги прописаны с юмором, в сюжете нет особых вот-это-поворотов, но интрига есть и разворачивается как надо. В игре есть даже серьёзный исторический фон — рабочее движение, идеи демократии, которые занёс в деревню местный учитель из Мюнхена, классовые трения между крестьянами и хозяевами.
Да и вообще сеттинг крутой и необычный — про жизнь баварской деревни после австро-прусской войны (о которой здесь все персонажи очень хорошо помнят) не то чтобы много игр сделано. Правда, разговоры о политических делах были сделаны довольно поверхностно, и я так особо ничего общечеловеческого и не узнал.
И немного о юморе. Это же немецкая игра, и юмор там немецкий. Поэтому, конечно же, среди сайд-квестов не могло не быть военного, застрявшего в сортире с несварением; и это, вопреки стереотипам о немецком юморе, действительно смешно сделано.
Заключение
[...]
Если вы готовы простить игре примерно всё ради той самой “души”, попробуйте. Я не пожалел. Кстати, не пожалели многие, игра продалась тиражом в сотни тысяч копий, и студия уже успела выпустить полноценный сиквел. Про него я вам тоже когда-нибудь обязательно расскажу.
#tgif #games
Inspector Schmidt — A Bavarian Tale
(и вот выложил на DTF)
Сделала Inspector Schmidt мюнхенская инди-студия Active Fungus Studios [...] делали проект люди с куда большим энтузиазмом, чем бюджетом и опытом. [...]
Действие происходит в 1866 году в Верхней Баварии, сразу после Семинедельной войны, той самой, где немцы воевали с немцами (и немного с итальянцами), а Пруссия победила, как ясно из названия, очень быстро и объединила Германию под своим началом, а не австрийским.
Вы играете за Валентина Шмидта — студента-медика, который приезжает в тихую деревню Вольпертсхофен собрать данные для отчёта старшего коллеги. И тут, как водится, в луже находят погибшего после кабацкой драки крестьянина, и спокойная деревенская идиллия постепенно оборачивается набором тёмных секретов. А главному герою предстоит вовсю совать нос в чужие дела, чего простые баварские мужики не любят.
Геймплей
Ох, какой здесь геймплей! Это настолько невероятно плохо, что действительно в какой-то момент становится хорошо.
Вот, например, самое начало. Вы запускаете детективную игру, в которой вас отправили в небольшой баварский городок с формальным государственным делом. Вы идёте по узкой тропинке и приходите к мосту, через который вас не пускают.
Чтобы пройти, надо отвлечь охранников (что уже странно — вы вроде как при бумагах, практически представитель власти), и вам готов помочь местный мальчишка… если вы соберёте для него десять грибочков! [...]
А дальше начинается диалоговая RPG, где надо выбирать варианты ответов, но особых разветвлений нет. [...]
Но и настоящих проблем в геймплее было немало, в том числе багов. [...]
Создавалось впечатление, что каждую механику авторы делали впервые в жизни — потому что, видимо, так оно и было…
Стиль и атмосфера
Но в итоге все эти странненькие эпизоды, и даже баги, каким-то невероятным образом работают на атмосферу! Она здесь именно такая: чистый camp, добрая домашняя ролёвка с шутками-прибаутками. Игра прекрасно понимает свои ограничения, понимает всю свою корявость и, как говорится, embraces it, и от этого корявость превращается в обаяние.
Дух баварской деревни тут и правда чувствуется, несмотря на графику где-то между A и AA. И играть реально интересно! История действительно детективная, диалоги прописаны с юмором, в сюжете нет особых вот-это-поворотов, но интрига есть и разворачивается как надо. В игре есть даже серьёзный исторический фон — рабочее движение, идеи демократии, которые занёс в деревню местный учитель из Мюнхена, классовые трения между крестьянами и хозяевами.
Да и вообще сеттинг крутой и необычный — про жизнь баварской деревни после австро-прусской войны (о которой здесь все персонажи очень хорошо помнят) не то чтобы много игр сделано. Правда, разговоры о политических делах были сделаны довольно поверхностно, и я так особо ничего общечеловеческого и не узнал.
И немного о юморе. Это же немецкая игра, и юмор там немецкий. Поэтому, конечно же, среди сайд-квестов не могло не быть военного, застрявшего в сортире с несварением; и это, вопреки стереотипам о немецком юморе, действительно смешно сделано.
Заключение
[...]
Если вы готовы простить игре примерно всё ради той самой “души”, попробуйте. Я не пожалел. Кстати, не пожалели многие, игра продалась тиражом в сотни тысяч копий, и студия уже успела выпустить полноценный сиквел. Про него я вам тоже когда-нибудь обязательно расскажу.
#tgif #games
❤12🔥4👍2
Играем мы пока что как известная субстанция, но зато посмотрите, какой потрясающий плакат для нас сделала девушка Женя. :)
#chgk #lifestyle
#chgk #lifestyle
❤27🔥10❤🔥5👍5👎1🤮1🖕1
Мы с моим давним другом и соавтором Ириной Пионтковской недавно написали статью, и вот препринт выложили:
Recoverable but Not Stationary: Local Linear Structures in Weights and Activations
Это направление мне нравится и кажется интересным: это о том, как устроено пространство весов и активаций сети в окрестности минимума, особенно multi-task минимума, когда мы обучаем сеть делать сразу несколько вещей.
Есть куча работ о том, что там есть линейная структура, относительно небольшой набор направлений, вдоль которых происходят интересные вещи, — но как именно там эта локальная геометрия устроена? Как её изучать и что получится? На какие-то вопросы мы пытаемся ответить в статье, но кажется, что эта наука пока ещё только начинается, и там ещё много интересного впереди.
Вам был бы интересен подробный пост об этой статье и вообще о том, на каких идеях всё это основано?
#research #ai #publications
Recoverable but Not Stationary: Local Linear Structures in Weights and Activations
Это направление мне нравится и кажется интересным: это о том, как устроено пространство весов и активаций сети в окрестности минимума, особенно multi-task минимума, когда мы обучаем сеть делать сразу несколько вещей.
Есть куча работ о том, что там есть линейная структура, относительно небольшой набор направлений, вдоль которых происходят интересные вещи, — но как именно там эта локальная геометрия устроена? Как её изучать и что получится? На какие-то вопросы мы пытаемся ответить в статье, но кажется, что эта наука пока ещё только начинается, и там ещё много интересного впереди.
Вам был бы интересен подробный пост об этой статье и вообще о том, на каких идеях всё это основано?
#research #ai #publications
3👍65❤14🔥5🤯2👎1🤔1