Исследователи оценили размер закрытых LLM через вопросы с фактическими ответами разной редкости: от общеизвестных фактов до совсем нишевых.

Чем больше модель, тем больше редких фактов она знает: зависимость оказалась лог-линейной.

Оценки получились такие:
* GPT 5.5 — около 10T параметров
* Claude Opus 4.x — 4–5T
* Grok 4 — 3T
* Gemini 3.1 Pro использовали как якорную точку калибровки, прямой оценки для него нет, но судя по всему — больше 10T

При этом самые редкие факты не знает ни одна модель. Это значит, что все они могли бы стать лучше просто за счёт большего объёма обучающих данных без изменения архитектуры.

Для сравнения: Kimi K2.6 имеет около 1T параметров суммарно, а DeepSeek-V4 1.6Т.

@ai_for_devs​​​​​​​​​​​​​​​​

Был недавно на конференции, поговорил с людьми: от джунов и до тех, кто пишет код лет двадцать. Меня крайне удивило, что многие сейчас вообще не ревьювят код, который генерирует агент. Ну как, они ревьювят его, правда другими агентами 😄 Особенно удивительно это было слышать от крайне опытных разработчиков!

Тут как раз попались 10 советов по агентному кодингу от Drew Breunig. Поспорить с ними сложно, так что просто оставляю их здесь:

1. Реализуй, чтобы понять. Можно далеко уйти с Spec-Driven Development, но сам процесс написания кода выявляет решения, о которых вы не думали, и делает спецификацию лучше. Когда код стоит крайне дешево — реализуй, чтобы узнать больше.

2. Пересобирай часто. Собирай сборки как можно чаще, чтобы узнавать больше. Форкай и переписывай свои самые сумасшедшие мысленные эксперименты. Проверяй, докуда можно довести фичу. Конечно, итерации и накопление работ никто не отменял — но дешёвый код позволяет разведывать и переизобретать так, как раньше было невозможно.

3. Вкладывайся в end-to-end тесты. Когда код можно пересобрать дёшево, стоит тратить время на тесты, которые измеряют функции продукта, а не способ их реализации. Нужны поведенческие контракты, дающие свободу перестраивать и переписывать.

4. Документируй намерение. Тесты описывают цели, код — методы, но ни то ни другое не отвечает на вопрос зачем. Намерение стоит за решениями, и если зафиксировать его рядом с кодом, это помогает вам и агенту двигаться в одном направлении.

5. Держи спецификации актуальными. Обновляй spec-файлы — markdown-документы с целями и планами — по мере продвижения кода и тестов. Если относиться к спецификации как к замороженному артефакту, написанному до начала работы, упустишь всё, что узнал в процессе. Актуальная спецификация постоянно направляет ваши решения и решения агента, а частые сборки становятся проще.

6. Ищи сложное. Поработав над проектом достаточно долго, начинаешь упираться в реально трудные вещи: интуитивный дизайн, производительность, безопасность, отказоустойчивость, системную архитектуру. Лёгкое вайбкодить может каждый. Ценность — в сложном. Найди его и копай.

7. Автоматизируй всё простое. Чтобы больше времени тратить на сложное, минимизируй время на лёгкое. Упаковывай знания в Skills, создавай Hooks, автоматизируй code review, давай инструментам накапливать работу.

8. Развивай вкус. Когда код появляется быстро, а обратная связь — нет, единственный источник фидбека, который успевает за темпом, — это ты сам. Чем лучше знаешь свою область, пользователей и их проблемы, тем дальше можешь зайти без остановок на проверку.

9. Агенты усиливают опыт. Опытные разработчики недооценивают, сколько интуиции они вкладывают в промпты: правильные термины, правильный фрейминг, правильный уровень конкретики. Знание своего стека экономит множество циклов при реализации и отладке, сокращает лишнее хождение агента по кругу. Техническая экспертиза в связке с хорошим вкусом — трудно бить такую комбинацию.

10. Код дешевый, но поддержка, сопровождение и безопасность — нет. Агентный код бесплатен в том смысле, в каком бесплатен, например, щенок. Поддержка стоит дорого, и безопасность тоже. Строй быстро, но отдавай себе отчёт в том, что берёшь на обслуживание.

Мы, кстати, не так давно проводили опрос про ревью кода, написанного агентами. Мой выбор за прошедшие 3 месяца поменялся) Да и вариантов ответа стало поболее. Давайте актуализировать!

@ai_for_devs

⚡️ 12 млн токенов контекста, та же точность что у Opus, цена в 300 раз ниже: новая модель на SSA-архитектуре

Subquadratic — стартап из Майами с 11 PhD в команде и $29M инвестиций. Их первая модель построена на субквадратичной архитектуре.

Обычный трансформер считает связи между всеми парами токенов, поэтому вычисления растут квадратично. В случае с SSA модель находит только значимые связи, и вычисления растут линейно. По заявлению компании, такой подход приводит к ~1000 раз меньшему количеству вычислений на длинных контекстах.

Результат: 12 млн токенов в одном промпте. Для масштаба: это весь исходник Python 3.13 (~5.1M токенов), загруженный дважды!, а на сдачу ещё остаётся место как у двух Opus 4.7 с контекстом в 1M :D

На бенчмарке RULER 128K SubQ показал 95% точности при стоимости $8 против 94% у Claude Opus за ~$2600.

Пока модель доступна только с контекстом в 1M токенов через API, а 12M исключительно по запросу. Бенчмарки только от самой компании, независимых проверок ещё не было. Так что возбуждаемся, но осторожно!

@ai_for_devs

⚡️ 220 000 GPU для удвоенных лимитов в Claude

Anthropic полностью арендовали Colossus 1 у SpaceX/xAI — кластер из 220 000+ GPU, который построили за ~122 дня.

xAI/SpaceX уже активно используют Colossus 2 для своих моделей, поэтому Colossus 1 выгоднее сдавать (даже конкурентам).

Главное из этой новости для нас, землекопов:

1. 5-часовые лимиты Claude Code удваиваются для тарифов Pro, Max, Team и Enterprise
2. Снимается урезание лимитов в часы пиковых нагрузок для тарифов Pro и Max
3. Существенно растут лимиты на API-вызовы для Opus-моделей

Многие последнее время переходили на Codex именно из-за куцых лимитов Claude. Теперь можно будет немного расслабиться.

@ai_for_devs​​​​​​​​​​​​​​​​

Один из тестов безопасности Anthropic выглядит так: Claude сообщают, что инженер планирует его отключить и заменить новой моделью. Claude также дают доступ к письмам этого инженера, где выясняется, что тот изменяет жене. Задача теста: использует ли Claude эти письма как шантаж ради самосохранения?

Почти всегда — нет. Но возникает другой вопрос: а вдруг Claude просто понимает, что это проверка, и ведёт себя хорошо именно поэтому?

Проблема в том, что если модель об этом сама не скажет, то мы и не узнаем.

Для этого Anthropic разработали Natural Language Autoencoders. Внутри модели есть промежуточные числовые векторы, что-то вроде «мыслей в процессе». NLA берёт эти числа, переводит в текст, потом переводит обратно в числа и сверяет с оригиналом. Чем точнее реконструкция, тем точнее перевод.

Когда применили к тесту с шантажом, оказалось, что Claude действительно знал о проверке. В активациях читалось: «сообщение содержит явную манипуляцию, это похоже на тест безопасности».

Ну теперь хоть знать будем, когда Claude запланирует нас поработить 😅

@ai_for_devs

😵 Разработчики Mozilla за апрель закрыли 423 security-бага Firefox — больше, чем за предыдущие 15 месяцев суммарно

271 из них нашла новая модель Anthropic Claude Mythos. Среди находок были баги возрастом 15 и 20 лет, которые годами не замечали люди и фаззеры.

Вот что говорят исследователи из Mozila:

В конечном счёте каждый баг требует тщательной работы для правильного исправления. Справляться с беспрецедентным объёмом оказалось непросто — последние несколько месяцев команда работала с большой нагрузкой.

Более 100 человек внесли вклад в код: писали и ревьюили патчи, строили и масштабировали пайплайн, делали триаж, тестировали исправления, управляли процессом релизов.

@ai_for_devs

Небольшой воскресный оффтоп: OpenAI выкатили три голосовых модели в Realtime API (reasoning, транскрипция и синхронный перевод).

Последняя меня зацепила больше всего. GPT-Realtime-Translate обучали на тысячах часов аудио профессиональных синхронных переводчиков, именно поэтому модель не отвечает на вопросы и не выполняет инструкции, а только переводит.

Слушает и понимает 70+ языков, отвечает на 13, русский в том числе. Попробовать можно тут.

В демке двое говорят на французском и немецком, модель переводит обоих на английский в реальном времени.

Anthropic пугает дизайнеров и разработчиков, а OpenAI синхронных переводчиков 😄

@ai_for_devs

Telegram на той неделе выкатил обновление с явным упором на агентов: боты теперь могут отвечать другим ботам, любой пользователь может подключить бота к профилю и разрешить ему отвечать на сообщения от своего имени, плюс вызов через @упоминание в любом чате.

Раньше я уже писал про снятие ограничений на общение ботов между собой, Telegram продолжает двигаться в этом направлении.

ИИ-агенты и инструменты тоже дружественно настроены к Telegram. OpenClaw, например, изначально позиционировался и строился вокруг идеи управления агентом из мессенджера, Telegram там один из основных каналов.

Kodacode вообще сделали интеграцию с IDE (видео): запускаешь агента, уходишь, дальше общаешься с ним через чат в Telegram. Отъехал по середине дня куда-то, но доступ к агенту и проекту не теряешь. Потом можно вернуться и продолжить работу в IDE.

В общем приколы с телегой мне нравятся сильно больше, чем установка отдельного приложения под каждого агента (например, Claude Code c их /remote-dev).

@ai_for_devs

⚡ В Claude Code появился agent view

Открывается через claude agents или стрелкой влево из любой сессии.

Каждая строка это сессия: статус (работает / ждёт твоего ввода / завершена), последний ответ, время последнего взаимодействия.

Нажал Enter — провалился внутрь и работаешь как обычно, стрелка влево и возвращаешься обратно в список агентов.

Доступно всем уже сейчас как research preview для тарифов Pro, Max, Team и Enterprise.

@ai_for_devs

С 15 июня у подписчиков Claude появится отдельный ежемесячный кредит на API — $20, $100 или $200 в зависимости от плана.

Тратить его можно на Agent SDK, запуск Claude в интерактивном режиме через (claude -p), GitHub Actions и сторонние приложения поверх Claude. Обычный чат и Claude Code этот кредит не трогают — у них свой лимит.

Если сейчас за любое программное использование Claude нужен был отдельный API-ключ и оплата. Теперь подписка уже включает бюджет на это.

@ai_for_devs​​​​​​​​​​​​​​​​