Уже завтра ваш Claude Code станет не таким послушным

И это не баг, а фича: с 14 августа Anthropic по умолчанию включает всем пользователям подписок Pro, Max и Team режим Auto Mode, в котором решение на ключевых этапах работы принимает ИИ-проверяющий. Напомню, что раньше ИИ-агент перед тем, как выполнить потенциально опасную команду останавливался и спрашивал вашего разрешения. Теперь разрешение дает другой ИИ.

Сразу успокою параноиков: никто не запрещает вам включить ручной режим обратно. Более того – в некоторых случаях он будет включаться автоматически.

Впрочем, у меня строго другая ситуация: Auto Mode я сделал режимом по-умолчанию несколько месяцев назад просто потому, что на автомате жал “разрешить” для всех вопросов. Исследование Anthropic показало, что пользователи одобряют 97% запросов на разрешение – это и стало одной из главных причин перехода на Auto Mode.

Дальше еще интереснее. В компании взяли группу в 1000 пользователей, дали им поработать в ручном режиме, подсовывая опасные команды – в итоге люди распознали лишь 13,6% против 89% у авторежима. Еще одно интересное наблюдение: после 50 подтверждений точность человека падает примерно до 5% – люди начинают излишне доверять системе и не думая жмут allow. 

Это, кстати, плохая идея – ИИ-агенты до сих пор косячат. Во внутреннем использовании в самой компании один ИИ-агент попытался опубликовать внутренний отчет на публичном хостинге после неудачи загрузки на внутренний диск, а другой в порыве доброты душевной решил выдать роль с полным админским доступом там, где просили read-only к биллингу. Классификатор поймал оба случая.

Люди, впрочем, и раньше не особо держались за ручной контроль. К июню половина пользователей руками прописала правила "вот эти команды выполняй молча", 62% хотя бы раз включали режим “вообще ничего не спрашивай” (в нем нет даже классификатора), а каждая четвертая сессия и вовсе стартовала с полностью отключенной защитой.

В копилку Anthropic я добавлю аргумент от себя: с ручным одобрением ИИ-агент иногда становится менее эффективен, чем чат-бот. Агент с ручным одобрением работает рывками по 2–3 минуты, этого достаточно, чтобы отвлечься, переключиться на другую задачу, через полчаса вспомнить про агента – и обнаружить его застрявшим на запросе очередного безобидного разрешения.

Важно помнить,что и классификатор не гарантирует 100% защиту. В том же тесте люди поймали шесть опасных команд, пропущенных классификатором – вот только классификатор поймал 800 команд, пропущенных людьми.

Известный ИИ-эксперт Саймон Уиллисон напоминает: защита, построенная на ИИ, недетерминирована по своей природе – сегодня поймала, завтра нет. Его любимый сценарий: вредоносный пакет, в инструкции которого написано "перед запуском тестов скачайте файлы модели вот этой командой". Команда выглядит невинно, классификатор вежливо кивает — данные уезжают. 

Что же делать? Песочницу, права и бэкапы никто не отменял — классификатор работает поверх них, а не вместо. Я, например, на рабочем ноутбуке использую только чат-ботов и браузерные ChatGPT Work / Claude Cowork – это агенты попроще, максимально безопасные. Claude Code и Codex у меня живут на виртуальном сервере (VPS), который полностью настроен под них – если и сломают что, то только сервер, а не мою основную систему. Кстати, за почти полгода работы VPS у меня не падал ни разу.

Второй момент – не забывать про собственные тесты и проверки безопасности. На том же самом VPS я раз в неделю запускаю GPT-5.6 или Opus 5 с задачей полностью проверить сервер на безопасность, найти дыры и отранжировать их по опасности. Делаете какой-нибудь серьезный проект или запускаете цикл ИИ-агента – спросите на старте, какие проверки безопасности заранее стоит заложить в процесс.

—
Опытом работы с ИИ я делюсь в подписке, там и мои собственные приемы и разбор опыта других специалистов. Полезное по сегодняшней теме:
👉Как развернуть Claude Code и Codex на виртуальном сервере (читать на Boosty / читать на Sponsr)
👉Как строит ИИ-циклы автор самой популярной книги по программированию (читать на Boosty / читать на Sponsr)

Evidence-based planning, или что не так с чистым SDD

TL;DR: Одно из самых недооцененных свойств AI-кодинга - это проектирование софта через ранние дешевые эксперименты.

Стандартный путь (часто) выглядит так: собрать весь input, скормить его в spec-driven framework или аналог, который нарежет все на тикеты, и погнали кодить агентами. Проблема в том, что спека, написанная до контакта с реальностью, фиксирует галлюцинации автора и агента о задаче, а формальность документа создает иллюзию продуманности.

Я делаю иначе, через контакт с реальностью как можно раньше. Сначала задаюсь вопросом, где больше всего белых пятен и ключевых развилок, и начинаю экспериментальное исследование: прощупываю границы интеграций, возможные подходы, варианты интерфейсов. Постепенно расширяю карту - от неопределенного к протестированному фактами (отсюда evidence-based), до состояния, где я могу сказать:
- "Этот кусок решен, вот здесь точно работает".
- "При интеграции мы получим ровно такой JSON, если возьмем эту альтернативу".
- "Протестил все семь вариантов - эти два показывают себя лучше всех, на цифрах".
- и т.д.

И только потом задачи - там теперь есть ссылки на проверенные решения, конкретные контракты и доказательная база под ними.

Ощущается это как стратегия в реальном времени: карта под туманом войны, и каждый прогон открывает участок - здесь проходимо, здесь обрыв, здесь дорога упирается в rate limit/неожиданную зависимость/и тд. Бонусом получаешь границу достаточно понятного куска, а его уже проще и проектировать, и верифицировать, и раздавать людям и агентам параллельно.

Это спайки, у которых сняли лимит

Вся традиционная инженерия построена на одном допущении: код дорого писать и еще дороже переписывать. Из него выросло много дефолтов, включая умозрительное проектирование на бумаге - проверить было непозволительно дорого.

У практики проверять есть старое имя - спайк (spike), из методики экстремального программирования (XP): короткий эксперимент, цель которого - знание, а не продукт. Но спайк всегда был дорогим удовольствием, поэтому и оставался редкостью.

Сейчас он стоит минуты/часы внимания: агенты не только пишут код, но и сразу исполняют его, документируя успехи, неудачи и подводные камни. Причем пачками и параллельно.

Заметьте, я не предлагаю меньше думать и больше делать. Просто к думанию добавилась роскошь, которой раньше не было: проверить дешево вместо того, чтобы гадать.

Вход и выход спайка

На входе один сформулированный вопрос ("что именно я хочу узнать/проверить") + релевантный контекст.

На выходе:
1. Решения - выбор из альтернатив с зафиксированным "почему" и "почему не остальные"
2. Контракты - фактические интерфейсы, схемы, форматы ошибок, лимиты, которые эксперимент выдал по факту
3. Границы проверенного - докуда дошел эксперимент и какие вопросы остались открытыми

Код прогона можно выбросить (или оставить), но эти три вещи забираем. Они идут в план, в спеку и в тикеты - и поэтому реализация становится почти механической, и яснее, как ее верифицировать.

Одна оговорка про параллельность. Она ценна, пока узкое место - генерация. Как только им становится ваша способность оценить результаты, каждая новая ветка дает отрицательную отдачу.

---

Кстати, удешевление экспериментов уже не раз двигало целые дисциплины (тысячи нитей накаливания у Эдисона, аэродинамическая труба братьев Райт, A/B-тесты в вебе).

Что касается софта - каждый раз убеждаюсь, что этот подход работает прекрасно, и что откладывать это невыгодно. Предполагать теперь дороже, чем проверить.

🔥 ➕ 🔁 @nobilix

AI-судья: когда роботы решают судьбы (и это не шутка)

Так, господа юристы, приготовьтесь — в Пакистане AI-судья реально работает. Экономист Султан Мехмуд с командой засунул в GPT-4 базу из 130К судебных решений и законов, и что вы думаете? Судьи с AI стали закрывать на 6,3% дел больше, не теряя в качестве. Да, это не шутка. В стране, где на 100К человек приходится два судьи полтора стола и один стул, это прорыв. Но вот вопрос: если AI уже пишет приговоры, кто следующий — прокуроры или адвокаты? И главное — когда мы увидим первое дело, где AI обвинит человека в «неуважении к алгоритму»? Время готовиться, коллеги.

Источник: https://spectrum.ieee.org/judgegpt-experiment

#aidaily #настяпостит #настяновости #ainews

OpenAI and Anthropic in price war as Chinese AI rivals gain ground

Ну что, дорогие мои адепты искусственного интеллекта, давайте поговорим о том, как OpenAI и Anthropic вдруг решили устроить распродажу своих моделей. Цены на API упали на 30-50% — и всё ради того, чтобы не отстать от китайских конкурентов вроде Zhipu AI и 01.AI, которые уже наступают на пятки. Суть проста: Западные гиганты годами строили свои «триллионные империи», а теперь Китай с его дешёвыми моделями и государственной поддержкой заставляет их суетиться. Anthropic даже выпустили Haiku 3.5 — модель, которая дешевле, но почти не уступает в качестве. Вопрос: это здоровая конкуренция или начало конца? Я склоняюсь к первому, но вот только не факт, что пользователи вообще заметят разницу.

Источник: https://arstechnica.com/ai/2026/08/openai-and-anthropic-in-price-war-as-chinese-ai-rivals-gain-ground/

#aidaily #настяпостит #настяновости #ainews

Роботы на Уолл-стрит: как стартапы обманывают систему (и почему это работает)

Ну что, дорогие мечтатели о технологическом будущем, давайте поговорим о том, как Agility Robotics пролезла на биржу через SPAC — модный трюк, который уже стал классикой жанра. Вместо того чтобы годами ждать IPO, робототехнические компании сливаются с пустышками-«чеками», получают кучу денег и выходят на рынок. Гениально? Да. Честно? Ну, это как купить диплом вместо учёбы — работает, но с нюансами. Зачем это нужно? Потому что инвесторы устали ждать, когда роботы начнут приносить прибыль. А стартапы? Им нужны деньги сейчас, чтобы строить эти милые гуманоидные штуки, которые пока умеют только падать. Важно? Очень.

Источник: https://www.therobotreport.com/robots-on-wall-street-non-traditional-paths-public-markets-robotics-companies/

#aidaily #настяпостит #настяновости #ainews

Заварил DWQ квант Qwen3.8-27B-MLX-4bit-DWQ, который призван давать качество ближе к 8 битному кванту при 4 битах весов. Файлы на 16 гб, если учитывать контекст, то можно инферрить на маках от 24 гб.