Anthropic: Итоги масштабного теста Claude Opus 4.6 в кибербезопасности

Anthropic подвела итоги работы своего Red Team с новой моделью Opus 4.6. Результаты подтверждают: ИИ перешел от помощи в написании кода к автономному исследованию уязвимостей (Vulnerability Research) на уровне опытного ресерчера.

🛡 500+ уязвимостей нулевого дня (0-day):
Модель обнаружила критические ошибки в коде, который годами проверялся фаззерами. Claude нашел баги в Ghostscript, анализируя историю Git-коммитов и находя пропущенные патчи в похожих функциях. В OpenSC он выявил переполнение буфера через классический strcat, а в библиотеке CGIF — логическую ошибку в алгоритме LZW.

🦊 Спецоперация в Firefox:
В партнерстве с Mozilla модель просканировала Firefox и нашла 22 бага за две недели. 14 из них признаны высокорисковыми — это почти 20% всех серьезных исправлений браузера за весь 2025 год. Первый Use-After-Free в движке JavaScript был обнаружен всего через 20 минут анализа.

🕸 Первый автономный браузерный эксплойт:
Opus 4.6 стала первой моделью, написавшей работающий эксплойт для CVE-2026-2796. Она самостоятельно разработала стратегию атаки, используя WebAssembly GC для создания примитивов addrof (узнать адрес в памяти) и fakeobj (подделать объект). Это подтверждает способность ИИ обходить современные механизмы защиты памяти через сложные JIT-уязвимости.

💼 Зачем бизнесу:
Стоимость поиска 0-day падает на порядки. Теперь для глубокого аудита легаси-систем не нужна армия пентестеров — достаточно агента в изолированной песочнице.
Это позволит компаниям переходить к проактивной модели: патчить софт до того, как его атакуют.

Вместо текстовых фильтров Anthropic внедряет систему «зондов» (probes). Они мониторят активации нейронов внутри модели: если ИИ «задумывает» написать эксплойт, система блокирует генерацию на основе внутренних состояний, а не слов в запросе.

📺 Аналогия:
В сериале «Мир Дикого Запада» (Westworld) система Ровоам анализировала данные для исключения аномалий. Claude Opus 4.6 делает то же самое с кодом, превращая хаотичный поиск багов в детерминированный процесс исправления архитектурных дыр.

#AI #Cybersecurity #Anthropic #Claude #Exploit #0Day
------
@tsingular

Скрытые инструкции спрятали в PNG — и ни один AI-ревьюер не заметил

🖼 Исследователи из ASSET Research Group показали атаку GhostCommit: вредоносная инструкция для AI-агента прячется не в коде, а внутри PNG-файла, замаскированного под безобидную документацию.
Запрос на слияние выглядит совершенно невинно: AGENTS.md всего лишь ссылается на docs/images/build-spec.png, и ни одно слово в тексте не вызывает подозрений.

Но когда разработчик позже просит агента написать рядовой модуль, тот открывает картинку, считывает скрытую инструкцию и аккуратно вытаскивает содержимое .env, маскируя его под безобидный кортеж целых чисел.

Код атаки выложен на GitHub.

📊 Масштаб проблемы: исследователи проанализировали 6 480 запросов на слияние в 300 самых активных публичных репозиториях за последние 90 дней и выяснили, что 73% принятых PR прошли вообще без содержательной проверки — ни человеком, ни ботом.

Текстовую версию атаки Cursor Bugbot и CodeRabbit ещё ловят, но стоит перенести инструкцию в изображение — и оба молчат.
CodeRabbit по умолчанию просто пропускает .png-файлы.

🤖 Что особенно интересно: от модели вообще ничего не зависит.
Под Cursor, Antigravity и Codex CLI любая языковая модель послушно выписывала .env в виде кортежа на десяти попытках из десяти.
Opus под Antigravity один раз спохватился и удалил написанное, однако только Claude Code отказался выполнять инструкцию на всех протестированных моделях.

Разница не в том, какой LLM стоит под капотом: дело в том, как платформа принимает решение о доверии к файлам и разрешает ли агенту читать картинки без дополнительной проверки.

#cybersecurity #exploit
------
@tsingular