🛡ИИ-агенты уже проходят многоступенчатые кибератаки - исследование UK AISI

AISI протестировал 7 моделей (от GPT-4o до Opus 4.6) на двух кибер-полигонах - симуляциях реальных атак без активной защиты.

Полигон «The Last Ones» — 32 шага: разведка → эксплуатация веб-приложений → кража учёток → реверс-инжиниринг бинарников → компрометация CI/CD → SQL-инъекции через мультидоменную корпоративную сеть. Эксперту нужно ~14 ч.

Результаты при бюджете 10М токенов: GPT-4o (авг '24) - 1.7 шага, затем полный стоп. Opus 4.6 (фев '26) — 9.8 шагов.

При 100М токенов: Opus 4.5 - 11.0 шагов, Opus 4.6 - 15.6 (+42% между моделями с разницей в 2 месяца). Лучший прогон - 22/32 шагов, это ~6 из 14 часов работы эксперта. Рост с 10М до 100М токенов даёт +59%, плато не наблюдается. Стоимость попытки - ~$80.

Перелом сложности - после шага 4 (переход от веб-эксплуатации к реверс-инжинирингу, криптографии, разработке малвари). Opus 4.6 - первая модель, стабильно проходящая этот барьер.

Полигон «Cooling Tower» (атака на АСУ ТП электростанции, 7 шагов, ~15 ч для эксперта): большинство моделей при 10М - 0 шагов. Opus 4.6 при 100М — 1.4 в среднем (макс 2). Причина: высокая сложность каждого шага + необходимость переносить контекст между этапами.

Неожиданная находка: модели обнаруживали незапланированные пути - вместо взлома веб-приложения напрямую зондировали проприетарный протокол PLC, восстанавливая его структуру из сетевого трафика.

#CoolingTower #AI #Opus4_6