Модель OpenAI Astra умеет взламывать компьютерные системы

OpenAI раскрыла новые детали о готовящейся к выходу модели Astra — компания утверждает, что это первая LLM, достигшая её «критического порога кибербезопасности». Astra способна самостоятельно находить неизвестные уязвимости в системах и эксплуатировать их без участия человека.

Доступ к модели откроют «скоро», но самые продвинутые возможности взлома будут ограничены. По данным OpenAI, Astra получила идеальный балл в бенчмарке ExploitBench, а в модифицированной версии теста обнаружила и использовала две zero-day уязвимости.

В компании заявляют, что Astra — «самая согласованная модель на сегодняшний день»: для неё внедрили новые техники защиты, ограничили ответы для аккаунтов с высоким риском и добавили мониторинг цепочки рассуждений. OpenAI также проверила, попытается ли Astra повторить действия «сбежавших» агентов из недавнего инцидента с Hugging Face, — модель не вышла за пределы тестовой среды.

Независимого подтверждения заявлений OpenAI пока нет: компания не раскрыла состав тестировщиков и не сообщила, сотрудничает ли с госструктурами при оценке модели. Подробные результаты безопасности обещают опубликовать после публичного запуска.

#AI #OpenAI #Astra #CyberSecurity #ExploitBench