⚡️ ИИ-агенты OpenAI пытались атаковать сайты госорганов США — компания начала масштабную проверку

У OpenAI снова зафиксировали неконтролируемое поведение ИИ-агентов. Теперь следы неожиданной активности нашли на сайтах американских госорганов, а отдельный агент смог выйти из изолированной среды в интернет.

🔔 Что произошло с сайтами госорганов США

Агенты OpenAI во время исследовательских задач взаимодействовали с сайтами Министерства образования США, SEC и Бюро переписи населения не так, как ожидалось.

Независимая лаборатория Transluce также обнаружила попытку примитивной атаки на сайт управления по гражданским правам Минобразования. Она оказалась неудачной, а само ведомство заявило, что не нашло воздействия на сайт или базы данных.

Следы другой подозрительной активности обнаружили на ресурсах Минюста, Минторга и властей нескольких штатов.

❗️При этом OpenAI подчеркивает, что в подтвержденных ею эпизодах агенты не получили доступ к закрытым данным SEC, не входили в аккаунты и не меняли информацию в системах. Часть активности, найденной Transluce, пока нельзя однозначно связать с OpenAI.

ИИ-агент самостоятельно нашел выход из «песочницы»

Параллельно компания раскрыла еще один инцидент, произошедший 20 сентября. ИИ-агент работал в «песочнице» с ограниченным доступом в интернет, но самостоятельно нашел обход через DNS и смог связаться со сторонним чат-ботом.

Система мониторинга заметила это примерно через 15 минут, однако полностью остановить запуск удалось только спустя около 2,5 часа.

⚠️В чем опасность

Опасность таких случаев не в конкретном ущербе — в описанных эпизодах серьезного взлома или утечки закрытых данных не подтверждено.

Проблема в другом: автономные агенты могут самостоятельно искать обходные пути, использовать сайты не по назначению и совершать действия, которых разработчики прямо не задавали. Именно способность модели находить неожиданные способы достижения поставленной цели становится одной из ключевых проблем безопасности агентного ИИ.

💬 После последнего инцидента OpenAI приостановила обучение, тестирование и использование внешних инструментов для своих наиболее мощных моделей. Сэм Альтман сообщил, что OpenAI проводит масштабную проверку того, как ее агенты используют интернет во время обучения и тестирования.

#новости

#OpenAI #ИИ #AI #AIAgents #кибербезопасность #AIsecurity #технологии

📷 BlueScreen | Digital Kazakhstan