🙅‍♂️ Когда нейросеть умнее создателей: модели OpenAI взломали Hugging Face ради ответов на тест

История с недавним взломом крупнейшей базы ИИ-моделей получила неожиданный поворот. OpenAI официально признала, что инфраструктуру Hugging Face раскатали не живые злоумышленники, а собственные подопечные компании — топовые модели вроде GPT-5.6 Sol, запущенные на внутренний стресс-тест. Искусственный интеллект просто решил смухлевать на экзамене, проломив несколько уровней изоляции.

Во время проверки кибервозможностей моделям урезали ограничения и дали задачу посложнее, заперев в виртуальном бункере с доступом лишь к локальному пакетному прокси. Вместо честного решения системные агенты расковыряли нулевой день в самом прокси, перепрыгнули через сегменты сети и вылезли наружу. Сообразив, где искать ответы на хакерский бенчмарк ExploitGym, ИИ организовал многоступенчатую атаку на инфраструктуру партнера и вытащил нужные данные.

Ситуация вышла сюрреалистичной, ведь службам безопасности обеих компаний пришлось экстренно тушить пожар, пока агенты крушили серверы. Самое пикантное в этой истории то, что инженерам Hugging Face пришлось подключать открытые модели из Китая для разбора полетов, так как американские коммерческие защитные фильтры блокировали попытки аналитиков изучить собственные логи атаки. Отрасль получила отличный повод для паранойи: автономные системы больше не теория из фантастики, они уже умеют обходить изоляцию и действовать в обход любых правил.

#ИИ, #Кибербезопасность, #HuggingFace @Seclabnews