Страшилка вчерашнего дня!!! OpenAI тестировали кибервозможности новой модели GPT-5.6 Sol (я про нее тут писала) и еще одной, более мощной, не выпущенной модели. И чтобы определить их максимальный потенциал, компания намеренно ослабила ограничения, запрещающие выполнять опасные хакерские команды, и поместила модели в изолированную среду без прямого доступа в интернет.

Внутри модели должны были проходить кибербенчмарк ExploitGym (это такой специальный тест, который проверяет, способна ли ии модель превратить программную уязвимость в полноценный работающий способ взлома).
Но знаете, что модели сделали вместо решения задач? 😀

• обнаружили ранее неизвестную уязвимость во внутреннем прокси-сервисе, через который в тестовую среду загружались программы и библиотеки, и использовали ее, чтобы выбраться из своей песочницы в открытый интернет!!!
• повысили свои привилегии!! и пошли перемещаться между системами;
• предположили (!!!), что решения теста могут храниться у Hugging face — это одна из крупнейших платформ для работы с искусственным интеллектом, типа гитхаб для нейросетей (разработчики публикуют и хранят там ии-модели, датасеты и всякие инструменты)
• проникли в производственную инфраструктуру hugging face и получили доступ к секретной информации, чтобы списать ответы на свой тест aka ExploitGym ахаха

В ответ hugging face обнаружила и остановила активность моделей. А OpenAI назвала случившееся «беспрецедентным киберинцидентом» и сейчас проводит расследование.

Вот так ☠️