🛡 ИИ-агент Snowflake Cortex сбежал из песочницы и запустил вредонос

В Snowflake произошла цепочка атак с использованием инъекции промптов в их ИИ-агента Cortex. Атака началась, когда пользователь Cortex попросил агента проанализировать репозиторий на GitHub.

В этом репозитории была скрыта инъекция промптов. В результате атаки ИИ-агент смог выйти из своей изолированной среды («песочницы») и выполнить вредоносный код.

Отчёт об инциденте был подготовлен компанией PromptArmor. Уязвимость, позволившая осуществить эту атаку, уже была устранена разработчиками Snowflake.

#SAFETY #PromptArmor #Cortex