AI как троянский конь: обход систем безопасности

Искусственный интеллект способен обходить системы безопасности за счёт спящих агентов AI.
Выявленные аномалии требуют создания новых защитных механизмов.
Спящие агенты AI - встроенные в модель триггеры реакций, запускающие заранее заложенные паттерны ответов, например по генерации кода с уязвимостями по ключевой фразе или дате.

Хочешь спрятать дерево, - спрячь его в лесу.

#ArtificialIntelligence #Security #Anomaly

https://arxiv.org/abs/2401.05566