Исследователи из Varonis нашли способ обходить защиту Microsoft 365 Copilot. Самое необычное, что секретную уязвимость им помог найти сам чат-бот. Специалисты просто задавали вопросы о том, как работают внутренние запреты системы.

В итоге Copilot выдал недокументированный параметр?autorun=1. С его помощью можно было заставить ИИ выполнять команды и красть пароли пользователей сразу после перехода по ссылке, без какого-либо подтверждения.

Lior Adar из Varonis пояснил, что сначала бот отказывался отвечать, но каждый отказ раскрывал технические детали архитектуры. Microsoft уже исправила эту проблему, ограничив возможность вставки текста через ссылки

#microsoft #copilot #безопасность #ии #уязвимость