Хакеры восстанавливают переписку из зашифрованных чатов с ИИ

Исследователи обнаружили уязвимость в большинстве чат-ботов на базе ИИ, включая ChatGPT и Microsoft Copilot. 🔓
Они могут частично восстановить содержимое зашифрованных чатов, используя особенности работы больших языковых моделей (LLM) с токенами.
LLM отправляют сгенерированные токены по одному в реальном времени, что позволяет извлечь их длины из перехваченных сообщений.
Затем эти длины используются для угадывания слов по контексту с помощью LLM. Полное восстановление сложно, но частичное - возможно.
Большинство чат-ботов уязвимы, но постепенно закрывают уязвимости.
OpenAI, Cloudflare, Google Gemini и GitHub Copilot уже защитились от подобного рода аттак. 🛡

Мораль - не нужно отдавать токены стримом. Никакое шифрование не поможет.

#chatbots #privacy #encryption
-------
@tsingular