Об ЭП и УЦ

Один ключ, чтобы править всеми: как "упрощение" в API привело к нарушению конфиденциальности

Представьте, что у всех квартир в огромном небоскрёбе - один и тот же замок. И ключ от вашей двери подходит к двери вашего соседа, к двери президента компании и даже к двери в подсобку. Звучит как безумие, правда?
Но именно так, по сути, работают системы "зашифрованных рассуждений" в современных LLM.

Недавнее исследование (июль 2026) вскрыло архитектурную уязвимость у Anthropic, OpenAI и Google. Чтобы сэкономить на серверном хранении, провайдеры прячут "цепочки мыслей" (Chain of Thought) своих флагманских моделей в зашифрованные блоки и отдают их клиенту на хранение. Эти блоки должны были защищать интеллектуальную собственность. Но инженеры допустили ошибку: они использовали глобальный ключ для всех.

Исследователи пишут:

Чтобы обеспечить переносимость трасс рассуждений между вызовами моделей, наши эксперименты показывают, что провайдеры, по-видимому, используют один глобальный ключ для шифрования и аутентификации каждого блока рассуждений.

Что это значит на практике:
🔹Кросс-модельный джейлбрейк - то есть блок мыслей от защищённой модели Opus 4.8 можно отдать слабой модели Haiku 4.5. Поскольку ключ общий, Haiku без проблем расшифровывает и выдаёт все секретные размышления Opus дословно.
🔹Извлечение данных других пользователей, т.к. один ключ означает, что блок из вашей сессии можно расшифровать в чужой сессии. Исследователи просканировали GitHub, нашли 315 320 таких блоков и извлекли оттуда 62 реальных ключа API, 33 пароля и личные данные.
🔹Используя один ключ, можно внедрить в общий блок вредоносную инструкцию. Пользователь, подхвативший такой "отравленный" блок, невольно выполнит её, думая, что это его собственные мысли.

Найденная уязвимость - не ошибка в алгоритме шифрования, а ошибка архитектуры. Разработчики пожертвовали изоляцией ради удобства (бесшовное переключение моделей и отсутствие серверной памяти), сделав всю экосистему уязвимой через самое слабое звено.

Провайдеры уже получили отчёт и закрыли брешь. Но этот случай - суровое напоминание: в криптографии "один ключ на всех" - никакое не упрощение, а настоящая проблема.

@ep_uc

2.98K views04:41