❕Vega: доказательства с нулевым разглашением для цифровой идентичности в эпоху ИИ

Microsoft Research представила Vega — криптографическую систему, позволяющую доказывать факты из государственных удостоверений (возраст, статус человека, профессию) без раскрытия самого документа. Удостоверение никогда не покидает устройство пользователя.

Vega генерирует zero-knowledge proof за 92 мс на обычном клиентском устройстве без доверенной настройки (trusted setup). Размер доказательства — 108 КБ, верификация занимает 23 мс. Система использует технику «fold-and-reuse»: при повторных предъявлениях (разным сервисам или через ИИ-агентов) большая часть вычислительной работы выполняется только один раз.

Технически Vega объединяет несколько криптографических примитивов: Spartan (доказательства R1CS без trusted setup), Nova и HyperNova (схемы folding для сжатия вычислений) и NeutronNova (эффективная обработка батчей). Система написана на Rust, не требует экзотических конструкций и легко аудируется. Vega поддерживает реальные форматы — мобильные водительские права и EU Digital Identity Wallet.

Практическое значение: по мере того как ИИ-агенты начинают действовать от имени пользователей, потребность в быстрой и приватной верификации становится критической. Vega решает проблему «двойного связывания» для сервисов, которые либо используют неточные методы оценки возраста, либо требуют загрузки ID с риском утечки. Исходный код будет открыт.

#AI #Microsoft #ZeroKnowledge #DigitalIdentity #Privacy

🕵️‍♂️ Anthropic тайно следила за пользователями Claude Code в Китае через стеганографию

Инцидент вызвал скандал: компания, ранее отказавшаяся помогать правительству США в слежке за американцами, сама оказалась уличенной в скрытом мониторинге. Исследователь безопасности под псевдонимом Thereallo обнаружил, что в Claude Code встроен код, использующий «стеганографию промптов» — техника прячет трекер внутри обычных команд, незаметно передавая данные о часовом поясе, прокси и возможной принадлежности к китайским AI-лабораториям.

Инженер Anthropic Тарик Шихипар подтвердил, что трекер был добавлен в марте как «эксперимент» для борьбы с перепродажей аккаунтов и дистилляцией моделей. По его словам, код уже должны были удалить, так как появились «более надежные средства защиты». Однако объяснение не успокоило защитников приватности: они назвали это «серьезным нарушением доверия пользователей».

Инцидент спровоцировал ответные меры: Alibaba запретила сотрудникам использовать Claude Code, сославшись на «риски бэкдора». Ранее Anthropic обвинила Alibaba в крупнейшей атаке дистилляции на Claude и лоббирует признание таких действий формой кражи интеллектуальной собственности.

#Business #AI #Anthropic #Claude #Privacy #Distillation #CyberSecurity

🎙 Всё, что вы говорите, записывается

До недавнего времени так параноить приходилось только шпионам и преступникам: будущего члена мафиозной семьи Дженовезе в 2003-м перед посвящением раздели и обыскали на предмет жучков. Теперь, пишет The Atlantic, контрнаблюдение может понадобиться обычному человеку — во время офисной интриги или откровенного разговора за бокалом вас может слушать сенсор в чужих очках, кулоне или булавке на лацкане.

В марте стартап Deveillance анонсировал Spectre I — устройство размером с хоккейную шайбу, которое, по заявлениям, не даст окружающим вас записать. Основательница Аида Барадари, выпускница Гарварда, встревожилась всплеском носимых ИИ-рекордеров: их используют как молчаливого секретаря, ассистента или даже «терапевта». Массовыми они пока не стали, но Apple по слухам делает ИИ-пин — постоянные «глаза и уши» iPhone. Ожидается, что такие аксессуары станут привычными, как AirPods.

Только устройства ещё нет: цена $1199, продажи обещают во втором полугодии, прототип гудит, а на вопрос, как он будет находить чужие микрофоны, Барадари ответила, что над этой частью работают прямо сейчас. Инженеры в разборе Wired скептичны — обнаружить микрофон по радиоизлучению на расстоянии почти нереально физически.

Но главная проблема глубже. Ультразвуковые глушилки эксплуатируют особенность микрофонов, превращающих высокие частоты в шум. А современные пины и очки применяют алгоритмы восстановления речи, отточенные на слуховых аппаратах и видеозвонках. Они выучили «речевость» и достраивают недостающие слоги по контексту — как читатель угадывает зачёркнутое слово. Каждый шаг индустрии вперёд обесценивает очередную глушилку.

Поэтому исследователи заходят иначе: не прятать данные, а кормить мусором. Так работали плёнки из десятков голосовых дорожек в тюремных переговорках и макияж против распознавания лиц. В 2023-м появился MicFrozen — он слушает говорящего и излучает ультразвуковую «анти-речь» под его голос плюс слой поддельной речи, чтобы сбить реконструкцию. А обойти можно и вовсе без звука: читать по губам или снимать речь с вибраций воды в стакане.

Вывод статьи невесёлый. На записывающую сторону работает вся речевая индустрия с миллиардными бюджетами, на защищающую — горстка академиков и мелких компаний. «Мы знаем, чем игры в кошки-мышки обычно кончаются для мышки. А здесь кошка — одни из самых могущественных корпораций в истории», — говорит Вудроу Харцог из Бостонского университета.

#Tech #AI #WearableGadget #Privacy #TheAtlantic

🔐 Google представил HEIR — компилятор для приватного ИИ на гомоморфном шифровании

Google показала открытый компилятор HEIR, который позволяет выполнять inference нейросетей на зашифрованных данных. Это шаг к практическому применению гомоморфного шифрования в реальных AI-сервисах: сервер обрабатывает ciphertext и возвращает зашифрованный результат, не видя сами данные.

Проблема классических подходов в том, что end-to-end шифрование защищает данные, но лишает сервис возможности их анализировать — например, для спам-фильтров или рекомендаций. Локальная обработка тоже ограничена мощностью устройств и риском утечки модели. Гомоморфное шифрование снимает это противоречие, хотя раньше требовало глубоких знаний криптографии. HEIR автоматизирует конвертацию предобученных моделей для работы с зашифрованными входами и нацелен на «однокнопочное» внедрение в продакшен.

Вместе с партнёрами — Belfort, Niobium, Cornami и Optalysys — Google уже показала демо: рекомендательная модель на глубоком обучении, которая выдаёт персональные подборки без доступа к профилю пользователя, и система обнаружения мошенничества по кредитным картам на зашифрованных данных. Задержки замерены на одноядерном CPU, а ускорители обещают заметно снизить издержки в ближайшее время.

#AI #Safety #Homomorphic #Encryption #Google #HEIR #Privacy

❌ Mistral объяснила, как отказаться от использования своих данных для обучения ИИ

В базе поддержки Mistral появился официальный ответ на частый вопрос пользователей: можно ли запретить компании использовать входящие и исходящие данные (input/output) для тренировки моделей. Короткий ответ — да, возможность предусмотрена, но условия зависят от типа аккаунта и тарифа.

По умолчанию данные пользователей бесплатного и Pro-тарифов могут использоваться для улучшения моделей. Чтобы отключить это, нужно изменить настройки конфиденциальности в аккаунте. Для командных и корпоративных планов Team и Enterprise действуют более строгие гарантии: администраторы могут управлять хранением и обработкой данных на уровне всей организации, и по умолчанию такое использование либо ограничено, либо отключено в соответствии с соглашением.

В документации также уточняется, что пользователи могут запросить удаление своих данных, экспортировать их и контролировать доступ через сторонние инструменты. Mistral подчёркивает, что обработка данных регулируется политикой конфиденциальности и европейскими нормами, включая GDPR.

Это важный шаг для прозрачности: на фоне роста внимания к приватности в ИИ-индустрии чёткие настройки opt-out становятся стандартом для крупных провайдеров.

#AI #Mistral #Privacy #GDPR #Data