Ой, ваши государственные секреты слили китайцы 😱

«Антропик» выпустили отчёт, в котором утверждается, что китайский Дипсик незаметно перенаправлял часть пользовательских запросов в Клод. Это объясняется схемой обучения «менее опытных» моделей у «старшего брата», которая называется дистилляцией. Дипсик просто собирал ответы и рассуждения для обучения собственных моделей.

В числе пострадавших пользователей оказался IT-оператор, работавший с данными российского госучреждения, связанного с Минобороны.

В его запросах нашли действующие учётные данные для доступа к базе данных российского правительства. Название учреждения и содержимое базы компания не раскрывает.

Всего за две недели июля в «Антропике» насчитали более 12,1 млн обменов в рамках этой схемы обучения Дипсика. Туда же улетели внутренние документы некой китайской IT-компании и запросы разработчиков системы для китайской полиции.

@localcrew