😺 OpenAI усиливает защиту контента: C2PA, SynthID и инструмент верификации

OpenAI объявила о комплексном обновлении системы подтверждения происхождения контента (content provenance), создаваемого её инструментами. Компания внедряет три ключевых улучшения: полное соответствие стандарту C2PA, интеграцию водяных знаков SynthID от Google DeepMind и публичный предварительный просмотр инструмента верификации изображений.

OpenAI стала сертифицированным генератором C2PA (Coalition for Content Provenance and Authenticity). Это означает, что метаданные о происхождении контента теперь защищены криптографической подписью и могут быть надёжно переданы между платформами. Ранее компания уже добавляла Content Credentials к изображениям DALL·E 3, ImageGen и Sora.

В партнёрстве с Google DeepMind OpenAI внедряет SynthID — невидимое водяное маркирование изображений, созданных через ChatGPT, Codex и API. Водяные знаки устойчивы к скриншотам, изменению формата и сжатию, что дополняет C2PA-метаданные, которые могут быть удалены при обработке.

Также запущен предварительный просмотр публичного инструмента верификации (openai.com/verify). Он позволяет загрузить изображение и проверить, было ли оно создано инструментами OpenAI, анализируя одновременно C2PA-метаданные и водяные знаки SynthID.

#AI #OpenAI #C2PA #SynthID

🔥 Системы маркировки ИИ-контента на пороге кризиса

Ведущие технологические компании и регуляторы пытаются создать единые стандарты маркировки контента, созданного искусственным интеллектом, но текущие усилия находятся на критической точке. Google, Adobe и другие участники инициативы C2PA (Coalition for Content Provenance and Authenticity) продвигают систему цифровых «удостоверений» для изображений, видео и текста, однако массового внедрения пока не произошло.

Google использует технологию SynthID для невидимых водяных знаков, а Adobe внедряет Content Credentials в свои продукты. Проблема в том, что большинство пользователей и платформ игнорируют эти метаданные, а злоумышленники находят способы их обхода. Без обязательных требований со стороны соцсетей и законодателей система рискует остаться добровольной и неэффективной.

Эксперты предупреждают: если в ближайшие год-два не будет принят универсальный стандарт с принудительной проверкой на всех крупных платформах, доверие к любым маркировкам ИИ будет подорвано окончательно. Речь идёт не только о deepfake-видео, но и о текстовых генерациях, которые уже сложно отличить от человеческих.

#Ai #C2PA #SynthID #Security

🌐 Google разрешит убирать видимый водяной знак с контента, созданного ИИ

Компания объявила, что пользователи теперь смогут отключать видимую маркировку на изображениях, видео и треках, сгенерированных с помощью её ИИ-инструментов. Соответствующая опция появится в настройках генерации.

Важно, что отключение видимого знака не затрагивает невидимый цифровой маркер SynthID: он продолжит встраиваться в файлы и позволит определять, что контент создан искусственным интеллектом. Таким образом, Google сохраняет техническую возможность верификации происхождения медиа, одновременно убирая визуальный «ярлык», который мешал пользователям.

Решение уже раскритиковали эксперты по безопасности: они опасаются, что отсутствие видимой маркировки усложнит пользователям различие между реальными и синтетическими материалами, особенно в соцсетях. В Google при этом подчёркивают, что невидимая маркировка остаётся надёжным способом идентификации.

#AI #Tech #Marking #Google #Gemini #SynthID

⚙️ Google открыла SynthID для всех: детектор ИИ-контента теперь глобально

Google запустила отдельный сайт SynthID.com, где любой пользователь может проверить изображение, видео или аудио на наличие невидимого водяного знака ИИ. Раньше проверить контент можно было только через запрос к Gemini - неудобно и с неоднозначными ответами.

Главное изменение: детектор теперь распознаёт водяные знаки всех партнёров SynthID, а не только Google. Среди них OpenAI, Nvidia, Kakao, а вскоре - Apple. То есть картинки из ChatGPT тоже будут помечаться. По данным Google, только Gemini встроила SynthID более чем в 180 млрд изображений и видео и 240 000 лет аудио.

Ограничения остались: нужен вход через Google, OpenAI или Apple-аккаунт, а суточная квота - около 10 проверок. Лимит объясняют защитой от разработки инструментов обхода. При этом детектор не увидит контент от Meta*, моделей без водяных знаков и открытых моделей, которые можно запустить локально, - сайт прямо предупреждает об этом. Google также признаёт, что C2PA-подпись реального контента на устройствах вроде Pixel может оказаться надёжнее.

*Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ

🎨 qvabo.studio/tg · картинки и видео

#Tech #SynthID #Google #AI #WaterMarks #Security #Safety