🤖 OpenAI включит водяные знаки в ответах ChatGPT по умолчанию - но только в ЕС

OpenAI начала внедрять собственную систему маркировки текста textGrain: сгенерированные в ChatGPT тексты будут автоматически помечаться невидимыми водяными знаками. Обязательной по умолчанию функция станет лишь в Евросоюзе - этого требует вступивший в силу в августе EU AI Act, обязывающий маркировать контент ИИ так, чтобы его могла выявить сторонняя программа. В остальных регионах опция доступна, но по умолчанию выключена.

textGrain работает как и другие решения такого класса: алгоритм вносит в выбор слов незаметный для читателя паттерн, который не ухудшает качество ответа, но распознаётся детектором при наличии ключа. В тестах OpenAI заявляет о 92% успешного обнаружения, однако надёжность заметно падает при правках: изменение 10% текста снижает точность почти на 30%, а 20% - почти на 75%. Короткие и переведённые тексты определяются хуже. Доступ к детектору получат ограниченное число исследователей и организаций.

Вскоре после запуска водяные знаки ввели и в Anthropic, но там они работают глобально. OpenAI пока ограничивается регуляторным минимумом: в приложениях ChatGPT и Codex - по умолчанию в ЕС, в API - опционально и выключено. Развёртывание для европейских пользователей обещают «в ближайшие недели».

🎨 qvabo.studio/tg · картинки и видео

#AI #Tech #OpenAI #ChatGPT #AIakt #Markings #AIGC