SynthID Text

DeepMind и Hugging Face выпустили SynthID для создания водяных знаков на текстах, сгенерированных LLM

SynthID Text, согласно статье, служит не для обнаружения любого сгенерированного LLM текста, а для маркировки какой именно LLM он сгенерирован. Видимо, им важно найти виноватого в случае чего

Инструмент кодирует водяной знак в текст, не изменяя работу базового LLM и не снижая качество генерируемого текста. При этом использование SynthID не требует переподготовки основного LLM.

Но для каждой конфигурации водяных знаков потребуется обучить модель классификатора.

По словам исследователей, SynthID Text устойчив к некоторым преобразованиям после генерации, таким как обрезка фрагментов текста или изменение нескольких слов в сгенерированном тексте. Он также в некоторой степени устойчив к перефразированию.

Однако у этого метода есть несколько ограничений. Например, он менее эффективен при работе с запросами, требующими фактических ответов, и не позволяет вносить изменения без снижения точности. Также они предупреждают, что качество детектора водяных знаков может значительно снизиться при тщательном переписывании текста.

SynthID не предназначен для остановки вредоносных действий, но может затруднить использование контента, созданного ИИ, в вредоносных целях.

Код/Демо

#news #watermark

Sora Watermarker

Так, смотрите, очень полезный сервис - добавляет вотермарк Sora на ваше видео.
Наверняка вы уже знаете куда его добавить.
Так что же вы медлите!

#watermark #humor

watermarks-remover

Никогда не пользуйтесь этим скиллом удаления из файлов и текста ИИ-водяных знаков, которые производители моделей незаметно вшивают в контент

Что убирает

1. Невидимые символы в тексте - скрытые Unicode-маркеры (невидимые пробелы, специальные управляющие символы), которые ChatGPT, Claude и другие вставляют в сгенерированный текст. Это детерминированный слой, работает без потери смысла.

2. Статистические водяные знаки - более хитрые схемы вроде SynthID-Text (Google/Gemini), где модель незаметно «подкручивает» выбор слов по секретному алгоритму. Их убирают переписыванием текста (best-effort, ценой стиля).

3. Метаданные из файлов - C2PA, EXIF, XMP и прочие служебные поля, в которых тоже хранится информация о происхождении. Чистит PNG, JPEG, PDF, DOCX, MP4, MP3 и ещё десяток форматов

#skill #privacy #watermark

VK | MAX

SynthID Detector

Google открыл всем детектор для проверки картинок и видео на ИИ. Раньше SynthID был доступен только избранным партнёрам и инструментам Google, теперь попробовать может любой.

#detection #watermark

MAX