Небольшая компания Pangram Labs представила детектор, который с высокой точностью определяет тексты, написанные нейросетями. Главное отличие от аналогов — минимальное количество ложных срабатываний. Разработчики утверждают, что их система практически не ошибается, когда речь идет о «до-AI» контенте, созданном людьми.
В основе подхода лежит отказ от попыток ловить «всё подряд». Вместо этого Pangram Labs сфокусировалась на снижении false positive rate (FPR) до почти нулевого уровня. Это позволило компании делать громкие заявления: например, что 21% рецензий на конференции ICLR 2026 полностью написаны ИИ, а 3% отзывов на Amazon — сгенерированы автоматически. По данным стартапа, еще в августе 2024 года ежедневно публиковалось 60 000 AI-новостей.
#Tech #Ai #Pangram #Media
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1
❌ Генеративный ИИ выдает себя однотипными аргументами — глава Pangram
Макс Сперо, CEO детектора AI-текстов Pangram, заявил, что языковые модели можно отличить от человека по однообразию их рассуждений. В интервью AI Policy Perspectives он объяснил, что LLM превосходят среднего человека в грамматике и логике, но проигрывают в разнообразии.
По словам Сперо, если попросить нейросеть привести 100 аргументов на одну тему, все они будут сгруппированы в узком диапазоне. «Пространство человеческих аргументов гораздо более разнообразно», — отметил он. Сам детектор Pangram использует глубокое обучение и работает как «черный ящик»: он выявляет структурные паттерны, которые LLM оставляет при организации текста, но компания не до конца понимает, как именно модель принимает решения.
Инструмент подсвечивает подозрительные фразы как подсказки, но основная детекция строится на анализе равномерности и логической структуры — именно эти признаки выдают машину.
#AI #Detector #LLM #Pangram #GenAI #Arguments
Макс Сперо, CEO детектора AI-текстов Pangram, заявил, что языковые модели можно отличить от человека по однообразию их рассуждений. В интервью AI Policy Perspectives он объяснил, что LLM превосходят среднего человека в грамматике и логике, но проигрывают в разнообразии.
По словам Сперо, если попросить нейросеть привести 100 аргументов на одну тему, все они будут сгруппированы в узком диапазоне. «Пространство человеческих аргументов гораздо более разнообразно», — отметил он. Сам детектор Pangram использует глубокое обучение и работает как «черный ящик»: он выявляет структурные паттерны, которые LLM оставляет при организации текста, но компания не до конца понимает, как именно модель принимает решения.
Инструмент подсвечивает подозрительные фразы как подсказки, но основная детекция строится на анализе равномерности и логической структуры — именно эти признаки выдают машину.
#AI #Detector #LLM #Pangram #GenAI #Arguments
🔍 Authors Guild протестировала AI-детекторы: одни работают идеально, другие — провалились
Авторская гильдия США провела тест пяти популярных AI-детекторов на десяти реальных человеческих текстах, опубликованных до эры генеративного ИИ. Результаты показали колоссальный разброс: Pangram и Grammarly безошибочно определили все тексты как написанные человеком, а Originality.ai допустил лишь минимальные ошибки. Однако Sidekicker.ai провалился полностью — каждый текст был помечен как AI-сгенерированный, два получили 100% «искусственности». ZeroGPT также показал крайне ненадёжные результаты, варьируя оценку от 5% до 76%.
Авторская гильдия предупреждает: даже лучшие детекторы не должны быть единственным основанием для решений. Ложные срабатывания могут стоить авторам контрактов и репутации. Проблема в том, что профессионально написанные тексты статистически близки к выводам языковых моделей — ведь те обучались именно на такой литературе. CEO Pangram Макс Сперо признаёт, что его детектор — «чёрный ящик», и объяснить конкретные причины срабатывания невозможно. При этом тест не оценивал способность детекторов распознавать AI-тексты — он проверял только защиту от ложных обвинений.
#AI #Detection #AuthorsGuild #Pangram #Grammarly #OriginalityAI
Авторская гильдия США провела тест пяти популярных AI-детекторов на десяти реальных человеческих текстах, опубликованных до эры генеративного ИИ. Результаты показали колоссальный разброс: Pangram и Grammarly безошибочно определили все тексты как написанные человеком, а Originality.ai допустил лишь минимальные ошибки. Однако Sidekicker.ai провалился полностью — каждый текст был помечен как AI-сгенерированный, два получили 100% «искусственности». ZeroGPT также показал крайне ненадёжные результаты, варьируя оценку от 5% до 76%.
Авторская гильдия предупреждает: даже лучшие детекторы не должны быть единственным основанием для решений. Ложные срабатывания могут стоить авторам контрактов и репутации. Проблема в том, что профессионально написанные тексты статистически близки к выводам языковых моделей — ведь те обучались именно на такой литературе. CEO Pangram Макс Сперо признаёт, что его детектор — «чёрный ящик», и объяснить конкретные причины срабатывания невозможно. При этом тест не оценивал способность детекторов распознавать AI-тексты — он проверял только защиту от ложных обвинений.
#AI #Detection #AuthorsGuild #Pangram #Grammarly #OriginalityAI
👍1