🖌 LLM могли бы писать как люди: постобучение и гардрейлы делают их текст узнаваемым

Постобучение и защитные ограничения резко сужают диапазон выразительности языковых моделей — именно поэтому сгенерированный текст легко отличить от человеческого. Такое мнение высказал технический директор стартапа Pangram Брэдли Эми.

По его словам, проблема не в том, что LLM не способны писать естественнее: базовые модели без дополнительных настроек уже демонстрируют гораздо большее разнообразие стиля. Всё дело в пост-трейнинге — выравнивание под предпочтения пользователей и требования безопасности делает выход моделей шаблонным и предсказуемым.

Практический вывод из этой гипотезы: детекторы ИИ-текста ловят не «врождённые» признаки генерации, а следы гардрейлов. Если изменить подходы к постобучению, синтетический текст может стать практически неотличимым от человеческого — что ставит под вопрос надёжность всех текущих методов детекции.

#AI #LLM #Models #PostEducation #TheDecoder