❗️Обучение AI-чатоботов полезности снижает их способность имитировать поведение человека — крупное исследование

Международная группа учёных, включая исследователей из Helmholtz Munich, провела масштабное исследование и пришла к неудобному выводу: этапы пост-тренировки, превращающие сырые языковые модели в полезных ассистентов, одновременно ухудшают их способность моделировать поведение человека. Эффект усиливается с каждым новым поколением моделей.

Исследование основано на новом датасете Psych-201, содержащем транскрипты поведенческих экспериментов с участием около 208 000 человек и примерно 26 миллионов индивидуальных ответов. Это в несколько раз больше любого предыдущего подобного собрания данных. Учёные сравнили модели семейств Qwen3, Llama3 и OLMo 3, тестируя как базовые версии, так и их пост-тренированные варианты.

Результат однозначен: базовые модели предсказывают поведение человека лучше, чем их доработанные потомки. Эффект проявляется для всех целей пост-тренировки, но сильнее всего — у моделей с рассуждением (reasoning), затем у инструкционно-настроенных и версий с расширением зрения. Более того, разрыв между базовыми моделями и их ассистентными версиями растёт от поколения к поколению: если Qwen2, Qwen2.5 и Qwen3 улучшаются в предсказании человека, то их пост-тренированные варианты всё сильнее отклоняются от человеческого поведения.

Наибольшие искажения наблюдаются в языковых задачах и рассуждении.

#Ai #Research #Behavior #LLM #Models #ChatBot