Красиво говорит, значит, умный: коммуникационщики из нидерландского Радбаудского университета выяснили, что гладкая речь прощает чат-боту почти всё, включая выдуманные факты.

Участникам эксперимента показывали переписку пользователя с ботом о «Властелине колец» в одной из четырёх версий: бот отвечал либо живо и по-человечески, либо сухо и по-деловому, а факты у него были либо верные, либо с аккуратно подмешанной выдумкой. Ожидаемо, больше всех понравился красноречивый и точный. Неожиданно другое: красноречивого выдумщика сочли таким же умным и приятным, как сухого, но безошибочного. А 80% участников ошибок вообще не заметили, хотя их специально отбирали из тех, кто знает основы толкиновской саги.

Объяснение у исследователей простое. «Если текст звучит элегантно и естественно, люди автоматически приписывают ему интеллект», — говорит доцент Барбара Мюллер. Её коллега профессор Тибор Боссе предлагает обязать техкомпании показывать неуверенность модели прямо в ответе: дежурного предупреждения в начале чата, по его словам, недостаточно. Статья вышла в журнале Computers in Human Behavior: Artificial Humans.

И... это... ну... в общем, красивая обёртка успешно маскирует галлюцинации модели. Пиарщикам, конечно, сила подачи известна давно, только теперь в этом жанре появился конкурент, которому даже не нужно понимать, о чём он говорит.

Практический вывод для нас с вами: ИИ-черновик, который «отлично читается», проверять надо особенно внимательно, именно потому что он отлично читается. Гладкость усыпляет любого редактора, внутреннего тоже. 🚨

#статистика #нейросети

Сегодня о том, каким будет завтра.
Подписаться 🧬

Anthropic снова переобулся в воздухе: компания, которая доказывала, что учить ИИ на чужих текстах можно и без оплаты, впервые заплатила новостному издателю. Как выяснилось, накануне промежуточных выборов в США Anthropic заключила лицензионную сделку с Associated Press, и в ночь голосования Claude отвечал на вопросы о результатах свежими данными со ссылкой на агентство.

Условия и сроки не раскрываются, сами компании новость не комментируют. Для сравнения, у OpenAI таких договоров больше десятка, свои сделки с издателями есть почти у всех техногигантов. Anthropic же держалась ставки на «добросовестное использование», которая, как мы помним, на книгах обошлась ей недёшево.

Совпадение или нет, но первая сделка случилась за считаные недели до выхода компании на биржу. Перед IPO лишние споры с правообладателями ни к чему, а свежие проверенные данные в ответах нейросети вдруг оказываются аргументом в конкуренции.

Так что мораль для медиа простая: если долго и настойчиво дожимать, ИИ-компании начинают платить. Особенно когда на носу IPO и перед инвесторами хочется выглядеть образцовым гражданином.

#новости #нейросети

Сегодня о том, каким будет завтра.
Подписаться 🧬