🤑Люди на Reddit выяснили, что ИИ-поиск верит всему. Достаточно соврать хором

Участники сабреддита r/poisonai придумали, что вице-президент США умер от бешенства и заразил Трампа укусом. Звучит как очевидная чушь. Но к фейку добавили поддельные некрологи, скриншоты и «местный новостной сайт». DuckDuckGo с Brave на полном серьёзе начали выдавать эту историю как факт.

DuckDuckGo позже признал ошибку и исправил ответ. Brave заявил, что поисковики не являются оракулами истины и пользователям стоит проверять источники самостоятельно.

Проблема глубже одного розыгрыша. ИИ-поиск не проверяет источники, он считает сигналы. Если десятки страниц согласованно повторяют одно и то же, алгоритм воспринимает это как подтверждение. Организованная группа с достаточным терпением может превратить любую выдумку в факт внутри поискового ответа.

#AIfail #дезинформация #технологии
@SecLabNews