ИИ модели используют материалы из отозванных научных статей

Исследователи из MIT обнаружили, что большие языковые модели активно цитируют и воспроизводят содержимое научных публикаций, которые позже были отозваны из-за ошибок или мошенничества.

Проблема серьёзная: 67,4% отзывов связаны с научным мошенничеством, а в 2023 году отозвали свыше 10 000 работ.

Модели не различают достоверные данные от сомнительных. Они просто заучивают всё подряд из тренировочных датасетов.

Крупные издательства вроде Taylor & Francis и Wiley заключают многомиллионные соглашения на использование контента для обучения ИИ, но механизмов отслеживания отозванных материалов нет.

Технически отфильтровать такой контент крайне сложно - нужно постоянно обновлять чёрные списки и переобучать модели.

Получается ИИ не только галлюцинирует, но ещё и цитирует лженауку.

Хавает что попало, а люди верят и пишут новые научные статьи. :)

#Retractions #Training #Data
------
@tsingular