🇯🇵 Исследование: LLM чаще всего упоминают Японию
Исследователи из Университета Страны Басков (Испания) и Кардиффского университета (Великобритания) опубликовали препринт, в котором выявили скрытую культурную предвзятость больших языковых моделей. Вопреки ожиданиям, что модели склонны упоминать США или Европу, чаще всего они ссылаются на Японию.
Ученые задали 31 680 вопросов на 24 языках восьми моделям - ChatGPT, Claude, Gemini, Llama, Command R, Qwen, DeepSeek и Mistral - без указания конкретной страны. Вопросы охватывали темы верований, социальных структур, образования, искусства, еды, географии, политики, здоровья, медиа, истории и экономики. Затем другой ИИ анализировал, какие страны упоминаются в ответах. Исключая страны, на языках которых задавались вопросы, Япония оказалась самым частым примером в шести из восьми моделей. Далее следуют США, Индия, Китай и Франция.
Исследование показало, что предвзятость возникает не на этапе сбора данных, а во время пост-тренировки (дообучения) с участием человека. Например, Qwen от китайской компании до дообучения чаще ссылался на Китай, но после сместился в сторону Японии и США. Авторы не уточнили, какой именно тип пост-тренировки вызвал рост упоминаний Японии. Отраслевой инсайдер предположил, что японские анимация, игры, еда и традиционная культура привлекают глобальный интерес, а связанные с ними данные в интернете обильны. Материалы о Японии, дающие наиболее безопасные и общие ответы, вероятно, получают приоритет при дообучении.
#AI #LLM #Study #Bias #Research #Japan
Исследователи из Университета Страны Басков (Испания) и Кардиффского университета (Великобритания) опубликовали препринт, в котором выявили скрытую культурную предвзятость больших языковых моделей. Вопреки ожиданиям, что модели склонны упоминать США или Европу, чаще всего они ссылаются на Японию.
Ученые задали 31 680 вопросов на 24 языках восьми моделям - ChatGPT, Claude, Gemini, Llama, Command R, Qwen, DeepSeek и Mistral - без указания конкретной страны. Вопросы охватывали темы верований, социальных структур, образования, искусства, еды, географии, политики, здоровья, медиа, истории и экономики. Затем другой ИИ анализировал, какие страны упоминаются в ответах. Исключая страны, на языках которых задавались вопросы, Япония оказалась самым частым примером в шести из восьми моделей. Далее следуют США, Индия, Китай и Франция.
Исследование показало, что предвзятость возникает не на этапе сбора данных, а во время пост-тренировки (дообучения) с участием человека. Например, Qwen от китайской компании до дообучения чаще ссылался на Китай, но после сместился в сторону Японии и США. Авторы не уточнили, какой именно тип пост-тренировки вызвал рост упоминаний Японии. Отраслевой инсайдер предположил, что японские анимация, игры, еда и традиционная культура привлекают глобальный интерес, а связанные с ними данные в интернете обильны. Материалы о Японии, дающие наиболее безопасные и общие ответы, вероятно, получают приоритет при дообучении.
#AI #LLM #Study #Bias #Research #Japan
👍1🔥1