Cohere Research опубликовала новую работу «The Culture Funnel: You can’t align what isn’t in the data». Авторы исследуют фундаментальную проблему alignment (согласования) больших языковых моделей: если культурные особенности, нормы и контекст отсутствуют в обучающих данных, модель невозможно корректно «выровнять» под эти требования.
Исследователи вводят понятие «культурной воронки» — процесса, через который проходят данные перед обучением. На каждом этапе (сбор, фильтрация, токенизация, аннотация) часть культурного контекста теряется. Чем меньше представлена культура в исходных данных, тем сильнее искажения на выходе. Работа показывает, что стандартные методы alignment (RLHF, DPO) не способны компенсировать отсутствие релевантных примеров — они лишь усиливают уже заложенные в данные паттерны.
Практический вывод для разработчиков: при создании мультиязычных и мультикультурных AI-продуктов необходимо уделять первостепенное внимание составлению датасетов, а не только финальной настройке модели. Cohere подчёркивает, что их собственная модель Aya (70+ языков) строилась именно с учётом этого принципа.
#AI #Cohere #Alignment #LLM #Research
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
💬 CALIBER: Калибровка уверенности языковых моделей до и после рассуждений
Исследователи Cohere Research представили новый метод калибровки уверенности языковых моделей — CALIBER. Современные модели рассуждений (reasoning models) всё чаще должны не только отвечать на сложные вопросы, но и оценивать вероятность своего успеха. Существующие подходы к калибровке либо не учитывают процесс рассуждений, либо дают смещённые оценки.
CALIBER решает эту проблему, разделяя калибровку на два этапа: до начала рассуждений (предварительная уверенность) и после их завершения (итоговая уверенность). Метод позволяет модели точнее определять, насколько она уверена в своём ответе, что критически важно для приложений, где требуется высокая надёжность — например, в медицинской диагностике, юридическом анализе или финансовом прогнозировании.
Практическая значимость: CALIBER даёт разработчикам инструмент для оценки качества ответов LLM без дополнительных вычислительных затрат. Это особенно актуально для систем, где модель должна не только дать ответ, но и сообщить, насколько ему можно доверять.
#AI #LLM #Calibration #Cohere #Research
Исследователи Cohere Research представили новый метод калибровки уверенности языковых моделей — CALIBER. Современные модели рассуждений (reasoning models) всё чаще должны не только отвечать на сложные вопросы, но и оценивать вероятность своего успеха. Существующие подходы к калибровке либо не учитывают процесс рассуждений, либо дают смещённые оценки.
CALIBER решает эту проблему, разделяя калибровку на два этапа: до начала рассуждений (предварительная уверенность) и после их завершения (итоговая уверенность). Метод позволяет модели точнее определять, насколько она уверена в своём ответе, что критически важно для приложений, где требуется высокая надёжность — например, в медицинской диагностике, юридическом анализе или финансовом прогнозировании.
Практическая значимость: CALIBER даёт разработчикам инструмент для оценки качества ответов LLM без дополнительных вычислительных затрат. Это особенно актуально для систем, где модель должна не только дать ответ, но и сообщить, насколько ему можно доверять.
#AI #LLM #Calibration #Cohere #Research
👍1
Zyphra, Cohere и Poolside: экосистема открытых моделей становится разнообразнее
В свежем выпуске «Latest open artifacts» анализируется сдвиг на рынке открытых ИИ-моделей. Если год назад доминировали китайские игроки, то теперь всё больше нишевых компаний по всему миру выпускают собственные модели. Авторы выделяют три типа участников: «чистые» создатели моделей (DeepSeek, Zyphra, Poolside), Big Tech (Qwen, Gemma, NVIDIA) и продуктовые компании (JetBrains, Krea, Photoroom), которые открывают веса узкоспециализированных моделей, не опасаясь за свой бизнес.
Ключевые релизы: NVIDIA выпустила Nemotron-3-Ultra-550B с архитектурой LatentMoE под лицензией OpenMDW, специально адаптированной для весов моделей. Cohere впервые открыла флагманскую Command A+ (218B-A25B MoE) под Apache 2.0 — модель поддерживает мультимодальность, мультиязычность и агентные сценарии, работая на одном B200 в 4-битном формате. Также отмечен GLM-5.2 от Zhipu, который, по мнению авторов, стал шагом вперёд для открытых моделей и практически не уступает лучшим закрытым аналогам.
#AI #Zyphra #OpenModels #Cohere #NVIDIA
В свежем выпуске «Latest open artifacts» анализируется сдвиг на рынке открытых ИИ-моделей. Если год назад доминировали китайские игроки, то теперь всё больше нишевых компаний по всему миру выпускают собственные модели. Авторы выделяют три типа участников: «чистые» создатели моделей (DeepSeek, Zyphra, Poolside), Big Tech (Qwen, Gemma, NVIDIA) и продуктовые компании (JetBrains, Krea, Photoroom), которые открывают веса узкоспециализированных моделей, не опасаясь за свой бизнес.
Ключевые релизы: NVIDIA выпустила Nemotron-3-Ultra-550B с архитектурой LatentMoE под лицензией OpenMDW, специально адаптированной для весов моделей. Cohere впервые открыла флагманскую Command A+ (218B-A25B MoE) под Apache 2.0 — модель поддерживает мультимодальность, мультиязычность и агентные сценарии, работая на одном B200 в 4-битном формате. Также отмечен GLM-5.2 от Zhipu, который, по мнению авторов, стал шагом вперёд для открытых моделей и практически не уступает лучшим закрытым аналогам.
#AI #Zyphra #OpenModels #Cohere #NVIDIA
🔥1