SeamlessM4T революционизирует многоязычный перевод
Представлена новая мультифункциональная модель SeamlessM4T для перевода речи и текста.
Модель позволяет общаться на почти 100 языках, объединяя в себе их мгновенный перевод и транскрибацию.
Высокая производительность для малоресурсных языков и качественный перевод для языков с широким ресурсом, включая английский и немецкий.
Не требует отдельной модели для идентификации исходного языка - автоматически адаптируется.
Основана на передовых проектах No Language Left Behind, Universal Speech Translator и Massively Multilingual Speech.
Использует продвинутый самообучающийся энкодер w2v-BERT 2.0 и текстовую модель NLLB.
Точность переводов оценивается через улучшенный инструмент BLASER 2.0.
Включает меры безопасности для предотвращения токсичности и предвзятости в переводах.
Обновление открытой модели.
#SeamlessM4T #Translation #Multilingual
Представлена новая мультифункциональная модель SeamlessM4T для перевода речи и текста.
Модель позволяет общаться на почти 100 языках, объединяя в себе их мгновенный перевод и транскрибацию.
Высокая производительность для малоресурсных языков и качественный перевод для языков с широким ресурсом, включая английский и немецкий.
Не требует отдельной модели для идентификации исходного языка - автоматически адаптируется.
Основана на передовых проектах No Language Left Behind, Universal Speech Translator и Massively Multilingual Speech.
Использует продвинутый самообучающийся энкодер w2v-BERT 2.0 и текстовую модель NLLB.
Точность переводов оценивается через улучшенный инструмент BLASER 2.0.
Включает меры безопасности для предотвращения токсичности и предвзятости в переводах.
Обновление открытой модели.
#SeamlessM4T #Translation #Multilingual
🔥1
Cohere представляет Command-R: открытую модель на 35B
Cohere выпустили Command-R, исследовательскую версию генеративной модели с 35 млрд параметров.
Контекстное окно 128К!
По тестам близка к gpt-3.5-turbo.
Модель оптимизирована под чат, написание итогов и ответы на вопросы.
Command-R поддерживает 10 языков: English, French, Spanish, Italian, German, Brazilian Portuguese, Japanese, Korean, Simplified Chinese, Arabic. Русского нет.
Способна отвечать в формате JSON для работы с функциями.
Приспособлена к работе в разных режимах ответов, включая быстрые цитирования.
Может писать код, объясняя или переписывая фрагменты.
Для локальной модели очень круто!
#Cohere #CommandR #multilingual
-------
@tsingular
Cohere выпустили Command-R, исследовательскую версию генеративной модели с 35 млрд параметров.
Контекстное окно 128К!
По тестам близка к gpt-3.5-turbo.
Модель оптимизирована под чат, написание итогов и ответы на вопросы.
Command-R поддерживает 10 языков: English, French, Spanish, Italian, German, Brazilian Portuguese, Japanese, Korean, Simplified Chinese, Arabic. Русского нет.
Способна отвечать в формате JSON для работы с функциями.
Приспособлена к работе в разных режимах ответов, включая быстрые цитирования.
Может писать код, объясняя или переписывая фрагменты.
Для локальной модели очень круто!
#Cohere #CommandR #multilingual
-------
@tsingular
Мозг и языковые модели создают общее смысловое пространство
Исследователи из Princeton доказали удивительную вещь: мозг людей, говорящих на разных языках, обрабатывает смыслы одинаково. Эксперимент с носителями английского, китайского и французского показал, что нейронные представления значений слов практически идентичны.
Несмотря на кардинальные различия в звучании, грамматике и письме, мозги всех слушателей активировались практически идентично в зонах понимания смысла. Языковые модели (BERT, Whisper) показали аналогичную конвергенцию.
Еще интереснее то, что языковые модели ИИ, обученные на этих языках, тоже сходятся к похожему пространству эмбеддингов. Особенно это заметно в средних слоях нейросетей.
- Энкодинг-модели, обученные на английском, успешно предсказывали активность мозга китайцев и французов
- Многоязычные модели автоматически группировали родственные языки (романские, германские) в едином пространстве
- Whisper выявил общие фонетические паттерны даже в кардинально разных языках
Получается, что несмотря на кардинальные различия в звуках, письменности и грамматике, все языки ведут к одному концептуальному пространству. И ИИ это воспроизводит.
Как-будто человеческое мышление использует универсальный "мета-API", а языки — это просто разные способы его вызова.
#neuroscience #LLM #multilingual
———
@tsingular
Исследователи из Princeton доказали удивительную вещь: мозг людей, говорящих на разных языках, обрабатывает смыслы одинаково. Эксперимент с носителями английского, китайского и французского показал, что нейронные представления значений слов практически идентичны.
Несмотря на кардинальные различия в звучании, грамматике и письме, мозги всех слушателей активировались практически идентично в зонах понимания смысла. Языковые модели (BERT, Whisper) показали аналогичную конвергенцию.
Еще интереснее то, что языковые модели ИИ, обученные на этих языках, тоже сходятся к похожему пространству эмбеддингов. Особенно это заметно в средних слоях нейросетей.
- Энкодинг-модели, обученные на английском, успешно предсказывали активность мозга китайцев и французов
- Многоязычные модели автоматически группировали родственные языки (романские, германские) в едином пространстве
- Whisper выявил общие фонетические паттерны даже в кардинально разных языках
Получается, что несмотря на кардинальные различия в звуках, письменности и грамматике, все языки ведут к одному концептуальному пространству. И ИИ это воспроизводит.
Как-будто человеческое мышление использует универсальный "мета-API", а языки — это просто разные способы его вызова.
#neuroscience #LLM #multilingual
———
@tsingular
🔥15❤3