Играемся с видеокартой Tesla H100 (GH100)
⬆️ https://habr.com/ru/articles/945290/
Продолжаем статьи про практические тесты актуальных картонок от Nvidia (RTX 5090, A5000 Ada, A100, 3090 и A10). В этот раз мне уже предложили покрутить на несколько часиков H100 с 80 GB VRAM.
Тренировать ничего не будем, снимем попугаев через gpu-burn , попробуем MIG (multi-instance GPU) и также замерим инференс одной нашей прожорливой сетки.
С A100 мне как-то тоже пришлось поиграться, но я не думал, что в России в принципе появятся H100. Поэтому в этот раз шутка будет про санкции и про сумочку, сделанную из H100.
Также пару слов расскажем про "фишку" MIG, доступную для самых толстых карт в линейках NVIDIA (из "доступных" в основном A100 и H100, но есть и экзотика типа RTX PRO 6000 Blackwell Workstation Edition, GB200, B200, H200, A30).
В конце даже получилась небольшая детективная история.
Продолжаем статьи про практические тесты актуальных картонок от Nvidia (RTX 5090, A5000 Ada, A100, 3090 и A10). В этот раз мне уже предложили покрутить на несколько часиков H100 с 80 GB VRAM.
Тренировать ничего не будем, снимем попугаев через gpu-burn , попробуем MIG (multi-instance GPU) и также замерим инференс одной нашей прожорливой сетки.
С A100 мне как-то тоже пришлось поиграться, но я не думал, что в России в принципе появятся H100. Поэтому в этот раз шутка будет про санкции и про сумочку, сделанную из H100.
Также пару слов расскажем про "фишку" MIG, доступную для самых толстых карт в линейках NVIDIA (из "доступных" в основном A100 и H100, но есть и экзотика типа RTX PRO 6000 Blackwell Workstation Edition, GB200, B200, H200, A30).
В конце даже получилась небольшая детективная история.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6👏2❤1
Мы решили задачу омографов и ударений в русском языке
Мы опубликовали библиотеку
1️⃣ Расставляет ударения, решает омографы, ставит букву ё;
2️⃣ "Знает" порядка 4М русских слов и словоформ и порядка 2K омографов;
3️⃣ Простановка ударения в обычном 1 слове занимает где-то 0.5 ms, а в предложении на 400 символов с 2 омографами - порядка 30 ms;
4️⃣ Общий размер библиотеки составляет порядка 50 мегабайт (архив весит порядка 30 мегабайт), что является сжатием словарей и всех датасетов примерно в 400 раз;
5️⃣ Опубликована под популярной и простой лицензией (MIT);
6️⃣ Не содержит раздутого кода, лишних библиотек, гигабайтов академических артефактов;
7️⃣ Зависит только от стандартной библиотеки питона и работает на всех последних версиях PyTorch.
Ставим⬆️ habr.com/ru/articles/955130/
Ставим ⭐️ https://github.com/snakers4/silero-stress
Мы опубликовали библиотеку
silero-stress для расстановки ударений в обычных словах и омографах:1️⃣ Расставляет ударения, решает омографы, ставит букву ё;
2️⃣ "Знает" порядка 4М русских слов и словоформ и порядка 2K омографов;
3️⃣ Простановка ударения в обычном 1 слове занимает где-то 0.5 ms, а в предложении на 400 символов с 2 омографами - порядка 30 ms;
4️⃣ Общий размер библиотеки составляет порядка 50 мегабайт (архив весит порядка 30 мегабайт), что является сжатием словарей и всех датасетов примерно в 400 раз;
5️⃣ Опубликована под популярной и простой лицензией (MIT);
6️⃣ Не содержит раздутого кода, лишних библиотек, гигабайтов академических артефактов;
7️⃣ Зависит только от стандартной библиотеки питона и работает на всех последних версиях PyTorch.
Ставим
Ставим ⭐️ https://github.com/snakers4/silero-stress
Please open Telegram to view this post
VIEW IN TELEGRAM
❤43🔥20🎉9❤🔥4
Forwarded from Spark in me
Время silero-tts v5 пришло!
🆕 Что добавилось / поменялось:
1️⃣ Модели в 3-4 раза быстрее
2️⃣ Добавилась автоматическая расстановка ударений в омографах;
3️⃣ Значительно повысилось качество звучания и стабильность генерации;
4️⃣ В моделях всё так же поддерживается SSML;
5️⃣ Список голосов:
6️⃣ Ставить модель можно через
7️⃣ Скрутили дебафф из
Список новых флагов:
Минимальный пример буквально:
Попробовать можно тут:
⭐️ Репозиторий
📔 Ноутбучек с примерами
⬆️ Статья на Хабре
🆕 Что добавилось / поменялось:
1️⃣ Модели в 3-4 раза быстрее
v3 и в 1.5 - 2 раза быстрее v4;2️⃣ Добавилась автоматическая расстановка ударений в омографах;
3️⃣ Значительно повысилось качество звучания и стабильность генерации;
4️⃣ В моделях всё так же поддерживается SSML;
5️⃣ Список голосов:
aidar, baya, kseniya, xenia, eugene;6️⃣ Ставить модель можно через
torch.hub, тупо выкачав локально, через pip;7️⃣ Скрутили дебафф из
v4;Список новых флагов:
put_accent=True,
put_yo=True,
put_stress_homo=True,
put_yo_homo=True
Минимальный пример буквально:
!pip install silero
from silero import silero_tts
model, example_text = silero_tts(language='ru',
speaker='v5_ru')
audio = model.apply_tts(text=example_text)
Попробовать можно тут:
⭐️ Репозиторий
📔 Ноутбучек с примерами
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥26❤4😱3
🆕 Опубликовали v6.2 версию нашего VAD-а
- Изменили принцип тренировки модели;
- В целом повышено качество на всех доменах;
- Повышена стабильность на краевых случаях;
- Известные краевые случаи:
-- Детские голоса
-- Необычные голоса
-- Мультяшные голоса
-- Приглушённая речь
-- Приглушённые голоса
-- Более сложные телефонные звонки
Релиз
- Изменили принцип тренировки модели;
- В целом повышено качество на всех доменах;
- Повышена стабильность на краевых случаях;
- Известные краевые случаи:
-- Детские голоса
-- Необычные голоса
-- Мультяшные голоса
-- Приглушённая речь
-- Приглушённые голоса
-- Более сложные телефонные звонки
Релиз
🔥17❤7👍6🤝1
Читайте это, если вы профессиональный разработчик на плюсах.
По нашему VAD-у есть вот такая шалость.
TLDR:
- Есть наш весьма популярный VAD;
- Его сами разрабы gguf портировали в gguf (чисто сишный формат / библиотека для запуска нейросетей);
- По идее можно сделать шалость - утащить его обратно к нам (везде MIT) и сделать инференс без ONNX и / или PyTorch;
- Но незадачи тут три:
-- Тогда придётся ещё накинуть python-bindings, желательно не через
-- Придётся утащить сишный код запуска у разрабов, кто сконвертировал VAD;
-- Придётся накинуть автоматические сборки бинарей под основные платформы (Linux, Windows, ARM) - чтобы всё ставилось у всех 1 командой;
Мы постоянно каждый день не занимаемся разработкой на плюсах, поэтому наверное за такое браться бы не стали.
Но будто бы если такое сделать, то вообще все эти ваши ускорители (PyTorch, ONNX, TF, OpenVINO) станут нинужны (в рамках VAD-а). По идее также должно стать быстрее и жрать меньше.
Если хотите славы - подключайтесь в общем.
По нашему VAD-у есть вот такая шалость.
TLDR:
- Есть наш весьма популярный VAD;
- Его сами разрабы gguf портировали в gguf (чисто сишный формат / библиотека для запуска нейросетей);
- По идее можно сделать шалость - утащить его обратно к нам (везде MIT) и сделать инференс без ONNX и / или PyTorch;
- Но незадачи тут три:
-- Тогда придётся ещё накинуть python-bindings, желательно не через
popen, а нормально;-- Придётся утащить сишный код запуска у разрабов, кто сконвертировал VAD;
-- Придётся накинуть автоматические сборки бинарей под основные платформы (Linux, Windows, ARM) - чтобы всё ставилось у всех 1 командой;
Мы постоянно каждый день не занимаемся разработкой на плюсах, поэтому наверное за такое браться бы не стали.
Но будто бы если такое сделать, то вообще все эти ваши ускорители (PyTorch, ONNX, TF, OpenVINO) станут нинужны (в рамках VAD-а). По идее также должно стать быстрее и жрать меньше.
Если хотите славы - подключайтесь в общем.
❤16🤯5👀2✍1
Мы добавили поддержку ещё 19 языков России и СНГ в проект silero-stress
1⃣ Добавили акцентор для украинского языка на основе словаря в 3M слов;
2⃣ Выложили в открытый доступ словари ударений ещё для 18 языков России и СНГ;
3⃣ Пробовали крутить акценторы для этих языков, но словари пока маловаты для такого (акцентор слегка генерализуется);
4⃣ Поэтому выложили просто минимальную обёртку для этих языков. Если слова нет в словаре, ударение ставится алгоритмом (подробности по ссылкам);
5⃣ К омографам понятное дело даже не прикасались ещё;
6⃣ Обновили пакет.
🔼 Плюсануть на Хабре тут
⭐️ Звезду ставить тут, детали читать тут
Please open Telegram to view this post
VIEW IN TELEGRAM
👍17🔥8❤🔥7❤1
Мы опубликовали стабильный, быстрый, качественный и доступный синтез для 20 языков России и СНГ
0️⃣ Популярные языки из 🇷🇺🇺🇦🇺🇿🇰🇿🇦🇿🇹🇯🇧🇾 🇬🇪🇰🇬🇦🇲;
1️⃣ Всего 20 языков России и стран СНГ, всего 95 голосов;
2️⃣ Модели компактные и быстрые, как наши прошлые релизы;
3️⃣ Поддержка SSML, генерация аудио с SR
4️⃣ Два типа моделей -
5️⃣ Остались непокрытыми языки Дагестана и ЧР, если хотите помочь с добавлением этих языков пишите на @silero_job.
⭐️Репозиторий - github.com/snakers4/silero-models
⬆️ Статья на Хабре - habr.com/ru/articles/968988/
0️⃣ Популярные языки из 🇷🇺🇺🇦🇺🇿🇰🇿🇦🇿🇹🇯
1️⃣ Всего 20 языков России и стран СНГ, всего 95 голосов;
2️⃣ Модели компактные и быстрые, как наши прошлые релизы;
3️⃣ Поддержка SSML, генерация аудио с SR
8000, 24000, 48000;4️⃣ Два типа моделей -
base под лицензией MIT на наших данных и ext на данных сообщества;5️⃣ Остались непокрытыми языки Дагестана и ЧР, если хотите помочь с добавлением этих языков пишите на @silero_job.
⭐️Репозиторий - github.com/snakers4/silero-models
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥26❤10⚡7👍1🙉1
Локальный переводчик и синтез голоса на Кабардинском языке
Автор нашего кабардино-черкесского голоса, Эдуард, сделал вот такой инструмент на базе публичных моделей перевода и нашей модели синтеза.
Надеюсь у нас также получится покрыть недостающие крупные языки Кавказа.
⬆️ https://habr.com/ru/articles/972350/
⭐️ https://github.com/kubataba/kabardian-translator
Автор нашего кабардино-черкесского голоса, Эдуард, сделал вот такой инструмент на базе публичных моделей перевода и нашей модели синтеза.
Этот проект — не просто технический эксперимент. Это попытка создать инструмент, который поможет сохранить и передать родной язык следующим поколениям, где бы они ни находились. Я писал для своих знакомых, которая выросли не на Родине и жаловались, что не могут выучить язык, потому что не могут понять произношение по написанию.
Если вы кабардинец, живущий за границей, или просто интересуетесь кавказскими языками — попробуйте Kabardian Translator. Буду рад услышать ваши отзывы, предложения и замечания!
Надеюсь у нас также получится покрыть недостающие крупные языки Кавказа.
⭐️ https://github.com/kubataba/kabardian-translator
Please open Telegram to view this post
VIEW IN TELEGRAM
👍13❤🔥7
🆕 Мы также добавили в проект silero-stress:
🥔 Акцентор для белорусского языка на основе словаря в 1.8M слов;
🌾 Акцентор для украинского языка на основе словаря в 3M слов.
📌 Для справки - акцентор это очень маленькая модель (мегабайт), которая ставит ударения со 100% точностью (с точностью до имеющегося словаря).
🚀 Почему именно модель, а не просто словарь? Сжатие примерно в 10 раз больше, плюс акцентор генерализуется на новые и несуществующие слова с точностью около 60-70%. То есть ставит чаще верно, чем неверно. Словарь или архив так не умеет.
⭐️ github.com/snakers4/silero-stress/wiki/Other-Languages
⬆️ habr.com/ru/articles/969184/
🥔 Акцентор для белорусского языка на основе словаря в 1.8M слов;
🌾 Акцентор для украинского языка на основе словаря в 3M слов.
📌 Для справки - акцентор это очень маленькая модель (мегабайт), которая ставит ударения со 100% точностью (с точностью до имеющегося словаря).
🚀 Почему именно модель, а не просто словарь? Сжатие примерно в 10 раз больше, плюс акцентор генерализуется на новые и несуществующие слова с точностью около 60-70%. То есть ставит чаще верно, чем неверно. Словарь или архив так не умеет.
⭐️ github.com/snakers4/silero-stress/wiki/Other-Languages
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥18❤6👍1
Наш синтез для 20 языков теперь работает локально под Windows как экранная читалка (SAPI5) и в Балаболке
💌 Мы сделали комьюнити небольшой новогодний подарок и упаковали нашу модель
💻 Это значит, что она будет нативно работать с такими программами как Балаболка и может выступать в виде экранной читалки.
👌 Омографы пока не доехали, но все три акцентора доехали. Будем рады вашей обратной связи!
⬆️ Статья habr.com/ru/articles/981992/
🔗 Инсталлятор github.com/snakers4/silero-models/releases/tag/v5.2
💌 Мы сделали комьюнити небольшой новогодний подарок и упаковали нашу модель
v5_cis_base_nostress в виде SAPI5-интерфейса для Windows.💻 Это значит, что она будет нативно работать с такими программами как Балаболка и может выступать в виде экранной читалки.
👌 Омографы пока не доехали, но все три акцентора доехали. Будем рады вашей обратной связи!
🔗 Инсталлятор github.com/snakers4/silero-models/releases/tag/v5.2
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥24👍4❤3👏1🍾1
Silero VAD + ExecuTorch
Наш VAD упомянут в официальном репо PyTorch в разделе ExecuTorch:
https://github.com/pytorch/executorch/tree/main/examples/models/silero_vad
Видимо ответ торча на растущие как грибы альтернативные микро-движки для нейросетей.
Наш VAD упомянут в официальном репо PyTorch в разделе ExecuTorch:
https://github.com/pytorch/executorch/tree/main/examples/models/silero_vad
Видимо ответ торча на растущие как грибы альтернативные микро-движки для нейросетей.
🔥25
📈 Какое-то время назад узнали про новый VAD, сняли интегральные метрики на ряде датасетов. Он есть стриминговый и нестриминговый, разница там не очень большая (в среднем).
🗜 По скорости детально не ковыряли, но судя по размеру (2.3 MB) модель не очень большая.
👌 Предсказуемо, на сложных краевых случаях стриминговая модель ведёт себя сильно хуже (видеть будущее - неплохой хак).
🔗 При этом хоть какая-то работа над качеством явно велась (в отличие от большинства до этого), есть сеты, где неплохие метрики. Подробности на страничке. Обратите внимание, что тут метрики у нас указаны для нашей стриминговой модели😁 .
🗜 По скорости детально не ковыряли, но судя по размеру (2.3 MB) модель не очень большая.
👌 Предсказуемо, на сложных краевых случаях стриминговая модель ведёт себя сильно хуже (видеть будущее - неплохой хак).
🔗 При этом хоть какая-то работа над качеством явно велась (в отличие от большинства до этого), есть сеты, где неплохие метрики. Подробности на страничке. Обратите внимание, что тут метрики у нас указаны для нашей стриминговой модели
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6🔥4🤩3
💎 Мы недавно писали про обновление нашего публичного синтеза.
🥴 Не секрет, что вопросы обычно не работают даже в гигантских рекуррентных моделях, которые требуют серверные видеокарты.
🆕 В модель
— специальных;
— общих;
— альтернативных;
— вопросов-хвостиков.
⬆️ Подробности тут
📱 Попробовать тут
🥴 Не секрет, что вопросы обычно не работают даже в гигантских рекуррентных моделях, которые требуют серверные видеокарты.
🆕 В модель
v5_4_ru мы добавили поддержку 4 типов вопросов: — специальных;
— общих;
— альтернативных;
— вопросов-хвостиков.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥13👍9❤🔥3
Наш синтез для экранных читалок (SAPI5) стал лучше
1️⃣ Скорость (в идеале) x100 RT;
2️⃣ Суммарно все те же 20 языков (включая русский);
3️⃣ Добавлена простая читалка чисел и английского;
4️⃣ Два инсталлятора, на базе
5️⃣ Добавлен трекинг по словам для удобства пользования;
6️⃣ Для русского добавлена опция автоматически решать омографы;
7️⃣ Добавлен конфигуратор для ударений (включать-выключать ударения и омографы);
8️⃣ Модель сама ставит ударения на: русском, белорусском и украинском;
9️⃣ Фиксы для юзеров, фиксы "фризов", фиксы артефактов ускорения и высоты голоса;
⬆️ https://habr.com/ru/articles/1043466/
⭐️ https://github.com/snakers4/silero-models
1️⃣ Скорость (в идеале) x100 RT;
2️⃣ Суммарно все те же 20 языков (включая русский);
3️⃣ Добавлена простая читалка чисел и английского;
4️⃣ Два инсталлятора, на базе
v5_5_ru и v5_cis_base_nostress;5️⃣ Добавлен трекинг по словам для удобства пользования;
6️⃣ Для русского добавлена опция автоматически решать омографы;
7️⃣ Добавлен конфигуратор для ударений (включать-выключать ударения и омографы);
8️⃣ Модель сама ставит ударения на: русском, белорусском и украинском;
9️⃣ Фиксы для юзеров, фиксы "фризов", фиксы артефактов ускорения и высоты голоса;
⭐️ https://github.com/snakers4/silero-models
Please open Telegram to view this post
VIEW IN TELEGRAM
❤🔥13🔥3
Нам посчастливилось принять участие в разработке синтеза для новой версии игры игры Ил-2 Штурмовик — Ил-2: Корея.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍18😴2
Silero VAD in OpenVINO
Сообщество подвезло конверсию нашего VAD-а в OpenVINO:
https://github.com/snakers4/silero-vad/tree/master/examples/openvino
Загвоздкой были технические "ифы", которые оставляли конвертеры.
Сообщество подвезло конверсию нашего VAD-а в OpenVINO:
https://github.com/snakers4/silero-vad/tree/master/examples/openvino
Загвоздкой были технические "ифы", которые оставляли конвертеры.
🔥15
🆕 Мы опубликовали стабильный, быстрый, качественный и доступный синтез ещё для 29 языков России
Наконец-то мы смогли покрыть недостающие языки нашей страны моделями синтеза. В первую очередь в данный раз это — языки Кавказа.
├─ SSML;
├─ Всего 29 языков и 64 голоса;
├─ 2 модели: кавказская и тюркская;
├─ Все прошлые оптимизации по скорости и качеству;
├─ Много работы со звучанием и качеством данных;
└─ Возможно последнее семейство моделей на текущей архитектуре;
⬆️ https://habr.com/ru/articles/1065252/
⭐️ https://github.com/snakers4/silero-models
Наконец-то мы смогли покрыть недостающие языки нашей страны моделями синтеза. В первую очередь в данный раз это — языки Кавказа.
├─ SSML;
├─ Всего 29 языков и 64 голоса;
├─ 2 модели: кавказская и тюркская;
├─ Все прошлые оптимизации по скорости и качеству;
├─ Много работы со звучанием и качеством данных;
└─ Возможно последнее семейство моделей на текущей архитектуре;
⭐️ https://github.com/snakers4/silero-models
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥22👍4👏4
Большой релиз библиотеки ударений в silero-stress для русского языка
1️⃣ Переразметили список омографов;
2️⃣ 395 новых омографов, всего 2208 омографов;
3️⃣ Разметили "идеальную" валидацию из 100К предложений с тройным перекрытием;
4️⃣ Добавили в трейн ~54М новых предложений (всего стало 195М);
5️⃣ Решили проблему с "дрожанием" результатов модели;
6️⃣ Добавили регулярки и словосочетания для самых популярных омографов и добавили функционал для пользователей для добавления собственных регулярных выражений и словосочетаний.
⬆️ https://habr.com/ru/article/1079674
⭐️ https://github.com/snakers4/silero-stress
1️⃣ Переразметили список омографов;
2️⃣ 395 новых омографов, всего 2208 омографов;
3️⃣ Разметили "идеальную" валидацию из 100К предложений с тройным перекрытием;
4️⃣ Добавили в трейн ~54М новых предложений (всего стало 195М);
5️⃣ Решили проблему с "дрожанием" результатов модели;
6️⃣ Добавили регулярки и словосочетания для самых популярных омографов и добавили функционал для пользователей для добавления собственных регулярных выражений и словосочетаний.
⭐️ https://github.com/snakers4/silero-stress
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥21👍8❤2
Silero News
Большой релиз библиотеки ударений в silero-stress для русского языка 1️⃣ Переразметили список омографов; 2️⃣ 395 новых омографов, всего 2208 омографов; 3️⃣ Разметили "идеальную" валидацию из 100К предложений с тройным перекрытием; 4️⃣ Добавили в трейн ~54М…
Мы пробовали и более большие и более лучшие бекбоуны изначально, но разница между публичной и приватной сокращается, к сожалению.
Беда в том, что даже на GPU, модель ударений должна работать условно как какой-то % от бюджета синтеза, а не на порядки больше.
Хорошая новость состоит в том, что данные становятся лучше и чище.
Беда в том, что даже на GPU, модель ударений должна работать условно как какой-то % от бюджета синтеза, а не на порядки больше.
Хорошая новость состоит в том, что данные становятся лучше и чище.
👍10🔥3❤2
🚀 Silero TTS v5 теперь умеет и в эмфазы, и в вопросы и восклицания
В этот раз доехало аж несколько новых фич:
1️⃣ Поддержка восклицаний
2️⃣ Эмфазы (выделение конкретного **слова** в предложении)
3️⃣ Новая версия
⬆️ https://habr.com/ru/articles/1094196/
⭐️ https://github.com/snakers4/silero-models/#v5
⭐️ https://github.com/snakers4/silero-stress
В этот раз доехало аж несколько новых фич:
1️⃣ Поддержка восклицаний
2️⃣ Эмфазы (выделение конкретного **слова** в предложении)
3️⃣ Новая версия
silero-stress⭐️ https://github.com/snakers4/silero-models/#v5
⭐️ https://github.com/snakers4/silero-stress
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥22👍4