Нейронавт | Нейросети в творчестве
13.2K subscribers
7.14K photos
5.65K videos
51 files
7.23K links
Канал про нейросети в компьютерной графике, в кино и вообще

В папках и запусках не участвую

для связи @Neuronauticus

РКН: https://hf.ru/link8e56d
Download Telegram
Universal Source Separation (USS) with Weakly labelled Data

Фарш возможно прокрутить назад!
Вы наверняка знаете что нейросетки умеют выделять из микса вокал, и даже отдельные инструменты. Но это новый уровень. Эта штука способна различать сотни классов звука

Код

#audioseparation #audio2audio #unmix
🔥7
VAST: Video-Audio Separation through Text. Language-Guided Audio-Visual Source Separation via Trimodal Consistency

Изоляция источников звука на видео по текстовому запросу. Этакий vocalremover на стероидах. Указываем кого хотим слышать, кого не хотим - получаем изолированный звук от выбранного источника

Код

#audio2audio #video2video #video2audio #audioseparation #unmix
Media is too big
VIEW IN TELEGRAM
TIGER: Time-frequency Interleaved Gain Extraction and Reconstruction for Efficient Speech Separation

Легковесная китайская модель для разделения речи, музыки, эффектов

Хвастаются что бьют #SOTA модель TF-GridNet

Код

#audioseparation #demix #unmix
👍8❤1😁1🤔1
MVSEP

Сервис для разделения музыки на стемы

Разделяет на вокал, бас, ударные, гитару, фортепиано и остальное - 6 стемов.
Недавно добавили в парк моделей BS-RoFormer, модели уже 2 года, но недавно была обновка. А вообще ее спонсировали Stability AI и HuggingFace, и на изоляции вокала там #SOTA (не знаю удержалил ли трон к настоящему времени)

Есть бесплатный тариф

#audioseparation #demix #unmix
👍8🔥3👎1
SAM Audio

Изолятор источников звука на аудио (или видео со звуком) в реальном времени от Meta (запрещено в РФ)

Принимает три типа подсказок: текстовые, визуальные и временные. Например кликаем на видео на источник звука чтобы выделить его

Умеет изолировать как повседневные шумы так и музыкальные инструменты

Гитхаб
HF - доступ к моделям по запросу, могут не дать
Playground
Блогпост

Спасибо @EvgenyiPerm

#audioseparation #music2stem #demix #unmix #segmentation #denoise #audio2audio #multimodal
🔥10👍4🤯3👎1
Comfy-MSS

Кастом пак для разделения музыки на дорожки отдельных инструментов на базе Python-библиотеки pymss

#comfyui #demix #unmix #audioseparation #music2stem
👍15
MuScriptor

Модель для извлечения MIDI-партий из сведенного музыкалного трека

• разделяет трек на партии барабанов, баса, клавиш, вокала и др.
• учитывает заданный список инструментов для снижения ошибок

Попробовать
Гитхаб
HF
Демо
Галерея
Pinokio

#audio2midi #music2midi #midi #unmix
🔥18👎1
Держите две версии кастом паков MuScriptor для перевода аудиотреков в midi

github.com/jtydhr88/ComfyUI-muscriptor
github.com/martyyz-ai/ComfyUI-MuScriptor

#audio2midi #music2midi #midi #unmix #comfyui
👍11
This media is not supported in your browser
VIEW IN TELEGRAM
DBS (Dynamic Band Splitting)

Метод разделения аудиоисточников от Tsinghua: границы частотных полос подстраиваются под каждый микс, а не задаются заранее. Бюджет токенов при этом фиксированный.

Как работает
• Предсказывает границы полос по содержимому внутри частотных блоков
• Отбирает заданное число границ через hard Top-K
• Пулит полосы с учётом содержимого в компактные токены
• После разделения сглаживает и растягивает токены обратно на сетку STFT
• Уточняет их по частоте и декодирует комплексные маски общей по частоте головой

Две версии
• DBS-BSRNN: 4.7M, окна по 3 секунды
• DBS-TIGER: 1M, окна по 6 секунд

Обе делят монодорожку 44.1 кГц на музыку, звуковые эффекты и речь. BSRNN тяжелее и аккуратнее на коротких окнах, TIGER компактнее и смотрит дальше по времени

hf.co/JusperLee/DBS-TIGER-DnR
hf.co/spaces/JusperLee/DBS-Demo
github.com/JusperLee/Dynamic-Band-Splitting

#audioseparation #demix #unmix
👍3