Нейронавт | Нейросети в творчестве
13.2K subscribers
7.15K photos
5.66K videos
51 files
7.23K links
Канал про нейросети в компьютерной графике, в кино и вообще

В папках и запусках не участвую

для связи @Neuronauticus

РКН: https://hf.ru/link8e56d
Download Telegram
Vidu One-click MV

Vidu релизнул однокликовое создание музыкальных видео из загруженного юзером трека с референсом персонажа

Поют все: люди, мультяшные персонажи, плюшевые игрушки, обычные предметы
Заявлен идеальный липсинк для соло и дуэтов

• готовые шаблоны под разные жанры
• разрешение до 1080p
• скорость генерации пара минут

Попробовать
———
Vidu S1 теперь создает рилтайм видеоперсонажей. Им можно давать команды, шерить экран. Предлагают попробовать в качестве комментатора вашего геймплея

Разрешение 540P, частота кадров 25 FPS в реальном времени (до 42 FPS)

Попробовать

#musicvideo #music2video #lipsync #referencing #realtime #avatar #companion
👍7👎2
WAN изобрел KREA

Короче, прикрутили рилтайм генерацию картинок на сайте.

Попробовать

А заодно объявили о прекращении бесплатной генерации с 31 июля 2026, то есть сегодня

#t2i #realtime #news
😁6
VibeVoice-ASR-BitNet

Сжатая версия распознавалки речи VibeVoice-ASR для рилтайма на CPU, не требует GPU

качество ниже чем у VibeVoice-ASR-7B, зато легкий

• работает на x86 (AVX2) и ARM (NEON)
• поддерживает несколько языков
• размер: 1.58 ГБ (сжато с 4.62 ГБ)
• ускорение: в 1.6–2.3 раза быстрее Whisper.cpp

Гитхаб
HF
Демо

#asr #realtime #mobile
❤8👍6
MOSS-VL-Realtime

Потоковая видеоязыковая модель от OpenMOSS на 11B параметров, понимает видео в реальном времени

• обработка кадров с привязкой к таймстампам
• прерываемое взаимодействие в потоке
• динамическая коррекция ответов по новым кадрам
• режим проактивной тишины при отсутствии событий

• контекстное окно 256K
• работа с потоковым видео без ожидания конца

Демо
Демо2

#streaming #vlm #qa #realtime
👍7
This media is not supported in your browser
VIEW IN TELEGRAM
JoyAI-Video-Edit

Авторегрессивная диффузионная модель для потокового редактирования видео

• стиль видео по промпту
• добавление/удаление объектов
• замена фона на лету
• локальные правки без пересчёта всего ролика

• 720p в реальном времени
• ~30 FPS на одном GPU
• 16B параметров

Гитхаб
HF
Демо - там только для своих, нужен инвайт

#streaming #videoediting #v2v #realtime
🔥9👍5
SeedRealtime

Полнодуплексная аудиовизуальная интерактивная модель от ByteDance, рилтайм

Фокус на естественное двустороннее общение.

• понимает звук и картинку одновременно
• ловит цель взаимодействия и намерения пользователя
• смотрит, слушает, говорит без задержек

весов нет, ссылки на демо, API нет

#duplex #dialog #realtime #interactive #multimodal #asr #tts
👍5🤯3
MOSS-VL

Семейство открытых визуально-языковых моделей от OpenMOSS. Флагманская фишка - реалтайм-стриминг: модель смотрит на входящие кадры и отвечает параллельно, не дожидаясь конца видео

модель живёт в настоящем времени, а не смотрит запись постфактум. Вместо внешних планировщиков и опроса раз в секунду - три встроенных поведения: ответ в любой момент, проактивное молчание, своевременная коррекция.

• 11B параметров, контекст 256K
• Кванты FP8 и NF4

Гитхаб
HF
Демо

#vlm #realtime #fp8 #nf4 #dialog #interactive

VK | MAX
🔥5👍4
Media is too big
VIEW IN TELEGRAM
MiniMax H3 Max

Турбоверсия от fal ускоренная почти в 50 раз
Дают 5 генераций в день по 5 сек

+ fal запустил H3 Max Live - бесконечную трансляцию, где видео генерируется быстрее реального времени. Зрители пишут в чат промпты и сцена меняется

и такие слоп-стримы начали появляться уже пачками
infiniteslop.ai

#minimaxH3 #streaming #interactive #realtime

VK | MAX
👍6😁6❤1
Infinite Livestream

Можете запускпать свой бесконечный ИИ-слоп стрим с блэкджеком и интерактивностью на Twitch и YouTube, а что у вас 8x B200 без дела пылятся

Fast H3 генерирует 768p видео со звуком, и это идёт в эфир без остановки, зрители могут писать промпты

#minimaxH3 #streaming #interactive #realtime

VK | MAX
😁15❤4🔥1
This media is not supported in your browser
VIEW IN TELEGRAM
Solaris

Генеративный интерфейс от Runway: приложение рендерится на лету. Каждый кадр генерируется при взаимодействии. Интерфейс реагирует на действия без заранее прописанных страниц и кнопок

- Интерфейс = картинка: клики и перетаскивания влияют на следующий кадр, никакого промежуточного кода между задумкой и экраном
- Живая сцена: отражения меняются со светом, объекты реагируют на манипуляции
- Открытые поведения: клик по коту красит в его текстуру, клик по картине включает еt стиль — что можно сделать, решает модель, а не разработчик
- Дешевле и быстрее обычных видео-моделей: кадры идут по одному, денойз дистиллирован до нескольких шагов

- 720p, рилтайм
- Построена на Gen-4.5 видео-модели Runway
- LLM + world model

Runway окрестили свое детище Interface World Model — модель мира интерфейсов

Можно поклянчить ранний доступ для компании

Спасибо @Endorpheen

#interface #world #realtime
😁3❤2👍1
Muse Voice Transcribe

Meta (запрещено в РФ) Superintelligence Labs выкатила первую модель распознавания речи в реальном времени. Разбирает голос, диаризацию и определение конца фразы на лету без задержек

Возможности:
• потоковое распознавание речи
• диаризация 20+ говорящих одновременно
• определение конца реплики в потоке
• переключение между языками внутри одной фразы
• настройка на конкретные имена и термины

Поддержка 25+ языков. Русский не указан. В демонстрации модель разбирает восемь человек, говорящих одновременно, и правильно понимает кто что сказал.

Отдельно точность подтягивается контекстом: если упомянуть конкретное имя или место, модель его узнает и не путает с похожими словами

#stt #diarize #realtime

VK | MAX
👍4🤷‍♂1
Vidu S2

Рилтайм видео, с которым можно говорить, управлять и редактировать в потоке

S2-Avatar

720p аватар в реальном времени (25-42 FPS). Голосовое управление, диалог с прерываниями, взаимодействие с предметами по референсу. Вход: микрофон + картинка → на выходе живой аватар, который реагирует и отвечает

S2-Editing

редактирование видеопотока в реальном времени — стиль, виртуальная примерка, замена персонажа и фона. Подаёшь видео → меняешь референс по ходу → стрим перерисовывается без остановки

- Синхронная генерация: онлайн-аватары с голосовым взаимодействием
- Асинхронная: картинка + аудио → готовый ролик с липсинком и движением
- Spatial video: превращение и аватаров, и редактированного видео в VR-формат

API

#realtime #interactive #streaming #videoediting #avatar #vr

VK | MAX
👍5❤2⚡2😭2🫡1
This media is not supported in your browser
VIEW IN TELEGRAM
LynnReal-Omni

Единая модель на базе #MiniMaxH3 для всех видео-задач: #t2v, #i2v, генерация по позе, structural control, omni-reference generation, #styletransfer, видео-редактирование, восстановление деградированного видео и стриминг длинных видео. 4 шага

Принимает разнородные входы — референсы внешности, 3D-рендеры, записи игр. Агент может компоновать условия внутри одной модели

LynnReal-Omni-Flash (27B, 3 шага) — ускоренная с легким VAE-декодером. На одном H100 генерация + декодинг 22 кадров 540p: 843 ms (Standard), 377 ms (Flash). Основа для #realtime стриминга.

Гитхаб
ComfyUI

#comfyui #videoediting #controlnet #videorestoration #imageediting
🔥10👍2
This media is not supported in your browser
VIEW IN TELEGRAM
miniface

Бесплатная система захвата движений лица и пальцев для VTuber и стримеров. Работает в браузере

• рилтайм трекинг лица - 52 blendshapes ARKit
• трекинг пальцев рук
• аватары Ready Player Me с Three.js
• запись анимации и экспорт в .glb (2-5 МБ) с костями и blendshapes
• физика волос и одежды на пружинах без движка

Гитхаб

#mocap #realtime #streaming

MAX
❤8👍4🔥2
Qwen-Audio-3.1

Пять моделей, полный аудио-стек: распознавание, генерация, диалог и создание. Сильное снижение цен - #TTS дешевле на 70%, #Realtime на 85%, #ASR до 95%

• ASR - мультиязычное и диалектное распознавание, авточистка текста от мусорных слов
• ASR-Next - мультиспикерная ASR с метками говорящих, таймштами и пониманием эмоций
• TTS - синтез с переносом голоса между языками, управление эмоцией и темпом текстом
• TTS-Next - единый LM+DiT фреймворк: голос, звуковые эффекты и фон в одном проходе
• Realtime - дуплекс с перебиванием, эмпатичное замедление когда чувствует плохое настроение

Для аудиокниг, подкастов, игр, рекламы и живых разговоров. API на qwencloud

qwencloud.com/models/qwen-audio-3.1-asr-flash-filetrans
qwencloud.com/models/qwen-audio-3.1-realtime-plus

MAX
🔥6👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Confucius4

Пара моделей обработки речи для реального времени: потоковая ASR и синхронный перевод китайский-английский

R2T2 - стриминговая #ASR:
• вывод только в режиме append - уже выданный текст не переписывается никогда
• точность близка к оффлайн-распознаванию
• чанки от 80 мс до 2 секунд под нужный компромисс
• 2B на базе Qwen3-ASR, лицензия NetEase

T3PO - китайско-английский синхронный перевод:
• сам решает, когда ждать, а когда переводить
• не правит выданное - подходит для немедленной обработки
• 14B, Apache 2.0
• пара к R2T2 для речи

Для субтитров в реальном времени, живых капшенов и агентных пайплайнов, где текст обрабатывается по мере появления

huggingface.co/netease-youdao/Confucius4-R2T2
github.com/netease-youdao/Confucius4-R2T2
huggingface.co/spaces/netease-youdao/confucius4-r2t2-demo
huggingface.co/netease-youdao/Confucius4-T3PO

#realtime

MAX
👍2
Realtime-Venus

Мультимодалка, полный аудио дуплекс: модель слушает, пока говорит, видит аудио-видео контекст и параллельно делегирует задачи в фон, не прерывая диалог. Два чекпоинта по 9B на базе MiniCPM-o 4.5

• Omni - аудио-видео: непрерывно смотрит и слушает, сама решает, когда ответить
• Audio - голосовый диалог с речевым выводом
• асинхронная делегация - <delegate>-запросы в потоке, внешние задачи не блокируют разговор
• память длинных видео без дообучения
• различает перебивания, коррекции и редиректы

Вход: видео, аудио, текст. Выход: текст и речь. Языковая база - Qwen3-8B, контекст 40960 токенов

Гитхаб
HF
Heretic
Демо

#multimodal #duplex #realtime #dialog #vlm #alm
👍7🔥3
This media is not supported in your browser
VIEW IN TELEGRAM
Gemini 3.8 Live с Live Avatar

Google вывел в общий доступ Gemini 3.8 Live — модель для живого диалога с нативной потоковой видео-аватаркой. Аватар дает визуальное присутствие в реальном времени, общение становится ближе к разговору с человеком

• Живой диалог с низкой задержкой
• Видеопоток аватара синхронизирован с речью
• Расширенное мышление — Extended Thinking для сложных задач
• 97 языков, SynthID-ватермарки
• US и EU эндпоинты, enterprise-комплаенс, строгий контроль данных

Где доступно
Gemini Enterprise и API

Подходит для enterprise-сценариев, где нужен естественный разговорный ИИ с визуальным присутствием

#avatar #realtime

MAX
👍4😁4
This media is not supported in your browser
VIEW IN TELEGRAM
FastH3-Omni

Открытая версия рилтайм #minimaxH3
Cамая быстрая и качественная на данный момент


Пост-трейнинг от FastVideo (haoailab) совместно с nuvalab.

• Кондиционирование по первому и последнему кадру
• Аудио-вход и сильная работа с диалогами
• До 3 референс-изображений
• Производительность уровня фронтира

Эксклюзивное превью на Reactor API до 20 октября 2026

Потом - опенсорс

#realtime #api

MAX
🔥11👍1