Нейронавт | Нейросети в творчестве
13.2K subscribers
7.15K photos
5.66K videos
51 files
7.24K links
Канал про нейросети в компьютерной графике, в кино и вообще

В папках и запусках не участвую

для связи @Neuronauticus

РКН: https://hf.ru/link8e56d
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
Mirage Studio

Сервис говорящих аватаров от Captions уехал на отдельный сайт и дает бесплатно 600 кредитов, 1 секунда видео обойдется в 10 кредитов.

Создает видео говорящего блогера по тексту или аудио.
Можно настроить мимику, движения, эмоции, голос и фон

Попробовать

#humananimation #speech2video #humanavatar #talkinghead
👍8
This media is not supported in your browser
VIEW IN TELEGRAM
Higgsfield Speak

Видеосервис Higgsfield тоже запустил аватары

Выберите стиль, выберите аватар, напишите сценарий. Сервис создаст кинематографичное движение, голос, эмоции.

Передает язык тела, эмоции и динамичное исполнение.

Вы получаете 16 встроенных типов сцен:

Vlog, Stream, Podcast, Car Talk, Coaching, Fashion, Beauty, Professions, Selling, Emotions, 3D, Forum и другие.
Каждый из них разработан для соответствия реальным форматам контента.

Можно создавать свои аватары

Идеально подходит для:

Библиотек рекламных роликов UGC.
Скетчей и форматов шоу.
Учебного и коучингового контента.
Каналов YouTube без лиц.
Клонов инфлюенсеров.
Вирусных видео с говорящими головами.

Higgsfield Speak доступен на тарифах Pro и Ultimate.

Напишите комментарий 'Speak' к официальному посту чтобы поклянчить промокод с туториалом

По промокоду SPEAK_DISCOUNT дают скидку 20% на 1 месяц
По промокоду SPEAK_EXTRA дают жалкие 15 кредитов на 3 генерации

#humananimation #speech2video #humanavatar
👍8👎1
MultiTalk: Let Them Talk: Audio-Driven Multi-Person Conversational Video Generation

Новый липсинк. Модель для создания видео с диалогами на основе аудиозаписей.

- несколько говорящих
- до 15 секунд в 480p и 720p
- контроль персонажей текстом
- генерация мультфильмов и видео с пением и другими типами речи

Код
Веса 10 Гб
ComfyUI Kijai перед отпуском сделал
Колаб на A100

#Lipsync #potraitanimation #speech2video #comfyUI #humananimation
👍9❤3😁2💩1
Moving by Looking: Towards Vision-Driven Avatar Motion Generation (CLOPS)

Позволяет аватару двигаться в 3D сцене, ориентируясь на визуальные наблюдения от первого лица.
Система создаёт цикл визуального восприятия и человекоподобного движения.

Вероятно, применимо в играх и роботах

Код ждем

#animation #humananimation
👍7
Опубликован код и веса редактора видео MIMO
И даже есть китайский демоспейс

В базе Stable Diffusion 1.5 но видеопамяти надо от 40 ГБ
Ну может хоть быстрый ... непонятно насколько он актуален теперь при всех возможностях WAN и коммерческих моделей

Тестировали на GPU A100, L20

Гитхаб
Демо

Спасибо @Dmitriy_Ru6ts0v

#video2video #humananimation #personalization #videoediting #videoinpainting
🔥8😁3👍1
Ponimator: Unfolding Interactive Pose for Versatile Human-Human Interaction Animation

Ну и чем мне теперь заменить слово "пониматор"? Они не ПОНИмают что натворили.

Анимация взаимодействия между людьми. Использует интерактивные позы как основу для генерации движений

Фреймворк состоит из двух условных диффузионных моделей: одна генерирует динамические последовательности движений на основе временного контекста, другая создаёт интерактивные позы из одиночной позы, текста или их комбинации;

Поддерживает различные задачи: анимацию взаимодействия по изображениям, анимацию реакций, синтез взаимодействия по тексту

Код

#humananimation #animation #image2video #text2video #text2pose #pose2video
👍7😁1
Mirage Studio бесплатно

Сервис говорящих аватаров от Captions объявил бесплатную генерацию видео на эти выходные, до 11:00 понедельника по московскому времени

Попробовать

#humananimation #speech2video #humanavatar #talkinghead #giveaway
❤5👍2🔥1
CoDA: Coordinated Diffusion Noise Optimization for Whole-Body Manipulation of Articulated Objects

Анимация всего тела (включая руки и пальцы) с артикулированными объектами по текстовому промпту

Модель отличается от аналогов следующими возможностями:

— управляет объектом, приводя его в заданную позу и артикуляцию

— синтезирует движения всего тела, опираясь на данные только о движениях рук

— создаёт движения, сочетающие ходьбу и манипуляции (например, открывает коробку во время ходьбы)

— обеспечивает реалистичные движения за счёт координации между руками и остальным телом

— повышает точность взаимодействия рук с объектом благодаря унифицированному представлению на основе базовых наборов точек (BPS)

В основе метода — три специализированные диффузионные модели (для тела, левой и правой руки), которые оптимизируются в пространстве шума.

Гитхаб

#humananimation #text2animation #3d
🔥8👍6👀1
This media is not supported in your browser
VIEW IN TELEGRAM
FrankenMotion: Part-level Human Motion Generation and Composition

Модель для генерации и комбинирования движений человека на уровне отдельных частей тела. Учитывает текстовые подсказки для каждой части тела отдельно, благодаря чему движения получаются более точными и контролируемыми

Гитхаб код ждем

#humananimation #animation
🔥7👍1
Media is too big
VIEW IN TELEGRAM
UMO

Универсальная модель для работы с анимацией человека при участии Meta (запрещено в РФ)

Умеет:

— генерировать и редактировать реалистичные движения по тексту

— заполнять пропуски в движениях

— предсказывать, как будет развиваться движение дальше

— «отматывать» движение назад, восстанавливая предыдущие состояния

— следовать по заданной геометрической траектории, сохраняя естественность движений

— обходить препятствия при движении из точки А в точку Б

— создавать взаимодействия между двумя людьми

Гитхаб ждем

#humananimation #3d #animation
🔥8👍1
This media is not supported in your browser
VIEW IN TELEGRAM
MeshCap (three-mediapipe-rig)

Контроль 3D персонжа через захват скелетной позы с видеофайла или вебкамеры в рилтайме.

Ну как в рилтайме, только лицо - более в рилтайме, целое тело - с лагами

Анимацию записывает в файл формата .glb

Демо

#realtime #pose2video #pose2animation #humananimation #mocap
👍7
This media is not supported in your browser
VIEW IN TELEGRAM
Kimodo

Диффузная модель для генерации качественных 3D-движений людей и роботов по тексту от NVIDIA

Помимо текста управляется с помощью разных констрейнов: ключевых кадров, позиций и вращений концевых эффекторов (например, рук и ног), 2D-путей и точек

Для локального запуска нужно около 17ГБ VRAM

Гитхаб
HF
Демо

#humananimation #text2animation #3d
👍7🔥3
This media is not supported in your browser
VIEW IN TELEGRAM
Vanast

Видеопримерочная с анимацией изображения человека по контролю позы.

Может переносить несколько предметов одежды одновременно

Гитхаб ждем

#tryon #image2video #referencing #humananimation
❤7
Nvidia продолжает развивать генератор анимации Kimodo

выложили еще две модели

Kimodo-SOMA-RP-v1.1 - обучена на датасете 30-суставных скелетов с корректным ригом

TMR-SOMA-RP-v1- связывает текст и человеческие движения в общем латентном пространстве для оценки сгенерированных движений

#humananimation #text2animation #3d #text2motion
🔥5❤3👍2💯1
This media is not supported in your browser
VIEW IN TELEGRAM
OmniShow

Модель для создания видео взаимодействия людей с предметами. Видеогенерация управляется текстом, изображением, аудио и позами одновременно

- Видео реалистичнее и динамичнее, чем у HunyuanCustom, HuMo-17B, VACE и Phantom-14B

- Сохраняет личность персонажа и синхронизирует движения со звуком лучше, чем HunyuanCustom и HuMo-17B

- синхронизирует аудио с видео

- подходит для разных задач, например, создания аватаров, замены объектов в видео или ремикса видео

Гитхаб ждем

#humanavatar #humananimation #lipsync #av #referencing #pose2video #characterswap #characteranimation #any2video
👍9🤷‍♂2🥴1
LUNA (Learning Universal 3D Human Animation Beyond Skinning)

3D‑анимация человека

Главная фишка в том, что она обходится без традиционного Linear Blend Skinning (LBS) и явного подбора параметров тела (body fitting).

LUNA напрямую преобразует 2D‑сигналы (изображения, ключевые точки, эскизы) в деформации гауссиан, минуя этап построения скелета и назначения весов кожи. Это позволяет:

* Избежать типичных артефактов LBS - переломов сетки, «пережатий» на сгибах и прочих проблем, связанных с неточным скинингом.
* Работать с незнакомыми персонажами - модель умеет анимировать персонажей, которых не было в обучающей выборке
* Поддерживать разные типы управления - можно использовать в качестве контроля для анимации и фото, и ключевые точки, и даже наброски.

Кода-весов нет пока

#research #humananimation #gaussian
❤4🤝2👎1
This media is not supported in your browser
VIEW IN TELEGRAM
Wan-Dancer

Генератор танца по музыкеи фото

Работает с минутными фрагментами что редкость для танцевальных генераторов. Упор на плавную эволюцию поз, а не на отдельные кадры.

• Разрешение 720p при 30 кадрах в секунду
• Поддержка пяти стилей танца: классический китайский, K-pop, уличный, степ, латинский
• иерархическая структура, держит ритм и стиль по всему треку
• когерентные движения на длинных отрезках, без рывков и сбоев
• мультимодальная обработка. музыка плюс кинематика тела
Wan-Dancer

Отбой, для работы требует 8 x NVIDIA A800 80GB

Гитхаб
HF
Демо

Спасибо @m_franz

#humananimation #image2video #portraitanimation #image2dance
😁27😱10🤷‍♂1❤11
ARDY

Модель от NVIDIA генерирует движения человека в интерактивном режиме. Плавная, управляемая анимация без жёстких шаблонов


• непрерывная генерация движений в рилтайме на протяжении минут
• интерактивное управление через текстовые подсказки, клавиши
• гибкие констрейны (траектории, ключевые кадры, позиции суставов)
• гибридное представление данных (явные глобальные параметры + компактное скрытое представление движений тела)
• работа с долгосрочными целями и сложными комбинациями ограничений
• адаптация к изменяющимся условиям и целям на лету

Можно запромптить анимация и потом влиять на нее на лету

Гитхаб
HF
Демо

#humananimation #animation #realtime #interactive
🔥11❤2👍2😁1