Нейронавт | Нейросети в творчестве
13.2K subscribers
7.15K photos
5.66K videos
51 files
7.24K links
Канал про нейросети в компьютерной графике, в кино и вообще

В папках и запусках не участвую

для связи @Neuronauticus

РКН: https://hf.ru/link8e56d
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
HSfM: Reconstructing People, Places, and Cameras

В Беркли придумали новый метод, который совместно реконструирует 3D людей, сцену и камеры из небольшого набора некалиброванных изображений

Посмотреть демо реконструкции
Кода нет

#image2scene #imageto3d #humanreconstruction #camera
🔥5
Media is too big
VIEW IN TELEGRAM
CameraHMR: Aligning People with Perspective

Реконструкция 3D позы и формы человека по одному изображению или видео с учетом перспективы камеры

Есть 4 ключевых фактора, которые делают его точным и надежным:

1. Чтобы получить точную 3D-форму и позу, а также хорошее соответствие особенностям изображения, вам необходимо знать фокусное расстояние камеры. Чтобы решить эту проблему, мы обучаем HumanFOV вычислять поле зрения.

2. Мы вводим CameraHMR, который интегрирует HumanFOV в HMR2.0 для использования расчетного фокусного расстояния.

3. Чтобы получить точные обучающие данные pseudo ground truth (pGT), мы вычисляем фокусное расстояние для изображений в наборе данных 4DHumans и модифицируем SMPLify, чтобы учесть это.

4. Но SMPLify использует только разреженные 2D-ключевые точки, которые не отражают форму тела. Итак, мы тренируем детектор ключевых точек плотной поверхности, DenseKP, на BEDLAM и запускаем его на 4DHumans, что приводит к улучшению формы тела. Результирующий метод - CamSMPLify.

Мы повторяем обучение CameraHMR и запускаем CamSMPLify на обучающем наборе, инициализированном CameraHMR . Это приводит к значительному улучшению pGT для 4DHumans и методу HMR с одним изображением SOTA.


Код

#poseestimation #video2pose #image2pose #videoto3d #video2mesh #humanreconstruction
👍8🔥1💩1
CoMotion: Concurrent Multi-person 3D Motion

Отслеживание и реконструкция 3D поз нескольких человек на видео от Apple

Код
Веса

#video2pose #humanreconstruction #video2mesh
👍7
ATLAS: Decoupling Skeletal and Shape Parameters for Expressive Parametric Human Modeling

3D-реконструкция человека от запрещенной Meta по одной картинке, видео или 3D скану.

Разделяет скелет и внешнюю поверхность тела, чтобы отдельно настраивать форму тела и параметры скелета. Может изменять параметры скелета, например, увеличивать ширину плеч или длину рук, сохраняя реалистичность изображения.

На выходе меши, рендер, параметрические фигуры с позами

Код ждем

#humanreconstruction #imageto3D #videoto3d
👍11🔥7❤1
This media is not supported in your browser
VIEW IN TELEGRAM
PHD: Personalized 3D Human Body Fitting with Point Diffusion

Реконструкция позы и телесной формы человека по видео от запрещенной Meta

Код ждем наверно

#video2pose #humanreconstruction #video2mesh #HMR #poseestimation
👍6❤1
PromptHMR: Promptable Human Mesh Recovery

Реконструкция позы и формы человека (HPS) с пространственными, текстовыми или семантическими подсказками.
Хорошо справляется с взаимодействующими людьми.

Код

#HMR #HPS #video2pose #videoto3d #humanreconstruction
🔥11👍2
Human3R: Everyone Everywhere All at Once
Реконструкция 4D человеческих фигур и сцены из монокулярных видео, в том числе по потоковому видео в реальном времени!

— может восстанавливать несколько тел SMPL-X (многопользовательский режим) в одном проходе

— создаёт плотную 3D-модель сцены

— вычисляет траектории камеры

— работает в режиме реального времени (15 кадров в секунду)

— требует мало памяти (8 ГБ) - видимо речь о VRAM

— оценивает глобальное движение человека, восстанавливает локальную сетку тела, оценивает глубину видео и определяет положение камеры с помощью единой модели

— обучена на относительно небольшом синтетическом наборе данных BEDLAM всего за один день на одном GPU

Код
Интерактивный вьюер

#HMR #HSR #HPR #video2scene #videoto4d #4D #video2pose #humanreconstruction #videoto3d
🔥10
Media is too big
VIEW IN TELEGRAM
Introducing SAM 3D: Powerful 3D Reconstruction for Physical World Images

Реконструкция 3d объектов от запрещенной Meta

SAM 3D Objects для объектов и сцен

SAM 3D Body для реконструкции человеков

Segment Anything Playground, тут можно попробовать модели семейства SAM, в том числе и сегментатор

#segmentation #imageto3d #humanreconstruction
👍10❤2🤔1
This media is not supported in your browser
VIEW IN TELEGRAM
MoRo: The official Pytorch code for MoRo: Masked Modeling for Human Motion Recovery Under Occlusions

Реконструкция движения человека по монокулярному видео, даже если человек частично скрыт из виду. Камера должна быть статичной.

Работает в реальном времени со скоростью 70 кадров в секунду на одном GPU H200

Гитхаб

#humanreconstruction #hpr #videoto3d #video2pose
🔥6👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Relightable Full-body Gaussian Codec Avatars

Реалистичный аватар на гауссианах, взаимодействующий с освещением

Работа без кода, так, пооблизываться

Но не огорчайтесь, все равно у вас нет светового шара с 512 камерами захвата для создания массива входных данных

#gaussian #humanavatar #humanreconstruction #research
👍6👎2🔥1🥴1
This media is not supported in your browser
VIEW IN TELEGRAM
MultiGO++

3D реконструкция человека в одежде по одной фотографии от китайцев

Решает проблемы текстур (нет данных), геометрии (плохие priors) и системной предвзятости (одна модальность)

Bзвлекает геометрию с помощью модуля, который учитывает особенности разных частей тела

Улучшает качество 3D-сетки и эффективность извлечения данных с помощью гауссова ремешинга

Кода нет

#humanreconstruction #imageto3d #HMR #HPR

Нейронавт в MAX 📲
👍2🔥2
SAM 3.1

Обновили SAM 3

Object Multiplex - реализован подход с общей памятью для совместного отслеживания нескольких объектов, который значительно ускоряет процесс без ущерба для точности.

Теперь до 16 объектов за один проход.
На 128 объектах - всемеро быстрее чем SAM 3 на одном H100

Кроме этого улучшили оптимизацию вывода (inference), уменьшив синхронизацию CPU и GPU и улучшив поддержку torch.compile. Повысили эффективность пакетной обработки и использования GPU

Гитхаб
HF - россиян не любят

#segmentation #imageto3d #humanreconstruction
👍9
This media is not supported in your browser
VIEW IN TELEGRAM
Sapiens2

Семейство высокоразрешающих трансформерных моделей от Meta (запрещено в РФ)

• оценивает позу (308 ключевых точек)
• сегментирует части тела (29 классов)
• рассчитывает нормали поверхности
• создаёт pointmap

Веса от 0,4B до 5 B параметров, разрешение до 4K (4096×3072)

Сгодится для создания аватаров, AR/VR и реконструкции человека

GitHub: https://github.com/facebookresearch/sapiens2
Hugging Face: https://huggingface.co/facebook/sapiens2

#hmr #humanreconstruction #video2normals #segmentation #video2pose
🔥8