Нейронавт | Нейросети в творчестве
13.2K subscribers
7.14K photos
5.66K videos
51 files
7.23K links
Канал про нейросети в компьютерной графике, в кино и вообще

В папках и запусках не участвую

для связи @Neuronauticus

РКН: https://hf.ru/link8e56d
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
FoundationPose: Unified 6D Pose Estimation and Tracking of Novel Objects

NVIDIA. Трекер положения любого объекта. Чтобы задать объект для отслеживания надо показать несколько референсных его изображений или CAD модель.

Код

#tracking #poseestimation #image2pose #video2pose
👍13❤1
This media is not supported in your browser
VIEW IN TELEGRAM
GVHMR: World-Grounded Human Motion Recovery viaGravity-View Coordinates

Реконструкция позы человека в динамике по одному видео. При расчете учитывается направление гравитации

Код
Демо
Колаб

#video2pose #videoto3d #video2mesh
🔥8❤2
ViTPose: Simple Vision Transformer Baselines for Human Pose Estimation

Оценка позы по изображению и по видео

Код
Веса
Демо по картинке
Демо по видео/картинке
Колаб

#poseestimation #image2pose #video2pose
👍5🔥1
Media is too big
VIEW IN TELEGRAM
CameraHMR: Aligning People with Perspective

Реконструкция 3D позы и формы человека по одному изображению или видео с учетом перспективы камеры

Есть 4 ключевых фактора, которые делают его точным и надежным:

1. Чтобы получить точную 3D-форму и позу, а также хорошее соответствие особенностям изображения, вам необходимо знать фокусное расстояние камеры. Чтобы решить эту проблему, мы обучаем HumanFOV вычислять поле зрения.

2. Мы вводим CameraHMR, который интегрирует HumanFOV в HMR2.0 для использования расчетного фокусного расстояния.

3. Чтобы получить точные обучающие данные pseudo ground truth (pGT), мы вычисляем фокусное расстояние для изображений в наборе данных 4DHumans и модифицируем SMPLify, чтобы учесть это.

4. Но SMPLify использует только разреженные 2D-ключевые точки, которые не отражают форму тела. Итак, мы тренируем детектор ключевых точек плотной поверхности, DenseKP, на BEDLAM и запускаем его на 4DHumans, что приводит к улучшению формы тела. Результирующий метод - CamSMPLify.

Мы повторяем обучение CameraHMR и запускаем CamSMPLify на обучающем наборе, инициализированном CameraHMR . Это приводит к значительному улучшению pGT для 4DHumans и методу HMR с одним изображением SOTA.


Код

#poseestimation #video2pose #image2pose #videoto3d #video2mesh #humanreconstruction
👍8🔥1💩1
This media is not supported in your browser
VIEW IN TELEGRAM
Motion Prediction

Wonder Dynamics выпустили модель для точной реконструкции движений актера, даже там где он перекрыт другими объектами в кадре

#video2pose
🔥9🤔1
This media is not supported in your browser
VIEW IN TELEGRAM
BoxDreamer: Dreaming Box Corners for Generalizable Object Pose Estimation

Трекер положения объекта в 3D с баундинг боксом в качестве промежуточного результата

Код ждем
Демо

#tracking #video2pose
🔥5❤1
CoMotion: Concurrent Multi-person 3D Motion

Отслеживание и реконструкция 3D поз нескольких человек на видео от Apple

Код
Веса

#video2pose #humanreconstruction #video2mesh
👍7
This media is not supported in your browser
VIEW IN TELEGRAM
PHD: Personalized 3D Human Body Fitting with Point Diffusion

Реконструкция позы и телесной формы человека по видео от запрещенной Meta

Код ждем наверно

#video2pose #humanreconstruction #video2mesh #HMR #poseestimation
👍6❤1
PromptHMR: Promptable Human Mesh Recovery

Реконструкция позы и формы человека (HPS) с пространственными, текстовыми или семантическими подсказками.
Хорошо справляется с взаимодействующими людьми.

Код

#HMR #HPS #video2pose #videoto3d #humanreconstruction
🔥11👍2
Human3R: Everyone Everywhere All at Once
Реконструкция 4D человеческих фигур и сцены из монокулярных видео, в том числе по потоковому видео в реальном времени!

— может восстанавливать несколько тел SMPL-X (многопользовательский режим) в одном проходе

— создаёт плотную 3D-модель сцены

— вычисляет траектории камеры

— работает в режиме реального времени (15 кадров в секунду)

— требует мало памяти (8 ГБ) - видимо речь о VRAM

— оценивает глобальное движение человека, восстанавливает локальную сетку тела, оценивает глубину видео и определяет положение камеры с помощью единой модели

— обучена на относительно небольшом синтетическом наборе данных BEDLAM всего за один день на одном GPU

Код
Интерактивный вьюер

#HMR #HSR #HPR #video2scene #videoto4d #4D #video2pose #humanreconstruction #videoto3d
🔥10
Thinking with Camera: A Unified Multimodal Model for Camera-Centric Understanding and Generation

Puffin — унифицированная мультимодальная модель для работы с камерой. Понимает визуал с точки зрения камеры. Объединяет задачи понимания и генерации:

— связывает визуальные подсказки с фотографическими терминами

— предсказывает параметры камеры

— генерирует виды с учётом пространственной согласованности

— описывает сцены по ориентации и начальному виду

— предлагает улучшить эстетику фото через корректировку параметров камеры

Puffin пригоден для генерации видео с заданными параметрами камеры, создания длинных и панорамных сцен путём итеративной генерации видов и их подачи в модель, корректировки параметров камеры для лучшей эстетики

Закинул в него кадр из ЗВ на анализ, вот результат

<think> На снимке изображены две фигуры с фонарями в руках, одна из которых излучает яркий красный луч, а другая - синий, создавая динамичный визуальный эффект. Горизонтальная ориентация близка к горизонтальной, поскольку линия горизонта относительно прямая и параллельна нижнему краю кадра, что указывает на стабильное положение камеры. Вертикальная ориентация показывает небольшой наклон вверх, о чем свидетельствует небольшой угол наклона лучей и расположение фигур, что позволяет предположить, что камера слегка наклонена вверх, чтобы охватить всю высоту фигур и лучей. Поле зрения - крупным планом, так как фигуры и их лучи доминируют в кадре, с минимальными деталями фона, подчеркивающими взаимодействие и влияние лучей на сцену.</think><answer>-0.0037, 0.1587, 0.4600</answer>


Код
HF
Демо

#vlm #captioning #camera #video2pose #video2camera #text2video
🔥7❤4⚡3👍1😱1
This media is not supported in your browser
VIEW IN TELEGRAM
MoRo: The official Pytorch code for MoRo: Masked Modeling for Human Motion Recovery Under Occlusions

Реконструкция движения человека по монокулярному видео, даже если человек частично скрыт из виду. Камера должна быть статичной.

Работает в реальном времени со скоростью 70 кадров в секунду на одном GPU H200

Гитхаб

#humanreconstruction #hpr #videoto3d #video2pose
🔥6👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Sapiens2

Семейство высокоразрешающих трансформерных моделей от Meta (запрещено в РФ)

• оценивает позу (308 ключевых точек)
• сегментирует части тела (29 классов)
• рассчитывает нормали поверхности
• создаёт pointmap

Веса от 0,4B до 5 B параметров, разрешение до 4K (4096×3072)

Сгодится для создания аватаров, AR/VR и реконструкции человека

GitHub: https://github.com/facebookresearch/sapiens2
Hugging Face: https://huggingface.co/facebook/sapiens2

#hmr #humanreconstruction #video2normals #segmentation #video2pose
🔥8
This media is not supported in your browser
VIEW IN TELEGRAM
RF-DETR keypoints

Roboflow выпустили модель для детекции ключевых точек (поз и суставов) на видео в реальном времени.

Выдает 2D-эллипс неопределённости для каждой точки, сразу видно зоны неуверенности

• 71,8 AP на COCO, задержка 9,7 мс на T4
• обгоняет YOLO11-pose и YOLO26-pose при схожей задержке

Гитхаб

#detection #video2pose #poseestimation #realtime
👍14
Media is too big
VIEW IN TELEGRAM
GenCeption от Google DeepMind

Единая feed-forward модель мультизадачного зрения. Заменяет зоопарк специализированных моделей

• оценка глубины, нормалей поверхности, позы камеры
• сегментация, 2D/3D ключевые точки
• работа с плотными и разреженными задачами

Обучена на синтетических видео, работает на реальных данных. Использует замороженную диффузионную text-to-video основу плюс лёгкие задачи-специфичные головы

Код/веса ждем

#vlm #video2depth #video2normals #tracking #video2camera #video2pose
❤6👍3🔥1
EgoForce

Система реконструкции 3D-позы рук из монокулярной камеры от первого лица. Решает проблему определения точной позиции рук в AR/VR и телеприсутствии с помощью одной камеры на шлеме.

• Работает с разными типами камер: фишай, перспективные, широкоугольные
• определяет абсолютную 3D-позицию
• встроенный решатель для работы с разными конфигурациями камер
• интеграция с Unity для визуализации

Точность на 28% выше аналогов на HOT3D датасете. Работает даже когда предплечье не видно в кадре.

Гитхаб
HF - там предупреждение о небезопасности файлов, не торопитесь скачивать
Демо

#tracking #hand #vodeo2hand #videoto3d #video2pose
🔥2👍1