This media is not supported in your browser
VIEW IN TELEGRAM
FoundationPose: Unified 6D Pose Estimation and Tracking of Novel Objects
NVIDIA. Трекер положения любого объекта. Чтобы задать объект для отслеживания надо показать несколько референсных его изображений или CAD модель.
Код
#tracking #poseestimation #image2pose #video2pose
NVIDIA. Трекер положения любого объекта. Чтобы задать объект для отслеживания надо показать несколько референсных его изображений или CAD модель.
Код
#tracking #poseestimation #image2pose #video2pose
👍13❤1
This media is not supported in your browser
VIEW IN TELEGRAM
GVHMR: World-Grounded Human Motion Recovery viaGravity-View Coordinates
Реконструкция позы человека в динамике по одному видео. При расчете учитывается направление гравитации
Код
Демо
Колаб
#video2pose #videoto3d #video2mesh
Реконструкция позы человека в динамике по одному видео. При расчете учитывается направление гравитации
Код
Демо
Колаб
#video2pose #videoto3d #video2mesh
🔥8❤2
Multi-HMR: Multi-Person Whole-Body Human Mesh Recovery in a Single Shot
Реконструкция 3D моделей нескольких людей по одному ракурсу.
Восстанавливает без одежды. Нет, не поэтому
Код
Демо
#poseestimation #video2pose #videoto3d #video2mesh #humanreconstruction
Реконструкция 3D моделей нескольких людей по одному ракурсу.
Восстанавливает без одежды. Нет, не поэтому
Код
Демо
#poseestimation #video2pose #videoto3d #video2mesh #humanreconstruction
🔥5🤯1
Media is too big
VIEW IN TELEGRAM
nlf: Neural Localizer Fields for Continuous 3D Human Pose and Shape Estimation
Реконструкция позы человека по видео с одного ракурса, с фигурой но без одежды
Код
#poseestimation #video2pose #videoto3d #video2mesh #humanreconstruction
Реконструкция позы человека по видео с одного ракурса, с фигурой но без одежды
Код
#poseestimation #video2pose #videoto3d #video2mesh #humanreconstruction
🔥13
ViTPose: Simple Vision Transformer Baselines for Human Pose Estimation
Оценка позы по изображению и по видео
Код
Веса
Демо по картинке
Демо по видео/картинке
Колаб
#poseestimation #image2pose #video2pose
Оценка позы по изображению и по видео
Код
Веса
Демо по картинке
Демо по видео/картинке
Колаб
#poseestimation #image2pose #video2pose
👍5🔥1
Media is too big
VIEW IN TELEGRAM
CameraHMR: Aligning People with Perspective
Реконструкция 3D позы и формы человека по одному изображению или видео с учетом перспективы камеры
Код
#poseestimation #video2pose #image2pose #videoto3d #video2mesh #humanreconstruction
Реконструкция 3D позы и формы человека по одному изображению или видео с учетом перспективы камеры
Есть 4 ключевых фактора, которые делают его точным и надежным:
1. Чтобы получить точную 3D-форму и позу, а также хорошее соответствие особенностям изображения, вам необходимо знать фокусное расстояние камеры. Чтобы решить эту проблему, мы обучаем HumanFOV вычислять поле зрения.
2. Мы вводим CameraHMR, который интегрирует HumanFOV в HMR2.0 для использования расчетного фокусного расстояния.
3. Чтобы получить точные обучающие данные pseudo ground truth (pGT), мы вычисляем фокусное расстояние для изображений в наборе данных 4DHumans и модифицируем SMPLify, чтобы учесть это.
4. Но SMPLify использует только разреженные 2D-ключевые точки, которые не отражают форму тела. Итак, мы тренируем детектор ключевых точек плотной поверхности, DenseKP, на BEDLAM и запускаем его на 4DHumans, что приводит к улучшению формы тела. Результирующий метод - CamSMPLify.
Мы повторяем обучение CameraHMR и запускаем CamSMPLify на обучающем наборе, инициализированном CameraHMR . Это приводит к значительному улучшению pGT для 4DHumans и методу HMR с одним изображением SOTA.
Код
#poseestimation #video2pose #image2pose #videoto3d #video2mesh #humanreconstruction
👍8🔥1💩1
Нейронавт | Нейросети в творчестве
CameraHMR: Aligning People with Perspective Реконструкция 3D позы и формы человека по одному изображению или видео с учетом перспективы камеры Есть 4 ключевых фактора, которые делают его точным и надежным: 1. Чтобы получить точную 3D-форму и позу, а также…
This media is not supported in your browser
VIEW IN TELEGRAM
WHAC: World-grounded Humans and Cameras
Реконструкция позы и меша человека, а также ракурса/движения камеры (трекинг) по одному монокулярному (не стерео) видео
За позу отвечает SMPLest-X
Код
#video2pose #video2mesh #videoto3d #tracking #poseestimation #humanreconstruction
Реконструкция позы и меша человека, а также ракурса/движения камеры (трекинг) по одному монокулярному (не стерео) видео
За позу отвечает SMPLest-X
Код
#video2pose #video2mesh #videoto3d #tracking #poseestimation #humanreconstruction
👍10
This media is not supported in your browser
VIEW IN TELEGRAM
Motion Prediction
Wonder Dynamics выпустили модель для точной реконструкции движений актера, даже там где он перекрыт другими объектами в кадре
#video2pose
Wonder Dynamics выпустили модель для точной реконструкции движений актера, даже там где он перекрыт другими объектами в кадре
#video2pose
🔥9🤔1
This media is not supported in your browser
VIEW IN TELEGRAM
BoxDreamer: Dreaming Box Corners for Generalizable Object Pose Estimation
Трекер положения объекта в 3D с баундинг боксом в качестве промежуточного результата
Код ждем
Демо
#tracking #video2pose
Трекер положения объекта в 3D с баундинг боксом в качестве промежуточного результата
Код ждем
Демо
#tracking #video2pose
🔥5❤1
CoMotion: Concurrent Multi-person 3D Motion
Отслеживание и реконструкция 3D поз нескольких человек на видео от Apple
Код
Веса
#video2pose #humanreconstruction #video2mesh
Отслеживание и реконструкция 3D поз нескольких человек на видео от Apple
Код
Веса
#video2pose #humanreconstruction #video2mesh
👍7
This media is not supported in your browser
VIEW IN TELEGRAM
PHD: Personalized 3D Human Body Fitting with Point Diffusion
Реконструкция позы и телесной формы человека по видео от запрещенной Meta
Код ждем наверно
#video2pose #humanreconstruction #video2mesh #HMR #poseestimation
Реконструкция позы и телесной формы человека по видео от запрещенной Meta
Код ждем наверно
#video2pose #humanreconstruction #video2mesh #HMR #poseestimation
👍6❤1
PromptHMR: Promptable Human Mesh Recovery
Реконструкция позы и формы человека (HPS) с пространственными, текстовыми или семантическими подсказками.
Хорошо справляется с взаимодействующими людьми.
Код
#HMR #HPS #video2pose #videoto3d #humanreconstruction
Реконструкция позы и формы человека (HPS) с пространственными, текстовыми или семантическими подсказками.
Хорошо справляется с взаимодействующими людьми.
Код
#HMR #HPS #video2pose #videoto3d #humanreconstruction
🔥11👍2
Human3R: Everyone Everywhere All at Once
Реконструкция 4D человеческих фигур и сцены из монокулярных видео, в том числе по потоковому видео в реальном времени!
— может восстанавливать несколько тел SMPL-X (многопользовательский режим) в одном проходе
— создаёт плотную 3D-модель сцены
— вычисляет траектории камеры
— работает в режиме реального времени (15 кадров в секунду)
— требует мало памяти (8 ГБ) - видимо речь о VRAM
— оценивает глобальное движение человека, восстанавливает локальную сетку тела, оценивает глубину видео и определяет положение камеры с помощью единой модели
— обучена на относительно небольшом синтетическом наборе данных BEDLAM всего за один день на одном GPU
Код
Интерактивный вьюер
#HMR #HSR #HPR #video2scene #videoto4d #4D #video2pose #humanreconstruction #videoto3d
Реконструкция 4D человеческих фигур и сцены из монокулярных видео, в том числе по потоковому видео в реальном времени!
— может восстанавливать несколько тел SMPL-X (многопользовательский режим) в одном проходе
— создаёт плотную 3D-модель сцены
— вычисляет траектории камеры
— работает в режиме реального времени (15 кадров в секунду)
— требует мало памяти (8 ГБ) - видимо речь о VRAM
— оценивает глобальное движение человека, восстанавливает локальную сетку тела, оценивает глубину видео и определяет положение камеры с помощью единой модели
— обучена на относительно небольшом синтетическом наборе данных BEDLAM всего за один день на одном GPU
Код
Интерактивный вьюер
#HMR #HSR #HPR #video2scene #videoto4d #4D #video2pose #humanreconstruction #videoto3d
🔥10
Thinking with Camera: A Unified Multimodal Model for Camera-Centric Understanding and Generation
Puffin — унифицированная мультимодальная модель для работы с камерой. Понимает визуал с точки зрения камеры. Объединяет задачи понимания и генерации:
— связывает визуальные подсказки с фотографическими терминами
— предсказывает параметры камеры
— генерирует виды с учётом пространственной согласованности
— описывает сцены по ориентации и начальному виду
— предлагает улучшить эстетику фото через корректировку параметров камеры
Puffin пригоден для генерации видео с заданными параметрами камеры, создания длинных и панорамных сцен путём итеративной генерации видов и их подачи в модель, корректировки параметров камеры для лучшей эстетики
Закинул в него кадр из ЗВ на анализ, вот результат
Код
HF
Демо
#vlm #captioning #camera #video2pose #video2camera #text2video
Puffin — унифицированная мультимодальная модель для работы с камерой. Понимает визуал с точки зрения камеры. Объединяет задачи понимания и генерации:
— связывает визуальные подсказки с фотографическими терминами
— предсказывает параметры камеры
— генерирует виды с учётом пространственной согласованности
— описывает сцены по ориентации и начальному виду
— предлагает улучшить эстетику фото через корректировку параметров камеры
Puffin пригоден для генерации видео с заданными параметрами камеры, создания длинных и панорамных сцен путём итеративной генерации видов и их подачи в модель, корректировки параметров камеры для лучшей эстетики
Закинул в него кадр из ЗВ на анализ, вот результат
<think> На снимке изображены две фигуры с фонарями в руках, одна из которых излучает яркий красный луч, а другая - синий, создавая динамичный визуальный эффект. Горизонтальная ориентация близка к горизонтальной, поскольку линия горизонта относительно прямая и параллельна нижнему краю кадра, что указывает на стабильное положение камеры. Вертикальная ориентация показывает небольшой наклон вверх, о чем свидетельствует небольшой угол наклона лучей и расположение фигур, что позволяет предположить, что камера слегка наклонена вверх, чтобы охватить всю высоту фигур и лучей. Поле зрения - крупным планом, так как фигуры и их лучи доминируют в кадре, с минимальными деталями фона, подчеркивающими взаимодействие и влияние лучей на сцену.</think><answer>-0.0037, 0.1587, 0.4600</answer>
Код
HF
Демо
#vlm #captioning #camera #video2pose #video2camera #text2video
🔥7❤4⚡3👍1😱1
This media is not supported in your browser
VIEW IN TELEGRAM
MoRo: The official Pytorch code for MoRo: Masked Modeling for Human Motion Recovery Under Occlusions
Реконструкция движения человека по монокулярному видео, даже если человек частично скрыт из виду. Камера должна быть статичной.
Работает в реальном времени со скоростью 70 кадров в секунду на одном GPU H200
Гитхаб
#humanreconstruction #hpr #videoto3d #video2pose
Реконструкция движения человека по монокулярному видео, даже если человек частично скрыт из виду. Камера должна быть статичной.
Работает в реальном времени со скоростью 70 кадров в секунду на одном GPU H200
Гитхаб
#humanreconstruction #hpr #videoto3d #video2pose
🔥6👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Sapiens2
Семейство высокоразрешающих трансформерных моделей от Meta (запрещено в РФ)
• оценивает позу (308 ключевых точек)
• сегментирует части тела (29 классов)
• рассчитывает нормали поверхности
• создаёт pointmap
Веса от 0,4B до 5 B параметров, разрешение до 4K (4096×3072)
Сгодится для создания аватаров, AR/VR и реконструкции человека
GitHub: https://github.com/facebookresearch/sapiens2
Hugging Face: https://huggingface.co/facebook/sapiens2
#hmr #humanreconstruction #video2normals #segmentation #video2pose
Семейство высокоразрешающих трансформерных моделей от Meta (запрещено в РФ)
• оценивает позу (308 ключевых точек)
• сегментирует части тела (29 классов)
• рассчитывает нормали поверхности
• создаёт pointmap
Веса от 0,4B до 5 B параметров, разрешение до 4K (4096×3072)
Сгодится для создания аватаров, AR/VR и реконструкции человека
GitHub: https://github.com/facebookresearch/sapiens2
Hugging Face: https://huggingface.co/facebook/sapiens2
#hmr #humanreconstruction #video2normals #segmentation #video2pose
🔥8
This media is not supported in your browser
VIEW IN TELEGRAM
RF-DETR keypoints
Roboflow выпустили модель для детекции ключевых точек (поз и суставов) на видео в реальном времени.
Выдает 2D-эллипс неопределённости для каждой точки, сразу видно зоны неуверенности
• 71,8 AP на COCO, задержка 9,7 мс на T4
• обгоняет YOLO11-pose и YOLO26-pose при схожей задержке
Гитхаб
#detection #video2pose #poseestimation #realtime
Roboflow выпустили модель для детекции ключевых точек (поз и суставов) на видео в реальном времени.
Выдает 2D-эллипс неопределённости для каждой точки, сразу видно зоны неуверенности
• 71,8 AP на COCO, задержка 9,7 мс на T4
• обгоняет YOLO11-pose и YOLO26-pose при схожей задержке
Гитхаб
#detection #video2pose #poseestimation #realtime
👍14
Media is too big
VIEW IN TELEGRAM
GenCeption от Google DeepMind
Единая feed-forward модель мультизадачного зрения. Заменяет зоопарк специализированных моделей
• оценка глубины, нормалей поверхности, позы камеры
• сегментация, 2D/3D ключевые точки
• работа с плотными и разреженными задачами
Обучена на синтетических видео, работает на реальных данных. Использует замороженную диффузионную text-to-video основу плюс лёгкие задачи-специфичные головы
Код/веса ждем
#vlm #video2depth #video2normals #tracking #video2camera #video2pose
Единая feed-forward модель мультизадачного зрения. Заменяет зоопарк специализированных моделей
• оценка глубины, нормалей поверхности, позы камеры
• сегментация, 2D/3D ключевые точки
• работа с плотными и разреженными задачами
Обучена на синтетических видео, работает на реальных данных. Использует замороженную диффузионную text-to-video основу плюс лёгкие задачи-специфичные головы
Код/веса ждем
#vlm #video2depth #video2normals #tracking #video2camera #video2pose
❤6👍3🔥1
EgoForce
Система реконструкции 3D-позы рук из монокулярной камеры от первого лица. Решает проблему определения точной позиции рук в AR/VR и телеприсутствии с помощью одной камеры на шлеме.
• Работает с разными типами камер: фишай, перспективные, широкоугольные
• определяет абсолютную 3D-позицию
• встроенный решатель для работы с разными конфигурациями камер
• интеграция с Unity для визуализации
Точность на 28% выше аналогов на HOT3D датасете. Работает даже когда предплечье не видно в кадре.
Гитхаб
HF - там предупреждение о небезопасности файлов, не торопитесь скачивать
Демо
#tracking #hand #vodeo2hand #videoto3d #video2pose
Система реконструкции 3D-позы рук из монокулярной камеры от первого лица. Решает проблему определения точной позиции рук в AR/VR и телеприсутствии с помощью одной камеры на шлеме.
• Работает с разными типами камер: фишай, перспективные, широкоугольные
• определяет абсолютную 3D-позицию
• встроенный решатель для работы с разными конфигурациями камер
• интеграция с Unity для визуализации
Точность на 28% выше аналогов на HOT3D датасете. Работает даже когда предплечье не видно в кадре.
Гитхаб
HF - там предупреждение о небезопасности файлов, не торопитесь скачивать
Демо
#tracking #hand #vodeo2hand #videoto3d #video2pose
🔥2👍1