Нейронавт | Нейросети в творчестве
13.2K subscribers
7.15K photos
5.66K videos
51 files
7.24K links
Канал про нейросети в компьютерной графике, в кино и вообще

В папках и запусках не участвую

для связи @Neuronauticus

РКН: https://hf.ru/link8e56d
Download Telegram
Lotus-2: Advancing Geometric Dense Prediction with Powerful Image Generative Model

Генерилка глубины и нормалей по изображению от HKUST

В гитхабе сказано готовьте 40ГБ VRAM

Гитхаб
Демо глубина
Демо нормали

#image2depth #image2normal
👍12😱4🔥1
Depth Any Panoramas: A Foundation Model for Panoramic Depth Estimation (DAP)

Модель для оценки глубины панорамных изображений.

За извлечение признаков отвечает DINOv3-Large

Гитхаб
Демо

#panorama2depth #image2depth
🔥8
InfiniDepth: Arbitrary-Resolution and Fine-Grained Depth Estimation with Neural Implicit Fields

Оценка глубины по одиночному изображению с помощью нейронных неявных полей. Модель отличается от аналогов несколькими возможностями:

— оценивает глубину в произвольных разрешениях

— даёт детализированную оценку глубины

— улучшает качество синтеза новых ракурсов, особенно при больших изменениях точки обзора

— работает с непрерывными 2D-координатами, а не с дискретными сетками изображений.

Гитхаб код ждем

#image2depth
👍9
AnyDepth: Depth Estimation Made Easy

Генератор глубины для картинок и видео, в основе DINOv3

Гитхаб
HF - еще не выложили

#image2depth #video2depth
👍9❤2🔥1
Media is too big
VIEW IN TELEGRAM
LingBot-Depth: Masked Depth Modeling for Spatial Perception

Превращает неточные и неполные данные с датчиков глубины в точные 3D-измерения. Особенно хорошо работает там, где обычные камеры сбоят — например, на стеклянных или металлических поверхностях

В теории, можно использовать для улучшения карт глубины из других нейросеток

Гитхаб
HF

PS. У этих ребят еще есть LingBot-VLA - базовая визульно-языковая модель для роботов

#rgbd #rgbd2grbd #image2depth #video2depth
🔥7👍3
MetricAnything: Scaling Depth Pretraining with Noisy Heterogeneous Sources

Генератор глубины. Может работать с кучей разных данных, даже если они шумные и от разных источников

Меряются с только что вышедшим Lingbot-Depth

Гитхаб ждем

#image2depth #video2depth
👍6❤1
Any Resolution Any Geometry: From Multi-View To Multi-Patch

Генератор нормалей и глубины по одному изображению в любом разрешении - хоть 2K, хоть 8K, с глобальной связностью геометрии

Разбивают изображение на патчи и обрабатывают совместно

Демонстрационные результаты сильно лучше Depth Anything v2 и Metric 3Dv2

Гитхаб
HF

#image2depth #image2normals

Нейронавт в MAX 📲
❤7👍6
This media is not supported in your browser
VIEW IN TELEGRAM
NVPanoptix-3D

Реконструкция 3D интерьеров по одному фото от NVIDIA на базе Uni-3D.

За один проход выполняет паноптическую сегментацию, предсказывает глубину и геометрию

HF

#imageto3d #image2scene #segmentation #image2depth
👍4
TIPSv2

Гугл выпустил модель предсказания плотности а потом "впустил обратно" - страница модели выдает 404

Но поисковые ИИшки помнят как ее устанавливать. Наверняка ничего не получится без доступа к модели

TIPSv2 предсказывает визуальные признаки, согласованные с текстовыми эмбеддингами, дальше с ними могут работать визуальные пониматоры

[UPDATE] Найдено на ModelScope, как я и надеялся, спасибо @p0lygon

#image2depth #image2normals
🤔3👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Modality Forcing

Метод дообучения генераторов картинок для предсказания глубины. Работает на моделях DiT, обученных на редких (sparse) данных о глубине без сложных схем и массивов данных

#SOTA на 4 из 5 бенчмарков по предсказанию глубины

Зачем компании с названием WorldLabs учить картинкогенераторы качественно предсказывать глубину? Ага

Гитхаб
Демо
HF - на базе Flux.2

#i2d #image2depth #finetuning
👍4
SenseNova‑Vision

Мультимодальная генеративная модель для компьютерного зрения (7B, MoT)

• решает сразу несколько задач без отдельных голов под каждую: детекция, OCR, сегментация, ключевые точки, нормали, глубина, поза камеры
• принимает инструкции на естественном языке
• генерирует текст, изображения или смешанные выходы
• единый подход вместо набора узкоспециализированных моделей

Гитхаб
HF
Демо

#vlm #multimodal #t2i #i2t #detection #segmentation #image2depth #image2normals
👍9❤1
PointDiT

Модель от Google, Microsoft и ко для оценки геометрии по одному изображению. Восстановливает 3D-структуру из монокулярного кадра.

• работа в пиксельном пространстве
• оценка глубины и нормалей
• стабильная генерация геометрических карт без доп. сенсоров

Непонятно будет опенсорс или нет

галерея

#image2depth #image2normals #imageto3d
❤4👍3
This media is not supported in your browser
VIEW IN TELEGRAM
ZipDepth

Компактная модель для монокулярной оценки глубины. Скорость + точность

Работает на слабых устройствах и мобильных NPU

6.1 млн параметров, MIT-лицензия

Гитхаб

#image2depth #mobile #compact #video2depth
🔥10❤2
ReChannel

Лоры к #klein

Извлекают глубину, нормали, альфу и сегментацию из одного кадра

33K обучаемых параметров на задачу

Гитхаб
HF

#lora #image2depth #image2normals #segmentation #rgb2rgba #image2matte
👍15❤1
depth-anything.cpp

Порт модели глубины Depth Anything 3 от ByteDance на чистый C++, без Python и PyTorch и быстрее в 1.3 раза. Из одной картинки вытаскивает карту глубины и позу камеры, работает на CPU

Создает не только базовую карту глубины, а целый набор данных:

- Метрическая глубина (в метрах, а не условные значения)
- Уверенность по каждому пикселю (насколько можно доверять этой точке)
- Внутренние и внешние параметры камеры (то есть как камера устроена и где она стоит)
- 3D-облако точек
- Экспорт сразу в GLB / COLMAP / PLY
- Многовидовая глубина и поза камеры (несколько фото → общая сцена)

#image2depth #imageto3d

VK | MAX
🔥14👍3🥴1
WCDA (Weather-Conditioned Depth Anything)

Новый #SOTA в оценке глубины в плохую погоду. Depth Anything проваливается в туман, дождь, снег и темноте. DA-W чинит это через стилевой фильтр, который выделяет погодные условия и адаптирует модель под них, не ломая то, что она умеет в хорошую погоду

Гитхаб
HF

#image2depth #video2depth

VK | MAX
👍8🔥1
Marigold V2

Оценка глубины по одному изображению, переработанная версия Marigold

Превращает DiT в инструмент оценки глубины. Выглядит многообещающе

- Глубина в один шаг: дистилляция из многошаговой flow-matching модели, с квантованием опционально
- Решает проблему размытия: шерсть, листья, тонкие края — то, что раньше размазывалось, теперь резкое
- Обобщается на непохожие данные
- Не только глубина: те же приемы дают #SOTA на оценке нормалей и разложении изображения на компоненты

- Два ключевых приtма: выравнивание внутренних представлений с семантикой + двухстадийный финтюн с Sinkhorn-лоссом

Гитхаб
HF
Демо

#image2depth #image2normals #image2pbr
👍8❤3🔥2
FoundationStereo и FoundationPose (NVIDIA)

Две открытые модели для 3D-перцепции из систем Vision AI

FoundationStereo

Стерео-глубина без дообучения. Пара RGB-картинок со стереокамеры на входе, точная карта диспаритета на выходе.

• Zero-shot стерео-матчинг на новых сценах
• Для робототехники промышленности и умных пространств
• ONNX и TensorRT
• Работает от Jetson до H100

Слабые места: прозрачные объекты пересвет и плохое освещение.

FoundationPose

6-DoF поза объектов без обучения. CAD-модель -> положение и ориентация объекта на RGBD-кадре плюс трекинг по видео

• Zero-shot на новых объектах нужен только CAD
• Оценка позы и отслеживание на видео
• Обучена на synthetic-данных Objaverse и GSO
• Средний скор 83.3 на BOP-бенчмарках
• TensorRT работает от Orin Nano до H100

#stereo2depth #image2depth #image2pose
👍4