LUNA (Learning Universal 3D Human Animation Beyond Skinning)
3D‑анимация человека
Главная фишка в том, что она обходится без традиционного Linear Blend Skinning (LBS) и явного подбора параметров тела (body fitting).
LUNA напрямую преобразует 2D‑сигналы (изображения, ключевые точки, эскизы) в деформации гауссиан, минуя этап построения скелета и назначения весов кожи. Это позволяет:
* Избежать типичных артефактов LBS - переломов сетки, «пережатий» на сгибах и прочих проблем, связанных с неточным скинингом.
* Работать с незнакомыми персонажами - модель умеет анимировать персонажей, которых не было в обучающей выборке
* Поддерживать разные типы управления - можно использовать в качестве контроля для анимации и фото, и ключевые точки, и даже наброски.
Кода-весов нет пока
#research #humananimation #gaussian
3D‑анимация человека
Главная фишка в том, что она обходится без традиционного Linear Blend Skinning (LBS) и явного подбора параметров тела (body fitting).
LUNA напрямую преобразует 2D‑сигналы (изображения, ключевые точки, эскизы) в деформации гауссиан, минуя этап построения скелета и назначения весов кожи. Это позволяет:
* Избежать типичных артефактов LBS - переломов сетки, «пережатий» на сгибах и прочих проблем, связанных с неточным скинингом.
* Работать с незнакомыми персонажами - модель умеет анимировать персонажей, которых не было в обучающей выборке
* Поддерживать разные типы управления - можно использовать в качестве контроля для анимации и фото, и ключевые точки, и даже наброски.
Кода-весов нет пока
#research #humananimation #gaussian
❤4🤝2👎1
NeumaTex
Метод NVIDIA для 3D-текстур по фото. Восстанавливает детали и UV-карты без сложных пайплайнов.
Вместо PBR создают нейро-материалы из снимков, сделанных с разных ракурсов. Материалы моделируют более сложные свойства: прозрачность, дымка, пыль, шероховатость, рассеяние и смешанные зеркальные эффекты. При этом пригодны для релайтинга и рендера
• генерация текстур с сохранением мелких деталей
• автоматическое построение UV-развёрток
• работает с небольшим набором входных ракурсов
Кода нет
#image2pbr #image2material #research #relighting #rendering
Метод NVIDIA для 3D-текстур по фото. Восстанавливает детали и UV-карты без сложных пайплайнов.
Вместо PBR создают нейро-материалы из снимков, сделанных с разных ракурсов. Материалы моделируют более сложные свойства: прозрачность, дымка, пыль, шероховатость, рассеяние и смешанные зеркальные эффекты. При этом пригодны для релайтинга и рендера
• генерация текстур с сохранением мелких деталей
• автоматическое построение UV-развёрток
• работает с небольшим набором входных ракурсов
Кода нет
#image2pbr #image2material #research #relighting #rendering
🔥5👀2👍1
Neural Render Proxies (NRP)
Технология Disney, ускоряет процесс настройки освещения в компьютерной анимации. Интерактивно и дифференцируемо изменяет освещение статических сцен с фиксированным положением камеры и материалами
Разделили рендеринг на выборку путей и вычисление излучения. За один проход, не зависящий от освещения, собирают данные о транспортировке света. Затем обучают лёгкую нейросеть переносить свет от любой точки сцены к любому пикселю изображения
минимальные требования к памяти при выводе
масштабируемость в зависимости от разрешения, количества источников света и параметров, а не от сложности сцены
рилтайм 30–60 Гц
Только хвастаются, нам свои технологии не отдадут
Спасибо @iNevestenko
#research #rendering #lighting #relighting
Технология Disney, ускоряет процесс настройки освещения в компьютерной анимации. Интерактивно и дифференцируемо изменяет освещение статических сцен с фиксированным положением камеры и материалами
Разделили рендеринг на выборку путей и вычисление излучения. За один проход, не зависящий от освещения, собирают данные о транспортировке света. Затем обучают лёгкую нейросеть переносить свет от любой точки сцены к любому пикселю изображения
минимальные требования к памяти при выводе
масштабируемость в зависимости от разрешения, количества источников света и параметров, а не от сложности сцены
рилтайм 30–60 Гц
Только хвастаются, нам свои технологии не отдадут
Спасибо @iNevestenko
#research #rendering #lighting #relighting
👍8
ResearchStudio
Инструмент от Microsoft
ResearchStudio–Idea автоматизирует начальную стадию исследования — от проблемы до создания карточки идеи, которую можно представить рецензенту
ResearchStudio–Reel автоматизирует превращение научной статьи в материалы для презентации и популяризации. Снимает рутину подготовки постера, видео, блога из одного PDF
• генерация print-ready постера
• создание синхронизированного видео с нарративом
• сборка двуязычного блога
• единый экстрактор Paper2Assets — данные извлекаются один раз
• артефакты редактируются в PowerPoint и Word
• интерактивный HTML-просмотрщик с синхронизацией по секциям
Работает на связке Claude Code и Codex. Артефакты согласованы по фактам, не дублируют извлечение данных
Гитхаб
#research #text2research #pdf2video #pdf2ppt
Инструмент от Microsoft
ResearchStudio–Idea автоматизирует начальную стадию исследования — от проблемы до создания карточки идеи, которую можно представить рецензенту
ResearchStudio–Reel автоматизирует превращение научной статьи в материалы для презентации и популяризации. Снимает рутину подготовки постера, видео, блога из одного PDF
• генерация print-ready постера
• создание синхронизированного видео с нарративом
• сборка двуязычного блога
• единый экстрактор Paper2Assets — данные извлекаются один раз
• артефакты редактируются в PowerPoint и Word
• интерактивный HTML-просмотрщик с синхронизацией по секциям
Работает на связке Claude Code и Codex. Артефакты согласованы по фактам, не дублируют извлечение данных
Гитхаб
#research #text2research #pdf2video #pdf2ppt
👍3
Wan-Streamer v0.2
Повысили разрешение с 192×336 до 640×368, сохранив скороость.
Для этого переработали архитектуру генератора латентных представлений для мульти-GPU
Расширили возможности визуального формата. Теперь работает не только с крупными планами, но и со сценами, где важна общая картина взаимодействия
Кода и весов по прежнему нет
#avatar #intereactive #realtime #streaming #research
Повысили разрешение с 192×336 до 640×368, сохранив скороость.
Для этого переработали архитектуру генератора латентных представлений для мульти-GPU
Расширили возможности визуального формата. Теперь работает не только с крупными планами, но и со сценами, где важна общая картина взаимодействия
Кода и весов по прежнему нет
#avatar #intereactive #realtime #streaming #research
🔥5👍3❤1
Wan-Streamer v0.3
Новая версия интерактивного аудио-видео-генератора
Отличия v0.3 от v0.2:
• v0.3 более универсальная модель, с более выразительным поведением агента
• в v0.3 добавлено свободное поведение и действия, описываемые естественным языком
• разрешение и скорость прежние: 640×368, 25 fps
• v0.3 использует предварительное обучение на видео с последующим адаптацией к взаимодействию, тогда как v0.2 фокусировалась на данных взаимодействия
• новая версия позволяет смешивать речь и действия в одной временной последовательности, их синхронизация учится вместе и генерируется напрямую
И по-прежнему неизвестно будет ли опенсорс
Спасибо @m_franz
#avatar #intereactive #realtime #streaming #research
Новая версия интерактивного аудио-видео-генератора
Отличия v0.3 от v0.2:
• v0.3 более универсальная модель, с более выразительным поведением агента
• в v0.3 добавлено свободное поведение и действия, описываемые естественным языком
• разрешение и скорость прежние: 640×368, 25 fps
• v0.3 использует предварительное обучение на видео с последующим адаптацией к взаимодействию, тогда как v0.2 фокусировалась на данных взаимодействия
• новая версия позволяет смешивать речь и действия в одной временной последовательности, их синхронизация учится вместе и генерируется напрямую
И по-прежнему неизвестно будет ли опенсорс
Спасибо @m_franz
#avatar #intereactive #realtime #streaming #research
🔥6❤2👀2👍1
Hyra
Система от Tencent для автоматизированных исследований и инженерных задач. Способна к рекурсивному самосовершенствованию.
Умеет:
• решать задачи в сфере AI (оптимизация обучения моделей, ускорение обучения)
• помогать в научных исследованиях (математические открытия, анализ данных)
• работать в развлекательных и творческих задачах (создание ботов для игр, 3D-моделирование, музыкальная композиция)
Особенности:
• работает по принципу непрерывного цикла, использует прошлый опыт для поиска лучших решений
• включает Context Agent и Proposal Agents
• может улучшать механизм оценки и запускать новый цикл с более строгими критериями
Демонстрирует успехи в разных областях от оптимизации GPU-ядер до проектирования квантовых алгоритмов и разработки кандидатов в лекарства
Попросить доступ
#research #agent
Система от Tencent для автоматизированных исследований и инженерных задач. Способна к рекурсивному самосовершенствованию.
Умеет:
• решать задачи в сфере AI (оптимизация обучения моделей, ускорение обучения)
• помогать в научных исследованиях (математические открытия, анализ данных)
• работать в развлекательных и творческих задачах (создание ботов для игр, 3D-моделирование, музыкальная композиция)
Особенности:
• работает по принципу непрерывного цикла, использует прошлый опыт для поиска лучших решений
• включает Context Agent и Proposal Agents
• может улучшать механизм оценки и запускать новый цикл с более строгими критериями
Демонстрирует успехи в разных областях от оптимизации GPU-ядер до проектирования квантовых алгоритмов и разработки кандидатов в лекарства
Попросить доступ
#research #agent
🔥11
Interactive Generative Motion Editing via Scheduled Inpainting
Дисней опять хвастается.
Метод для интерактивного редактирования анимации. Объединяет синтез и правку движения. Не ломает старое, добавляет новое
https://youtu.be/P2jsLNvb1GM?si=16BIMDSsdHAWesGF
#research #animation
Дисней опять хвастается.
Метод для интерактивного редактирования анимации. Объединяет синтез и правку движения. Не ломает старое, добавляет новое
https://youtu.be/P2jsLNvb1GM?si=16BIMDSsdHAWesGF
#research #animation
YouTube
Interactive Generative Motion Editing via Scheduled Inpainting
Motion editing is central to VFX and game development, where it is used extensively to modify and augment existing movements to conform to new environments or changes in artistic direction. While traditional motion editing can do small modifications, it cannot…
👍7
Media is too big
VIEW IN TELEGRAM
WorldClaw
Модель от Tencent Hunyuan создает четкую, исследуемую и редактируемую 3D-сцену открытого мира по промпту
Важна именно агентная часть - вместо того чтобы одна модель выдавала статичный меш, фреймворк запускает агентный цикл, который выстраивает структуру мира так, чтобы она оставалась исследуемой и редактируемой после генерации, а не просто красивым рендером, с которым больше ничего не сделать.
кода/весов нет
#textto3d #3d #text2scene #research
Модель от Tencent Hunyuan создает четкую, исследуемую и редактируемую 3D-сцену открытого мира по промпту
Важна именно агентная часть - вместо того чтобы одна модель выдавала статичный меш, фреймворк запускает агентный цикл, который выстраивает структуру мира так, чтобы она оставалась исследуемой и редактируемой после генерации, а не просто красивым рендером, с которым больше ничего не сделать.
кода/весов нет
#textto3d #3d #text2scene #research
👍6🔥4❤1
What to Edit Next
Фреймворк от Alibaba для рекомендаций следующих правок в чате по генерации картинок. После каждой итерации подсказывает, что отредактировать дальше - чтобы совет был уместным, разнообразным и выполнимым на текущем изображении.
На базе Qwen3-VL-8B
кода-весов нет
#research #vlm
Фреймворк от Alibaba для рекомендаций следующих правок в чате по генерации картинок. После каждой итерации подсказывает, что отредактировать дальше - чтобы совет был уместным, разнообразным и выполнимым на текущем изображении.
На базе Qwen3-VL-8B
кода-весов нет
#research #vlm
🔥6❤2👍1
OmniScientist
ИИ-ученый для локального запуска на компе
Скармливаешь папку с данными и направление исследования. Он смотрит материалы, выдвигает гипотезу, пишет и запускает код, читает получившиеся графики и компилирует статью
- Воспринимает все как есть: изображения, сигналы, аудио, видео, 3D-сканы, поинт-клауды, траектории, таблицы, формулы
- Полный цикл: гипотеза → анализ → проверка → статья в PDF с фигурами, таблицами и реальными DOI
- Каждая цифра в черновике связана с исполнением: гейт пропускает статью, только если число реально появилось в stdout какого-то прогона
- Пустые результаты отправляются обратно на идейную доработку
- Три редакции: десктоп, CLI, skill для твоего агента
- Провел 36 реальных исследований, из них 5 полноценных статей
- Windows, macOS, Linux
Гитхаб
#research #agent #autoresearch #scientist
ИИ-ученый для локального запуска на компе
Скармливаешь папку с данными и направление исследования. Он смотрит материалы, выдвигает гипотезу, пишет и запускает код, читает получившиеся графики и компилирует статью
- Воспринимает все как есть: изображения, сигналы, аудио, видео, 3D-сканы, поинт-клауды, траектории, таблицы, формулы
- Полный цикл: гипотеза → анализ → проверка → статья в PDF с фигурами, таблицами и реальными DOI
- Каждая цифра в черновике связана с исполнением: гейт пропускает статью, только если число реально появилось в stdout какого-то прогона
- Пустые результаты отправляются обратно на идейную доработку
- Три редакции: десктоп, CLI, skill для твоего агента
- Провел 36 реальных исследований, из них 5 полноценных статей
- Windows, macOS, Linux
Гитхаб
#research #agent #autoresearch #scientist
👍13😁3🔥2
WithEveryone
Фреймворк от Tencent Hunyuan и Fudan для генерации групповых портретов
До 10 человек в одном кадре, каждый со своим референсом лица
- Планирование до синтеза: модель решает, кто участвует, где стоит каждый и как построена группа, потом рендерит layout как условие
- Layout CoT привязывает личности к лицам, телам и ключевым точкам позы
Модель в процессе обучения, может потом поделятся, а может и нет
#referencing #research
VK | MAX
Фреймворк от Tencent Hunyuan и Fudan для генерации групповых портретов
До 10 человек в одном кадре, каждый со своим референсом лица
- Планирование до синтеза: модель решает, кто участвует, где стоит каждый и как построена группа, потом рендерит layout как условие
- Layout CoT привязывает личности к лицам, телам и ключевым точкам позы
Модель в процессе обучения, может потом поделятся, а может и нет
#referencing #research
VK | MAX
👍7😁6🥴3
Два подхода к генерации картинок диффузными моделями
Латентный (обычный): картинку сжимают в маленькое скрытое представление через VAE-кодировщик, потом модель шумит и денойзит уже это сжатое представление а в конце VAE возвращает пиксели. Быстро и стабильно но теряет мелкие детали
Пиксельный (напрямую): работает сразу с пикселями без VAE. Качество деталей выше, но напрямую с нуля такую модель обучать очень медленно, сходится сильно хуже латентной
Alibaba нашли компромисс - латентно-пиксельный переход (latent-to-pixel strategy):
1. Претрейн в латентном пространстве - быстро получают хорошие генеративные знания
2. Потом переключаются в пиксельное пространство и дообучают там
Качество на уровне латентных но в 3–5 раз быстрее - не тратится время на VAE-декодирование и нет потери деталей
Не приходится выбирать между скоростью и качеством
Это рисерч, ждем новых моделей от Алибаба
#research #pixelduffusion
VK | MAX
Латентный (обычный): картинку сжимают в маленькое скрытое представление через VAE-кодировщик, потом модель шумит и денойзит уже это сжатое представление а в конце VAE возвращает пиксели. Быстро и стабильно но теряет мелкие детали
Пиксельный (напрямую): работает сразу с пикселями без VAE. Качество деталей выше, но напрямую с нуля такую модель обучать очень медленно, сходится сильно хуже латентной
Alibaba нашли компромисс - латентно-пиксельный переход (latent-to-pixel strategy):
1. Претрейн в латентном пространстве - быстро получают хорошие генеративные знания
2. Потом переключаются в пиксельное пространство и дообучают там
Качество на уровне латентных но в 3–5 раз быстрее - не тратится время на VAE-декодирование и нет потери деталей
Не приходится выбирать между скоростью и качеством
Это рисерч, ждем новых моделей от Алибаба
#research #pixelduffusion
VK | MAX
1🔥10❤3👍2
This media is not supported in your browser
VIEW IN TELEGRAM
V-RAE
Тут предлагают строить сжатое представление видеогенераторов не на основе пикселей, а на основе смысла. Берут пониматоры видео и поверх них делают компактный слой. То есть образно говоря, вместо аудиозаписи нотная запись. В ней меньше деталей но видна видна структура, по которой можно сыграть заново даже лучше оригинала
- Генератору проще работать со смыслом, он сходится быстрее в разы и выдает лучшее качество
- Видео можно сжимать по времени без потери смысла
- Такое представление можно использовать не только для генерации, но и для предсказания следующих кадров
Веса есть но это исследовательский проект, а не прикладной
На видео V-RAE справа
Гитхаб
HF
#research
VK | MAX
Тут предлагают строить сжатое представление видеогенераторов не на основе пикселей, а на основе смысла. Берут пониматоры видео и поверх них делают компактный слой. То есть образно говоря, вместо аудиозаписи нотная запись. В ней меньше деталей но видна видна структура, по которой можно сыграть заново даже лучше оригинала
- Генератору проще работать со смыслом, он сходится быстрее в разы и выдает лучшее качество
- Видео можно сжимать по времени без потери смысла
- Такое представление можно использовать не только для генерации, но и для предсказания следующих кадров
Веса есть но это исследовательский проект, а не прикладной
На видео V-RAE справа
Гитхаб
HF
#research
VK | MAX
👍12
This media is not supported in your browser
VIEW IN TELEGRAM
The Attention Triangle
Исследование о том почему в аудио-видео моделях звук прилипает не к тому объекту. Пират молчит, а говорит попугай — модель все равно заставляет говорить пирата. Авторы разобрали механизм утечки и научились его чинить
- Нашли треугольник внимания: три связи между текстом, аудио и видео. Главный источник утечки — двунаправленная связь аудио ↔️ видео
- Интервенция на инференсе: управляют треугольником внимания, чтобы звук прикреплялся к правильному источнику — без переобучения
Проверено на LTX-2. Получили практически бесплатный обходной фикс для уже обученных моделей
Код ждем
#research #attention #t2v #i2v
VK | MAX
Исследование о том почему в аудио-видео моделях звук прилипает не к тому объекту. Пират молчит, а говорит попугай — модель все равно заставляет говорить пирата. Авторы разобрали механизм утечки и научились его чинить
- Нашли треугольник внимания: три связи между текстом, аудио и видео. Главный источник утечки — двунаправленная связь аудио ↔️ видео
- Интервенция на инференсе: управляют треугольником внимания, чтобы звук прикреплялся к правильному источнику — без переобучения
Проверено на LTX-2. Получили практически бесплатный обходной фикс для уже обученных моделей
Код ждем
#research #attention #t2v #i2v
VK | MAX
🔥12👍3🤔2❤1
This media is not supported in your browser
VIEW IN TELEGRAM
OpenResearch
Очередной инструмент от alphaXiv
Локальный воркспейс, который превращает кодинг-агента в исследователя
Claude Code, Codex, OpenCode или Cursor перепрошиваются под R&D: обзор литературы, выдвижение и проверка гипотез, эксперименты, готовые артефакты
• параллельные эксперименты - каждый исследовательский трек получает отдельную сессию и изолированный git-worktree
• полный автономный цикл - от идеи и правки кода до запуска и решения, что делать дальше
• логи, диффы, файлы и артефакты привязаны к работе, которая их создала
• агент и модель выбираются под каждую сессию
• git-native дерево экспериментов с неизменяемыми архивами коммитов
• полная воспроизводимость каждого запуска
• локальный по умолчанию: SQLite-стор, данные на своей машине
• один и тот же снепшот запускается локально, по SSH, на Slurm, Kubernetes или Ray
#macOS #Windows (beta) и #Linux
#research #agent #autoresearch
MAX
Очередной инструмент от alphaXiv
Локальный воркспейс, который превращает кодинг-агента в исследователя
Claude Code, Codex, OpenCode или Cursor перепрошиваются под R&D: обзор литературы, выдвижение и проверка гипотез, эксперименты, готовые артефакты
• параллельные эксперименты - каждый исследовательский трек получает отдельную сессию и изолированный git-worktree
• полный автономный цикл - от идеи и правки кода до запуска и решения, что делать дальше
• логи, диффы, файлы и артефакты привязаны к работе, которая их создала
• агент и модель выбираются под каждую сессию
• git-native дерево экспериментов с неизменяемыми архивами коммитов
• полная воспроизводимость каждого запуска
• локальный по умолчанию: SQLite-стор, данные на своей машине
• один и тот же снепшот запускается локально, по SSH, на Slurm, Kubernetes или Ray
#macOS #Windows (beta) и #Linux
#research #agent #autoresearch
MAX
🔥5👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Dissectible Anatomy
Виртуальная анатомия, которую можно резать и рвать в реальном времени. Данные криосечений (включая Visible Human Project) превращаются в деформируемые модели - как в лаборатории анатомического вскрытия, только без последствий и с undo
• разрезы, разрывы, отодвигание и разделение структур на лету
• фрактура модели через операции над signed distance fields
• сплэты вместо мешей - нет топологии, которую надо пересчитывать при разрезе
• не зависит от движка и CUDA - портативные compute shaders
• позиционная динамика (PBD) для деформации
• работает на обычных GPU через шейдеры
• вокселизация мешей - можно собирать модель из любого 3D-объекта
Награда Audience Choice на SIGGRAPH 2026 Real-Time Live. Авторы смотрят в сторону анатомического образования, а техника годится и для игрового разрушения и VFX в духе The Thing и Scanners
Спасибо @kiticatmur
#simulation #anatomy
#news #research
Виртуальная анатомия, которую можно резать и рвать в реальном времени. Данные криосечений (включая Visible Human Project) превращаются в деформируемые модели - как в лаборатории анатомического вскрытия, только без последствий и с undo
• разрезы, разрывы, отодвигание и разделение структур на лету
• фрактура модели через операции над signed distance fields
• сплэты вместо мешей - нет топологии, которую надо пересчитывать при разрезе
• не зависит от движка и CUDA - портативные compute shaders
• позиционная динамика (PBD) для деформации
• работает на обычных GPU через шейдеры
• вокселизация мешей - можно собирать модель из любого 3D-объекта
Награда Audience Choice на SIGGRAPH 2026 Real-Time Live. Авторы смотрят в сторону анатомического образования, а техника годится и для игрового разрушения и VFX в духе The Thing и Scanners
Спасибо @kiticatmur
#simulation #anatomy
#news #research
🤯16🔥6👍3❤1🤔1🍌1
Media is too big
VIEW IN TELEGRAM
World Observer
Проблема видеомиров — объект при возврате теряется, замирает или превращается в «импостора». Решение — разделить наблюдение и действие
Метод от KAIST для видеомиров: когда объект уходит из кадра «актера», панорамные обсерверы продолжают за ним следить, и при возврате объект сохраняет состояние и динамику.
• Актер-вид генерируется вместе с панорамными обсерверами (наблюдателями)
• Объекты, ушедшие из кадра, продолжают эволюционировать в обсервере
• Обсерверы ставятся где хочешь — не привязаны к актёру
• Несколько обсерверов для полного покрытия сцены
• Раздельный промпт у обсервера — текст рулит событиями за кадром
• При возврате объекта восстанавливается его детальный вид
• Обсервер рендерится в гибком разрешении и с низкими требованиями
• Обучение на реальных панорамах + синтетика CARLA
• Работает на видео-DiT в одной токен-последовательности
Код ждем
#world #research
Проблема видеомиров — объект при возврате теряется, замирает или превращается в «импостора». Решение — разделить наблюдение и действие
Метод от KAIST для видеомиров: когда объект уходит из кадра «актера», панорамные обсерверы продолжают за ним следить, и при возврате объект сохраняет состояние и динамику.
• Актер-вид генерируется вместе с панорамными обсерверами (наблюдателями)
• Объекты, ушедшие из кадра, продолжают эволюционировать в обсервере
• Обсерверы ставятся где хочешь — не привязаны к актёру
• Несколько обсерверов для полного покрытия сцены
• Раздельный промпт у обсервера — текст рулит событиями за кадром
• При возврате объекта восстанавливается его детальный вид
• Обсервер рендерится в гибком разрешении и с низкими требованиями
• Обучение на реальных панорамах + синтетика CARLA
• Работает на видео-DiT в одной токен-последовательности
Код ждем
#world #research
👍3
S-Space
Исследование MirroS: у мультимодальных моделей внутри есть «3D-карта». В промежуточных активациях нашли 3D линейное подпространство, где объекты лежат с координатами по горизонтали, вертикали и глубине.
• Кодирует непрерывные позиции объектов (X, Y, расстояние)
• Персистентно между промптами и ракурсами
• Объединяет визуальное и языковое, включая объекты за пределами видимого
• Можно каузально менять, чтобы управлять пространственными оценками
• Прямое чтение подпространства работает точнее нативной рассуждалки модели
• Испробовано на Molmo2-ER, MolmoAct2, Qwen3.5-4B, Qwen3.6-27B
Полезно и для диагностики: показывает, где и как модель проваливается в «принятии перспективы». Подсказывает путь к надежным пространственным рассуждениям и действиям
github.com/mirros-lab/s-space
#research #reasoning
MAX
Исследование MirroS: у мультимодальных моделей внутри есть «3D-карта». В промежуточных активациях нашли 3D линейное подпространство, где объекты лежат с координатами по горизонтали, вертикали и глубине.
• Кодирует непрерывные позиции объектов (X, Y, расстояние)
• Персистентно между промптами и ракурсами
• Объединяет визуальное и языковое, включая объекты за пределами видимого
• Можно каузально менять, чтобы управлять пространственными оценками
• Прямое чтение подпространства работает точнее нативной рассуждалки модели
• Испробовано на Molmo2-ER, MolmoAct2, Qwen3.5-4B, Qwen3.6-27B
Полезно и для диагностики: показывает, где и как модель проваливается в «принятии перспективы». Подсказывает путь к надежным пространственным рассуждениям и действиям
github.com/mirros-lab/s-space
#research #reasoning
MAX
🔥4😁2🤷♂1
This media is not supported in your browser
VIEW IN TELEGRAM
BudgetPix
Метод адаптивной токенизации от UIUC и Google для пиксельных моделей генерации картинок. Одна модель работает при любом бюджете вычислений: сложные участки получают больше токенов, простые фоны — меньше
• Динамически тратит вычисления по визуальной сложности сцены
• Одна чекпоинт-модель от 100% до 10% токенов
• Работает и в one-step генерации
• Энкодер на энтропийном квадродереве, многомасштабный декодер
Вставляется в существующие пиксельные диффузии (JiT, MiniT2I, PixelDiT) без переделки. Высвобождает бюджет на лету — гибко под ресурсы инференса
Код ждем
#tokenizer #research
MAX
Метод адаптивной токенизации от UIUC и Google для пиксельных моделей генерации картинок. Одна модель работает при любом бюджете вычислений: сложные участки получают больше токенов, простые фоны — меньше
• Динамически тратит вычисления по визуальной сложности сцены
• Одна чекпоинт-модель от 100% до 10% токенов
• Работает и в one-step генерации
• Энкодер на энтропийном квадродереве, многомасштабный декодер
Вставляется в существующие пиксельные диффузии (JiT, MiniT2I, PixelDiT) без переделки. Высвобождает бюджет на лету — гибко под ресурсы инференса
Код ждем
#tokenizer #research
MAX
👍5