Нейронавт | Нейросети в творчестве
13.2K subscribers
7.14K photos
5.65K videos
51 files
7.23K links
Канал про нейросети в компьютерной графике, в кино и вообще

В папках и запусках не участвую

для связи @Neuronauticus

РКН: https://hf.ru/link8e56d
Download Telegram
LUNA (Learning Universal 3D Human Animation Beyond Skinning)

3D‑анимация человека

Главная фишка в том, что она обходится без традиционного Linear Blend Skinning (LBS) и явного подбора параметров тела (body fitting).

LUNA напрямую преобразует 2D‑сигналы (изображения, ключевые точки, эскизы) в деформации гауссиан, минуя этап построения скелета и назначения весов кожи. Это позволяет:

* Избежать типичных артефактов LBS - переломов сетки, «пережатий» на сгибах и прочих проблем, связанных с неточным скинингом.
* Работать с незнакомыми персонажами - модель умеет анимировать персонажей, которых не было в обучающей выборке
* Поддерживать разные типы управления - можно использовать в качестве контроля для анимации и фото, и ключевые точки, и даже наброски.

Кода-весов нет пока

#research #humananimation #gaussian
❤4🤝2👎1
NeumaTex

Метод NVIDIA для 3D-текстур по фото. Восстанавливает детали и UV-карты без сложных пайплайнов.

Вместо PBR создают нейро-материалы из снимков, сделанных с разных ракурсов. Материалы моделируют более сложные свойства: прозрачность, дымка, пыль, шероховатость, рассеяние и смешанные зеркальные эффекты. При этом пригодны для релайтинга и рендера

• генерация текстур с сохранением мелких деталей
• автоматическое построение UV-развёрток
• работает с небольшим набором входных ракурсов

Кода нет

#image2pbr #image2material #research #relighting #rendering
🔥5👀2👍1
Neural Render Proxies (NRP)

Технология Disney, ускоряет процесс настройки освещения в компьютерной анимации. Интерактивно и дифференцируемо изменяет освещение статических сцен с фиксированным положением камеры и материалами

Разделили рендеринг на выборку путей и вычисление излучения. За один проход, не зависящий от освещения, собирают данные о транспортировке света. Затем обучают лёгкую нейросеть переносить свет от любой точки сцены к любому пикселю изображения

минимальные требования к памяти при выводе

масштабируемость в зависимости от разрешения, количества источников света и параметров, а не от сложности сцены

рилтайм 30–60 Гц

Только хвастаются, нам свои технологии не отдадут

Спасибо @iNevestenko

#research #rendering #lighting #relighting
👍8
ResearchStudio

Инструмент от Microsoft

ResearchStudio–Idea автоматизирует начальную стадию исследования — от проблемы до создания карточки идеи, которую можно представить рецензенту

ResearchStudio–Reel автоматизирует превращение научной статьи в материалы для презентации и популяризации. Снимает рутину подготовки постера, видео, блога из одного PDF

• генерация print-ready постера
• создание синхронизированного видео с нарративом
• сборка двуязычного блога
• единый экстрактор Paper2Assets — данные извлекаются один раз
• артефакты редактируются в PowerPoint и Word
• интерактивный HTML-просмотрщик с синхронизацией по секциям

Работает на связке Claude Code и Codex. Артефакты согласованы по фактам, не дублируют извлечение данных

Гитхаб

#research #text2research #pdf2video #pdf2ppt
👍3
Wan-Streamer v0.2

Повысили разрешение с 192×336 до 640×368, сохранив скороость.

Для этого переработали архитектуру генератора латентных представлений для мульти-GPU

Расширили возможности визуального формата. Теперь работает не только с крупными планами, но и со сценами, где важна общая картина взаимодействия

Кода и весов по прежнему нет

#avatar #intereactive #realtime #streaming #research
🔥5👍3❤1
Wan-Streamer v0.3

Новая версия интерактивного аудио-видео-генератора

Отличия v0.3 от v0.2:

• v0.3 более универсальная модель, с более выразительным поведением агента
• в v0.3 добавлено свободное поведение и действия, описываемые естественным языком
• разрешение и скорость прежние: 640×368, 25 fps
• v0.3 использует предварительное обучение на видео с последующим адаптацией к взаимодействию, тогда как v0.2 фокусировалась на данных взаимодействия
• новая версия позволяет смешивать речь и действия в одной временной последовательности, их синхронизация учится вместе и генерируется напрямую

И по-прежнему неизвестно будет ли опенсорс

Спасибо @m_franz

#avatar #intereactive #realtime #streaming #research
🔥6❤2👀2👍1
Hyra

Система от Tencent для автоматизированных исследований и инженерных задач. Способна к рекурсивному самосовершенствованию.

Умеет:
• решать задачи в сфере AI (оптимизация обучения моделей, ускорение обучения)
• помогать в научных исследованиях (математические открытия, анализ данных)
• работать в развлекательных и творческих задачах (создание ботов для игр, 3D-моделирование, музыкальная композиция)

Особенности:
• работает по принципу непрерывного цикла, использует прошлый опыт для поиска лучших решений
• включает Context Agent и Proposal Agents
• может улучшать механизм оценки и запускать новый цикл с более строгими критериями

Демонстрирует успехи в разных областях от оптимизации GPU-ядер до проектирования квантовых алгоритмов и разработки кандидатов в лекарства

Попросить доступ

#research #agent
🔥11
Media is too big
VIEW IN TELEGRAM
WorldClaw

Модель от Tencent Hunyuan создает четкую, исследуемую и редактируемую 3D-сцену открытого мира по промпту

Важна именно агентная часть - вместо того чтобы одна модель выдавала статичный меш, фреймворк запускает агентный цикл, который выстраивает структуру мира так, чтобы она оставалась исследуемой и редактируемой после генерации, а не просто красивым рендером, с которым больше ничего не сделать.

кода/весов нет

#textto3d #3d #text2scene #research
👍6🔥4❤1
What to Edit Next

Фреймворк от Alibaba для рекомендаций следующих правок в чате по генерации картинок. После каждой итерации подсказывает, что отредактировать дальше - чтобы совет был уместным, разнообразным и выполнимым на текущем изображении.

На базе Qwen3-VL-8B

кода-весов нет

#research #vlm
🔥6❤2👍1
OmniScientist

ИИ-ученый для локального запуска на компе

Скармливаешь папку с данными и направление исследования. Он смотрит материалы, выдвигает гипотезу, пишет и запускает код, читает получившиеся графики и компилирует статью

- Воспринимает все как есть: изображения, сигналы, аудио, видео, 3D-сканы, поинт-клауды, траектории, таблицы, формулы
- Полный цикл: гипотеза → анализ → проверка → статья в PDF с фигурами, таблицами и реальными DOI
- Каждая цифра в черновике связана с исполнением: гейт пропускает статью, только если число реально появилось в stdout какого-то прогона
- Пустые результаты отправляются обратно на идейную доработку
- Три редакции: десктоп, CLI, skill для твоего агента

- Провел 36 реальных исследований, из них 5 полноценных статей
- Windows, macOS, Linux

Гитхаб

#research #agent #autoresearch #scientist
👍13😁3🔥2
WithEveryone

Фреймворк от Tencent Hunyuan и Fudan для генерации групповых портретов

До 10 человек в одном кадре, каждый со своим референсом лица

- Планирование до синтеза: модель решает, кто участвует, где стоит каждый и как построена группа, потом рендерит layout как условие
- Layout CoT привязывает личности к лицам, телам и ключевым точкам позы

Модель в процессе обучения, может потом поделятся, а может и нет

#referencing #research

VK | MAX
👍7😁6🥴3
Два подхода к генерации картинок диффузными моделями

Латентный (обычный): картинку сжимают в маленькое скрытое представление через VAE-кодировщик, потом модель шумит и денойзит уже это сжатое представление а в конце VAE возвращает пиксели. Быстро и стабильно но теряет мелкие детали

Пиксельный (напрямую): работает сразу с пикселями без VAE. Качество деталей выше, но напрямую с нуля такую модель обучать очень медленно, сходится сильно хуже латентной

Alibaba нашли компромисс - латентно-пиксельный переход (latent-to-pixel strategy):

1. Претрейн в латентном пространстве - быстро получают хорошие генеративные знания
2. Потом переключаются в пиксельное пространство и дообучают там

Качество на уровне латентных но в 3–5 раз быстрее - не тратится время на VAE-декодирование и нет потери деталей

Не приходится выбирать между скоростью и качеством

Это рисерч, ждем новых моделей от Алибаба

#research #pixelduffusion

VK | MAX
1🔥10❤3👍2
This media is not supported in your browser
VIEW IN TELEGRAM
V-RAE

Тут предлагают строить сжатое представление видеогенераторов не на основе пикселей, а на основе смысла. Берут пониматоры видео и поверх них делают компактный слой. То есть образно говоря, вместо аудиозаписи нотная запись. В ней меньше деталей но видна видна структура, по которой можно сыграть заново даже лучше оригинала

- Генератору проще работать со смыслом, он сходится быстрее в разы и выдает лучшее качество
- Видео можно сжимать по времени без потери смысла
- Такое представление можно использовать не только для генерации, но и для предсказания следующих кадров

Веса есть но это исследовательский проект, а не прикладной

На видео V-RAE справа

Гитхаб
HF

#research

VK | MAX
👍12
This media is not supported in your browser
VIEW IN TELEGRAM
The Attention Triangle

Исследование о том почему в аудио-видео моделях звук прилипает не к тому объекту. Пират молчит, а говорит попугай — модель все равно заставляет говорить пирата. Авторы разобрали механизм утечки и научились его чинить

- Нашли треугольник внимания: три связи между текстом, аудио и видео. Главный источник утечки — двунаправленная связь аудио ↔️ видео
- Интервенция на инференсе: управляют треугольником внимания, чтобы звук прикреплялся к правильному источнику — без переобучения

Проверено на LTX-2. Получили практически бесплатный обходной фикс для уже обученных моделей

Код ждем

#research #attention #t2v #i2v

VK | MAX
🔥12👍3🤔2❤1
This media is not supported in your browser
VIEW IN TELEGRAM
OpenResearch

Очередной инструмент от alphaXiv

Локальный воркспейс, который превращает кодинг-агента в исследователя

Claude Code, Codex, OpenCode или Cursor перепрошиваются под R&D: обзор литературы, выдвижение и проверка гипотез, эксперименты, готовые артефакты

• параллельные эксперименты - каждый исследовательский трек получает отдельную сессию и изолированный git-worktree
• полный автономный цикл - от идеи и правки кода до запуска и решения, что делать дальше
• логи, диффы, файлы и артефакты привязаны к работе, которая их создала
• агент и модель выбираются под каждую сессию

• git-native дерево экспериментов с неизменяемыми архивами коммитов
• полная воспроизводимость каждого запуска
• локальный по умолчанию: SQLite-стор, данные на своей машине
• один и тот же снепшот запускается локально, по SSH, на Slurm, Kubernetes или Ray

#macOS #Windows (beta) и #Linux

#research #agent #autoresearch

MAX
🔥5👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Dissectible Anatomy

Виртуальная анатомия, которую можно резать и рвать в реальном времени. Данные криосечений (включая Visible Human Project) превращаются в деформируемые модели - как в лаборатории анатомического вскрытия, только без последствий и с undo

• разрезы, разрывы, отодвигание и разделение структур на лету
• фрактура модели через операции над signed distance fields
• сплэты вместо мешей - нет топологии, которую надо пересчитывать при разрезе
• не зависит от движка и CUDA - портативные compute shaders

• позиционная динамика (PBD) для деформации
• работает на обычных GPU через шейдеры
• вокселизация мешей - можно собирать модель из любого 3D-объекта

Награда Audience Choice на SIGGRAPH 2026 Real-Time Live. Авторы смотрят в сторону анатомического образования, а техника годится и для игрового разрушения и VFX в духе The Thing и Scanners

Спасибо @kiticatmur

#simulation #anatomy

#news #research
🤯16🔥6👍3❤1🤔1🍌1
Media is too big
VIEW IN TELEGRAM
World Observer

Проблема видеомиров — объект при возврате теряется, замирает или превращается в «импостора». Решение — разделить наблюдение и действие

Метод от KAIST для видеомиров: когда объект уходит из кадра «актера», панорамные обсерверы продолжают за ним следить, и при возврате объект сохраняет состояние и динамику.

• Актер-вид генерируется вместе с панорамными обсерверами (наблюдателями)
• Объекты, ушедшие из кадра, продолжают эволюционировать в обсервере
• Обсерверы ставятся где хочешь — не привязаны к актёру
• Несколько обсерверов для полного покрытия сцены
• Раздельный промпт у обсервера — текст рулит событиями за кадром
• При возврате объекта восстанавливается его детальный вид

• Обсервер рендерится в гибком разрешении и с низкими требованиями
• Обучение на реальных панорамах + синтетика CARLA
• Работает на видео-DiT в одной токен-последовательности

Код ждем

#world #research
👍3
S-Space

Исследование MirroS: у мультимодальных моделей внутри есть «3D-карта». В промежуточных активациях нашли 3D линейное подпространство, где объекты лежат с координатами по горизонтали, вертикали и глубине.

• Кодирует непрерывные позиции объектов (X, Y, расстояние)
• Персистентно между промптами и ракурсами
• Объединяет визуальное и языковое, включая объекты за пределами видимого
• Можно каузально менять, чтобы управлять пространственными оценками
• Прямое чтение подпространства работает точнее нативной рассуждалки модели

• Испробовано на Molmo2-ER, MolmoAct2, Qwen3.5-4B, Qwen3.6-27B

Полезно и для диагностики: показывает, где и как модель проваливается в «принятии перспективы». Подсказывает путь к надежным пространственным рассуждениям и действиям

github.com/mirros-lab/s-space

#research #reasoning

MAX
🔥4😁2🤷‍♂1
This media is not supported in your browser
VIEW IN TELEGRAM
BudgetPix

Метод адаптивной токенизации от UIUC и Google для пиксельных моделей генерации картинок. Одна модель работает при любом бюджете вычислений: сложные участки получают больше токенов, простые фоны — меньше

• Динамически тратит вычисления по визуальной сложности сцены
• Одна чекпоинт-модель от 100% до 10% токенов
• Работает и в one-step генерации
• Энкодер на энтропийном квадродереве, многомасштабный декодер

Вставляется в существующие пиксельные диффузии (JiT, MiniT2I, PixelDiT) без переделки. Высвобождает бюджет на лету — гибко под ресурсы инференса

Код ждем

#tokenizer #research

MAX
👍5