Mask Forcing (HKUST / LIGHTSPEED / UCLA)

Прием для дистилляции авторегрессивных видеогенераторов. Проблема: при дистилляции из двунаправленной модели в каузальную, видео часто получаются перенасыщенными и сглаженными. Mask Forcing это лечит, ничего не меняя в архитектуре.

Эффекты:
- Быстрее сходится и выше качество
- Больше динамики в движении, лучше следование инструкциям
- Чинится перенасыщение и сглаживание
- Работает и для длинных видео (30 сек в тесте с LongLive)

- Монтируется в любые существующие пайплайны AR дистилляции, chunk-wise и frame-wise
- Не требует реального видео, дополнительных стадий пост-трейна, изменений архитектуры или инференса

На видео слева Self-forcing, справа Mask forcing

Гитхаб

#optimization

VK | MAX

VC-Attention

ускорение генерации видео до 1.7x от Nunchux AI

Стандартное внимание в диффузионных трансформерах замедляет генерацию видео: все вычисления в FP32, много лишних операций. VC-Attention решает это без переобучения модели.

V-Smooth группирует похожие токены и снижает ошибку квантования значений. ExpCast-FP8 меняет экспоненту в FP32 на прямой перевод результатов в FP8

На RTX 5090 внимание Wan2.2 ускорилось в 3.58 раза, полная генерация в 1.7 раза

Проверили на Wan2.2, LongCat-Video, HunyuanVideo-1.5 и MiniMax-H3

Nunchux Attention - проприетарное расширение VC-Attention. Усоряет MiniMax-H3 в 1.91x против BF16 FlashAttention-4 на B200

Бесплатный доступ для H3 обещают скоро открыть
Вейтлист

Спасибо @Endorpheen

#optimization

VK | MAX

Bonsai 2

27B от PrismML

Тернарное сжатие Qwen3.8 27B: веса кодируются в {-1, 0, +1} с FP16-скейлингом. Полная модель ужимается больше чем в 9 раз - до 5,9 ГБ, работает локально на обычном железе

• мультимодальность - текст и изображения
• вызов инструментов и длинные агентные сценарии
• сильные reasoning, кодинг и vision
• локальный запуск без облака

• 1,76 эффективных бита на вес
• 98,2% качества полной версии (83,9 против 85,4)
• до 143 токенов/сек на RTX 5090, 46,8 на M5 Max
• контекст 262K токенов
• энергоэффективность на 40% выше полнопрецизионной 8B-модели

Предыдущая версия держала 95% качества, теперь 98,2% - практически без потерь. Запускается на NVIDIA через CUDA и на Apple через MLX. Лицензия Apache 2.0

HF

#optimization #multimodal #agent #coding

MAX

Veda от ByteDance, HKU и USTC

Разреженное внимание для видео-диффузии, которое не ломает качество. Полный attention учит предиктор выбирать только нужные 128-токенные тайлы - на 90-95% тратится меньше вычислений при почти незаметной разнице

• 90% разреженность на уровне полного attention по человеческим оценкам
• топ-k пропуск тайлов - внимание масштабируется почти линейно, а не O(N²)
• головы и слои получают свои формы тайлов - локальные и дальние зависимости
• дистилляция от полного attention через KL - до бинаризации маски

• 720P 241 кадр: 19.4 мин до 3.8 мин, ускорение 5.1x
• per-layer attention 10.5x быстрее FlashAttention-3
• 90% sparsity на WaverBench1.0 не проигрывает dense (50% против 49%)

Связка под #MiniMaxH3 #T2VA: Ускорение до 2.76x end-to-end на RTX 4090

Гитхаб
HF

Спасибо @m_franz

#optimization

Disaggregated Quantization

LLM в два раза быстрее и дешевле

Префилл и генерацию теперь обрабатывают разными квантизациями одной модели. Префилл — быстрым NVFP4, генерацию — сверхлёгкими 1–3-битными весами. Чекпоинт префилла грузится на SSD, подгрузка прячется за длинным контекстом — памяти нужно как у модели только для генерации

Что это дает
• Длинные промпты летают — NVFP4 ускоряет загрузку контекста
• Генерация дешевле — 1–3 бита вместо 4–8, меньше трафика из памяти
• Память как у маленькой модели — чекпоинт префилла на SSD, не жрет VRAM
• Точность не падает — активацию на decode не квантизируют

Уже работает на Qwen3 и Gemma 3

Qwen3.8 NVFP4 prefiller на HuggingFace

#optimization #llm

MAX

LongLive-Plug

Разработка NVIDIA: один раз дистиллируешь бэкбон — получаешь переиспользуемые адаптеры для всех задач по видео. Ниже модель, но без переобучения под каждый даунстрим-таск

• Few-step LoRA — меньше шагов сэмплирования
• CFG LoRA — регулируемый guidance
• Long-context LoRA — качество на длинных роликах
• Плюг-энд-плей: композиция нужных способностей

• 50 → 4 шага сэмплирования (12.5× быстрее)
• По три LoRA на бэкбон, переиспользуются на задачах семьи
• Перенос в даунстрим-модели без дообучения

HF - есть для #wan21 #wan22 и #minimaxh3

#optimization

MAX

DMAD

Ускорение генерации картинок и видео

Метод дистилляции от ByteDance: студент-модель учится выдавать результат за 4 шага вместо 50, почти не теряя в качестве.

• Картинки и видео за 4 шага
• Видео с аудио на MiniMax-H3-33B
• Работает на SDXL, Wan2.1, EDM
• FID 1.04 на ImageNet-64 за один проход

В слепых тестах люди чаще предпочитают результат, чем у DMD2 и rCM

Гитхаб
HF
Демо

Спасибо @m_franz

#optimization #minimaxh3

MAX

Решающие модели (System 1) #decision #rlcd

huggingface.co/orcarouter/OrcaSAQ-2-27B - OrcaSAQ2 27B: высокоточный reasoning в файле 12.3GB

huggingface.co/orcarouter/OrcaSAQ-2-Cyber-27B-Uncensored-GGUF - OrcaSAQ2 Cyber: без цензуры, 15.7GB

huggingface.co/akhilaaa3/Jev-Omni - Jev-Omni: решения по тексту, картинкам, аудио и видео разом

huggingface.co/fastino/GLiNER2.5-Decide - GLiNER2.5-Decide: оценка любого набора меток за один проход, без генерации токенов

huggingface.co/SupersonicLabs/Julia-1 - Julia 1: 144M параметров, контекст → чёткие решения

huggingface.co/Contrastive-LM/CLM-v0.1-8B - CLM-v0.1-8B: вместо медленных верификаторов — эмбеддинги состояний и действий

Скорость и кванты #optimization #gguf #dflash

huggingface.co/harshatheg/Qwen-2.5-1B-RLCD - RLCD: извлекает структурированные данные в 7 раз быстрее на Apple Silicon

huggingface.co/z-lab/Qwen3.8-27B-DFlash2 - Qwen3.8-27B DFlash2: ускоренная генерация (drafter-модель)

huggingface.co/sirus/Qwen3.8-27B-heretic-ara-MXFP6-MXFP8-DFlash2-GGUF - новый формат кванта MXFP6/MXFP8 + DFlash2: быстрее инференс

huggingface.co/Edge0/Edge0-35B-A3B-preview - Edge0-35B-A3B: модель «телефонного» класса, работает в 3 GiB памяти

Агенты и инструменты #agent #toolcalling

huggingface.co/XingChen-AGI/Xing4.0-29B-A4B - Xing4.0-29B-A4B: агентные задачи на Ascend NPU, контекст 256K

huggingface.co/TokenRhythm/NeoHorse-1-4B - NeoHorse-1-4B: роутинг-обвязка, прокачивает Qwen3.5-4B

huggingface.co/apodex/Apodex-1.1-mini-GGUF - Apodex-1.1-mini: агентные задачи по файлам и данным

huggingface.co/nex-agi/Nex-N2.5-Pro - Nex-N2.5-Pro: агент для кодинга и работы с компьютером

huggingface.co/nex-agi/Nex-N2.5-mini - Nex-N2.5-mini: длинные агентские задачи с vision-обратной связью

github.com/ortegaalfredo/ngram-knowledge-injector - инжектор фактов в память Qwen3.8 через n-gram

huggingface.co/TheOneWhoWill/Coding-Monkey-Gemma-GGUF - Coding-Monkey: локальная модель с сильными тул-коллами

huggingface.co/pipecat-ai/phonellm-alpha-1 - phonellm: держит телефонных агентов в рамках диалога

Мультимодальность и контекст #multimodal

huggingface.co/deepseek-ai/DeepSeek-V4-Flash-Vision-Exp - DeepSeek-V4-Flash Vision Exp: экспериментальный мультимодальный вариант

huggingface.co/Agnes-AI/Agnes-2.5-Pro-Alpha - Agnes-2.5-Pro: рассуждения на миллион токенов

github.com/QLNI/SHADOW-250M-Instruct - SHADOW-250M: архив 100M токенов ужат до 60MB файла

Код и всякое #coding

huggingface.co/ornith-ai/Ornith-1.5-9B - Ornith-1.5-9B: #reasoning и кодинг на одной GPU

huggingface.co/ornith-ai/Ornith-1.5-35B-A3B-GGUF - Ornith-1.5-35B-A3B: GGUF под локальных кодинг-агентов

huggingface.co/openbmb/MiniCPM5-2B - MiniCPM5-2B: карманная модель, кодит и рассуждает

huggingface.co/IFM/K2-Horizon-MoVA-36B-A4B - K2-Horizon-MoVA: 36B всего, активно 4B

huggingface.co/XHToken/Spark-X2.5-4B - Spark-X2.5-4B: компактная универсальная 4B (гибридное внимание, 1M контекст) #compact

huggingface.co/thesysdev/OUI-1 - OUI-1: диффузионная генерация UI-экранов за ~секунду #gui

huggingface.co/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat-GGUF - Humanlike-Chat: живой, реалистичный ролеплей

huggingface.co/TheDrummer/Artemis-31B-v1.1 - Artemis-31B: креативное мышление поверх Gemma 4 Chat

huggingface.co/OBLITERATUS/Qwen3.8-27B-OBLITERATED - Qwen3.8 27B полностью без цензуры #uncensored

huggingface.co/superwhisper/s1-mini - S1-mini: превращает неразборчивую речь в текст #ASR

PDMD

Метод дистилляции видео-диффузии в 4 шага от ByteDance. Убирает артефакты учителя одной строкой проекции — фильтрует ошибку студента без доп. сетей и проходов.

Улучшает классический DMD: проектируешь вектор обновления перпендикулярно остатку студент-критик, отсекая ошибку критика.

• Генерация видео за 4 и даже 2 шага инференса
• Дистилляция MiniMax-H3-33B до 4 NFE
• Одна строка проекции подавляет ошибку критика
• Ничего лишнего: без вспомогательного loss, сетей и доп. проходов

• MiniMax-H3-33B: 1344×768, 345 кадров, 4 сети-вызовов
• Также вариант на 2 NFE
• Лучший результат среди 4-шаговых методов на метриках качества и динамики

Готовые ComfyUI-версии для #MiniMaxH3 на HF

github.com/ZeamoxWang/pdmd
huggingface.co/Iwannapose/minimax_h3_pdmd_4nfe_comfyui
huggingface.co/Iwannapose/minimax_h3_pdmd_2nfe_comfyui

#optimization

MAX

DuoMatching

Метод дистилляции от ByteDance для быстрой генерации видео. Объединяет joint и marginal distribution matching, чтобы учиться сразу у видео- и у картинковых моделей, и даёт качество нескольких шагов почти в реальном времени.

• Генерация видео за несколько шагов вместо десятков, без доп. затрат на инференс
• Учится у видео-учителя и у картинковых моделей (перенос визуальных и семантических приоров)
• Дополняет joint-DMD явным маргинальным матчингом
• Ниже дрейф при автогрегрессивных роллаутах

Важные параметры
• Комбинация joint + marginal DMD
• Побеждает более 80% предпочтений людей в тестах
• Ноль лишних расходов на инференс

Совместный матчинг распределения кадров снимает большой дрейф, но ограничен в качестве и семантике. DuoMatching дополняет его помаргинальным матчингом для кадровых супервизий — на выходе качество и семантика без замедления

github.com/JohnZhan2023/DuoMatching

#optimization

Накопилось по #minimaxH3 - часть 32

#LoRA

huggingface.co/sandpies/ComfyUI-H3-Video-Upsampler
github.com/dntpi/ComfyUI-H3-Video-Upsampler - H3 Video Upsampler + LoRA апскейла ×2: 2Mpx результат в слепом сравнении выиграл у нативной генерации #upscale

huggingface.co/akatz-ai/MiniMax-H3-Person-Remover-LoRA - Person Remover: оригинальное видео + чистый первый кадр, SAM 3.1 отслеживает и вырезает человека. Чистый кадр делается через Flux Klein («убери X и покажи, что за ним»)

github.com/dotaku22/MosaicDiff -находит и отслеживает мозаику цензуры в клипе и восстанавливает поврежденный участок через H3 + кастомную LoRA #uncensored

huggingface.co/Jacob121294/h3-restore-enhance-improve-lora и huggingface.co/kirk86413/upscale-h3 - LoRA реставрации старого видео/апскейла, без ридми #restoration #upscale

huggingface.co/B0rghese/Minimax_Stereoptical_Process - Stereoptical Process: 2D-целл-анимация поверх 3D-фона. Триггеры Stereoptical Process, 2D Cel Animation over 3D Background

#workflow

civitai.com/articles/36281/comfyui-tutorial-character-swap-with-minimax-h3-using-lora-no-masking - #characterswap без маскирования: меньше VRAM. 0.4Mp за 8 шагов, апскейл до 1.2Mp латентным апскейлером. 3060 6GB: 20 мин генерация + 21 мин апскейл

youtube.com/watch?v=4L4lTf_NCSg - прозрачные видео на H3 в ComfyUI по шагам

github.com/aowind/sprite-action-forge - Sprite Action Forge: одна иллюстрация → полный набор игровых спрайтов движений. Локально, 8GB VRAM. Работает с четвероногими и монстрами

github.com/kubakubkub/ComfyUI_KubaNodes - проекция клипов на фасад здания: разделение на части, свои промпты, анимация слоёв на таймлайне. Вид проекции с точки зрителя

github.com/alaintural/synctile-h3 - SyncTile: 4K-клип — апскейл в латенте + 9 тайлов с блендингом на каждом шаге, декод один раз. Без швов и рассинхрона глаз. ~11 мин на 5-сек 4K на 4090 #upscale

huggingface.co/diffusers-modular/minimax-h3-inpainting - обновление: добавлен mask_drop_step для однопроходного хармониза #inpainting

github.com/wang410922/ComfyUI-H3ReferencePrep/blob/main/ComfyUI-H3ReferencePrep/README.md - H3ReferencePrep: Face Tracker по кадрам, с запасным трекингом головы/человека, ремонтом маски лица и Temporal Sanity Gate

github.com/entert-ai/ComfyUI-H3-RefMods-Lab - RefMod Lab: создание #RefMods из картинок/аудио/видео, выбор источников на лету, токены каждого источника, слияние RefMods. Перетащил RefMod в канвас — подгрузился воркфлоу его создания

#optimization

github.com/Speach1sdef178/ComfyUI-VELA-H3 - VELA 1.0: ускорение вычислений H3 без правок ядра — быстрый путь там, где безопасно, точный там, где важно. VDN 1.1 → VDN+VELA: 2:53 → 2:13 на 0.8Mp/5 сек. На 10 сек выигрыша нет (опубликовано честно). 8 шагов VDN+VELA против 20 шагов сырой H3: 3:03 против 8:07. RTX 3090 Ti

youtube.com/watch?v=DvTl-QbDzdQ - групповой тест H3 PDMD-ускорений