Gemma-4-31B-IT-NVFP4

квант #NVFP4 Gemma 4 от NVIDIA для бояр с RTX 5xxx

#assistant

Демоспейс с квантизованной Gemma 4

Демо

#assistant

Qwen3.6-35B-A3B-NVFP4

Для бояр с RTX 5XXX

#nvfp4 #assiatant #coding

nvidia/diffusiongemma-26B-A4B-it-NVFP4

Но волне всеобщего интереса к диффузной версии Gemma 4 (53ГБ) NVIDIA выпустила квантованную версию NVFP4 (19ГБ)

Контекст 256K, работает с текстом, изображениями, видео

#NVFP4 #multimodal

Rio  3.5  Open  397B

Большая языковая модель от администрации Рио‑де‑Жанейро на базе Nex-N2-Pro и Qwen3.5‑397B‑A17B. По бенчам превосходит Qwen 3.7 Plus

• 397B параметров, активно около 17 B
• контекст до 1 010 000 токенов
• мультиязычная. Явно упомянуты только португальский английский
• мультимодальная
• лицензия MIT
• размер около 807 ГБ

Квантизации

#agent #multimodal #gguf #nvfp4

Кому квантизованного MiniMax-M3 в NVFP4 ?

#nvfp4

GLM-5.2-NVFP4

А вот кому GLM-5.2 оптимизированный под Blackwell
Пост переписи бояр

#nvfp4

Держите интересных весов

huggingface.co/empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF - квантизация Qwythos

huggingface.co/nvidia/Qwen3.6-27B-NVFP4

huggingface.co/llmfan46/gemma-4-12B-coder-fable5-composer2.5-v1-uncensored-heretic-GGUF - еще одна версия, Heretic v1.4.0 и MPOA, на 91% меньше отказов

huggingface.co/huihui-ai/Huihui-GLM-5.2-abliterated-GGUF

huggingface.co/nvidia/Mistral-Medium-3.5-128B-NVFP4

#gguf #uncensored #coding #nvfp4

ThinkingCap-Qwen3.6-27B

Файнтюн Qwen3.6-27B с экономией токенов

• расход токенов меньше на 50–90%
• сохраняет цепочки рассуждений из диалога
• обрабатывает текст, изображения, видео
• контекст до 256К

NVFP4
INT4 / W4A16
GGUF

#multimodal #gguf #NVFP4 #int4 #w4a16

Ко вчерашнему релизу LTX-2.5

LTX-2.5-22b-IC-LoRA-Pixel-Spatial-Upscaler

Апскейл-лора с сохранением текстуры и мелких деталей
———

LTX-2.5 22B Distilled — NVFP4, ComfyUI-ready

Дистиллированная версия NVFP4 - 18.7 GB
———

Прочие квантизации/дистилляции

#gguf #ltx25 #nvfp4 #upscale

LTX-2.5 Gemma-4 12B NVFP4

NVFP4 версия текстового энкодера для LTX-2.5

ComfyUI - меньше VRAM, прямая замена, без потери качества

#ltx25 #nvfp4

VK | MAX

huggingface.co/nvidia/Qwen3.8-Flash-Next-NVFP4 - NVIDIA NVFP4 квантизация Qwen3.8-Flash-Next: ~2.7x меньше BF16 на Blackwell

huggingface.co/Cyronius/Qwen3.8-Flash-Next-131B-A6B-GGUF - GGUF с обрезанной n-gram таблицей (2/16 голов) — 64.8GB вместо 90GB

huggingface.co/dealignai/Qwen3.8-Flash-Next-UNCENSORED-FP8 - обесцензуренный Qwen3.8-Flash-Next: отказ убран, MTP и vision сохранены. 94% compliance на HarmBench

huggingface.co/Jackrong/Qwopus3.8-27B-Flash-GGUF - файнтюн Qwen3.8-27B для скорости: +12.8% tok/s, MTP принятие 80.7%, меньше разгоняющегося мышления

huggingface.co/XHToken/Spark-X2.5-4B-GGUF - Spark-X2.5 от iFlytek: 4B, гибридное внимание, до 1M контекста, 200+ языков. BF16 GGUF

#gguf #multimodal #agent #nvfp4 #uncensored

VK | MAX

DeepSeek-V4-Pro-0813-nvfp4-DSpark

NVIDIA выпустила NVFP4-квант DeepSeek-V4-Pro со спекулятивным декодингом DSpark

Сжали DeepSeek-V4-Pro-0813 (1.65T MoE, 49B активных) в NVFP4 и добавили DSpark. Разница с предыдущим NVFP4-релизом: теперь и draft-голова DeepSeek тоже переведена в NVFP4 (была MXFP4), так что один файл работает и как таргет, и как черновик

#dspark #nvfp4

VK | MAX