ThinkingCap-Qwen3.6-27B

Файнтюн Qwen3.6-27B с экономией токенов

• расход токенов меньше на 50–90%
• сохраняет цепочки рассуждений из диалога
• обрабатывает текст, изображения, видео
• контекст до 256К

NVFP4
INT4 / W4A16
GGUF

#multimodal #gguf #NVFP4 #int4 #w4a16

Muse Glimmer

30B опенсорсная агентная модель от Meta Superintelligence Labs. Дистиллят Muse Spark, заточен под локальных AI-агентов. Работает на компе с одной видеокартой, без облака. Apache 2.0.

• End-to-end агентные задачи: SWE-Bench, DeepSearch QA, MCP-Atlas, τ-Bench
• Надёжный вызов инструментов и функций по схемам в многошаговых сценариях
• Мультимодальный вход - текст + картинки (скриншоты, графики, документы)
• Failure recovery - сама перезапускает упавшие тулзы вместо зависания
• Контролируемое усилие рассуждения - low / medium / high / xhigh
• 100+ языков

Параметры
• 29.6B, контекст 131K+ токенов
• 4-битное квантование - модель сжата до ~17 ГБ, влезает в 24 ГБ VRAM
• DFlash speculative decoding - ускорение ×3.1 на RTX 5090, ×1.8 на M5 Max
• ViT-G/14 энкодер (~1.8B), до 4096 визуальных токенов на картинку

Обещают интеграции с llama.cpp, MLX, ExecuTorch, Ollama, LM Studio, vLLM.

HF
квантизации
Демо

Спасибо @m_franz

#agent #local #gguf #int4