Marco-MoE

Семейство #MoE моделей от Alibaba

8B параметров, 0.6И активных

29 языков, русский есть

HF
GGUF

#llm #assistant #russian

Nucleus Image

Генератор картинок по тексту на #MoE
Активирует только 2B из 17B параметров
Выбирает «экспертов» из 64 специализированных и одного общего

Основная особенность - обучен на огромном наборе данных, что должно положительно сказаться на качестве генераций

На DPG-Bench обошли Qwen-Image и какие-то еще нетоповые модели

Гитхаб - тут будет код обучения
HF - тут есть код инференса
MLX порт модели

#text2image #macos

MACE‑Dance (Alibaba, SIGGRAPH 2026)

Генерация танцевальных видео из музыки на #MoE архитектуре. Видео не выложили

Motion Expert (на базе BiMamba‑Transformer) - генерирует 3D‑движения по музыке: BiMamba обрабатываетлокальные зависимости, Transformer обеспечивает кросс-модальный контекст

Appearance Expert (на базе Wan‑Animate) - синтезирует видео, сохраняя визуальную идентичность и постранственно‑временную согласованность.

Гитхаб
HF

#characteranimation #music2animation

LFM2.5-8B-A1B

Компактная #MoE модель от Liquid AI для ноутбуков и смартфонов - апгрейд линейки LFM2ю Самая быстрая в своем размерном классе

Что нового:
• контекстное окно расширено с 32 до 128 тысяч токенов
• объём предобучения увеличен с 12 до 38 трлн токенов + добавлено крупномасштабное RL
• словарь токенизатора удвоен (с 65,5 до 128 тыс. единиц) - лучше обрабатывает нелатинские письменности (для русского +6 %)
• высокая скорость инференса: до 253 токенов/сек на Apple M5 Max (в 6 ГБ памяти), ~30 токенов/сек на смартфоне
• сопоставима с более крупными моделями (например, Gemma‑4‑26B) по следование инструкциям и агентным сценариям при меньшем числе активных параметров (1B)
• поддержка llama.cpp, MLX, vLLM, SGLang, ONNX Runtime
• 8B параметров, 1B активны

лицензия LFM Open License

HF
Плейграунд

#mobile #compact

North-Mini-Code-1.0-w4a16

Квантованная версия (4-бит вес, 16-бит активации) первой модели Cohere для разработчиков: управление подзадачами, анализ архитектуры, code review.

* Архитектура: Sparse MoE на базе Transformer. 30B параметров всего, 3И активно. Высокая скорость, низкие требования к GPU.
* Контекстное окно: 256K токенов для анализа репозиториев целиком.
* Максимальный вывод: до 64K токенов.
* Поддержка: нативные инструменты, чередующееся рассуждение (interleaved reasoning) через JSON-схему.
* Обучение: платформы SWE-Agent, mini-SWE-agent, OpenCode, Terminus 2 для устойчивости в реальных средах.

Сценарии использования:
* генерация кода и тестов
* рефакторинг legacy-кода
* автоматизированный code review в CI/CD
* локальный AI-ассистент для приватности
* создание агентных пайплайнов для аудита безопасности и unit-тестов

#MoE #reasoning #coding

Agents-A1

35B #MoE агент, тянет уровень триллионника без раздувания параметров. Решает задачу кросс-доменной координации через дистилляцию.

• масштабирует горизонт агента, а не параметры
• контекст 256К
• объединяет 6 разнородных доменов
• использует 45K-токенные траектории
• мультиучительская дистилляция

Работает на компактной архитектуре, показывает топовые метрики в сложных средах.

Гитхаб
HF

#agent

GigaChat3.1-Audio-10B-A1.8B

Аудио LLM для работы с длинными записями (2 часа)

* Распознавание речи (ASR) - переводит аудио в текст
* Перевод - упомянуты русский и английский
* Ответы на вопросы по аудио (QA)
* Распознавание эмоций
* Временная привязка (temporal grounding). находит в какой части аудио происходит то или иное событие. заявлено 48.3 mIoU на задачах для записей до 2 часов

• 10B #MoE декодер, активно 1.8B параметров
• энкодер GigaAM

Демо

#alm #qa #asr #stt #translation #russian

Ling-3.0-flash

Агентная #MoE-модель от InclusionAI. программирование, поиск, исследования, работа с инструментами

• 124B параметров, 5,1B активных на токен
• контекст до 256 тыс. токенов, расширение до 1 млн
• API совместим с OpenAI

• по отзывам сопоставима с моделями на 1 трлн параметров

бесплатный доступ на OpenRouter до 3 августа 2026
на Kilo - ограниченное время

Спасибо @Endorpheen

#coding #agent

Nemotron 3.5 Lightning

модель для ИИ-агентов от NVIDIA, держит постоянную нагрузку, быстро выдает ответы

• до 4x быстрее аналогов
• точность 86% в PinchBench
• дообучение на своих данных и инструментах
• запуск на DGX Spark

• #MOE 30B / 3B активных
• выполнение 10 000 задач на 35% быстрее Qwen3.6 35B

В комплекте есть NeMo Switchyard - распределяет этапы работы между моделями

есть DSpark NVFP4 чекпоинт - ускоренный инференс на 60–85% за счёт спекулятивного декодирования

HF - зоопарк
Плейграунд попробовать

#agent

FreeToken

Инференс-система для MoE-моделей на домашнем железе

- Запуск моделей локально от 35B на ноутбуке до 284B на игровом ПК и 753B GLM-5.2 на одной рабочей станции

- Без фиксированной схемы выгрузки: динамически распределяет вычисления между CPU и GPU под то, что реально свободно

- Поддержка агентных сценариев: переиспользование состояния между вызовами, адаптация под меняющийся паттерн нагрузки

- Оптимизация всего стека от раскладки модели на диске до runtime-управления памятью

- 20+ моделей, включая Qwen, DeepSeek, GLM, Mixtral и др. MoE-архитектур
- От 8 GB VRAM (ноутбук) до одной workstation GPU
- Открытый исходный код

- Авторы из FlashML при Berkeley — сплошь звёздные имена (Song Han, Matei Zaharia, Ion Stoica, Kurt Keutzer)

- Windows, Linux, macOS

Гитхаб

#lowvram #desktop #moe

VK | MAX