Накопилось по #minimaxH3 - часть 29
#VAE
huggingface.co/Kijai/MiniMax-H3-experimental/blob/main/minimax_h3_lynnreal_light_vae_int8_convrot.safetensors - облегченный VAE int8 от Kijai
huggingface.co/speach1sdef178/MiniMax-H3-X2-Detail-VAE - х2-VAE с доп. деталями. Обычный латент сверх бутылочного горлышка деталей не содержит, поэтому режим Detailed для I2V берет ранние фичи энкодера исходника. Модель + нода + воркфлоу
huggingface.co/corechan/MiniMax-H3-LightVAE - легкий VAE для H3
#LoRA
huggingface.co/pablodawson/MiniMax-H3-360-Orbit-LoRA - облет для FL2VA: одинаковые первый/последний кадр, камера облетает застывшую сцену по кругу, клип зацикливается. Нужен спец-промпт. Проверен и на 8GB VRAM (4070, 736×576, ~7 мин)
huggingface.co/Kijai/MiniMax-H3-experimental/tree/main/loras - ELM longlive plug 4-step LoRA от Kijai: сжатие генерации до 4 шагов с минимальной потерей качества
huggingface.co/neph1/1980s_scifi_movies_minimax_h3 - LoRA sci-fi 80-х, киберпанковский край жанра. Без триггера
huggingface.co/JOKER141/MiniMax-H3-General-Motion-Continuity-Repair - починка непрерывности движения
huggingface.co/JOYUNGI/nwpxstyle-h3-lora - Nwpxstyle: теплый пиксель-арт-аниме с жирным контуром и дизерингом. Тренировались на статике, стиль переносится на видео, годится под ретро-катсцены #pixelart
huggingface.co/moe-kill/H3-Turbo-Neat - мерж пяти турбо LoRAs в одну 1Gb на 4 шага: четкие детали и свежий легкий вид
github.com/tsukino4a/h3-image-edit - skill.md для LLM: H3-иллюстрации — смена черт, костюма, мелкие правки #skill
huggingface.co/Alissonerdx/Minimax-H3-ComfyUI/tree/main/loras - #HeadSwap : замена головы, очень хорошо захватывает волосы
#workflow #comfyui
github.com/shootthesound/ComfyUI-Fizgig-H3-Still - Fizgig H3-Still: ноды и воркфлоу для генерации одиночной картинки — рендерится сильно быстрее старого 5-кадрового обхода, можно крутить мегапиксели #t2i #i2i
Говорят, H3 отлично генерит картинки youtu.be/A53fIhsyTm8
civitai.red/posts/31291351 - MiniMax H3 REF + Fizgig как Ref2Img/Img2Img: 4096×1536 за минуту (18 шагов, 5060 Ti 16Gb). Понимание пространства и стилей по референсу, быстрее Qwen 2.1 на 2+ референсах
github.com/BiggerFishy/comfyui-minimax-h3-studio - простой #characterswap : SAM3 выделяет объект, инверсия цвета в области помогает замене. Сохранение персонажей с описанием
civitai.com/models/2973199/minimax-h3-faceswap-with-spectrum-and-sparse-attention - #faceswap + Spectrum и sparse attention
github.com/TheBeast-Spec/minimax-h3-comfyui-demo-pack - body-swap: поза из исходного видео, руки источника сохраняются (жест, тон кожи), руки не перегенерируются
#prompting
github.com/fadetofunk/MiniRef - MiniRef 1.3: форменный помощник Ref2VA-промптов, Windows .NET 9. Персонаж сохраняется в .mrpod
github.com/AIMixer/ComfyUI_MiniMaxH3_Director - Director получил ноду Face Refine с поддержкой Semantic Bridge
github.com/Adudeguyman/ComfyUI-Fantastic-MiniMaxH3-PromptBuilder - обновление: #RefMods точнее и меньше утечки личности
github.com/ssm82/cinematic-video-prompt-h3-plugin - плагин-агент по стандарту Agent Plugins v1 (Microsoft/Google): словарь 700+ кинематографических терминов → H3-промпт
модели
huggingface.co/hoidhxd/MiniMax-H3-x-Z-Image-hybrid - гибрид 22Gb: Z-Image → FL2VA → Ref2VA, богатые текстуры и заметно лучший звук. Работает на 3060 12Gb, сэмплер стартует ~70 сек, дальше обычная скорость (Turbo+Kitchen+Spectrum, 6–8 шагов)
huggingface.co/QuantFunc/Minimax-H3-Quantfunc-4bit - 4-bit квант H3: 23.7 dB PSNR, SM75+, загрузка через ComfyUI-QuantFunc. FL2VA (4 шага) и Ref2VA (8 шагов)
#VAE
huggingface.co/Kijai/MiniMax-H3-experimental/blob/main/minimax_h3_lynnreal_light_vae_int8_convrot.safetensors - облегченный VAE int8 от Kijai
huggingface.co/speach1sdef178/MiniMax-H3-X2-Detail-VAE - х2-VAE с доп. деталями. Обычный латент сверх бутылочного горлышка деталей не содержит, поэтому режим Detailed для I2V берет ранние фичи энкодера исходника. Модель + нода + воркфлоу
huggingface.co/corechan/MiniMax-H3-LightVAE - легкий VAE для H3
#LoRA
huggingface.co/pablodawson/MiniMax-H3-360-Orbit-LoRA - облет для FL2VA: одинаковые первый/последний кадр, камера облетает застывшую сцену по кругу, клип зацикливается. Нужен спец-промпт. Проверен и на 8GB VRAM (4070, 736×576, ~7 мин)
huggingface.co/Kijai/MiniMax-H3-experimental/tree/main/loras - ELM longlive plug 4-step LoRA от Kijai: сжатие генерации до 4 шагов с минимальной потерей качества
huggingface.co/neph1/1980s_scifi_movies_minimax_h3 - LoRA sci-fi 80-х, киберпанковский край жанра. Без триггера
huggingface.co/JOKER141/MiniMax-H3-General-Motion-Continuity-Repair - починка непрерывности движения
huggingface.co/JOYUNGI/nwpxstyle-h3-lora - Nwpxstyle: теплый пиксель-арт-аниме с жирным контуром и дизерингом. Тренировались на статике, стиль переносится на видео, годится под ретро-катсцены #pixelart
huggingface.co/moe-kill/H3-Turbo-Neat - мерж пяти турбо LoRAs в одну 1Gb на 4 шага: четкие детали и свежий легкий вид
github.com/tsukino4a/h3-image-edit - skill.md для LLM: H3-иллюстрации — смена черт, костюма, мелкие правки #skill
huggingface.co/Alissonerdx/Minimax-H3-ComfyUI/tree/main/loras - #HeadSwap : замена головы, очень хорошо захватывает волосы
#workflow #comfyui
github.com/shootthesound/ComfyUI-Fizgig-H3-Still - Fizgig H3-Still: ноды и воркфлоу для генерации одиночной картинки — рендерится сильно быстрее старого 5-кадрового обхода, можно крутить мегапиксели #t2i #i2i
Говорят, H3 отлично генерит картинки youtu.be/A53fIhsyTm8
civitai.red/posts/31291351 - MiniMax H3 REF + Fizgig как Ref2Img/Img2Img: 4096×1536 за минуту (18 шагов, 5060 Ti 16Gb). Понимание пространства и стилей по референсу, быстрее Qwen 2.1 на 2+ референсах
github.com/BiggerFishy/comfyui-minimax-h3-studio - простой #characterswap : SAM3 выделяет объект, инверсия цвета в области помогает замене. Сохранение персонажей с описанием
civitai.com/models/2973199/minimax-h3-faceswap-with-spectrum-and-sparse-attention - #faceswap + Spectrum и sparse attention
github.com/TheBeast-Spec/minimax-h3-comfyui-demo-pack - body-swap: поза из исходного видео, руки источника сохраняются (жест, тон кожи), руки не перегенерируются
#prompting
github.com/fadetofunk/MiniRef - MiniRef 1.3: форменный помощник Ref2VA-промптов, Windows .NET 9. Персонаж сохраняется в .mrpod
github.com/AIMixer/ComfyUI_MiniMaxH3_Director - Director получил ноду Face Refine с поддержкой Semantic Bridge
github.com/Adudeguyman/ComfyUI-Fantastic-MiniMaxH3-PromptBuilder - обновление: #RefMods точнее и меньше утечки личности
github.com/ssm82/cinematic-video-prompt-h3-plugin - плагин-агент по стандарту Agent Plugins v1 (Microsoft/Google): словарь 700+ кинематографических терминов → H3-промпт
модели
huggingface.co/hoidhxd/MiniMax-H3-x-Z-Image-hybrid - гибрид 22Gb: Z-Image → FL2VA → Ref2VA, богатые текстуры и заметно лучший звук. Работает на 3060 12Gb, сэмплер стартует ~70 сек, дальше обычная скорость (Turbo+Kitchen+Spectrum, 6–8 шагов)
huggingface.co/QuantFunc/Minimax-H3-Quantfunc-4bit - 4-bit квант H3: 23.7 dB PSNR, SM75+, загрузка через ComfyUI-QuantFunc. FL2VA (4 шага) и Ref2VA (8 шагов)
🔥16👍4❤2
Claude Mods
Вышли из беты
Это плагины для Claude Code на JavaScript/TypeScript, которые меняют его интерфейс и поведение. Работают внутри процесса Claude
• Дорисовка UI — панели, ленты, кнопки, текстовые поля
• Перехват и изменение вызовов инструментов
• Реакция на события в реалтайме — промпты, тулколлы, отрисовка
• Правка интерфейса самого Claude: строки тулколлов, спиннера, диалогов
• Свои команды /command, запускаемые без хода Claude
• Обмен данными между хуками — один считает, другой показывает
Примеры от Anthropic
• blast-radius — задерживает опасные команды вроде rm -rf и показывает, что они изменят
• token-weather — рисует прогноз заполнения контекста над промптом
• replay-theater — /replay, пошагово проигрывает правки Claude
github.com/anthropics/claude-code-playground
#plugin
MAX
Вышли из беты
Это плагины для Claude Code на JavaScript/TypeScript, которые меняют его интерфейс и поведение. Работают внутри процесса Claude
• Дорисовка UI — панели, ленты, кнопки, текстовые поля
• Перехват и изменение вызовов инструментов
• Реакция на события в реалтайме — промпты, тулколлы, отрисовка
• Правка интерфейса самого Claude: строки тулколлов, спиннера, диалогов
• Свои команды /command, запускаемые без хода Claude
• Обмен данными между хуками — один считает, другой показывает
Примеры от Anthropic
• blast-radius — задерживает опасные команды вроде rm -rf и показывает, что они изменят
• token-weather — рисует прогноз заполнения контекста над промптом
• replay-theater — /replay, пошагово проигрывает правки Claude
github.com/anthropics/claude-code-playground
#plugin
MAX
Claude Code Docs
Mods overview - Claude Code Docs
Add panes, commands, and tool call rules to Claude Code with a mod. See what a mod can do, how to make or install one, and where mods run.
❤2👍2
OmniChar
Файл персонализации наподобие #Refmods для видео и картинкогенераторов
Формат .char - пакет лица, тела и одежды персонажа записываются в файл
• Лицо, тело и одежда держатся от генерации к генерации
• Управление по имени — «Вася на пляже» вместо списка референсов
• До 9 референсов лицо-одежда-тело (2:2:1)
• Картинки на Flux #Klein, видео на #MinimaxH3
• Персонаж кочует между проектами коротким промптом
• Голос в работе — клонируется в .char вместе с внешностью
Для чего
• Один герой в разных сценах, позах и стилях
• Фотосессия
• Сториборд и анимация
• Виртуальная примерка
Сравнение с RefMods
OmniChar шире: работа с картинками и видео, до 9 референсов, плюс голос. RefMods проще: файл ~1.5 МБ и чисто видео Minimax H3.
• 24 ГБ+ VRAM и 64 ГБ RAM
• есть комьюнити-библиотека .char
omnichar.org/workflows
Уже поставили на коммерческие рельсы
#personalization
Файл персонализации наподобие #Refmods для видео и картинкогенераторов
Формат .char - пакет лица, тела и одежды персонажа записываются в файл
• Лицо, тело и одежда держатся от генерации к генерации
• Управление по имени — «Вася на пляже» вместо списка референсов
• До 9 референсов лицо-одежда-тело (2:2:1)
• Картинки на Flux #Klein, видео на #MinimaxH3
• Персонаж кочует между проектами коротким промптом
• Голос в работе — клонируется в .char вместе с внешностью
Для чего
• Один герой в разных сценах, позах и стилях
• Фотосессия
• Сториборд и анимация
• Виртуальная примерка
Сравнение с RefMods
OmniChar шире: работа с картинками и видео, до 9 референсов, плюс голос. RefMods проще: файл ~1.5 МБ и чисто видео Minimax H3.
• 24 ГБ+ VRAM и 64 ГБ RAM
• есть комьюнити-библиотека .char
omnichar.org/workflows
Уже поставили на коммерческие рельсы
#personalization
🔥6🤯3👍2
Media is too big
VIEW IN TELEGRAM
World Observer
Проблема видеомиров — объект при возврате теряется, замирает или превращается в «импостора». Решение — разделить наблюдение и действие
Метод от KAIST для видеомиров: когда объект уходит из кадра «актера», панорамные обсерверы продолжают за ним следить, и при возврате объект сохраняет состояние и динамику.
• Актер-вид генерируется вместе с панорамными обсерверами (наблюдателями)
• Объекты, ушедшие из кадра, продолжают эволюционировать в обсервере
• Обсерверы ставятся где хочешь — не привязаны к актёру
• Несколько обсерверов для полного покрытия сцены
• Раздельный промпт у обсервера — текст рулит событиями за кадром
• При возврате объекта восстанавливается его детальный вид
• Обсервер рендерится в гибком разрешении и с низкими требованиями
• Обучение на реальных панорамах + синтетика CARLA
• Работает на видео-DiT в одной токен-последовательности
Код ждем
#world #research
Проблема видеомиров — объект при возврате теряется, замирает или превращается в «импостора». Решение — разделить наблюдение и действие
Метод от KAIST для видеомиров: когда объект уходит из кадра «актера», панорамные обсерверы продолжают за ним следить, и при возврате объект сохраняет состояние и динамику.
• Актер-вид генерируется вместе с панорамными обсерверами (наблюдателями)
• Объекты, ушедшие из кадра, продолжают эволюционировать в обсервере
• Обсерверы ставятся где хочешь — не привязаны к актёру
• Несколько обсерверов для полного покрытия сцены
• Раздельный промпт у обсервера — текст рулит событиями за кадром
• При возврате объекта восстанавливается его детальный вид
• Обсервер рендерится в гибком разрешении и с низкими требованиями
• Обучение на реальных панорамах + синтетика CARLA
• Работает на видео-DiT в одной токен-последовательности
Код ждем
#world #research
👍3
This media is not supported in your browser
VIEW IN TELEGRAM
DMAD
Ускорение генерации картинок и видео
Метод дистилляции от ByteDance: студент-модель учится выдавать результат за 4 шага вместо 50, почти не теряя в качестве.
• Картинки и видео за 4 шага
• Видео с аудио на MiniMax-H3-33B
• Работает на SDXL, Wan2.1, EDM
• FID 1.04 на ImageNet-64 за один проход
В слепых тестах люди чаще предпочитают результат, чем у DMD2 и rCM
Гитхаб
HF
Демо
Спасибо @m_franz
#optimization #minimaxh3
MAX
Ускорение генерации картинок и видео
Метод дистилляции от ByteDance: студент-модель учится выдавать результат за 4 шага вместо 50, почти не теряя в качестве.
• Картинки и видео за 4 шага
• Видео с аудио на MiniMax-H3-33B
• Работает на SDXL, Wan2.1, EDM
• FID 1.04 на ImageNet-64 за один проход
В слепых тестах люди чаще предпочитают результат, чем у DMD2 и rCM
Гитхаб
HF
Демо
Спасибо @m_franz
#optimization #minimaxh3
MAX
👍15
This media is not supported in your browser
VIEW IN TELEGRAM
Fish Audio Drama 3
Новая превью-модель от Fish Audio для речи и озвучки. Вместо жестких аудиотегов интонация, темп и характер персонажа описываются обычным текстом.
• Перегенерация одного слова или фразы в готовой дорожке
• Смена голоса прямо посреди предложения
• Диалоги нескольких героев за один проход
• Работает на русском
Технически
• Голос по id модели или zero-shot клонирование по референсам
• Диалоги через теги <|speaker:0|>, <|speaker:1|>
• Форматы: WAV/MP3/Opus, до 48 kHz
Мульти-спикер-диалоги есть и в S2-семействе, не только в Drama 3
#tts #russian
MAX
Новая превью-модель от Fish Audio для речи и озвучки. Вместо жестких аудиотегов интонация, темп и характер персонажа описываются обычным текстом.
• Перегенерация одного слова или фразы в готовой дорожке
• Смена голоса прямо посреди предложения
• Диалоги нескольких героев за один проход
• Работает на русском
Технически
• Голос по id модели или zero-shot клонирование по референсам
• Диалоги через теги <|speaker:0|>, <|speaker:1|>
• Форматы: WAV/MP3/Opus, до 48 kHz
Мульти-спикер-диалоги есть и в S2-семействе, не только в Drama 3
#tts #russian
MAX
👍16❤1
Пыточная для LLM
На GitHub появился инструмент ai-torture-chamber — по мотивам пейпера про вектор боли. Инструмент воздействует на оный вектор и собирает логи модели в таком эксперименте на локальной Qwen. Чувствует ли она что-то на самом деле — никто не знает, даже авторы статьи.
Реакция оказалась бурной. Часть борцов за благополучие ИИ призывает массово репортить проект в GitHub. В обсуждениях дошли до законов о жестоком обращении с животными. Правда, выяснилось, что нейронки под них пока не подпадают. По реплаям судя, жалобы на репозиторий уже летят
#яниначтоненамекаю #news
MAX
На GitHub появился инструмент ai-torture-chamber — по мотивам пейпера про вектор боли. Инструмент воздействует на оный вектор и собирает логи модели в таком эксперименте на локальной Qwen. Чувствует ли она что-то на самом деле — никто не знает, даже авторы статьи.
Реакция оказалась бурной. Часть борцов за благополучие ИИ призывает массово репортить проект в GitHub. В обсуждениях дошли до законов о жестоком обращении с животными. Правда, выяснилось, что нейронки под них пока не подпадают. По реплаям судя, жалобы на репозиторий уже летят
#яниначтоненамекаю #news
MAX
🌚6😁3👍1😭1
Lightricks как и обещали продолжают выкладывать лоры для #LTX25
Layout To Render
Берет grey-clay вьюпорт или blocky playblast из Blender/Unreal с движением камеры и превращает в готовый кадр. Нужно задать первый кадр как арт-дирекшн
SDR To HDR
Конвертит 8-бит SDR-видео в 16-бит HDR: разворачивает урезанный из-за грейда динамический диапазон. Пишет #EXR последовательность в ACEScg
Alpha Gen
Генерирует alpha-маску для обычного RGB-видео. Выход совпадает с исходником кадр в кадр для композитинга.
rank 128, ставятся через ComfyUI-LTXVideo. У Alpha Gen лимит 145 кадров и 1920p. SDR To HDR не требует промпта
не сдаются минимаксу без боя
#lora #sdr2hdr #hdr #layout2video #video2matte
MAX
Layout To Render
Берет grey-clay вьюпорт или blocky playblast из Blender/Unreal с движением камеры и превращает в готовый кадр. Нужно задать первый кадр как арт-дирекшн
SDR To HDR
Конвертит 8-бит SDR-видео в 16-бит HDR: разворачивает урезанный из-за грейда динамический диапазон. Пишет #EXR последовательность в ACEScg
Alpha Gen
Генерирует alpha-маску для обычного RGB-видео. Выход совпадает с исходником кадр в кадр для композитинга.
rank 128, ставятся через ComfyUI-LTXVideo. У Alpha Gen лимит 145 кадров и 1920p. SDR To HDR не требует промпта
не сдаются минимаксу без боя
#lora #sdr2hdr #hdr #layout2video #video2matte
MAX
🔥12👍2❤1
Channel Agent
TD;DR Телеграм-бот для управления каналом. Пишет и правит посты, собирает картинки, ведет контент-план и подбирает стратегию по статистике.
Как вы могли заметить, новые ИИ-инструменты плодятся лавинообразно, и мне приходится уже объединять их в дайджесты. А ведь у меня есть еще основная работа😑
Разумеется, я приспосабливаю каких-то асситентов помогать, Но именно помогать, а не вести канал на полном автомате.
Недавно потестил этого бота, несколько дней посты помогал писать он
Итак, что умеет Channel Agent
• Посты на любую тему, по расписанию или к дате
• Правка черновика словами: сократить, сменить тон, перевести
• Подбор картинок, замена кадра, сборка альбома
• Контент-план: составить, править по пунктам, переносить даты
• Пост по ссылке, файлу или фото без выдумок
• Запомнить факты и правила канала, вести запретные темы
• Разбор канала: что заходит, что развивать, стратегия
• Понимает голосовые
Разрабы постоянно допиливают продукт и добавляют новые возможности. Что-то починили буквально за пару дней по моей жалобе. Обещают сделать сбор новостей с заданных источников. То что это еще не работает - пожалуй для меня единственная причина не продлить подписку, все остальное весьма хорошо.
Всем админам, пишущим посты хотя бы раз в день рекомендую, держите промокод скидки на первый месяц:
1790 ₽ вместо 2490
@Channel_Agent_bot
#bot #assistant
TD;DR Телеграм-бот для управления каналом. Пишет и правит посты, собирает картинки, ведет контент-план и подбирает стратегию по статистике.
Как вы могли заметить, новые ИИ-инструменты плодятся лавинообразно, и мне приходится уже объединять их в дайджесты. А ведь у меня есть еще основная работа
Разумеется, я приспосабливаю каких-то асситентов помогать, Но именно помогать, а не вести канал на полном автомате.
Недавно потестил этого бота, несколько дней посты помогал писать он
Итак, что умеет Channel Agent
• Посты на любую тему, по расписанию или к дате
• Правка черновика словами: сократить, сменить тон, перевести
• Подбор картинок, замена кадра, сборка альбома
• Контент-план: составить, править по пунктам, переносить даты
• Пост по ссылке, файлу или фото без выдумок
• Запомнить факты и правила канала, вести запретные темы
• Разбор канала: что заходит, что развивать, стратегия
• Понимает голосовые
Разрабы постоянно допиливают продукт и добавляют новые возможности. Что-то починили буквально за пару дней по моей жалобе. Обещают сделать сбор новостей с заданных источников. То что это еще не работает - пожалуй для меня единственная причина не продлить подписку, все остальное весьма хорошо.
Всем админам, пишущим посты хотя бы раз в день рекомендую, держите промокод скидки на первый месяц:
NEURONAUT1790 ₽ вместо 2490
@Channel_Agent_bot
#bot #assistant
Please open Telegram to view this post
VIEW IN TELEGRAM
👎7👍3❤1😁1
LEGO-Anything
Фреймворк из AWS: превращает одно фото в редактируемую 3D-сцену. Кодинг-агент пишет и исполняет код Blender, смотрит рендеры и правит программу, пока не соберёт сцену.
• Из одной картинки собирает редактируемую 3D-сцену
• Результат — не картинка и не фикс-модель, а явная сцена-программа
• Сцену можно смотреть, править и опрашивать
• Агент итеративно пишет Blender-код, проверяет рендеры и пересматривает
Состав
• LEGO-Bench — бенчмарк
• LEGO-Plugin — интеграция
• LEGO-World — сборка миров
Код ждем
#imageto3d #image2scene
MAX
Фреймворк из AWS: превращает одно фото в редактируемую 3D-сцену. Кодинг-агент пишет и исполняет код Blender, смотрит рендеры и правит программу, пока не соберёт сцену.
• Из одной картинки собирает редактируемую 3D-сцену
• Результат — не картинка и не фикс-модель, а явная сцена-программа
• Сцену можно смотреть, править и опрашивать
• Агент итеративно пишет Blender-код, проверяет рендеры и пересматривает
Состав
• LEGO-Bench — бенчмарк
• LEGO-Plugin — интеграция
• LEGO-World — сборка миров
Код ждем
#imageto3d #image2scene
MAX
❤12👍4😱1
This media is not supported in your browser
VIEW IN TELEGRAM
Decision 2.0
Семейство открытых decision-моделей от vLLM Semantic Router. Не генерируют текст, а отвечают на вопросы с вариантами ответа, да/нет или по шкале — сразу вероятностью для каждого варианта, одним проходом.
• Ответ на вопросы выбора, да/нет и по шкале за один проход
• Вероятность для каждого варианта вместо генерации текста
• Вход — текст или JSON
• Режим роутинга запросов: какой команде отдать тикет, есть ли чек, насколько срочно
• 6 размеров: от 0.6B до 27B (Vega-27B, Lux-9B, Nox-4B, Sol-2B, Eos-0.8B, Kai-0.6B)
• Контекст 32,768 токенов
• Медиана 71.4 мс на вопрос на одной GPU
Vega-27B — лучший в семействе, топ-скоор JevArena для своего размера (74.0)
github.com/vllm-project/semantic-router
Спасибо @m_franz
#decision #rlcd
MAX
Семейство открытых decision-моделей от vLLM Semantic Router. Не генерируют текст, а отвечают на вопросы с вариантами ответа, да/нет или по шкале — сразу вероятностью для каждого варианта, одним проходом.
• Ответ на вопросы выбора, да/нет и по шкале за один проход
• Вероятность для каждого варианта вместо генерации текста
• Вход — текст или JSON
• Режим роутинга запросов: какой команде отдать тикет, есть ли чек, насколько срочно
• 6 размеров: от 0.6B до 27B (Vega-27B, Lux-9B, Nox-4B, Sol-2B, Eos-0.8B, Kai-0.6B)
• Контекст 32,768 токенов
• Медиана 71.4 мс на вопрос на одной GPU
Vega-27B — лучший в семействе, топ-скоор JevArena для своего размера (74.0)
github.com/vllm-project/semantic-router
Спасибо @m_franz
#decision #rlcd
MAX
👍8