🚀 Seed-OSS-36B-Instruct от ByteDance — новая открытая модель с контролем глубины мышления

36B параметров с GQA attention
Контекст 512K токенов
Совместимость с vLLM и Transformers

Бенчмарки — SOTA среди открытых моделей:

MMLU: 90.6% (vs 78.6% у Gemma3-27B)
LiveCodeBench: 66.8%
SWE-Bench Verified: 48.4%
AIME 2024: 90.3%
ArcAGI V2 - 50.3%
SimpleQA 23.7%
Agent: SWE-Bench Verified
(OpenHands) 41.8%

Про thinking budget:
- Задается через лимит токенов на размышления (512, 1K, 2K, 4K, 8K, 16K)
- Модель периодически отчитывается о потраченных/оставшихся ресурсах
- При исчерпании бюджета выдает финальный ответ
- Budget = 0 → прямой ответ без раздумий

Требует ~77GB VRAM (FP16), но thinking budget позволяет оптимизировать затраты — простые задачи решает быстро, сложные получают необходимое время на размышления.

Есть GGUF вариант под  LM Studio и Ollama в Q4 - 20 гигов
Q8 - 38.5 Gb

Apache 2.0 лицензия - можно использовать в коммерции.

HF: https://huggingface.co/ByteDance-Seed/Seed-OSS-36B-Instruct

#SeedOSS #ByteDance #OpenSource #Китай
———
@tsingular