💵 Tool calling для GigaChat 3.1 в open-source инструментах

Вместе с релизом GigaChat 3.1 Ultra и Lightning мы добавили поддержку tool calling в основные опенсорсные инференс-движки:

— vLLM (>=0.18.2rc0)
— SGLang (>=0.5.9)
— llama.cpp (>=b8457)

Для vLLM и SGLang достаточно поднять сервер с --tool-call-parser gigachat3 — после этого работает стандартный /v1/chat/completions с описанием tools. В llama.cpp tool calling поддерживается нативно, без дополнительных аргументов.

vLLM

vllm serve ai-sage/GigaChat3.1-10B-A1.8B \
  --port 8000 --dtype auto \
  --enable-auto-tool-choice \
  --tool-call-parser gigachat3

SGLang

python -m sglang.launch_server \
  --model-path ai-sage/GigaChat3.1-10B-A1.8B \
  --host 0.0.0.0 --port 8000 --dtype auto \
  --tool-call-parser gigachat3

llama.cpp
Поднимаете сервер с моделью — и всё работает. Пример сборки и запуска — в карточке модели на HuggingFace.

После запуска сценарий одинаковый для всех движков: передаёте tools в стандартный /v1/chat/completions.

💡 LM Studio — нативный tool calling не поддерживается. LM Studio ожидает два отдельных спецтокена — начала и конца вызова функции. У GigaChat 3.1 архитектура чат-шаблона устроена иначе: для разметки tool call используется один и тот же токен, поэтому нативно его подключить в LM Studio нельзя. Вместо этого используется вариант использования через system prompt, что влияет на качество.

➡️ Модель: HuggingFace | GGUF

⚡️ Z ai выпустила GLM-5.1.

Китайская лаборатория релизнула GLM-5.1 - флагманскую MoE-модель с 754B параметров нового поколения, ориентированную на агентную инженерию.

Фокус релиза - на кодинг и долгие агентные сессии.

🟡Тесты

🟢На SWE-Bench Pro модель берет 58,4, обходя Claude Opus 4.6 (57,3), GPT-5.4 (57,7) и Gemini 3.1 Pro (54,2).

🟢На Terminal-Bench 2.0 результат 63,5, а в связке с Claude Code - 66,5.

🟢В CyberGym GLM-5.1 выбивает 68,7 против 48,3 у предыдущей GLM-5

🟢В BrowseComp - 68,0 без внешнего менеджера контекста.

🟠На бенчмарках HLE, AIME 2026 и GPQA-Diamond модель держится на уровне конкурентов, но не лидирует: здесь впереди Gemini 3.1 Pro и GPT-5.4.

GLM-5.1 построена так, чтобы оставаться продуктивной на длинной дистанции: декомпозировать задачу, запускать эксперименты, читать результаты, находить блокеры и пересматривать стратегию.

Z ai утверждает, что модель устойчиво оптимизирует решение на протяжении сотен итераций и тысяч вызовов инструментов, то есть результат тем заметнее, чем дольше она запускают.

API доступен на платформе Z ai, веб-версия на chat.z.ai обещана в ближайшие дни. Веса опубликованы на Hugging Face под лицензией MIT.

Для локального развертывания уже готовы сборки под SGLang 0.5.10+, vLLM 0.19.0+, xLLM, KTransformers и свежую ветку Transformers.

@ai_machinelearning_big_data

#news #ai #ml

OpenClaw 2026.4.7 — что нового

Главное

openclaw infer — единая точка входа для вывода моделей.
Текст, медиа, поиск, эмбеддинги — всё через одну команду. По сути, унифицированный интерфейс к любому подключённому провайдеру прямо из терминала.

Memory/Wiki — возвращение структурированной памяти.
Полноценный стек: утверждения с доказательствами, компилированные дайджесты, поиск с учётом свежести, обнаружение противоречий, панель устаревания записей.
Это уже не просто заметки, а база знаний с контролем качества.

Подключаемые стратегии сжатия контекста.
Раньше при переполнении контекста работала только встроенная суммаризация. Теперь — реестр провайдеров сжатия, подключаемых через плагины. Настраивается в agents.defaults.compaction.provider.

Контрольные точки сессий.
Оператор может инспектировать и восстановить состояние сессии до сжатия. Ветвление и откат прямо из панели управления.

Провайдеры

Gemma 4 — поддержка через Google с сохранением логики мышления
Arcee AI — новый провайдер с каталогом Trinity
Ollama — автоопределение способности обработки изображений через /api/show
Mistral Small 4 — поддержка reasoning_effort с маппингом уровней мышления

Безопасность
Серия жёстких фиксов:

Блокировка опасных переменных окружения (Java, Rust, Cargo, Git, Kubernetes, облачные ключи) при запуске инструментов на хосте

Проверка SHA-256 архивов плагинов из ClawHub — установка невозможна при несовпадении хеша

Валидация URL загрузки файлов в MS Teams против SSRF
Инвалидация WebSocket-сессий при ротации токенов

Пересопряжение узлов при попытке расширить набор разрешённых команд без подтверждения

Входящие вебхуки
Новый встроенный плагин: внешняя автоматизация может создавать и управлять потоками задач через эндпоинты с общим секретом. Мост между OpenClaw и любой CI/CD или внешней системой.

Память/сновидения
Редактированные стенограммы сессий теперь подаются в корпус сновидений с разбивкой по дням и контрольными точками курсора.
Агент учится не только из заметок, но и из собственных прошлых диалогов.

⚠️ У меня при обновлении OpenClaw сломалась сборка Telegram-плагина, из-за чего CLI искал отсутствующие внутренние файлы и не мог читать конфиг, пришлось допиливать Курсором GPT 5.4, восстанавливать недостающие wrapper-модули и затем прогнать openclaw doctor --fix.

И если давно не прогоняли openclaw configure, - имеет смысл пройти, потому что изменений много и конфиги плывут.

Обсуждаем тут:
https://t.me/clawledgechat

#openclaw #update
———
@tsingular