GLM-4.5: новый китайский флагман с агентными возможностями
Компания Z.ai (Zhipu AI Inc) выпустила GLM-4.5 — модель с 32-355 млрд параметров. По бенчмаркам заняла третье место в мире и первое среди открытых моделей.
Встроенные агентские способности для планирования многоэтапных задач.
Умеет работать с инструментами.
Включена в Stanford AI Index Report 2025 как "notable AI model".
Что интересно, - это не клон Дипсика или Кими К2, - а собственная отдельная разработка.
Натренили на 15Т токенах общего плана и затем на 7Т токенов кода и ризонера.
Полный размер - 744 гига.
Пробовать можно тут: chat.z.ai
API:docs.z.ai/guides/llm/glm-4.5
HuggingFace
ModelScope
Китайцы выпускают opensource топ модели с какой-то невероятной скоростью
#GLM #MoE #zai #Китай
———
@tsingular
Компания Z.ai (Zhipu AI Inc) выпустила GLM-4.5 — модель с 32-355 млрд параметров. По бенчмаркам заняла третье место в мире и первое среди открытых моделей.
Встроенные агентские способности для планирования многоэтапных задач.
Умеет работать с инструментами.
Включена в Stanford AI Index Report 2025 как "notable AI model".
Что интересно, - это не клон Дипсика или Кими К2, - а собственная отдельная разработка.
Натренили на 15Т токенах общего плана и затем на 7Т токенов кода и ризонера.
Полный размер - 744 гига.
Пробовать можно тут: chat.z.ai
API:docs.z.ai/guides/llm/glm-4.5
HuggingFace
ModelScope
Китайцы выпускают opensource топ модели с какой-то невероятной скоростью
#GLM #MoE #zai #Китай
———
@tsingular
🔥12👍7❤3⚡1
🛠 cc-switch: менеджер ИИ провайдеров для Claude Code/Codex
Китайцы выкатили бомбу.
Реально.
Мало того, что у них теперь надёжная репутация оупенсорсеров, так они еще и других принудительно затягивают в открытость. (не путать с пиратством :) )
На этот раз они сделали desktop-приложение, которое позволяет гибко переключаться между моделями, - облачными или локальными, для кодовых агентов, которые изначально задуманы, как закрытые, - ClaudeCode и OpenaAI Codex.
Т.е. можно подключать Kimi К2, GLM-4.6, DeepSeek, что угодно.
Проект очень активно развивается.
В версии v3.6.0, например добавили:
- MCP-менеджер — управление Model Context Protocol серверами с шаблонами
- Дублирование провайдеров + drag-n-drop сортировка
- Кастомные эндпоинты + speed-тест латентности
- Cloud-sync — можно указать Dropbox/OneDrive для синхронизации конфигов между машинами
- WSL-поддержка — авто-синк при смене директории конфига
- Импорт/экспорт + автобэкапы (10 последних)
Техника:
- Electron → Tauri 2.0 (размер ↓, старт ↑)
SSOT архитектура — все конфиги в ~/.cc-switch/config.json, при свиче пишет в live-файлы
- Атомарные записи с rollback'ом — нет полуразбитых конфигов
- 100% покрытие тестами hooks (vitest + MSW)
Что интересно, - проект спонсируется Z.ai (это которые GLM)
Ну т.е. теперь можно у себя локально поднять кодовых агентов на популярных фреймворках, но со своими моделями.
#OpenSource #ClaudeCode #Codex #ZAI #GLM #Китай
———
@tsingular
Китайцы выкатили бомбу.
Реально.
Мало того, что у них теперь надёжная репутация оупенсорсеров, так они еще и других принудительно затягивают в открытость. (не путать с пиратством :) )
На этот раз они сделали desktop-приложение, которое позволяет гибко переключаться между моделями, - облачными или локальными, для кодовых агентов, которые изначально задуманы, как закрытые, - ClaudeCode и OpenaAI Codex.
Т.е. можно подключать Kimi К2, GLM-4.6, DeepSeek, что угодно.
Проект очень активно развивается.
В версии v3.6.0, например добавили:
- MCP-менеджер — управление Model Context Protocol серверами с шаблонами
- Дублирование провайдеров + drag-n-drop сортировка
- Кастомные эндпоинты + speed-тест латентности
- Cloud-sync — можно указать Dropbox/OneDrive для синхронизации конфигов между машинами
- WSL-поддержка — авто-синк при смене директории конфига
- Импорт/экспорт + автобэкапы (10 последних)
Техника:
- Electron → Tauri 2.0 (размер ↓, старт ↑)
SSOT архитектура — все конфиги в ~/.cc-switch/config.json, при свиче пишет в live-файлы
- Атомарные записи с rollback'ом — нет полуразбитых конфигов
- 100% покрытие тестами hooks (vitest + MSW)
Что интересно, - проект спонсируется Z.ai (это которые GLM)
Ну т.е. теперь можно у себя локально поднять кодовых агентов на популярных фреймворках, но со своими моделями.
#OpenSource #ClaudeCode #Codex #ZAI #GLM #Китай
———
@tsingular
🔥13👍6 4
GLM обновили до версии 4.7
Команда Z.ai выкатила GLM-4.7 — MoE модель на 358B, заточенную под агентное кодирование и рассуждения.
Рост метрик: 73.8% на SWE-bench (+5.8% к предыдущей версии), 66.7% на SWE-bench Multilingual (+12.9%), 41% на Terminal Bench 2.0 (+16.5%).
Гораздо лучше пишет код, дизайн веб страниц и презентаций.
Точнее управляется с инструментами, в том числе, как оператор браузера.
За счёт улучшенного режима рассуждений выбивает 42.8% в HLE!
Ключевая фишка — Preserved Thinking: модель сохраняет все блоки рассуждений между запросами, не теряя контекст в длинных диалогах.
Работает через vLLM и SGLang.
Полный размер 700Gb+
Так же доступна по API и напрямую на платформе:
https://chat.z.ai/
Короче, если у вас есть 750 Гигов на GPU,- сможете получить практически аналог GPT 5.2 или Gemini 3 Pro или Opus 4.5 у себя дома.
Или 380 если в 8битной нарезке.
#GLM #ZAI #Китай
------
@tsingular
Команда Z.ai выкатила GLM-4.7 — MoE модель на 358B, заточенную под агентное кодирование и рассуждения.
Рост метрик: 73.8% на SWE-bench (+5.8% к предыдущей версии), 66.7% на SWE-bench Multilingual (+12.9%), 41% на Terminal Bench 2.0 (+16.5%).
Гораздо лучше пишет код, дизайн веб страниц и презентаций.
Точнее управляется с инструментами, в том числе, как оператор браузера.
За счёт улучшенного режима рассуждений выбивает 42.8% в HLE!
Ключевая фишка — Preserved Thinking: модель сохраняет все блоки рассуждений между запросами, не теряя контекст в длинных диалогах.
Работает через vLLM и SGLang.
Полный размер 700Gb+
Так же доступна по API и напрямую на платформе:
https://chat.z.ai/
Короче, если у вас есть 750 Гигов на GPU,- сможете получить практически аналог GPT 5.2 или Gemini 3 Pro или Opus 4.5 у себя дома.
Или 380 если в 8битной нарезке.
#GLM #ZAI #Китай
------
@tsingular
✍8🔥5❤2🎉2
Zhipu ( z.ai ) дебютирует в Гонконге: первое IPO китайской LLM-компании
Zhipu закрылась на 13% выше цены размещения HK$116.20, став первой китайской LLM-компанией на бирже.
Основатель Тан Цзе анонсировал GLM-5 — новое поколение модели с «принципиально иной архитектурой».
Предыдущая версия GLM-4.7 показала себя очень достойно.
Многие меняют её в ClaudeCode и ставят вместо Opus 4.5. Модель набирает 95.7% на AIME 2025.
При этом цена подписки начинается от $3 в месяц!
Попробовать можно тут
Завтра так же на биржу выходит MiniMax по HK$165 за акцию — рекорд скорости от основания до листинга в AI-индустрии.
#Zhipu #GLM #MiniMax #ZAI #Китай
———
@tsingular
Zhipu закрылась на 13% выше цены размещения HK$116.20, став первой китайской LLM-компанией на бирже.
Основатель Тан Цзе анонсировал GLM-5 — новое поколение модели с «принципиально иной архитектурой».
Предыдущая версия GLM-4.7 показала себя очень достойно.
Многие меняют её в ClaudeCode и ставят вместо Opus 4.5. Модель набирает 95.7% на AIME 2025.
При этом цена подписки начинается от $3 в месяц!
Попробовать можно тут
Завтра так же на биржу выходит MiniMax по HK$165 за акцию — рекорд скорости от основания до листинга в AI-индустрии.
#Zhipu #GLM #MiniMax #ZAI #Китай
———
@tsingular
🔥10✍2⚡2❤1
GLM-Image: генератор изображений от Z.AI
Команда Z.ai выкатила GLM-Image — первую открытую промышленную модель с гибридной архитектурой: авторегрессивный модуль на 9 миллиардов параметров (базируется на GLM-4) генерирует семантические токены, а диффузионный декодер на 7 миллиардов параметров (DiT-архитектура из CogView4) дорисовывает детали.
Авторегрессия создаёт низкочастотный семантический сигнал через semantic-VQ (токенизатор из X-Omni), диффузия восстанавливает высокочастотные детали. Токенизатор сжимает изображение в 16 раз, итоговое разрешение — до 2048 пикселей.
Интересно, что по части метрик пишут, - обгоняет NanoBananaPro
Для локального запуска рекомендуют 80гигов VRAM
По апи цена - $0.015 за изображение
документация тут
Ну и, пользуясь случаем, если будете брать подписку, - с рефералкой до 31 января она дешевле на 10%
GitHub
HuggingFace
#GLM-Image #SemanticVQ #ZAI
———
@tsingular
Команда Z.ai выкатила GLM-Image — первую открытую промышленную модель с гибридной архитектурой: авторегрессивный модуль на 9 миллиардов параметров (базируется на GLM-4) генерирует семантические токены, а диффузионный декодер на 7 миллиардов параметров (DiT-архитектура из CogView4) дорисовывает детали.
Авторегрессия создаёт низкочастотный семантический сигнал через semantic-VQ (токенизатор из X-Omni), диффузия восстанавливает высокочастотные детали. Токенизатор сжимает изображение в 16 раз, итоговое разрешение — до 2048 пикселей.
Интересно, что по части метрик пишут, - обгоняет NanoBananaPro
Для локального запуска рекомендуют 80гигов VRAM
По апи цена - $0.015 за изображение
документация тут
Ну и, пользуясь случаем, если будете брать подписку, - с рефералкой до 31 января она дешевле на 10%
GitHub
HuggingFace
#GLM-Image #SemanticVQ #ZAI
———
@tsingular
✍10❤3🔥3⚡1
This media is not supported in your browser
VIEW IN TELEGRAM
EIGent — open-source ответ на Anthropic Cowork
Давным-давно, аж 12 января (в начале недели) Anthropic выкатил Cowork, если кто забыл :).
Много чего интересного за эту неделю произошло, но этот кейс еще не обсуждали тут.
EIGent, стартап со схожим функционалом, решил не конкурировать на одной поляне и в середине недели выложил весь свой проект в open-source.
Умеет, в принципе, всё то же самое, что и Cowork:
Мультиагентная архитектура,- несколько специализированных агентов работают параллельно:
- Developer Agent — код, терминал
- Search Agent — веб-поиск
- Document Agent — документы
- Multi-Modal Agent — изображения, аудио
Ключевые фичи:
- 100% open-source (лицензия на базе Apache 2.0)
- Локальное развертывание — данные остаются у вас
- Поддержка кастомных моделей (включая локальные)
- MCP интеграция (browser, terminal, Notion, Slack и т.д.)
- Human-in-the-loop — агент запрашивает подтверждение у человека, если что не понятно
- Desktop-приложение (Electron) + web
Стек: FastAPI + React/TypeScript, построен на фреймворке CAMEL-AI.
Типовые сценарии:
- Планирование поездки с поиском, бронированием и отправкой итога в Slack
- Анализ банковских выписок → HTML-отчёт с графиками
- SEO-аудит сайта
- Поиск дубликатов в папках
Но самое вкусное, - дальше Z.ai поддержал проект
Предоставили интеграцию с GLM Coding Plan — можно использовать китайские модели GLM-4.5/4.7 через их API.
Инструкция в документации.
#EIgent #Cowork #ZAI #агенты #OSS
———
@tsingular
Давным-давно, аж 12 января (в начале недели) Anthropic выкатил Cowork, если кто забыл :).
Много чего интересного за эту неделю произошло, но этот кейс еще не обсуждали тут.
EIGent, стартап со схожим функционалом, решил не конкурировать на одной поляне и в середине недели выложил весь свой проект в open-source.
Умеет, в принципе, всё то же самое, что и Cowork:
Мультиагентная архитектура,- несколько специализированных агентов работают параллельно:
- Developer Agent — код, терминал
- Search Agent — веб-поиск
- Document Agent — документы
- Multi-Modal Agent — изображения, аудио
Ключевые фичи:
- 100% open-source (лицензия на базе Apache 2.0)
- Локальное развертывание — данные остаются у вас
- Поддержка кастомных моделей (включая локальные)
- MCP интеграция (browser, terminal, Notion, Slack и т.д.)
- Human-in-the-loop — агент запрашивает подтверждение у человека, если что не понятно
- Desktop-приложение (Electron) + web
Стек: FastAPI + React/TypeScript, построен на фреймворке CAMEL-AI.
Типовые сценарии:
- Планирование поездки с поиском, бронированием и отправкой итога в Slack
- Анализ банковских выписок → HTML-отчёт с графиками
- SEO-аудит сайта
- Поиск дубликатов в папках
Но самое вкусное, - дальше Z.ai поддержал проект
Предоставили интеграцию с GLM Coding Plan — можно использовать китайские модели GLM-4.5/4.7 через их API.
Инструкция в документации.
#EIgent #Cowork #ZAI #агенты #OSS
———
@tsingular
🔥17👍6⚡2
GLM-4.7-Flash от Z.ai: малая китайская MoE-модель бьёт конкурентов на агентных бенчмарках
Z.ai выпустили облегчённый оупенсорс вариант своего флагмана, - GLM-4.7-Flash
Архитектура: MoE на базе DeepSeek2. При 30B общих параметров активны только 3B — отсюда и "Flash" в названии.
В бенчмарках особенно заметен отрыв на агентных задачах: SWE-bench (реальные GitHub-баги) — почти 3x лучше, чем Qwen3-30B-A3B-thinking-2507, τ²-Bench (сложные многошаговые задачи) — 1.6x лучше всех.
Особенности мышления
Interleaved Thinking — модель думает перед каждым действием и вызовом инструментов, а не только в начале.
Preserved Thinking — сохраняет цепочку рассуждений между ходами в многошаговых задачах. Не переоткрывает заново то, что уже вывела.
Turn-level Thinking — можно включать/выключать режим рассуждений на лету: простые запросы будут выполняться быстро, сложные, - с детальными размышлениями.
Локальный запуск: GGUF от Unsloth
Полный размер модели — 60 ГБ, но Unsloth уже нарезал GGUF-квантизации:
Минимальный порог входа — 10.6 ГБ для 2-битной версии. Реалистично для домашнего использования: Q4_K_M на ~18 ГБ.
Практическое применение
- Поддерживает Claude Code, Cline, Roo Code, Kilo Code, opencode — можно подключить вместо дефолтной модели
- через облако, -подписка GLM Coding Plan — от $3/мес, "1/7 цены Claude с 3x квотой"
- На Cerebras, кстати, GLM 4.6 полная выдаёт ~1000 токенов/сек, а Flash, похоже и 2000 выдаст.
Агенты будут просто летать.
В общем, отличная агентская модель, да еще и open-source уровня топовых закрытых.
MIT-лицензия.
Ссылки:
- [HuggingFace (оригинал)]
- [GGUF от Unsloth]
- [Техблог]
#GLM #ZAI #Coding #OSS #Unsloth #Китай
———
@tsingular
Z.ai выпустили облегчённый оупенсорс вариант своего флагмана, - GLM-4.7-Flash
Архитектура: MoE на базе DeepSeek2. При 30B общих параметров активны только 3B — отсюда и "Flash" в названии.
В бенчмарках особенно заметен отрыв на агентных задачах: SWE-bench (реальные GitHub-баги) — почти 3x лучше, чем Qwen3-30B-A3B-thinking-2507, τ²-Bench (сложные многошаговые задачи) — 1.6x лучше всех.
Особенности мышления
Interleaved Thinking — модель думает перед каждым действием и вызовом инструментов, а не только в начале.
Preserved Thinking — сохраняет цепочку рассуждений между ходами в многошаговых задачах. Не переоткрывает заново то, что уже вывела.
Turn-level Thinking — можно включать/выключать режим рассуждений на лету: простые запросы будут выполняться быстро, сложные, - с детальными размышлениями.
Локальный запуск: GGUF от Unsloth
Полный размер модели — 60 ГБ, но Unsloth уже нарезал GGUF-квантизации:
Минимальный порог входа — 10.6 ГБ для 2-битной версии. Реалистично для домашнего использования: Q4_K_M на ~18 ГБ.
Практическое применение
- Поддерживает Claude Code, Cline, Roo Code, Kilo Code, opencode — можно подключить вместо дефолтной модели
- через облако, -подписка GLM Coding Plan — от $3/мес, "1/7 цены Claude с 3x квотой"
- На Cerebras, кстати, GLM 4.6 полная выдаёт ~1000 токенов/сек, а Flash, похоже и 2000 выдаст.
Агенты будут просто летать.
В общем, отличная агентская модель, да еще и open-source уровня топовых закрытых.
MIT-лицензия.
Ссылки:
- [HuggingFace (оригинал)]
- [GGUF от Unsloth]
- [Техблог]
#GLM #ZAI #Coding #OSS #Unsloth #Китай
———
@tsingular
🔥14⚡4✍4❤3
Технозаметки Малышева
До китайского НГ 2 недели... Ждём DeepSeek v4, Qwen 4 - в принципе, ждем, да, Kimi 3 маловероятно. Minimax T2 или M3 - вероятно Z.Ai - GLM 5 ну или 4.9 - маловероятно, но они так бодро развиваются, - что не удивлюсь в противовес Маск может выпустить Grok…
Ай да Z.AI, ай да молодцы :)
GLM-5 , дамы и господа!
прямо перед Китайским новым годом!
бегим тестить волосы назад!!!
сюда: https://chat.z.ai/
Ещё квенушка бы не подвел... до КНГ осталось ещё время! :)
#КНГ #ZAI #GLM5
———
@tsingular
GLM-5 , дамы и господа!
прямо перед Китайским новым годом!
бегим тестить волосы назад!!!
сюда: https://chat.z.ai/
Ещё квенушка бы не подвел... до КНГ осталось ещё время! :)
#КНГ #ZAI #GLM5
———
@tsingular
🔥26❤4🎉3🏆2
Ждём opensource и карту модели
https://huggingface.co/zai-org
https://modelscope.ai/organization/zai-org
#ZAI #GLM5
———
@tsingular
https://huggingface.co/zai-org
https://modelscope.ai/organization/zai-org
#ZAI #GLM5
———
@tsingular
🤣10❤1
А ещё Z.AI вчера выкатили свою среду разработки Z Code.
Есть версия под мак и под Windows
Качать тут: https://zcode.z.ai/
#ZAI #dev
———
@tsingular
Есть версия под мак и под Windows
Качать тут: https://zcode.z.ai/
#ZAI #dev
———
@tsingular
👍13✍2⚡1
GLM-5-Turbo: Нативная модель для OpenClaw
Z.ai представили GLM-5-Turbo — фундаментальную модель, оптимизированную под архитектуру OpenClaw уже на этапе обучения.
🛠 Технические параметры:
— Объем: 200K контекст, 128K выход.
— Функции: Thinking Mode, Context Caching, Native MCP, Structured JSON.
🧠 OpenClaw Native:
— Tool Calling: Точный вызов внешних инструментов без сбоев в многошаговых задачах.
— Time Dimensions: Нативное понимание временных триггеров и запланированных задач.
— Long-chain: Стабильность в длинных логических цепочках и высокая пропускная способность.
— Бенчмарки: Модель прошла оптимизацию под ClawBench для работы в бизнес-сценариях.
💼 Зачем бизнесу:
GLM-5-Turbo убирает барьер между диалогом и исполнением действий. Это база для развертывания автономных роев агентов, управляющих сложной логикой без потери контекста.
неужели GLM перестанить тупить на Крабе?
Проверяем.
#ZAI #GLM5 #OpenClaw #Turbo
───
@tsingular
Z.ai представили GLM-5-Turbo — фундаментальную модель, оптимизированную под архитектуру OpenClaw уже на этапе обучения.
🛠 Технические параметры:
— Объем: 200K контекст, 128K выход.
— Функции: Thinking Mode, Context Caching, Native MCP, Structured JSON.
🧠 OpenClaw Native:
— Tool Calling: Точный вызов внешних инструментов без сбоев в многошаговых задачах.
— Time Dimensions: Нативное понимание временных триггеров и запланированных задач.
— Long-chain: Стабильность в длинных логических цепочках и высокая пропускная способность.
— Бенчмарки: Модель прошла оптимизацию под ClawBench для работы в бизнес-сценариях.
💼 Зачем бизнесу:
GLM-5-Turbo убирает барьер между диалогом и исполнением действий. Это база для развертывания автономных роев агентов, управляющих сложной логикой без потери контекста.
неужели GLM перестанить тупить на Крабе?
Проверяем.
#ZAI #GLM5 #OpenClaw #Turbo
───
@tsingular
🔥16⚡2👍1🆒1
GLM 5.1 и GLM-5-Turbo появились в подписке Coding Plan на z.ai
с промо-кодом вы получите 10% скидки:
https://z.ai/subscribe?ic=GHAFTZRSA1
#GLM #ZAI #рефералки
———
@tsingular
с промо-кодом вы получите 10% скидки:
https://z.ai/subscribe?ic=GHAFTZRSA1
#GLM #ZAI #рефералки
———
@tsingular
⚡9✍3🤣1
This media is not supported in your browser
VIEW IN TELEGRAM
Тем временем Z.AI GLM-5.1 на тестах за 8 часов построила эмулятор рабочего стола Linux в Web с 50+ приложениями.
Пока Антропик будет тесты жевать с предрелизами по $125 за млн токенов, - китайцы 10 раз его обгонят
Если вдруг вздумаете брать подписку, напоминаю, что через реферралку на 10% дешевле:
https://z.ai/subscribe?ic=GHAFTZRSA1
#Китай #ZAI #GLM
———
@tsingular
Пока Антропик будет тесты жевать с предрелизами по $125 за млн токенов, - китайцы 10 раз его обгонят
Если вдруг вздумаете брать подписку, напоминаю, что через реферралку на 10% дешевле:
https://z.ai/subscribe?ic=GHAFTZRSA1
#Китай #ZAI #GLM
———
@tsingular
🔥13✍5❤3⚡1🐳1🤣1🗿1
z.ai подсуетились :)
GLM-5.2 is now available to all GLM Coding Plan users across Lite, Pro, Max, and Team plans.
проверяем
#ZAI #GLM
———
@tsingular
GLM-5.2 is now available to all GLM Coding Plan users across Lite, Pro, Max, and Team plans.
проверяем
#ZAI #GLM
———
@tsingular
👍26🙏3🆒1
GLM строит свою инференс-инфраструктуру сама: ранние формы рекурсивного самоулучшения (RSI)
Z.ai опубликовала технический отчет о запуске GLM-5.3-Flash: на кластере из более 100 000 китайских AI-ускорителей всю производственную инфраструктуру инференса подняла не команда инженеров, а Infra Agent под управлением самой GLM-5.3.
Модель адаптировалась к новому железу и вышла в прод за две недели, утраивая сквозной throughput. Через неделю анонимного тестирования на OpenCode и OpenRouter (псевдоним Ox-Alpha) Flash стала самой используемой моделью обеих платформ: 62 трлн токенов за 6 дней.
⚡️ Модель оптимизирует систему, система запускает модель:
Прорыв тут не в силе модели, а в контуре обратной связи.
Команда внедрила принцип плотной (dense) обратной связи, - вместо размытых сигналов вида «точность упала на 20%» агент получает локальные проверяемые факты: сравнение ядер по численной точности, микробенчмарки, трейсы выполнения.
Это позволило агенту самому находить и чинить баги уровня, о котором раньше говорили только сеньоры: численное расхождение в KDA-ядре из-за TF32 (фикс через tf32x3 уже ушел в апстрим Flash Linear Attention) и блокировка Python GIL в DeepEP, тормозившая передачу KV-кэша (разрыв упал с 20% до менее 1%).
🔥 Два факта, о которых стоит подумать:
• Каждый крупный лабораторный стартап сейчас строит подобные агентские контуры для обучения и инференса своих же моделей.
• При этом ни одна лаборатория по безопасности всерьез не занимается оценкой RSI-рисков, - нет ни стандартов, ни независимых бенчмарков на измерение близости к рекурсивному самоулучшению.
Z.ai пишет: люди по-прежнему задают цели и границы, но прогресс на этой границе не замедлится только потому, что нам этого хочется.
#GLM #инференс #RSI #агенты #Zai
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен
Z.ai опубликовала технический отчет о запуске GLM-5.3-Flash: на кластере из более 100 000 китайских AI-ускорителей всю производственную инфраструктуру инференса подняла не команда инженеров, а Infra Agent под управлением самой GLM-5.3.
Модель адаптировалась к новому железу и вышла в прод за две недели, утраивая сквозной throughput. Через неделю анонимного тестирования на OpenCode и OpenRouter (псевдоним Ox-Alpha) Flash стала самой используемой моделью обеих платформ: 62 трлн токенов за 6 дней.
⚡️ Модель оптимизирует систему, система запускает модель:
Прорыв тут не в силе модели, а в контуре обратной связи.
Команда внедрила принцип плотной (dense) обратной связи, - вместо размытых сигналов вида «точность упала на 20%» агент получает локальные проверяемые факты: сравнение ядер по численной точности, микробенчмарки, трейсы выполнения.
Это позволило агенту самому находить и чинить баги уровня, о котором раньше говорили только сеньоры: численное расхождение в KDA-ядре из-за TF32 (фикс через tf32x3 уже ушел в апстрим Flash Linear Attention) и блокировка Python GIL в DeepEP, тормозившая передачу KV-кэша (разрыв упал с 20% до менее 1%).
🔥 Два факта, о которых стоит подумать:
• Каждый крупный лабораторный стартап сейчас строит подобные агентские контуры для обучения и инференса своих же моделей.
• При этом ни одна лаборатория по безопасности всерьез не занимается оценкой RSI-рисков, - нет ни стандартов, ни независимых бенчмарков на измерение близости к рекурсивному самоулучшению.
Z.ai пишет: люди по-прежнему задают цели и границы, но прогресс на этой границе не замедлится только потому, что нам этого хочется.
#GLM #инференс #RSI #агенты #Zai
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен
21🔥10🤔2🤩2⚡1
Z.ai рассказала, как GLM улучшает инфраструктуру, на которой работают её модели
В Z.ai агент на базе GLM-5.3 помог подготовить инфраструктуру для GLM-5.3-Flash на кластере из более чем 100 тысяч китайских ускорителей. По данным команды, от первого запуска до готовности обслуживать пользователей прошло меньше двух недель, а сквозная пропускная способность выросла примерно втрое относительно исходной реализации.
🔬 Ключевым оказался способ проверки изменений. Одного сообщения «после правки стало медленнее» агенту мало. Ему дали тесты отдельных вычислений, сравнение с эталоном, замеры и трассы выполнения. Теперь гипотезу можно проверить локально, выяснить причину и только затем возвращаться к испытанию всего сервиса.
🔧 Например, при передаче KV-кэша производительность в некоторых сценариях падала более чем на 20%. Агент заметил, что передача не совмещается с вычислениями, и проследил проблему до C++-вызовов, удерживавших блокировку Python. Она мешала другому потоку вовремя отправлять данные. После освобождения блокировки разрыв с режимом без передачи кэша сократился до менее 1% в тех же условиях.
🧠 Опыт сохранялся между итерациями. Агент изучал существующие реализации и собирал библиотеку приёмов оптимизации: когда применять изменение, какие ресурсы нужны и какими экспериментами подтверждён эффект. Проверенные находки пополняли библиотеку и помогали в следующих задачах. Улучшения накапливались в коде и инженерных знаниях, без описанного в статье переобучения самой GLM.
🔁 Так выглядит показанный здесь шаг к RSI: модель улучшает систему, которая запускает модели, а результаты работы помогают следующему циклу. Люди по-прежнему задают цели, ограничения и проверяют рискованные изменения. Практический вывод Z.ai: для такого цикла нужны доступные агенту эксперименты, которые объясняют, где возникла проблема и сработало ли исправление.
До этого была только информация, что ИИ агент им помог, теперь поделились деталями.
📎 Одно из исправлений уже принято в Flash Linear Attention
#Zai #GLM #RSI #Агенты
———
@tsingular
В Z.ai агент на базе GLM-5.3 помог подготовить инфраструктуру для GLM-5.3-Flash на кластере из более чем 100 тысяч китайских ускорителей. По данным команды, от первого запуска до готовности обслуживать пользователей прошло меньше двух недель, а сквозная пропускная способность выросла примерно втрое относительно исходной реализации.
🔬 Ключевым оказался способ проверки изменений. Одного сообщения «после правки стало медленнее» агенту мало. Ему дали тесты отдельных вычислений, сравнение с эталоном, замеры и трассы выполнения. Теперь гипотезу можно проверить локально, выяснить причину и только затем возвращаться к испытанию всего сервиса.
🔧 Например, при передаче KV-кэша производительность в некоторых сценариях падала более чем на 20%. Агент заметил, что передача не совмещается с вычислениями, и проследил проблему до C++-вызовов, удерживавших блокировку Python. Она мешала другому потоку вовремя отправлять данные. После освобождения блокировки разрыв с режимом без передачи кэша сократился до менее 1% в тех же условиях.
🧠 Опыт сохранялся между итерациями. Агент изучал существующие реализации и собирал библиотеку приёмов оптимизации: когда применять изменение, какие ресурсы нужны и какими экспериментами подтверждён эффект. Проверенные находки пополняли библиотеку и помогали в следующих задачах. Улучшения накапливались в коде и инженерных знаниях, без описанного в статье переобучения самой GLM.
🔁 Так выглядит показанный здесь шаг к RSI: модель улучшает систему, которая запускает модели, а результаты работы помогают следующему циклу. Люди по-прежнему задают цели, ограничения и проверяют рискованные изменения. Практический вывод Z.ai: для такого цикла нужны доступные агенту эксперименты, которые объясняют, где возникла проблема и сработало ли исправление.
До этого была только информация, что ИИ агент им помог, теперь поделились деталями.
📎 Одно из исправлений уже принято в Flash Linear Attention
#Zai #GLM #RSI #Агенты
———
@tsingular
❤6⚡5✍3🔥1👨💻1
Халява от ZAI
GLM-5.3-Flash 300 млн токенов
GLM-5.3 200 млн токенов в ZCode.
Я всё забрал!
Качайте и ставьте ZCode чтобы забрать ваши :)
Потратить нужно до 26го.
https://zcode.z.ai
Напоминаю, что подписка по инвайту дешевле на 10%:
https://z.ai/subscribe?ic=GHAFTZRSA1
#ZAI
———
@tsingular
GLM-5.3-Flash 300 млн токенов
GLM-5.3 200 млн токенов в ZCode.
Я всё забрал!
Качайте и ставьте ZCode чтобы забрать ваши :)
Потратить нужно до 26го.
https://zcode.z.ai
Напоминаю, что подписка по инвайту дешевле на 10%:
https://z.ai/subscribe?ic=GHAFTZRSA1
#ZAI
———
@tsingular
🔥8🤩3⚡2🍾2