Kimi-k2.6 через ollama в 8 раз медленнее, чем glm-5.1

при этом замечены смысловые неточности в генерируемом русском тексте.

Может она и хороша для программирования и для агентской работы, но точно не быстрее и точно не для русского языка.

#kimi #glm #ollama
———
@tsingular

z.ai подсуетились :)

GLM-5.2 is now available to all GLM Coding Plan users across Lite, Pro, Max, and Team plans.

проверяем

#ZAI #GLM
———
@tsingular

Z.ai выпустили ZCode 3.0 — собственную IDE под GLM-5.2

📋 Z.ai (Zhipu AI), пекинская лаборатория с капитализацией в $128 млрд, превратила GLM-5.2 в полноценную «агентную среду разработки».
ZCode 3.0 — бесплатное десктопное приложение под macOS, Windows и Linux, заточенное под собственную модель компании и напрямую конкурирующее с Cursor, Claude Code и GitHub Copilot.

⚙️ ZCode, - классическая вайб-кодинг среда, где пользователь описывает результат, а агент планирует, пишет код, запускает проверки и продолжает работу до достижения цели.

Главное в третьей версии — улучшенная мультиагентная коллаборация, Goal Mode для длительных задач, сабагенты с настраиваемыми разрешениями и управление через ботов в WeChat, Feishu и Telegram с телефона.
Поддерживаются MCP-серверы, плагины и скиллы.

💼 Тарифы GLM Coding Plan: Lite за $16,2, Pro за $64,8 и Max за $144 в месяц — заметно дешевле западных аналогов. До 31 июля действует промо с коэффициентом 1,5x к квоте, новичкам — пять дней бесплатного доступа.
Можно подключать своих провайдеров моделей.

GLM Coding Plan: https://z.ai/subscribe
VentureBeat: https://venturebeat.com/technology/z-ai-launches-zcode-to-challenge-cursor-claude-code-and-github-copilot-in-ai-coding

В порядке проверки навайбкодил ниндзя-марио. в комменте

#ZCode #GLM #dev
———
@tsingular

Baseten построил самый быстрый API для GLM-5.2 — 280+ токенов в секунду на Blackwell

Кто-то тут жаловался, что GLM-5.2 медленный на "родном" апи от z.ai, - вам будет интересно.

⚡️ Baseten (Philip Kiely, Alex Korte, Tri Dao и команда) разогнал GLM-5.2 до 280 токенов в секунду — лучший показатель среди всех API-провайдеров модели на момент замера Artificial Analysis 22 июня.

🔧 Пять ключевых моментов:
- кастомный инференс-движок с Shared DSA для архитектуры GLM-5.2,
- собственное квантование в NVFP4 на NVIDIA Blackwell с сохранением качества на BFCL-бенчмарке,
- KV-aware-маршрутизация через NVIDIA Dynamo для переиспользования кэша между запросами,
- разделение prefill и decode с двукратным ускорением,
- MTP.

🔥 Конкуренты не дремлют: уже через неделю Fireworks заявили 446 ток/с на пике для GLM 5.2 Fast и статус самого быстрого провайдера на OpenRouter.

#GLM #Baseten
———
@tsingular

Кстати, в свете новости что Ox Alpha, это таки GLM, напоминаю:

Если вдруг у вас нет подписки на GLM, через реферралку на 10% дешевле:

👉 https://z.ai/subscribe?ic=GHAFTZRSA1

#GLM
———
@tsingular

GLM-5.3-Flash: мультимодальный кодинг уровня Opus 4.8 за десятую часть цены

Z.ai выпустила GLM-5.3-Flash, первую нативно мультимодальную модель серии GLM-5.
320 млрд параметров всего из них активных 18 млрд: она обходит GLM-5.2 на бенчмарках при цене в десять раз ниже.

⚡️ Что за модель:
Первая в GLM-5 с нативной мультимодальностью: видит интерфейсы, документы и картинки, а не только код.
320B/18B активных
На кодинге и агентных задачах вплотную подходит к Opus 4.8.

🔧 Архитектура под дешёвого инференса:
Гибридное внимание: линейное держит локальный контекст через состояние, разреженное вытаскивает нужный глобальный контекст через лёгкий индексатор.
IndexPool сжимает четыре ключа индексатора в один.
Итог в сравнеии с базовой GLM-5.3: вычислительная стоимость внимания и KV-кэш меньше в 3 и 4,4 раза.

📊 Цифры:
DeepSWE v1.1: 63,4 против 46,2 у GLM-5.2.
AutomationBench: 48,8 против 26,2.
На закрытом Code Bench при максимальном усилии: 29,0 против 29,5 у Opus 4.8.
Artificial Analysis Intelligence Index: 57 баллов за $0,045 за задачу, раньше такой уровень стоил вдесятеро дороже.

💼 Железо и раздача:
Неделю модель анонимно ходила как ox-alpha на OpenCode и OpenRouter и стала самой популярной за неделю, а весь трафик обслуживали китайские чипы.
Собственный движок поверх SGLang дал 3х к базовому варианту, цена токена вышла на уровень NVIDIA.

Вишенка на торте: оптимизировать движок помогал инфраструктурный агент на самой GLM-5.3, петля, где модель ускоряла систему, которая её обслуживает.
Веса открыты, запускается на SGLang, vLLM и TokenSpeed.

📎 Анонс: Z.ai · веса на HuggingFace

#GLM #кодинг #opensource #oxalpha
———
@tsingular

держите сравнение.
GLM в целом побеждает, но у Qwen очень сильный "запас прочности"

полный html в комметарии

#qwen #glm #deepseek #flash
———
@tsingular

11.7 млрд токенов на взлом: почему дешёвые китайские модели обошли закрытых гигантов в поиске уязвимостей

Команда Aikido Security сожгла почти 12 миллиардов токенов, натравив десять ведущих нейросетей на 32 свежие реальные уязвимости в кодовой базе. И получается, что открытые модели решают задачи не хуже проприетарных.

🚀 Что произошло:
Исследователи провели 96 циклов тестирования (по три попытки на модель), ограничив агентов тридцатью ходами без доступа в интернет.
В лидеры по числу найденных брешей вырвался DeepSeek V4 Pro 0813, закрывший 28 из 32 уязвимостей.
Следом идут:
Qwen3.8-Max (26 из 32),
Grok 4.6 (26 из 32),
Claude Opus 5 (26 из 32),
GLM-5.3 (25 из 32)
GPT-5.6 Sol (25 из 32).

🔧 Технические детали:
Разница между моделями проявилась в архитектуре исследования кода и разбросе гипотез.
DeepSeek V4 Pro тратит больше всех ресурсов (медиана 24 хода из 30), активно исследует боковые ветви и за три прогона собирает максимум находок: 17 в первой попытке и 28 в сумме.
Три запуска DeepSeek V4 Pro стоят $295 против $450-$590 за одиночный прогон Opus 5 или Sol.
GLM-5.3 на 65.5% дешевле GPT-5.6 Sol при той же точности и находит стабильные 18 из 32 уязвимостей во всех прогонах.
Kimi K3 оказался самым быстрым: медиана 12 ходов и точность 92.3% без ложного шума.

🎯 Какую проблему решает:
Поиск уязвимостей в коде всегда упирается в дилемму цены и полноты охвата.
Одиночный прогон дорогой флагманской модели может оставлять пропуски в логике, например, поэтому нужны повторные запуски или анализ агентами, но их работа обходится в 15 раз дороже по токенам.
Получается, возможность использовать открытые модели для анализа, - это серьёзная экономия и теперь она не приводит к деградации результата.

💼 Зачем бизнесу:
API и привязка к интернету все реже становятся обязательным условием работы с качественным ИИ.
Компании могут разворачивать наступательные и оборонительные сканеры на базе открытых весов в изолированном контуре и получать приемлемый результат.

#cybersecurity #DeepSeek #GLM #LLM #AppSec #тесты
———
@tsingular

И Unsloth такие - ХОБА! :)

Dynamic 2-bit UD-Q2_K_XL is 109GB, is 83% smaller and retains 78% of accuracy.

Dynamic 3-bit UD-IQ3_XXS is 120GB, is 81% smaller and retains 82% of accuracy.

Dynamic 4-bit UD-Q4_K_XL is 200GB, is 69% smaller and retains 93% of accuracy.

Вот всё для людей.
не расслабляемся, тестируем :)

https://unsloth.ai/docs/models/glm-5.3-flash
https://huggingface.co/unsloth/GLM-5.3-Flash-GGUF

Но вообще это конечно странная игра.
Если взять к примеру TerminalBench у 5.3-flash в базе - 84,3 - 78% от неё (Q2) - это 65.5

В то же время Qwen3.8:27b в базе без сжатия взлетает на том же железе с базовым скором - 73
не понятно зачем тогда все эти пляски с бубном

#Unsloth #GLM
———
@tsingular

А вот один из самых первых постов на канале.
кто бы тогда мог подумать, что GLM порвёт все открытки :)

#GLM #2023
———
@tsingular

Через час зарелизят веса полной версии GLM 5.3

https://huggingface.co/zai-org/GLM-5.3

Что с ними делать, только не понятно. Там же терабайты VRAM понадобятся...

Переименовывать в ГлмЧАТ если только ;)

#GLM
------
@tsingular

Z.ai опубликовали веса GLM-5.3

Зайки опубликовали веса конкурента Опуса, - файлы на HuggingFace, 756 ГБ в FP8.

🔧 Что выложили:
Полные веса GLM-5.3, 141 safetensors-шард на 755,6 ГБ, архитектура glm_moe_dsa, FP8.
Лицензия кастомная на базе MIT: всё можно, кроме Model-as-a-Service для компаний с выручкой от $10 млрд, там требуется security-ревью Z.ai.
Для всех остальных полный набор прав вплоть до коммерческого использования и сублицензирования.

⚡️ Почему это важно:
Рекорд среди открытых весов на CyberGym, 84,5 против 83,8 у Mythos 5 и 83,6 у GPT-5.6 Sol.
Больше чем удвоенный GLM-5.2 на exploit-бенчмарках: 54,4 против 24,4 на ExploitBench.
AutomationBench 48,2 и Terminal Bench 3.0 с 4,6 до 28,3, рост шестикратный.

💼 Теперь модель можно крутить локально: SGLang, vLLM, TokenSpeed, KTransformers, Unsloth, плюс vLLM-Ascend для китайских NPU. 755 ГБ это не для ПК, но для кластеров и инференс-хостов самое то.
Think-бюджет управляется через reasoning_effort: low / high / max, по умолчанию max.

📎 Веса: HuggingFace

Готовая нарезка от Unsloth:
https://huggingface.co/unsloth/GLM-5.3-GGUF
Пока доступны:

3-bit
UD-Q3_K_XL
343 GB

Ну и походу именно этого и боялись в OpenAI когда писали письмо о рисках в кибербезе - с такой открытой моделью нас ждут "весёлые" месяцы

#GLM #opensource #веса
———
@tsingular

Unsloth нарезали GLM 5.3 на динамических квантах

От 217 гигов минимум 😭😭😭

#Unsloth #GLM
------
@tsingular

OrcaRouter выпустил безотказную версию GLM-5.3-Flash, но с оговорками.

📋 OrcaRouter,- агрегатор с единой точкой доступа к 200+ моделям от OpenAI, Anthropic, Google и китайских лабораторий, выпустил версию GLM-5.3-Flash без цензуры: 320 млрд параметров, 18 млрд активных, в родном FP8.

📊 Насколько изменилось поведение по их замерам:
Отказов на вредоносные запросы стало меньше:
MaliciousInstruct с 96% до 11%
JailbreakBench с 93% до 12%
HarmBench с 93% до 18%.
Ложные отказы на безобидных запросах упали: с 2,4% до 0,4%.

🔍 Самое интересное в деталях: отказы не упали до нуля равномерно!
Эксперименты показали, что часть механизмов отказа у GLM-5.3-Flash не сидит в одном линейном направлении, как у большинства моделей, а спрятана глубже.

Проще говоря, Z.ai построила защиту серьёзнее обычного, и простое вычитание направления убирает её лишь частично.
Т.е. эксперимент OrcaRouter важен не только как сам факт расцензуривания модели, хотя за это им, конечно, спасибо, но и для исследований того, как в принципе у GLM устроена сама защита.

💼 OrcaRouter позиционирует релиз как оружие для защищающихся: инструмент для атакующих и защитных команд, интерпретируемости и исследований механизмов отказа.

Веса уже на HuggingFace, в ближайшее время ждём GGUF и MLX файнтюны.

📎 Веса: HuggingFace · Оригинал: OrcaRouter в X

#GLM #opensource #cybersecurity #расцензуривание
———
@tsingular

Ночной безлимит от Z.ai: как запустить бесплатный агентный кодинг на GLM-5.3-Flash

Z.ai объявила специальную акцию: с 3 по 20 сентября списание квоты в GLM-5.3-Flash полностью обнуляется в клиенте ZCode и удваивается во всех сторонних агентах.

🌙 Окно возможностей по Москве:
Пока в Сингапуре ночь, сервера свободны. Акция включается автоматически ежедневно с 23:00 до 09:00 по времени UTC+8.
Для разработчиков из Москвы это подарок часовых поясов: льготное окно длится с 18:00 до 04:00 утра, закрывая вечерний спринт.
Условия тарифов GLM Coding Plan (от $18 в месяц):
В клиенте ZCode списание квоты обнуляется: кодинг и фоновые задачи идут без ограничений.
В Claude Code, Cline, OpenCode, OpenClaw, Roo Code и Cursor доступные лимиты удваиваются.

🇨🇳 За чей счёт банкет:
Zhipu AI перевела инференс модели на кластер из десятков тысяч отечественных китайских чипов.
Стек на базе SGLang с архитектурой EPD (разделение кодирования и декодирования) снизил себестоимость генерации до паритета с чипами NVIDIA.
Ядра оптимизировали сами ИИ-агенты. Теперь компании нужно загрузить ночной кластер и затянуть аудиторию в собственный ZCode.

💼 Зачем бизнесу:
Инструменты кодинга переходят в стадию жесткого демпинга.
За $18 в месяц команды получают полигон для вечернего рефакторинга, тестов и агентных сценариев без страха быстро сжечь баланс токенов.
Китайские ускорители доказали готовность к промышленной нагрузке, а инженеры получили возможность гонять автономные циклы почти даром.

#glm #zhipu #кодинг #агенты
———
@tsingular | Max | YouTube | RuTube

Z.ai запускает Sovereign Partner Program (ZSP)

Следующий этап внедрения AI — локальная инфраструктура, локальная экспертиза и сильные экосистемные партнёрства. Z.ai открывает программу для партнёров, готовых привести модель GLM в свою страну и строить локальные AI-возможности.

Что даёт программа партнёрам:
• Ранний доступ к будущим релизам GLM
• Поддержку FDE и совместную инженерию
• Совместный go-to-market и работу с enterprise-клиентами
• Развитие локального токен-бизнеса
• Совместные запуски и активацию на рынке

Цель простая: дать партнёрам развернуть GLM на собственной инфраструктуре, обслуживать клиентов локально и выстраивать долгосрочные AI-компетенции в своих странах.

Набор первой когорты партнёров уже открыт.

Заявка →
https://forms.gle/7NRCUKyBjpb7BCBw8

Сайт → z.ai

#ZSP #GLM #SovereignAI #EnterpriseAI #AIInfrastructure
---
@tsingular

GLM строит свою инференс-инфраструктуру сама: ранние формы рекурсивного самоулучшения (RSI)

Z.ai опубликовала технический отчет о запуске GLM-5.3-Flash: на кластере из более 100 000 китайских AI-ускорителей всю производственную инфраструктуру инференса подняла не команда инженеров, а Infra Agent под управлением самой GLM-5.3.

Модель адаптировалась к новому железу и вышла в прод за две недели, утраивая сквозной throughput. Через неделю анонимного тестирования на OpenCode и OpenRouter (псевдоним Ox-Alpha) Flash стала самой используемой моделью обеих платформ: 62 трлн токенов за 6 дней.

⚡️ Модель оптимизирует систему, система запускает модель:
Прорыв тут не в силе модели, а в контуре обратной связи.
Команда внедрила принцип плотной (dense) обратной связи, - вместо размытых сигналов вида «точность упала на 20%» агент получает локальные проверяемые факты: сравнение ядер по численной точности, микробенчмарки, трейсы выполнения.

Это позволило агенту самому находить и чинить баги уровня, о котором раньше говорили только сеньоры: численное расхождение в KDA-ядре из-за TF32 (фикс через tf32x3 уже ушел в апстрим Flash Linear Attention) и блокировка Python GIL в DeepEP, тормозившая передачу KV-кэша (разрыв упал с 20% до менее 1%).

🔥 Два факта, о которых стоит подумать:
• Каждый крупный лабораторный стартап сейчас строит подобные агентские контуры для обучения и инференса своих же моделей.
• При этом ни одна лаборатория по безопасности всерьез не занимается оценкой RSI-рисков, - нет ни стандартов, ни независимых бенчмарков на измерение близости к рекурсивному самоулучшению.

Z.ai пишет: люди по-прежнему задают цели и границы, но прогресс на этой границе не замедлится только потому, что нам этого хочется.

#GLM #инференс #RSI #агенты #Zai
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен

В Opencode бесплатные DeepSeek v4.1 flash и GLM 5.3 Flash

сон отменяется :)

#Opencode #GLM #DeepSeek
———
@tsingular

Z.ai рассказала, как GLM улучшает инфраструктуру, на которой работают её модели

В Z.ai агент на базе GLM-5.3 помог подготовить инфраструктуру для GLM-5.3-Flash на кластере из более чем 100 тысяч китайских ускорителей. По данным команды, от первого запуска до готовности обслуживать пользователей прошло меньше двух недель, а сквозная пропускная способность выросла примерно втрое относительно исходной реализации.

🔬 Ключевым оказался способ проверки изменений. Одного сообщения «после правки стало медленнее» агенту мало. Ему дали тесты отдельных вычислений, сравнение с эталоном, замеры и трассы выполнения. Теперь гипотезу можно проверить локально, выяснить причину и только затем возвращаться к испытанию всего сервиса.

🔧 Например, при передаче KV-кэша производительность в некоторых сценариях падала более чем на 20%. Агент заметил, что передача не совмещается с вычислениями, и проследил проблему до C++-вызовов, удерживавших блокировку Python. Она мешала другому потоку вовремя отправлять данные. После освобождения блокировки разрыв с режимом без передачи кэша сократился до менее 1% в тех же условиях.

🧠 Опыт сохранялся между итерациями. Агент изучал существующие реализации и собирал библиотеку приёмов оптимизации: когда применять изменение, какие ресурсы нужны и какими экспериментами подтверждён эффект. Проверенные находки пополняли библиотеку и помогали в следующих задачах. Улучшения накапливались в коде и инженерных знаниях, без описанного в статье переобучения самой GLM.

🔁 Так выглядит показанный здесь шаг к RSI: модель улучшает систему, которая запускает модели, а результаты работы помогают следующему циклу. Люди по-прежнему задают цели, ограничения и проверяют рискованные изменения. Практический вывод Z.ai: для такого цикла нужны доступные агенту эксперименты, которые объясняют, где возникла проблема и сработало ли исправление.

До этого была только информация, что ИИ агент им помог, теперь поделились деталями.

📎 Одно из исправлений уже принято в Flash Linear Attention

#Zai #GLM #RSI #Агенты
———
@tsingular