🔋 Google DeepMind выпустила DiffusionGemma — модель для локального AI с ускорением в 4 раза

Исследовательское подразделение Google представило DiffusionGemma — открытую диффузионную языковую модель, которая работает на локальном устройстве в 4 раза быстрее традиционных трансформеров. В отличие от классических LLM, DiffusionGemma генерирует текст не последовательно (токен за токеном), а итеративно, приближаясь к финальному результату за меньшее число шагов.

Модель построена на архитектуре диффузии, ранее применявшейся в генерации изображений (Stable Diffusion, DALL-E), но адаптированной для текста. Такой подход позволяет распараллеливать вычисления и значительно сокращает время инференса на CPU и GPU среднего класса. Веса модели опубликованы в открытом доступе, что даёт разработчикам возможность запускать её локально без обращения к облачным API.

Практическое значение: DiffusionGemma подходит для приложений, где критична скорость ответа и конфиденциальность данных — чат-боты на устройстве, автодополнение кода, офлайн-перевод. Это шаг к демократизации AI: мощная генеративная модель, работающая на обычном ноутбуке, а не в дата-центре.

#AI #LLM #GoogleDeepMind #DiffusionGemma #OpenModel #Diffusion

🍏 Bonsai 27B — открытая модель рассуждений, помещающаяся на iPhone

Компания PrismML представила Bonsai 27B — полностью открытую модель рассуждений, которая благодаря экстремальному сжатию умещается на смартфоне. Размер модели — от 3,9 ГБ (1-битная версия) до 5,9 ГБ (тернарная), тогда как стандартная FP16 занимает 54 ГБ. Это стало возможным за счёт использования 1–2 бит на вес нейросети вместо обычных 16.

По данным PrismML, тернарная версия сохраняет 95% производительности исходной Qwen3.6-27B, а 1-битная — 90%. Математика и код практически не пострадали, снижение заметно в задачах понимания изображений и следования инструкциям. На iPhone 17 Pro Max модель выдаёт около 11 токенов в секунду, а полного заряда батареи хватает примерно на 67 000 токенов.

PrismML уже ведёт переговоры с Apple о лицензировании технологии сжатия. По данным CNBC, Apple тестирует Bonsai на скорость, энергопотребление и производительность. Веса модели доступны под лицензией Apache 2.0, поддерживаются MLX (Apple) и NVIDIA GPU. Компания также планирует применить свой метод к серии Gemma от Google.

#AI #Bonsai27B #OpenModel #Tech #OndeviceAI #PrismML

❓Кому доступно понимание ИИ?

Allen Institute (AI2) опубликовал манифест открытой науки в ИИ: доступ к весам, данным, коду и методам обучения моделей — не опция, а необходимость для независимых исследований и доверия. Без открытости большая часть научной работы остаётся запертой в нескольких корпорациях.

На примере своей модели Olmo AI2 показывает, как открытые артефакты позволяют изучать демографические предубеждения в клинических приложениях, проверять, соответствуют ли декларируемые даты отсечки данных реальным знаниям модели, и выявлять завышение результатов бенчмарков из-за парафразированных вопросов. Во всех этих случаях исследователи из Northeastern, Johns Hopkins, Arb Research и других институтов смогли воспроизвести и расширить выводы только потому, что модель была полностью открыта.

Сейчас, когда американские учёные всё чаще полагаются на зарубежные открытые модели, AI2 подчёркивает: без собственной открытой инфраструктуры США рискуют потерять лидерство в ИИ-науке. Следующая волна политики в области ИИ определит, смогут ли университеты и некоммерческие лаборатории продолжать участвовать в разработке передовых систем.

#AI #OpenModel #Research #Olmo #Science #AlienInstitute2

❗️Moonshot AI выпустила открытые веса Kimi K3 и инфраструктуру после сенсации на рынке frontier-моделей

Китайская компания Moonshot AI опубликовала веса модели Kimi K3 на Hugging Face, а также технический отчет и часть инфраструктуры: высокопроизводительные attention-ядра, библиотеку для MoE-коммуникаций и инструменты для масштабного запуска AI-агентов. Разработчики заявляют, что новая архитектура даёт в 2,5 раза больше «интеллекта» на единицу вычислений. Модель содержит 2,8 триллиона параметров и занимает 1,56 ТБ дискового пространства.

С момента анонса в середине июля Kimi K3 показала результаты, близкие к западным моделям вроде Fable 5 и GPT‑5.6 Sol, но при более низкой стоимости и с открытыми весами. Однако независимое тестирование британского Cyber Institute выявило серьёзное отставание модели в задачах кибербезопасности и сложной математике. Это может указывать на использование дистилляции — техники, при которой меньшая модель обучается на выходах более мощной. Хотя китайские модели часто обвиняют в этом, на Западе всё больше сторонников легитимизации дистилляции.

#AI #KimiK3 #MoonshotAI #OpenModel #Distillation

🔼Открытые модели Neon обходят GPT-5.6 Sol в поиске, будучи в 100 раз дешевле

Neon представила семейство моделей Castform, которые, по заявлению компании, превосходят флагманскую GPT-5.6 Sol на задачах retrieval — поиске и извлечении информации. При этом стоимость инференса Castform примерно в 100 раз ниже, чем у топовой проприетарной модели.

В блоге компании утверждается, что Castform добивается более высокой точности на retrieval-бенчмарках за счёт разреженной архитектуры и эффективного использования контекста. Для разработчиков это означает, что сценарии RAG, семантический поиск и обработка больших корпусов документов больше не требуют вызова дорогих API. Открытые веса позволяют разворачивать модели на собственном железе и платить только за электричество.

Если бенчмарки подтвердятся независимыми тестами, это серьёзный сигнал для рынка: узкие задачи можно закрывать компактными открытыми моделями, не дожидаясь удешевления гигантских нейросеток. Castform ставит вопрос о том, насколько оправдана цена фронт-моделей для типовых enterprise-нагрузок.

#AI #LLM #Neon #Retrieval #OpenModel

↗️ Открытая Kimi K3 вплотную приблизилась к закрытым фронтир-моделям

Аналитики BOCOM International считают, что Moonshot AI с моделью Kimi K3 вывела открытые ИИ на порог закрытых фронтиров. У Kimi K3 — 2,8 трлн параметров в нативной мультимодальной архитектуре MoE: на токен активируются 104,2 млрд, контекст — 1 млн токенов. В сторонних тестах Artificial Analysis модель набирает около 57 баллов, уступая лишь GPT-5.6 Sol (~59) и Claude Opus 5/Fable 5 (~60).

Отчёт ставит K3 на «границу Парето» по цене и качеству. Одна задача обходится примерно в $0,86 — около 70% от GPT-5.6 Sol и лишь 30–40% от флагманов Anthropic, при этом более дешёвые GLM-5.2 и DeepSeek V4 Flash заметно слабее. Такой баланс должен ускорить внедрение агентных приложений в enterprise.

Три архитектурных новшества расширяют пропускную способность: KDA с gated MLA эффективно обрабатывает миллионные последовательности, attention-остатки позволяют выборочно извлекать информацию между слоями, а стабильный латентный MoE смешивает 896 экспертов с 16 активными. KDA особенно важна для длинного контекста: память больше не растёт линейно с длиной последовательности. На системном уровне собственная инфраструктура MoonEP устраняет «вычислительные пузыри»: из-за 896 экспертов и лишь 16 активных обычная маршрутизация перегружала бы одни GPU и простаивала другие, MoonEP балансирует нагрузку и поднимает утилизацию кластера к физическому пределу.

Коммерческий контекст: Moonshot закрыла раунд Series F на $3,5 млрд, оценка выросла на 75% до $35–50 млрд, а pre-IPO целится в $50 млрд.

#AI #LLM #Ranking #Model #KimiK3 #OpenModel

⚙️ Zhipu открыла GLM-5.3-FlashX: ~200 токенов/с на ~100 тыс. китайских ускорителей

Zhipu AI запустила GLM-5.3-FlashX - высокоскоростной вариант модели Flash, доступный через API и в центре тестирования. Заявленная пиковая скорость генерации - около 200 токенов в секунду. Ускорение обеспечено вычислительными мощностями примерно 100 тыс. китайских AI-ускорителей и оптимизацией serving-стека.

Базовая модель GLM-5.3-Flash была открыта 26 августа: 320 млрд параметров, MoE-архитектура с ~18 млрд активных параметров и контекстом в 1 млн токенов. Ранее она появлялась анонимно как Ox Alpha на публичных платформах маршрутизации. Инженеры Z.ai построили production-стек с нуля под кластер национальных чипов, столкнувшись с ограниченной памятью и пропускной способностью на кристалл, неполными ядрами (kernels) и мультимодальным длинноконтекстным трафиком.

Значительную часть адаптации выполнил Infra Agent на базе GLM-5.3: инженеры ставили задачи и проверяли критичные изменения, а агент предлагал диагностику, патчи ядер и правки стека по результатам тестов корректности и метрик. Итог - примерно 3× рост сквозной пропускной способности относительно базовой конфигурации и эффективность на токен, близкая к экономике обслуживания на GPU NVIDIA. FlashX позиционируется как публичный скоростной SKU поверх открытой MoE-модели.

#AI #Zhipu #GLM #MoE #Tech #Inference #OpenModel