🐳 DeepSeek выложила в open source движок инференса DeepInfer
DeepSeek открыла исходники DeepInfer - производственного стека инференса, на котором работает модель DeepSeek-V4.1-Flash. Код под лицензией Apache 2.0, за основу взят vLLM.
Заявленные цифры с одного кластера: 155 трлн токенов в сутки, 96% попаданий в input-кэш, 400 мс до первого токена и 230 токенов/с генерации (300 для кода). Кэширование промптов - до 72 часов против 12 у OpenAI. При off-peak ценах это около $38 выручки на ускоритель-час, маржа выше 80% и окупаемость кластера за 81 день.
Архитектура разделяет vision-энкодинг, prefill и decode: prefill идёт на обычных 8-GPU машинах, decode - на supernode из 64-128 ускорителей с широким expert parallelism. Важная оговорка: менеджмент KV-кэша и балансировка нагрузки не опубликованы - они завязаны на внутреннюю инфраструктуру. vLLM уже сообщил, что на GB200 в сопоставимой конфигурации отстаёт от DeepInfer всего на 6%.
🎨 qvabo.studio/tg · картинки и видео
#AI #DeepSeek #Inference #vLLM #openSource
DeepSeek открыла исходники DeepInfer - производственного стека инференса, на котором работает модель DeepSeek-V4.1-Flash. Код под лицензией Apache 2.0, за основу взят vLLM.
Заявленные цифры с одного кластера: 155 трлн токенов в сутки, 96% попаданий в input-кэш, 400 мс до первого токена и 230 токенов/с генерации (300 для кода). Кэширование промптов - до 72 часов против 12 у OpenAI. При off-peak ценах это около $38 выручки на ускоритель-час, маржа выше 80% и окупаемость кластера за 81 день.
Архитектура разделяет vision-энкодинг, prefill и decode: prefill идёт на обычных 8-GPU машинах, decode - на supernode из 64-128 ускорителей с широким expert parallelism. Важная оговорка: менеджмент KV-кэша и балансировка нагрузки не опубликованы - они завязаны на внутреннюю инфраструктуру. vLLM уже сообщил, что на GB200 в сопоставимой конфигурации отстаёт от DeepInfer всего на 6%.
🎨 qvabo.studio/tg · картинки и видео
#AI #DeepSeek #Inference #vLLM #openSource
⚡1🔥1
PHP Foundation выпустила экстренные патчи для двух уязвимостей критического уровня - CVE-2026-109618 и CVE-2026-109619, затрагивающих «все установки PHP, обслуживающие веб-запросы» вплоть до версии 5 2004 года. Оценка по CVSS - 9,2 из 10. Патчи доступны только для PHP 8.2 и новее, хотя некоторые дистрибутивы готовят legacy-исправления.
По данным Cloudflare, первые атаки начались ещё до публикации патчей. Sansec предупредила, что массовые эксплойты пойдут «в течение 15 минут после релиза». Уязвимости позволяют неаутентифицированному атакующему выполнять код на сервере и читать память процессов, где могут храниться пароли, токены и API-ключи. Исследователи Wiz частично нашли дыры с помощью AI-инструментов и назвали демонстрацию php2shell; OpenAI и Calif заявляют о независимом обнаружении. Эксперт Лукаш Олейник отмечает: AI делает эксплуатацию вопросом «минуты или около того».
На фоне предупреждений сайты госструктур Финляндии, Франции и порта Роттердама временно ушли в офлайн. NCSC и EU-CERT рекомендуют немедленно обновить PHP или отключить систему. PHP лежит в основе WordPress, Drupal и Magento - цена промедления измеряется миллионами сайтов.
🎨 qvabo.studio/tg · картинки и видео
#Safety #PHP #Cybersecurity #Vulnerability #AI #WebDevelopment
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1🤓1
🤖 Главные тренды AI и ML: мультимодальность, edge computing и регулирование
Обзор Simplilearn выделяет направления, которые определяют развитие AI и ML. Generative AI остаётся самым заметным: модели для текста, изображений, видео и речи всё активнее встраиваются в сторонние платформы, а не живут только в отдельных чатах. Multimodal AI объединяет текст, числа, изображения и видео в одном запросе, что повышает точность результатов и качество виртуальных ассистентов.
Второй блок - инфраструктура и доступность. Edge computing переносит обработку ближе к источнику данных, снижая задержку и нагрузку на канал. No-code ML позволяет собирать и разворачивать модели через drag-and-drop, без долгих часов программирования. Explainable AI даёт методы, показывающие, как именно модель пришла к выводу, и это важно для медицины и HR. Отдельно в списке - n-shot learning для работы с малым объёмом данных, цифровые двойники и квантовые вычисления для оптимизационных задач.
Регулирование тоже попало в тренды: массовое использование AI привело к росту мошеннических схем, поэтому EU, US и Индия уже вводят нормы, а UK готовит собственный закон. Цель - баланс между пользой и рисками технологии.
🎨 qvabo.studio/tg · картинки и видео
#Ai #MachineLearning #GenerativeAI #MultimodalAI #Trends
Обзор Simplilearn выделяет направления, которые определяют развитие AI и ML. Generative AI остаётся самым заметным: модели для текста, изображений, видео и речи всё активнее встраиваются в сторонние платформы, а не живут только в отдельных чатах. Multimodal AI объединяет текст, числа, изображения и видео в одном запросе, что повышает точность результатов и качество виртуальных ассистентов.
Второй блок - инфраструктура и доступность. Edge computing переносит обработку ближе к источнику данных, снижая задержку и нагрузку на канал. No-code ML позволяет собирать и разворачивать модели через drag-and-drop, без долгих часов программирования. Explainable AI даёт методы, показывающие, как именно модель пришла к выводу, и это важно для медицины и HR. Отдельно в списке - n-shot learning для работы с малым объёмом данных, цифровые двойники и квантовые вычисления для оптимизационных задач.
Регулирование тоже попало в тренды: массовое использование AI привело к росту мошеннических схем, поэтому EU, US и Индия уже вводят нормы, а UK готовит собственный закон. Цель - баланс между пользой и рисками технологии.
🎨 qvabo.studio/tg · картинки и видео
#Ai #MachineLearning #GenerativeAI #MultimodalAI #Trends
Команда Anthropic выпустила патч Claude Code v2.1.306 - небольшой релиз, но с двумя исправлениями, которые важны для тех, кто использует CLI в облачных окружениях и с десятками MCP-серверов.
Первое: запуск
claude -p внутри cloud-сессий больше не выдаёт «Not logged in», если процесс стартовал без переменных окружения этой сессии. Раньше headless-вызовы в автоматизированных пайплайнах ломались, если окружение не пробрасывалось явно - теперь авторизация определяется корректно.Второе: исправлена ситуация, когда реальная ошибка API подменялась сообщением «prompt is too long», а сессия вдобавок запускала ненужную компакцию контекста. Проблема проявлялась в сессиях с большим количеством MCP-инструментов - там размер описаний инструментов учитывался неверно, что и приводило к ложному срабатыванию лимита и лишнему сжатию истории.
Для разработчиков это значит меньше «фантомных» ошибок в агентных сценариях: headless-запуски в CI и облаке, сборки с большим набором MCP-серверов и длинные сессии теперь ведут себя предсказуемее, а контекст не тратится на лишнюю компакцию. Обновление ставится стандартно через
claude update или переустановку пакета.🎨 qvabo.studio/tg · картинки и видео
#ClaudeCode #AI #Skills #MCP #GitHub #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
Mistral и Nvidia объявили о партнёрстве: языковая модель Mistral Large 4 и физический ИИ от Mistral будут объединены с библиотеками CUDA-X и Warp, а также с платформой Omniverse для 3D-симуляций. Цель - связать проектирование, моделирование и обучение ИИ в единый непрерывный процесс.
Ориентированы на аэрокосмическую, автомобильную и полупроводниковую отрасли. Компании также обещают выпустить публичные бенчмарки и открытые датасеты для проверки и сравнения физических моделей и ИИ-агентов, работающих с инженерным ПО.
Mistral Large 4 насчитывает около триллиона параметров и обучена на 3800 GPU Grace Blackwell в Европе; в конце октября модель выйдет с открытыми весами. Ранее компании вместе сделали Mistral NeMo и работают над открытой базовой моделью в рамках Nemotron Coalition. Mistral также планирует нарастить вычислительные мощности до одного гигаватта к 2030 году.
🎨 qvabo.studio/tg · картинки и видео
#Business #Tech #Mistral #Nvidia #Indrustry #PhysicalAI
Please open Telegram to view this post
VIEW IN TELEGRAM