8–32 ГБ видеопамяти: какие ИИ-модели можно запустить у себя?
Для своего AI-помощника не обязательно нужен дорогой сервер. Некоторым открытым моделям хватает 8–12 ГБ видеопамяти, а с 24–32 ГБ выбор становится шире.
🗣 Мы рассказали на Хабре о пяти моделях и семействах для GPU с 8–32 ГБ памяти — для работы с кодом, документами и внутренними сервисами.
💡 Мы отдельно разобрали, сколько места оставить для контекста и рабочих данных. Ведь поместить веса на видеокарту
— ещё не значит получить комфортную работу модели.
📖 Подробности, результаты тестов и ориентиры по памяти — в нашей статье на Хабре
Для своего AI-помощника не обязательно нужен дорогой сервер. Некоторым открытым моделям хватает 8–12 ГБ видеопамяти, а с 24–32 ГБ выбор становится шире.
🔹 DeepSeek R1-Distill — тексты, код и рассуждения. Размер модели можно подобрать под доступное железо.
🔹 Qwen3.8-27B — более сложные задачи с кодом и документами. Ориентир — 24–32 ГБ с подходящим квантованием.
🔹 Gemma 4 12B-it — помощники, RAG и мультимодальные задачи. Можно рассматривать конфигурации от 16 ГБ.
🔹 gpt-oss-20b — рассуждения, программирование и инструменты. Требования зависят от GPU и формата весов.
🔹 MiMo-9B — компактный вариант для кода и агентных сценариев на 8–12 ГБ с квантованием.
💡 Мы отдельно разобрали, сколько места оставить для контекста и рабочих данных. Ведь поместить веса на видеокарту
— ещё не значит получить комфортную работу модели.
📖 Подробности, результаты тестов и ориентиры по памяти — в нашей статье на Хабре
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥2
⚠️ Вышли важные обновления безопасности PHP — рекомендуем установить их как можно скорее
21 октября 2026 года команда PHP выпустила исправления двух критических уязвимостей — CVE-2026-109618 и CVE-2026-109619.
Они могут позволить выполнить код на сервере без авторизации.
Если вы ещё не видели уведомление и используете PHP для сайтов или веб-приложений, мы рекомендуем как можно скорее проверить версии и установить исправления. ИИ-инструменты могут ускорять поиск уязвимых систем и подготовку атак, поэтому рассчитывать на долгий запас времени не стоит.
📌 Кого это касается
🔹 До каких версий обновиться
Для PHP 8.1 и старше уточните наличие исправлений у поставщика пакетов. Если поддержки уже нет, потребуется переход на поддерживаемую ветку.
После обновления перезапустите службы PHP и проверьте работу сайтов. Контейнеры пересоздайте из обновлённых образов.
📖 Подробности — в официальном бюллетене PHP
21 октября 2026 года команда PHP выпустила исправления двух критических уязвимостей — CVE-2026-109618 и CVE-2026-109619.
Они могут позволить выполнить код на сервере без авторизации.
Если вы ещё не видели уведомление и используете PHP для сайтов или веб-приложений, мы рекомендуем как можно скорее проверить версии и установить исправления. ИИ-инструменты могут ускорять поиск уязвимых систем и подготовку атак, поэтому рассчитывать на долгий запас времени не стоит.
📌 Кого это касается
Систем, где PHP обрабатывает веб-запросы через PHP-FPM, Apache с mod_php, CGI, FrankenPHP или LiteSpeed. Наибольший риск отмечен для Apache с mod_php.
Обновления CMS и плагинов недостаточно — исправления нужны самому PHP.
🔹 До каких версий обновиться
Исправленные версии: PHP 8.2.35, 8.3.36, 8.4.27 и 8.5.12. Установите обновление своей ветки или пакет с исправлением от поставщика ОС либо панели управления.
Для PHP 8.1 и старше уточните наличие исправлений у поставщика пакетов. Если поддержки уже нет, потребуется переход на поддерживаемую ветку.
После обновления перезапустите службы PHP и проверьте работу сайтов. Контейнеры пересоздайте из обновлённых образов.
📖 Подробности — в официальном бюллетене PHP
👍4❤2🔥1
Для своего ИИ-помощника не всегда нужна дорогая видеокарта на 48 или 96 ГБ. Если вы работаете с документами, собираете базу знаний или запускаете чат-бота, для вашей задачи может хватить и 24 ГБ.
Мы собрали в блоге шесть моделей для такого объёма памяти и разобрали их запуск на примере NVIDIA L4:
🔹 Gemma 4 12B — для ассистентов и работы с текстом, изображениями и аудио.
🔹 Qwen3.5-9B — для кода, длинных документов и автоматизации рутинных задач.
🔹 gpt-oss-20b — для локальных помощников с возможностью настраивать глубину рассуждений.
🔹 PaddleOCR-VL-1.6 — для распознавания документов, таблиц и формул.
🔹 Qwen3.6-35B-A3B и Qwen3.8-27B — для более сложных задач с кодом, документами и RAG.
📌 Что важно учесть
Большинству моделей из подборки потребуется квантование — уменьшение точности весов, которое снижает расход памяти.
В статье рассказали, какие варианты подойдут даже для 16 ГБ
Где хватит L4 и когда стоит смотреть на GPU мощнее. Чтобы вы могли выбрать конфигурацию под свою задачу и не переплачивать за лишние ресурсы.
📖 Подборка моделей и подробности запуска — в нашем блоге
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
Добавили в mClouds дополнительные NVIDIA RTX PRO 6000 Blackwell с 96 ГБ видеопамяти — для тех, кому уже тесно в 24 или 48 ГБ.
К одной виртуальной машине можно подключить две карты и получить 192 ГБ видеопамяти суммарно. Это позволяет распределить крупную модель между GPU или запускать на каждой свои задачи.
📌 Такая конфигурация пригодится для работы с LLM, ИИ-ассистентами и базами знаний, дообучения моделей, генерации изображений и видео.
Если ваша модель вместе с контекстом помещается в 96 ГБ, а производительности достаточно, RTX PRO 6000 может стать более экономичной альтернативой аренде A100, H100 или H200.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥10
Привет! В октябре мы добавили больше GPU в облако, вошли в ТОП-5 провайдеров DRaaS и подготовили новые материалы для тех, кто работает с ИИ. Собрали главное за месяц.
Добавили карты с 96 ГБ видеопамяти для задач, которым уже мало 24 или 48 ГБ. К одной ВМ можно подключить две GPU — получится 192 ГБ суммарно.
Подробнее о возможностях и сценариях рассказали в карточках.
В рейтинге CNewsMarket отметили возможности аварийного переключения, защиту резервных копий и инструменты информационной безопасности. Наш DRaaS на технологиях Veeam и Хайстакс помогает организовать резервную площадку и подготовить восстановление систем при сбое.
21 октября вышли исправления двух критических уязвимостей. Если ваши сайты и приложения используют PHP, а обновления ещё не установлены, рекомендуем не откладывать: обновить нужно сам PHP, а не только CMS и плагины.
Подробности — в официальном бюллетене.
🔹 Пять открытых ИИ-моделей для GPU с 8–32 ГБ — какие альтернативы облачным ИИ-сервисам можно запустить у себя.
🔹 Как устроена LPDDR5X-PIM — память, которая умеет выполнять часть вычислений прямо там, где хранятся данные.
Собрали шесть моделей для GPU до 24 ГБ и разобрали, как выбрать GPU для Qwen и других LLM. С примерами, где хватит L4, а когда стоит смотреть на L40S или RTX PRO 6000.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2🔥2