Привет! В сентябре мы добавили новый GPU-тариф, обновили резервное копирование и много разбирались с ИИ на практике.

🔔Собрали главное за месяц — вдруг что-то пропустили.

🚀 Запустили тариф с двумя NVIDIA L4 в одной виртуальной машине.

Суммарно 48 ГБ видеопамяти, 16 vCPU на AMD EPYC 9555, 64 ГБ DDR5 и 300 ГБ NVMe. Вариант для тех, кому одной L4 уже мало, а мощность и стоимость L40S избыточны.

Посмотреть тарифы.

🔒 Обновили наш BaaS до Veeam 13. Закрыли важные уязвимости, добавили новые возможности защиты: анализ подозрительной активности с помощью ИИ, двойное подтверждение критичных действий и единый вход.

📚 Написали в наш блог на Хабре две статьи о серверной памяти.

Разобрали, как добавить RAM через PCIe и зачем дата-центрам память, знакомая нам по ноутбукам:

Больше RAM через PCIe: как работает CXL
LPDDR5X и SOCAMM2: «ноутбучная» память приходит в серверы

🤖 В блоге помогли разобраться с запуском своего AI-помощника. Сколько видеопамяти оставить под контекст и запросы коллег? Как подключить документы компании, чтобы искать ответы по инструкциям и регламентам? Собрали объяснения и пошаговое руководство:
Как оценить объём VRAM для LLM
Как запустить LLM с RAG на своём сервере

В руководстве также сравнили Qwen и Gemma на NVIDIA L4: посмотрели на ответы, скорость и расход памяти — с базой знаний и без неё.

🛡 И не забыли про безопасность. Показали, как настроить CrowdSec на Linux для защиты от перебора паролей SSH и подозрительных веб-запросов. Сохраняйте инструкцию.

📌 В октябре продолжим делиться обновлениями и материалами, которые можно применить в своих проектах. Полную версию сентябрьского дайджеста читайте в нашем блоге.

8–32 ГБ видеопамяти: какие ИИ-модели можно запустить у себя?

Для своего AI-помощника не обязательно нужен дорогой сервер. Некоторым открытым моделям хватает 8–12 ГБ видеопамяти, а с 24–32 ГБ выбор становится шире.

🗣 Мы рассказали на Хабре о пяти моделях и семействах для GPU с 8–32 ГБ памяти — для работы с кодом, документами и внутренними сервисами.

🔹 DeepSeek R1-Distill — тексты, код и рассуждения. Размер модели можно подобрать под доступное железо.
🔹 Qwen3.8-27B — более сложные задачи с кодом и документами. Ориентир — 24–32 ГБ с подходящим квантованием.
🔹 Gemma 4 12B-it — помощники, RAG и мультимодальные задачи. Можно рассматривать конфигурации от 16 ГБ.
🔹 gpt-oss-20b — рассуждения, программирование и инструменты. Требования зависят от GPU и формата весов.
🔹 MiMo-9B — компактный вариант для кода и агентных сценариев на 8–12 ГБ с квантованием.

💡 Мы отдельно разобрали, сколько места оставить для контекста и рабочих данных. Ведь поместить веса на видеокарту
— ещё не значит получить комфортную работу модели.

📖 Подробности, результаты тестов и ориентиры по памяти — в нашей статье на Хабре

🧠 Какие нейросети можно запустить на GPU с 24 ГБ памяти? А с 16ГБ ?

Для своего ИИ-помощника не всегда нужна дорогая видеокарта на 48 или 96 ГБ. Если вы работаете с документами, собираете базу знаний или запускаете чат-бота, для вашей задачи может хватить и 24 ГБ.

Мы собрали в блоге шесть моделей для такого объёма памяти и разобрали их запуск на примере NVIDIA L4:

🔹 Gemma 4 12B — для ассистентов и работы с текстом, изображениями и аудио.
🔹 Qwen3.5-9B — для кода, длинных документов и автоматизации рутинных задач.
🔹 gpt-oss-20b — для локальных помощников с возможностью настраивать глубину рассуждений.
🔹 PaddleOCR-VL-1.6 — для распознавания документов, таблиц и формул.
🔹 Qwen3.6-35B-A3B и Qwen3.8-27B — для более сложных задач с кодом, документами и RAG.

📌 Что важно учесть

Большинству моделей из подборки потребуется квантование — уменьшение точности весов, которое снижает расход памяти.

В статье рассказали, какие варианты подойдут даже для 16 ГБ

Где хватит L4 и когда стоит смотреть на GPU мощнее. Чтобы вы могли выбрать конфигурацию под свою задачу и не переплачивать за лишние ресурсы.

📖 Подборка моделей и подробности запуска — в нашем блоге

🗣 Что нового в mClouds: итоги октября

Привет! В октябре мы добавили больше GPU в облако, вошли в ТОП-5 провайдеров DRaaS и подготовили новые материалы для тех, кто работает с ИИ. Собрали главное за месяц.

🚀 Расширили пул RTX PRO 6000 Blackwell

Добавили карты с 96 ГБ видеопамяти для задач, которым уже мало 24 или 48 ГБ. К одной ВМ можно подключить две GPU — получится 192 ГБ суммарно.

Подробнее о возможностях и сценариях рассказали в карточках.

🏆 Вошли в ТОП-5 российских облачных провайдеров DRaaS

В рейтинге CNewsMarket отметили возможности аварийного переключения, защиту резервных копий и инструменты информационной безопасности. Наш DRaaS на технологиях Veeam и Хайстакс помогает организовать резервную площадку и подготовить восстановление систем при сбое.

🛡️ Напомнили об обновлении PHP

21 октября вышли исправления двух критических уязвимостей. Если ваши сайты и приложения используют PHP, а обновления ещё не установлены, рекомендуем не откладывать: обновить нужно сам PHP, а не только CMS и плагины.

Подробности — в официальном бюллетене.

📄 На Хабре разобрали модели и память

🔹 Пять открытых ИИ-моделей для GPU с 8–32 ГБ — какие альтернативы облачным ИИ-сервисам можно запустить у себя.
🔹 Как устроена LPDDR5X-PIM — память, которая умеет выполнять часть вычислений прямо там, где хранятся данные.

💡 В блоге рассказали, как не переплачивать за ИИ

Собрали шесть моделей для GPU до 24 ГБ и разобрали, как выбрать GPU для Qwen и других LLM. С примерами, где хватит L4, а когда стоит смотреть на L40S или RTX PRO 6000.

👉 Полный дайджест октября — в нашем блоге

📣 RTX 5090 на 96 или даже 128 ГБ: такие карты вообще есть?

Нас всё чаще спрашивают, можно ли взять в аренду RTX 5090 с 96 ГБ видеопамяти. Бывают запросы даже на 128 ГБ. У серийной RTX 5090 — 32 ГБ, поэтому мы решили разобраться, что стоит за объявлениями о картах с таким объёмом памяти.

1️⃣ RTX 5090 на 96 ГБ мы нашли на Alibaba. Но в характеристиках продавцов есть нестыковки: указанные тип памяти и ширина шины не сходятся с заявленными 96 ГБ. Независимых обзоров и тестов купленной карты мы не нашли. Версия на 128 ГБ пока тоже не получила подтверждения: в сети разошёлся скриншот, но рабочую карту под нагрузкой никто так и не показал.

2️⃣ С RTX 4090 на 48 ГБ история другая. Такие модификации действительно работают, и некоторые провайдеры уже сдают их в аренду. Здесь вопрос в конкретном экземпляре: насколько он стабилен под длительной нагрузкой и справляется ли охлаждение.

👉 Если вам нужен большой объём памяти на одной GPU, у профессиональных карт он есть и без переделок: 48 ГБ у NVIDIA L40S и 96 ГБ у RTX PRO 6000 Blackwell. Обе доступны в нашем облаке.

📄 На Хабре разобрали, как увеличивают память видеокарт, что не сходится в объявлениях и чем модификации отличаются от профессиональных карт