mClouds - облачный провайдер
414 subscribers
882 photos
14 videos
2 files
404 links
Канал облачного провайдера mClouds.ru

Пишем про облачные сервисы (IaaS, BaaS, DRaaS), IT-бизнес, кейсы цифровой трансформации, администрирование (Windows, Linux), лайфхаки от команды инженеров.

Техподдержка: info@mclouds.ru
Download Telegram
Сегодня свой профессиональный праздник отмечают люди, без которых ни один сайт не откроется и ни один сервер не взлетит 🚀

Именно вы следите за аптаймами, вовремя закрываете уязвимости, настраиваете бэкапы, управляете серверами. И всё это одновременно и в облаке, и в собственной инфраструктуре.

Ваша работа стала сложнее: теперь вы управляете не одним сервером под столом, а распределенными системами, контейнерами и десятками виртуальных машин. И мы знаем, чего это стоит.

Спасибо:
🔹 За то, что SLA соблюдается, даже когда всё идет не по плану
🔹 За бэкапы, которые не только делаются, но и работают при восстановлении
🔹 За то, что 1С не тормозит в конце квартала, Windows-серверы не просят перезагрузки посреди рабочего дня, а Linux-инфраструктура держится на уровне 100% даже без вашего присмотра
🔹 За готовность в любой момент сказать: «Я понял, сейчас решим»


Мы в mClouds знаем, что за каждым «просто работает» стоит ваш труд. И стараемся делать вашу работу немного легче: даем инструменты, которые не подводят, и поддержку, которая отвечает быстро.

Если вы сисадмин — с праздником! Если у вас есть знакомый сисадмин — сегодня лучший день, чтобы сказать ему спасибо и угостить кофе 😉
❤6👍1🔥1
Привет! Июль выдался насыщенным. Рассказываем, что произошло у нас за месяц.

🚀 Добавили в хосты новые карты NVIDIA L40S и NVIDIA A16.

🔒 Завершили аттестацию всей платформы по 152-ФЗ (УЗ-3). Раньше сертифицированы были только отдельные зоны. Сейчас подходит любой сегмент — и IaaS для 1С, и кластеры с GPU NVIDIA.

🏆 Попали на карту ИТ-лидеров CNewsMarket сразу в двух категориях: «Искусственный интеллект» — топ-15 провайдеров GPU Cloud и «Облачные сервисы» в трех подкатегориях: облачные провайдеры для крупного бизнеса, BaaS и партнёрские программы облачных провайдеров.

📚 Написали для Хабра три крутые статьи

Обзор Dell R7725 с AMD EPYC 9555
Тестирование 1С на AMD EPYC 9555: результаты тестов Гилёва, Fragster и HammerDB
Обзор первых NVMe от Samsung и Micron для ЦОДов и AI-серверов

📚 В блоге рассказали, как развернуть собственное облачное хранилище на базе Nextcloud.

📚 И добавили парочку инструкций для 1С

Установка 1С с PostgreSQL на Ubuntu 24.
Оптимизация Ubuntu с PostgreSQL для проведения теста Гилёва.

📌 Июль получился продуктивным. В августе продолжим делиться новыми материалами, запусками и обновлениями. Полную версию дайджеста читайте у нас в блоге.
🔥3👍1
👀1С на новых AMD EPYC 9555: проверили производительность Windows и Linux

Мы продолжаем серию тестов 1С на разных платформах. На этот раз проверили, как работают новые серверы с AMD EPYC 9555 — процессора с 64 ядрами, частотой до 4,2 ГГц в Boost и поддержкой памяти DDR5-6400.

Для сравнения использовали два стенда с одинаковой конфигурацией (8 vCPU, 32 ГБ RAM, 200 ГБ SSD):

🔹 Windows Server 2025 + MS SQL Server 2025

🔹 Ubuntu 24.04 LTS + PostgreSQL 18.1

Что показали тесты — рассказываем в карточках.🖕

Полный разбор тестов с графиками — в статье на Хабре.
🔥4
Мы протестировали PostgreSQL для 1С и подобрали настройки, которые дают максимальные результаты в тесте Гилёва.

Тест проводили на двух версиях Ubuntu: 24.04.4 LTS и 26.04 LTS. Конфигурация ВМ: 8 vCPU, 32 ГБ RAM, Platinum-кластер mClouds.

📌 Что сделали

Настроили параметры PostgreSQL под конкретную конфигурацию:

🔹 shared_buffers — 8192 МБ

🔹 work_mem — 64 МБ

🔹 effective_cache_size — 24 ГБ

🔹 fsync = off, synchronous_commit = off — для снижения накладных расходов в синтетическом тесте

🔹 huge_pages = on — для работы с большими страницами памяти


Также настроили параллельные worker'ы, параметры WAL и cost-коэффициенты для оптимизации работы с диском.

Для синтетического теста дополнительно отключили fsync и synchronous_commit — это снижает накладные расходы, но повышает риск потери данных при сбое.

⚠️ Что стоит учитывать

Большинство параметров из списка можно применять и на рабочих серверах — они дают прирост производительности. Но fsync = off мы рекомендуем использовать только для синтетических тестов. В продакшене его отключение может привести к потере или повреждению данных при внезапном сбое.

📖 Полный список параметров и пояснения — в нашей статье.
👍6
Сохраняйте, если работаете с 1С на Linux!

Собрали пошаговую инструкцию по развертыванию сервера 1С:Предприятие на Ubuntu 24.04 LTS и 26.04 LTS с PostgreSQL — со всеми командами, пояснениями и скриншотами.

📍 настроить русскую локаль для корректной работы 1С;

📍 установить PostgreSQL нужной версии;

📍 подготовить графическое окружение Ubuntu;

📍 скачать дистрибутив 1С и нагрузочный тест Гилева;

📍 активировать комьюнити-лицензию;

📍 загрузить и запустить тестовый стенд.

Все шаги проверены на рабочих конфигурациях и собраны в одном материале. Инструкция поможет быстрее развернуть сервер и не тратить время на поиск решений в разных источниках.

📖 Полная инструкция — на нашем сайте.
✍2👍2🔥1
В 2026 году на рынок наконец вышли первые серийные SSD с поддержкой PCIe 6.0. До этого три года технология существовала только в спецификациях.

Первыми вышли диски для серверов: форм-факторы E1.S и E3.S, поддержка жидкостного охлаждения, объем до 61,44 ТБ. 

⚡️ На Хабре рассказали про первые модели:

🔹 Samsung PM1763. Скорость: до 28,4 ГБ/с на чтение и 21,9 ГБ/с на запись. 40-гигабайтную языковую модель передает за 1,4 секунды. Диск оптимизирован для жидкостного охлаждения и поддерживает постквантовую криптографию.

🔹 Micron 9650. Скорость: до 28 ГБ/с на чтение и 14 ГБ/с на запись. Доступен в версиях Pro и Max с емкостью до 30,72 ТБ.

📌 Что дает новое поколение

PCIe 6.0 убирает главное узкое место в AI-инфраструктуре — скорость доступа к данным. Новые диски позволяют загружать модели в два раза быстрее и эффективнее использовать дорогие GPU.

Мы в mClouds используем PCIe 5.0 NVMe для работы с GPU. Этого достаточно для текущих задач. Но мы внимательно следим за PCIe 6.0 и изучаем, когда и как переход на новое поколение может быть полезен для наших клиентов.

📖 Подробный разбор — в статье на Хабре
👍3🔥1
Для больших языковых моделей и тяжелого инференса 48 ГБ видеопамяти бывает мало. Модели могут не помещаться целиком.

NVIDIA RTX Pro 6000 с 96 ГБ памяти снимает это ограничение. Карта построена на архитектуре Blackwell и оснащена 24 064 ядрами CUDA, 752 тензорными ядрами и 188 RT-ядрами.

Благодаря этой мощности можно:

🔹 Запускать LLM с 70B+ параметрами целиком

🔹 Держать большие батчи для инференса без падения скорости

🔹 Обучать и дообучать модели на одном GPU

🔹 Работать с тяжелыми 3D-сценами и рендерингом без выгрузки данных.

Это карта для тех, кто уперся в 48 ГБ и не хочет собирать сложные многокарточные конфигурации ради одной модели.

🚀 Запросить доступ к RTX Pro 6000
🔥6
Кто-то перебирает пароли к SSH или ищет уязвимости на сайте? Такие попытки можно блокировать автоматически.

CrowdSec — ПО с открытым исходным кодом для обнаружения атак. Оно анализирует логи, выявляет подозрительное поведение и передает решения баунсерам — компонентам, которые блокируют доступ через firewall или веб-сервер.

CrowdSec также обменивается с сообществом данными об IP-адресах атакующих, учитывая угрозы, замеченные на других серверах.

📌 Собрали для вас инструкцию по настройке на Ubuntu 26.04 LTS


Пошагово показали, как:

📍 установить CrowdSec и подключить веб-консоль;
📍 настроить баунсеры для firewall и Nginx;
📍 подключить правила и источники логов;
📍 включить AppSec для проверки веб-запросов;
📍 добавить доверенные IP в белый список;
📍 включить режим симуляции и проверить блокировку SSH-брутфорса.


Также разобрали, где смотреть сработавшие правила и заблокированные IP, как снять блокировку и изменить её срок.

📖 Инструкция с командами и скриншотами — уже на сайте mClouds
👍4
Пусть AI ищет в вашей базе знаний

🗣В статье рассказали, как Инструкции, регламенты и FAQ вашей компании, можно подключить к LLM, чтобы сотрудники получали ответы по документам компании прямо в чате.

Для этого используют RAG: система находит нужные фрагменты в базе знаний и передает их модели вместе с вопросом. Дообучать LLM для этого не нужно.

Мы подготовили руководство по запуску такой системы на GPU-сервере mClouds с NVIDIA L4 и 24 ГБ видеопамяти. Использовали vLLM для запуска модели и Open WebUI для чата и работы с документами.

📌Разобрали, как:

📍 подобрать ресурсы сервера;
📍 установить и связать vLLM с Open WebUI;
📍 загрузить документы и подключить базу знаний;
📍 настроить доступ и защиту сервера;
📍 сравнить ответы моделей с RAG и без него.


Также протестировали Qwen3.5-9B и Gemma 4 E4B: сравнили скорость генерации, использование видеопамяти и ответы на русском языке.

❔ Полное руководство с командами и примерами — в нашем блоге
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥5👍3
🗣 84 ГБ видеопамяти: NVIDIA представила RTX PRO 5500 Blackwell

Новинка занимает место между RTX PRO 5000 и RTX PRO 6000. Карта ориентирована на инференс LLM, AI-агентов, тяжёлые 3D-сцены и симуляции.

📌 Что известно о характеристиках

🔹 84 ГБ памяти GDDR7 с коррекцией ошибок ECC;
🔹 21 760 CUDA-ядер — столько же, сколько у GeForce RTX 5090
🔹 пропускная способность памяти — 1398 ГБ/с;
🔹 интерфейс PCIe 5.0 x16;
🔹 энергопотребление — до 600 Вт.


Большой объём видеопамяти даёт больше пространства под веса LLM и контекст, а в графических задачах — под сложные сцены и текстуры. При этом одинаковое с RTX 5090 число CUDA-ядер само по себе не означает одинаковую производительность.

Из особенностей — поддержка MIG: одну карту можно разделить на два изолированных GPU-экземпляра с памятью до 42 ГБ каждый.

🔎 А что с серверной версией?

Возможно, линейку позже дополнит RTX PRO 5500 Server Edition, но пока NVIDIA такую версию не анонсировала. Представленная Workstation Edition уже рассчитана на размещение в сточных рабочих станциях.

Цена и сроки начала продаж пока не объявлены, а характеристики NVIDIA помечает как предварительные.

📖 Подробнее о характеристиках на сайте NVIDIA
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥1
Модель весит 14 ГБ, а видеопамяти на 16 ГБ не хватает. Почему? 🤔

При выборе GPU для LLM легко ориентироваться на размер весов: помещаются в память — значит, можно запускать. Но во время работы модели потребуется место и для других данных.

Мы подготовили обзор, который поможет прикинуть, сколько VRAM нужно именно под вашу нагрузку.

📌 Куда уходит видеопамять

🔹 Веса модели. Например, для 7 млрд параметров в FP16 потребуется около 14 ГБ — только на их хранение.
🔹 KV-кэш. Сохраняет результаты вычислений для уже обработанных токенов. Чем длиннее диалог, документ и ответ, тем больше памяти он занимает.
🔹 Параллельные запросы. Несколько пользователей и большие батчи увеличивают расход VRAM.
🔹 Рабочие данные. Временные результаты вычислений и сам движок инференса тоже используют память.

Поэтому мы советуем проверять модель на задачах, близких к реальным: с вашими документами, длиной ответов и количеством одновременных запросов.

В mClouds для таких тестов доступны GPU с 24, 48 и 96 ГБ видеопамяти. Можно проверить расход памяти и скорость ответов до запуска проекта в работу.

📖 Подробнее о выборе GPU под LLM — в нашем блоге
🔥3👍1🤔1
Процессор ещё справляется, а оперативной памяти уже не хватает?

Новые нагрузки приходится переносить на другие серверы, хотя свободные ядра ещё есть. Один из способов добавить RAM — технология CXL. Мы разобрали на Хабре, как она работает и какие ограничения стоит учитывать.

📌 Что даёт CXL

🔹 Подключает дополнительную память через PCIe и специальный контроллер. Система использует её как оперативную память.
🔹 Позволяет повторно использовать исправные модули DDR4 из старых серверов — вместе с локальной DDR5 в новых.
🔹 Помогает разместить больше нагрузки на одном хосте, если ограничение именно в объёме RAM.
В статье разобрали пример MemServer: к 768 ГБ DDR5 добавили 256 ГБ DDR4 через CXL и получили 1 ТБ памяти.


⚠️ Есть нюанс

CXL-память медленнее локальной DDR5, поэтому важен выбор данных, которые в ней размещаются. А серверная платформа должна поддерживать CXL — одного свободного слота PCIe недостаточно.
Собрали подробности об устройстве такой системы, стоимости памяти и результатах испытаний.

📖 Читайте разбор в нашем блоге на Хабре
👍4
🗣 Запустили новый тариф с 48 ГБ видеопамяти NVIDIA L4 в одном сервере

Если для ваших задач нужны 48 ГБ видеопамяти, а мощность и стоимость NVIDIA L40S избыточны — у нас появилась более доступная конфигурация: две NVIDIA L4 по 24 ГБ в одной виртуальной машине.

📌 Что внутри
🔹 2 × NVIDIA L4 по 24 ГБ
🔹 16 vCPU на высокочастотных AMD EPYC 9555
🔹 64 ГБ DDR5
🔹 300 ГБ NVMe


Кому подойдёт
🔹 Тем, кто запускает LLM и AI-помощников.
🔹 Тем, кто экспериментирует с дообучением моделей.
🔹 Тем, кто работает с генерацией изображений и обработкой видео.
🔹 Всем, кому одной L4 уже мало, а переход на L40S выходит за бюджет.


Мы собрали этот тариф, чтобы дать больше видеопамяти при меньших затратах на аренду.

🚀 Посмотреть тариф и заказать сервер
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4👍1
🔔 «Ноутбучная» память в сервере — зачем это дата-центрам?

Чем больше энергии потребляет память, тем меньше остаётся процессорам и GPU в пределах мощности стойки. Поэтому производители присматриваются к LPDDR5X — памяти, знакомой нам по ноутбукам и смартфонам.
Мы разобрали на Хабре, как она приходит в серверы и что это может дать вашим задачам.

📌 Что меняет SOCAMM2
Это съёмный модуль на базе LPDDR5X: память можно заменить без замены всей системной платы. Для модулей SOCAMM2 на 256 ГБ Micron заявляет примерно втрое меньшее энергопотребление и занимаемую площадь по сравнению со стандартными RDIMM.

🔹 А что с производительностью?
В рассмотренных тестах переход с LPDDR5X-6400 на 8533 ускорил подготовку данных для ИИ на 11%, а в MediaWiki снизил задержку самых медленных запросов примерно на 9%.
В аналитике важнее оказался объём: увеличение RAM с 512 ГБ до 1 ТБ позволило реже обращаться к SSD и ускорило отдельные нагрузки в несколько раз.



📖 Подробнее о SOCAMM2 в нашей статье на Хабре!
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥2
Как сократить расходы на ИИ и не переплачивать за GPU?

Для корпоративного чат-бота, поиска по документам или транскрибации не всегда нужна самая дорогая видеокарта. Если модель даёт нужное качество и отвечает достаточно быстро, более доступной конфигурации может хватить.

Мы подготовили разбор, который поможет подобрать GPU для Qwen и других открытых моделей под ваши задачи.

📌 На чём можно сэкономить
🔹 Выбрать GPU под нагрузку. Для компактных моделей можно начать с A16 или L4. L40S и RTX PRO 6000 стоит рассматривать, когда нужны больший объём памяти или скорость.
🔹 Использовать FP8. Квантизация сокращает объём весов и помогает разместить модель на более доступной карте. Качество ответов при этом нужно проверить на своих задачах.
🔹 Сравнить аренду с оплатой API. При регулярной нагрузке своя LLM может обходиться дешевле оплаты за токены — с учётом расходов на сопровождение.


💡 Мы рекомендуем начать с небольшого пилота: проверить качество, расход VRAM и скорость при вашем количестве одновременных запросов. Просто загрузить модель в память недостаточно — нужен запас для контекста и рабочих данных.

📖 Как выбрать конфигурацию и оценить экономию — в нашей статье
👍3🔥1
А что, если память будет сама обрабатывать данные?


🗣 Мы разобрали на Хабре подход Samsung: в LPDDR5X-PIM часть вычислений перенесли прямо внутрь памяти. Получается, данные можно обработать на месте и передать ускорителю уже результат.

📌 Как это работает
🔹 В каждом из 16 банков памяти есть свой вычислительный блок. Они работают параллельно.
🔹 Память берёт на себя отдельные операции — например, умножение матрицы на вектор, которое используется в нейросетях.
🔹 Меньше данных приходится передавать между памятью и ускорителем — меньше времени уходит на ожидание.


⚡️ Что получилось в тесте
На Llama 3.1 8B скорость генерации выросла с 27 до 81,3 токена в секунду — примерно втрое. При этом ИИ-ускоритель оставался тем же, а контекст составлял 320 токенов.


Конечно, это результат конкретного теста, а не обещание ускорить любую модель втрое. Готовых устройств пока нет, но за таким способом ускорить ИИ интересно следить.

📖 Как устроена PIM и где она может пригодиться — в нашей статье
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5🔥2