По данным CNCF, 66% организаций, которые размещают генеративные ИИ-модели, используют Kubernetes для всех или части инференс-нагрузок. При этом ежедневно развертывают ИИ-модели только 7%.
Разобрали, что нужно учесть платформенным командам, чтобы Kubernetes стал полноценной средой для ИИ-нагрузок. На карточках — пять признаков готовой платформы.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4🔥3👏3
HAMi помогает:
Подробнее — в документации
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥6❤2💯2
В Adobe столкнулись с проблемой: метрики GPU собирались централизованно, но дать командам прямой доступ к Prometheus было нельзя — вместе со своими данными они могли увидеть чужие.
Решение собрали без нового стека метрик. Перед Prometheus поставили мультитенантный прокси, который отдает каждой команде только ее данные. Доступ настраивается через объект MetricAccess в Kubernetes.
На карточках — четыре интересных детали, а в статье — весь разбор архитектуры, изоляции метрик и способов, которые помогут находить неэффективные GPU.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5🔥4👏4
NVIDIA FLARE отделяет постоянные сервисы федерации от временных worker-процессов. Поэтому каждая площадка запускает задачи в своей среде и сама определяет, какие данные, секреты и вычислительные ресурсы использовать.
Читайте статью на Хабре →
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3❤🔥3🔥3
Forwarded from VK Cloud
This media is not supported in your browser
VIEW IN TELEGRAM
Получите шанс бесплатно попасть на Kuber Conf от АОТ — конференцию про Kubernetes и cloud-native технологии. Мы разыгрываем 10 билетов среди подписчиков каналов Вокруг Kubernetes и VK Cloud в Telegram.
📅 Конференция пройдет 22 октября в Москве. В программе — доклады и круглые столы про Kubernetes, AI в инфраструктуре, безопасность, сети и эксплуатацию кластеров.
Чтобы участвовать:
1️⃣ Подпишитесь на каналы Вокруг Kubernetes и VK Cloud
2️⃣ Нажмите Участвую под постом и запустите бота.
16 октября в 17:00 бот случайным образом выберет 10 победителей. Каждый получит билет на конференцию.
Участвуйте в розыгрыше и делитесь этим постом с коллегами и единомышленниками 🔀
➡️ Кстати, розыгрыш также проходит в MAX — участвуйте и там, чтобы удвоить шансы.
📬 Мы в MAX
📅 Конференция пройдет 22 октября в Москве. В программе — доклады и круглые столы про Kubernetes, AI в инфраструктуре, безопасность, сети и эксплуатацию кластеров.
Чтобы участвовать:
1️⃣ Подпишитесь на каналы Вокруг Kubernetes и VK Cloud
2️⃣ Нажмите Участвую под постом и запустите бота.
16 октября в 17:00 бот случайным образом выберет 10 победителей. Каждый получит билет на конференцию.
Участвуйте в розыгрыше и делитесь этим постом с коллегами и единомышленниками 🔀
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2🔥2👍1
🆕 В Kubernetes 1.37 появилась бета-версия группового размещения подов в
Новые возможности включаются через feature gates. Kubernetes отвечает за размещение группы, а очереди и квоты можно по-прежнему оставлять Kueue или Volcano.
📃 В статье разбираем, как устроен gang scheduling в 1.37, какие функции появились рядом с ним и что учитывать при обновлении кластера.
Читайте статью на Хабре →
📬 Мы в MAX
kube-scheduler. Вместе с ней в релиз вошли групповое вытеснение и общий ResourceClaim для группы.Новые возможности включаются через feature gates. Kubernetes отвечает за размещение группы, а очереди и квоты можно по-прежнему оставлять Kueue или Volcano.
Читайте статью на Хабре →
📬 Мы в MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4👏4❤3
Forwarded from VK Cloud
Портал TAdviser сравнил пять ведущих российских платформ контейнеризации. VK Cloud занял вторую строчку рейтинга с отрывом от лидера всего в 0,11 баллов.
Для нас этот результат особенно важен: в VK Cloud контейнерная инфраструктура включает Managed Containers — сервис для развертывания и управления Kubernetes-кластерами.
Платформы оценивали по 588 функциональным и организационным критериям. Среди них:
🔘 базовые возможности платформы
🔘 комплексность продуктового предложения
🔘 организационный потенциал разработчика.
Данные вендоров дополнительно проверяли независимые эксперты: по документации и на демосессиях.
Спасибо команде за работу над платформой, аналитикам TAdviser — за высокую оценку, а клиентам — за доверие и выбор наших решений 💙
🔹 Подробнее о результатах — в исследовании TAdviser.
📬 Мы в MAX
Для нас этот результат особенно важен: в VK Cloud контейнерная инфраструктура включает Managed Containers — сервис для развертывания и управления Kubernetes-кластерами.
Платформы оценивали по 588 функциональным и организационным критериям. Среди них:
Данные вендоров дополнительно проверяли независимые эксперты: по документации и на демосессиях.
Спасибо команде за работу над платформой, аналитикам TAdviser — за высокую оценку, а клиентам — за доверие и выбор наших решений 💙
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🔥3🥰2
Сейчас многие специалисты индустрии сосредоточены на главном: стабильной работе инфраструктуры и решении текущих задач. Поэтому организаторы решили провести Kuber Conf позже.
🗓 Новая дата конференции — 23 ноября. Это поможет сохранить центральную идею мероприятия — полноценные доклады и технические дискуссии, живое общение и обмен опытом внутри сообщества.
❗️ Все билеты остаются действительными на новую дату. Это относится и к нашему розыгрышу, итоги которого мы подведем уже в эту пятницу.
До встречи 23 ноября.
📬 Мы в MAX
🗓 Новая дата конференции — 23 ноября. Это поможет сохранить центральную идею мероприятия — полноценные доклады и технические дискуссии, живое общение и обмен опытом внутри сообщества.
❗️ Все билеты остаются действительными на новую дату. Это относится и к нашему розыгрышу, итоги которого мы подведем уже в эту пятницу.
До встречи 23 ноября.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6🙏3❤2
Forwarded from VK Cloud
This media is not supported in your browser
VIEW IN TELEGRAM
Подводим итоги 🎊
Бот случайным образом выбрал 10 победителей среди подписчиков каналов Вокруг Kubernetes и VK Cloud:
🔘 VA
🔘 Dasha
🔘 Ирина
🔘 Timofei
🔘 Artem
🔘 ITQ
🔘 Егор
🔘 Юлия
🔘 Andrea
🔘 Dmitry
Поздравляем! Каждый победитель получит билет на Kuber Conf от АОТ, которая пройдет 23 ноября в Москве.
Дата конференции изменилась, но все билеты — купленные и выигранные — остаются действительными.
Мы свяжемся с победителями в личных сообщениях до конца дня. Пожалуйста, будьте бдительны: мы не запрашиваем личные данные и не просим переходить по ссылкам.
Спасибо всем, кто участвовал 💙
До встречи на конференции!
📬 Мы в МАХ
Бот случайным образом выбрал 10 победителей среди подписчиков каналов Вокруг Kubernetes и VK Cloud:
Поздравляем! Каждый победитель получит билет на Kuber Conf от АОТ, которая пройдет 23 ноября в Москве.
Дата конференции изменилась, но все билеты — купленные и выигранные — остаются действительными.
Мы свяжемся с победителями в личных сообщениях до конца дня. Пожалуйста, будьте бдительны: мы не запрашиваем личные данные и не просим переходить по ссылкам.
Спасибо всем, кто участвовал 💙
До встречи на конференции!
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🔥2👏2
This media is not supported in your browser
VIEW IN TELEGRAM
При этом большинство не выбирает один инструмент вместо другого. Для инфраструктурных метрик почти половина респондентов сочетает подходы Prometheus и OTel, а для приложений чаще используют SDK OpenTelemetry.
В статье — результаты опроса 2026 года, реальные сценарии использования и нюансы совместной работы Prometheus и OpenTelemetry.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🔥2👏2
This media is not supported in your browser
VIEW IN TELEGRAM
Чтобы обнаруживать сбои в своих сервисах и оценивать их масштаб, разработчик инструментов для управления проектами Atlassian ежедневно анализирует миллиард событий пользовательской телеметрии.
Раньше конвейер обработки этих данных работал на 90 виртуальных машинах. От события до появления метрики проходило больше 40 секунд, что увеличивало время обнаружения инцидентов. При этом эксплуатация обходилась примерно в $20 000 в месяц.
Чтобы ускорить обработку событий и снизить расходы, команда Atlassian перестроила архитектуру:
🔹 в Kafka настроили серверную фильтрацию, чтобы отсеивать лишние события и передавать нужные в выделенный топик
🔹 с помощью Flink объединили обработку потока в одном задании, развернутом в Kubernetes. Полученные метрики передаются через OpenTelemetry.
После перестройки архитектуры время от возникновения события до появления метрики сократилось с более чем 40 до менее 10 секунд. При этом вместо 90 виртуальных машин для обработки телеметрии теперь достаточно четырех подов Kubernetes, а ежемесячные расходы снизились примерно с $20 000 до $650.
🔹 Перевели и разобрали кейс Atlassian в нашем блоге на Хабре — читайте по ссылке.
📬 Мы в MAX
Раньше конвейер обработки этих данных работал на 90 виртуальных машинах. От события до появления метрики проходило больше 40 секунд, что увеличивало время обнаружения инцидентов. При этом эксплуатация обходилась примерно в $20 000 в месяц.
Чтобы ускорить обработку событий и снизить расходы, команда Atlassian перестроила архитектуру:
После перестройки архитектуры время от возникновения события до появления метрики сократилось с более чем 40 до менее 10 секунд. При этом вместо 90 виртуальных машин для обработки телеметрии теперь достаточно четырех подов Kubernetes, а ежемесячные расходы снизились примерно с $20 000 до $650.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5🔥5💯3
Следить за состоянием Kubernetes-кластеров стало проще 👀
В Managed Containers появилась вкладка Мониторинг с готовыми дашбордами на базе Cloud Monitoring. Теперь загрузку нод и состояние кластера можно проверить прямо в личном кабинете VK Cloud.
Чтобы посмотреть метрики, откройте страницу своего кластера и перейдите на вкладку Мониторинг. Больше о возможностях Managed Containers читайте по ссылке.
📬 Мы в MAX
В Managed Containers появилась вкладка Мониторинг с готовыми дашбордами на базе Cloud Monitoring. Теперь загрузку нод и состояние кластера можно проверить прямо в личном кабинете VK Cloud.
Как это работает🔘 Дашборды создаются автоматически для каждого кластера.🔘 По значениям показателей можно настроить алерты.🔘 Для базового мониторинга больше не нужно устанавливать и сопровождать Grafana и Prometheus.
Чтобы посмотреть метрики, откройте страницу своего кластера и перейдите на вкладку Мониторинг. Больше о возможностях Managed Containers читайте по ссылке.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4🔥3👏2
Forwarded from VK Cloud
23 ноября в Москве пройдет Kuber Conf от АОТ — конференция для инженеров, архитекторов и DevOps-специалистов, которые работают с Kubernetes и Cloud-Native-инфраструктурой.
От VK Tech и VK Cloud выступят два спикера.
Также участники обсудят эксплуатацию Kubernetes, Service Mesh, безопасность и другие задачи современной облачной инфраструктуры.
🗓 23 ноября, 11:00–19:00
📍 Москва, Connect
Регистрируйтесь на Kuber Conf от АОТ →
Please open Telegram to view this post
VIEW IN TELEGRAM
👏3❤1🔥1
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5👏3🔥1
Протестируйте обновленный Tracer от VK Tech 🔎
Tracer — платформа для поиска ошибок и анализа производительности приложений. В 2026 году ее возможности расширились: теперь в одном интерфейсе можно работать с логами и трейсами, следить за релизами и разбирать сбои.
Что нового:
👉 В статье на Хабре рассказали, как работают новые возможности Tracer и как получить к ним ранний доступ.
📬 Мы в MAX
Tracer — платформа для поиска ошибок и анализа производительности приложений. В 2026 году ее возможности расширились: теперь в одном интерфейсе можно работать с логами и трейсами, следить за релизами и разбирать сбои.
Что нового:
🔹 Поиск по логам и трейсам с помощью TQL, анализ спанов и группировка ошибок по собственным правилам
🔹 Гибкие алерты на всплески ошибок и регрессии, график ANR-free для отслеживания зависаний
🔹 Подключение ИИ-ассистента через MCP для анализа сбоев и подготовки отчетов.
Tracer доступен в маркетплейсе VK Cloud по модели XaaS: инфраструктуру и обслуживание берем на себя.
👉 В статье на Хабре рассказали, как работают новые возможности Tracer и как получить к ним ранний доступ.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍3🔥3