🔥 Друзья, готовы к новому выпуску "Дата Завтрака"? Уверены, что ваши GPU работают на полную катушку? 🚀

В третьем эпизоде мы окунулись в мир эффективной утилизации GPU для инференса и обучения моделей машинного обучения. Нашими гостями стали ребята из Selectel — Антон Алексеев, DevOps-инженер отдела дата и ML-продуктов, и его коллега Ефим Головин, MLops-инженер. Они точно знают, как выжать максимум из ваших видеокарт и поделятся своими секретами! 💡

Обсудим, как создать инфраструктуру на базе облака Selectel для дата-сайентистов и ML-инженеров, почему NVIDIA H100 с огромной памятью может быть недостаточно, если модели используют лишь 500 МБ, и как запустить множество таких моделей без разорения на дорогом железе. 🤑

Поговорим о технологии Multi-Instance GPU (MIG): её преимуществах, ограничения и о том, почему нельзя просто поделить видеокарту на мелкие кусочки, как пирог на вечеринке. 🎂

Антон и Ефим расскажут о практических решениях по правильной "нарезке" и утилизации GPU-ресурсов, способах изоляции памяти между процессами и о том, как избежать неприятных сюрпризов типа Out of Memory ошибок. 😱

Если вы хотите узнать, как эффективно балансировать ресурсы между обучением и инференсом, и услышать реальный опыт работы с GPU в промышленных масштабах — этот выпуск для вас! 🔥

Не пропустите увлекательное обсуждение и присоединяйтесь к нам!

🎧 Слушайте выпуск на Яндекс.Музыке

▶️ Или прямо в Telegram

🌐 Подробности на сайте: https://data-breakfast.mave.digital/ep-28

PS. У ребят есть свои каналы в TG, в которых они обсуждают похожие темы и не только.
Канал Антона
Канал Ефима



#DataBreakfast #МашинноеОбучение #GPU #Selectel #Инференс #MLOps #DevOps