Forwarded from Марк Panenko
🚀 Вышел новый выпуск подкаста Data Breakfast!
Вместе с Антон Алексеев и Ефим Головин разбираем inference Framework — зачем нужны специализированные инструменты для инференса ML-моделей и почему просто «FitPredict» не всегда достаточно.
🔍 В выпуске:
• GPU vs CPU: оптимизация под железо.
• Triton, BentoML, RayServe — сравнение open-source решений.
• Когда выбрать SaaS, а когда писать свой фреймворк?
• Баланс между latency, масштабированием и стоимостью.
🎧 Слушайте там, где удобно:
• Яндекс.Музыка
• Telegram-плеер
• Читайте текст на сайте
💡 #DataScience #ML #Inference #Podcast #DataBreakfast #Тритон #Инфраструктура
Погружайтесь в мир ML-инференса с нами! 🤖✨
Вместе с Антон Алексеев и Ефим Головин разбираем inference Framework — зачем нужны специализированные инструменты для инференса ML-моделей и почему просто «FitPredict» не всегда достаточно.
🔍 В выпуске:
• GPU vs CPU: оптимизация под железо.
• Triton, BentoML, RayServe — сравнение open-source решений.
• Когда выбрать SaaS, а когда писать свой фреймворк?
• Баланс между latency, масштабированием и стоимостью.
🎧 Слушайте там, где удобно:
• Яндекс.Музыка
• Telegram-плеер
• Читайте текст на сайте
💡 #DataScience #ML #Inference #Podcast #DataBreakfast #Тритон #Инфраструктура
Погружайтесь в мир ML-инференса с нами! 🤖✨
Yandex Music
Инференс в ML: Когда нужен NVIDIA Triton Infere...
🔥15❤3