Docker Model Runner: AI прямо на вашем компьютере

Docker запустил Model Runner — инструмент для локального запуска и тестирования AI-моделей в привычной среде разработки.

Новинка решает типичные проблемы: фрагментированность инструментария, сложности с железом и настройкой локальных LLM.

Система интегрируется в Docker Desktop, обеспечивает ускорение GPU на Apple Silicon и предлагает стандартизированный подход к распространению моделей через OCI Artifacts.

Ключевые партнёры проекта: Google, HuggingFace, Continue, Dagger, Qualcomm, Spring AI и VMware Tanzu.

В будущем планируются: поддержка Windows с GPU-ускорением, возможность публикации своих моделей и улучшенная интеграция в процессы разработки.

Если в вашем продукте нет поддержки ИИ, - он не интересен рынку.
Ждем добавление MCP сервера от Docker, чтобы модели сами могли контейнеры поднимать и управлять ими.

#Docker #ModelRunner
———
@tsingular