‏🚀 کتاب جامع مقیاس‌دهی مدل‌های هوش مصنوعی

‏تیم Google DeepMind به تازگی کتابی تحت عنوان "How to Scale Your Model" منتشر کرده است که رویکردی سیستمی به آموزش و استنتاج مدل‌های زبانی بزرگ (LLM) دارد. هدف این منبع، پایان دادن به نگاه «کیمیاگری» به آموزش مدل‌ها و ارائه درکی دقیق از عملکرد سخت‌افزار در مقیاس‌های بزرگ است.

‏این کتاب به شما می‌آموزد که چگونه مدل‌های خود را روی TPU و GPU بهینه‌سازی کنید و با استفاده از روش‌های موازی‌سازی، بازدهی محاسباتی را به حداکثر برسانید.

‏مهم‌ترین سرفصل‌های این کتاب عبارتند از:

‏* درک مفهوم Rooflines و کارکرد دقیق TPUها
‏* پیاده‌سازی Sharded Matmuls و معماری Transformers
‏* استراتژی‌های بهینه برای آموزش و استنتاج مدل‌های بزرگ
‏* پروفایلینگ و عیب‌یابی عملکرد مدل
‏* آشنایی کامل با اکوسیستم JAX و استفاده از GPUها در مقیاس بالا

‏این کتاب برای تمام کسانی که در حوزه بهینه‌سازی و استقرار مدل‌های ML فعالیت می‌کنند، یک منبع ضروری محسوب می‌شود.

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#Google_DeepMind #JAX