‏⚡️ مایکروسافت و استقرار تراشه‌های اختصاصی Maia

‏مایکروسافت اعلام کرده است که از سال ۲۰۲۷، خانواده تراشه‌های Maia به پلتفرم اصلی این شرکت برای اجرای عملیات استنتاج (Inference) در خدمات و محصولات خود تبدیل خواهد شد. این استقرار در مقیاس چند گیگاوات برنامه‌ریزی شده است.

‏در همین راستا، تراشه جدید Maia 300 معرفی شده که طبق اعلام مایکروسافت، ۴۰ درصد بهره‌وری بیشتری در تعداد توکن بر وات نسبت به سیستم‌های مبتنی بر GPU ارائه می‌دهد. نسل پیشین این تراشه‌ها یعنی Maia 200 هم‌اکنون در مراکز داده ایالات متحده، اروپا و استرالیا فعال است و کارایی توکن بر وات را در سرویس‌های Teams و Copilot تا ۱.۷ برابر افزایش داده است.

‏مهم‌ترین نکات فنی:
‏* اولویت‌بندی متریک «توکن بر وات» به جای «ترافلاپس» برای بهینه‌سازی هزینه‌های عملیاتی Copilot.
‏* کاهش وابستگی به محصولات Nvidia و کنترل کامل بر پشته نرم‌افزار و سخت‌افزار.
‏* برنامه‌ریزی برای تولید حدود ۳۰۰ هزار واحد از تراشه Maia 300 با همکاری TSMC.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما

#Maia_300 #Inference

‏🤖 تخصیص ۷۵ درصد توان پردازشی Anthropic به آموزش مدل‌های آینده

‏شرکت Anthropic در حال حاضر تنها ۲۵ درصد از منابع محاسباتی خود را به سرویس‌دهی به مشتریان فعلی اختصاص می‌دهد. بررسی‌ها نشان می‌دهد که ۷۵ درصد باقی‌مانده از توان پردازشی این شرکت صرف آموزش مدل‌های آتی، بهبودهای پس از آموزش و آزمایش‌های فنی می‌شود.

‏بر اساس ارقام منتشر شده، این شرکت با ۵ گیگاوات ظرفیت محاسباتی، حدود ۱۰۰ میلیون دلار درآمد سالانه به ازای هر گیگاوات تولید می‌کند. با این محاسبات، تنها ۱.۲۵ گیگاوات از توان عملیاتی فعلی به پردازش (Inference) برای کاربران اختصاص یافته است. همچنین Anthropic قصد دارد تا سال ۲۰۲۷، ۱۰.۵ گیگاوات دیگر به زیرساخت‌های محاسباتی خود اضافه کند که نشان‌دهنده برنامه‌ریزی برای گسترش جدی زیرساخت‌هاست.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما

#Anthropic #Inference