🤖 ‏ معرفی مدل Inkling-Small: جهش در بهره‌وری مدل‌های MoE

‏آزمایشگاه Thinking Machines مدل جدید Inkling-Small را به عنوان یک مدل باز (Open-weights) از نوع MoE با ۲۷۶ میلیارد پارامتر کل معرفی کرده است که تنها ۱۲ میلیارد پارامتر فعال در هر توکن دارد. این مدل با بهره‌گیری از تکنیک on-policy distillation و دو هفته آموزش RL (یادگیری تقویتی) در حوزه برنامه‌نویسی عاملی، بهینه‌سازی شده است.

⚡ ‏️ این نسخه در بنچمارک‌های حیاتی از مدل قبلی با ۴۱ میلیارد پارامتر فعال پیشی گرفته و به امتیاز ۶۴.۷٪ در Terminal-Bench 2.1، امتیاز ۳۱.۶٪ در HLE و ۸۰.۲٪ در SWE-Bench Verified دست یافته است. 🧠 این مدل با پشتیبانی از ورودی تصویر و صوت، طول بافتار تا ۱ میلیون توکن و عمق استدلال قابل‌تنظیم، بستری قدرتمند برای توسعه‌دهندگان عوامل هوشمند است.

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#Inkling_Small #on_policy_distillation