‏🥷 اجرای مدل Bonsai 27B روی مک با ۱۶ گیگ رم

‏دنیای مدل‌های هوش مصنوعی با بهینه‌سازی‌های جدید، هر روز در دسترس‌تر می‌شود. مدل Bonsai 2 27B که نسخه‌ای بهینه‌شده از Qwen2.5 27B است، اکنون به لطف تکنیک‌های فشرده‌سازی، تنها با حجم ۷ گیگابایت قابل اجراست.

‏نکته شگفت‌انگیز این مدل، حفظ بیش از ۹۸ درصد از کیفیت نسخه اصلی (FP16) است. این یعنی می‌توانید مدل‌های قدرتمند زبانی را به صورت محلی روی سیستم‌های معمولی اجرا کنید؛ برای مثال، این مدل توانسته است تنها با یک پرامپت، کد یک پاگودای ژاپنی را با استفاده از Three.js تولید کند.

‏برای تجربه اجرای مدل‌های هوش مصنوعی روی سیستم شخصی خود، می‌توانید از ابزار Atomic Chat استفاده کنید. این پیشرفت‌ها نشان می‌دهد که برای کار با مدل‌های پیشرفته، لزوماً به سخت‌افزارهای فوق‌سنگین نیاز ندارید.

اجرای مدل Bonsai 2 27B: هوش مصنوعی قدرتمند روی مک با ۱۶ گیگابایت رم

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#Bonsai_27B #Three_js