🚀 انتشار مدل جدید از علی‌بابا: Qwen3-Next-80B-A3B – مدلی کارآمد که برای پردازش زمینه‌های بسیار طولانی بهینه‌سازی شده است!
🔹 ۸۰ میلیارد پارامتر دارد، اما تنها ۳ میلیارد پارامتر در هر توکن فعال می‌شود → هزینه و زمان آموزش و استنتاج تا ۱۰ برابر کمتر و سریع‌تر از Qwen3-32B (به‌ویژه در زمینه‌های بالای ۳۲هزار).
🔹 معماری ترکیبی: Gated DeltaNet + Gated Attention → تلفیقی از سرعت و دقت.
🔹 معماری MoE فوق‌العاده پراکنده: ۵۱۲ کارشناس، با مسیردهی ۱۰+۱ اشتراکی.
🔹 پیش‌بینی چندتوکنی → شتاب‌دهی به speculative decoding.
🔹 در عملکرد، بهتر از Qwen3-32B و در استدلال و وظایف با زمینه طولانی، نزدیک به Qwen3-235B عمل می‌کند.
🟢 مدل Qwen3-Next-80B-A3B-Instruct تقریباً هم‌سطح مدل پرچمدار ۲۳۵B امتیاز می‌گیرد.
🟢 مدل Qwen3-Next-80B-A3B-Thinking از Gemini-2.5-Flash-Thinking پیشی می‌گیرد.
▪ خودتان تجربه کنید:
https://chat.qwen.ai
▪ اطلاعیه:
https://qwen.ai/blog?id=4074cca80393150c248e508aa62983f9cb7d27cd&from=research.latest-advancements-list
▪ HuggingFace:
https://huggingface.co/collections/Qwen/qwen3-next-68c25fd6838e585db8eeea9d
▪ ModelScope:
https://modelscope.cn/collections/Qwen3-Next-c314f23bd0264a
▪ Kaggle:
https://kaggle.com/models/qwen-lm/qwen3-next-80b
▪ API سرویس ابری علی‌بابا:
https://alibabacloud.com/help/en/model-studio/models#c5414da58bjgj
#هوش‌مصنوعی #مدل‌زبانی‌بزرگ #Qwen #یادگیری_عمیق #MoE #مدل_کارآمد #زمینه_طولانی #استدلال
---
@asrgooyeshpardaz
🔹 ۸۰ میلیارد پارامتر دارد، اما تنها ۳ میلیارد پارامتر در هر توکن فعال می‌شود → هزینه و زمان آموزش و استنتاج تا ۱۰ برابر کمتر و سریع‌تر از Qwen3-32B (به‌ویژه در زمینه‌های بالای ۳۲هزار).
🔹 معماری ترکیبی: Gated DeltaNet + Gated Attention → تلفیقی از سرعت و دقت.
🔹 معماری MoE فوق‌العاده پراکنده: ۵۱۲ کارشناس، با مسیردهی ۱۰+۱ اشتراکی.
🔹 پیش‌بینی چندتوکنی → شتاب‌دهی به speculative decoding.
🔹 در عملکرد، بهتر از Qwen3-32B و در استدلال و وظایف با زمینه طولانی، نزدیک به Qwen3-235B عمل می‌کند.
🟢 مدل Qwen3-Next-80B-A3B-Instruct تقریباً هم‌سطح مدل پرچمدار ۲۳۵B امتیاز می‌گیرد.
🟢 مدل Qwen3-Next-80B-A3B-Thinking از Gemini-2.5-Flash-Thinking پیشی می‌گیرد.
▪ خودتان تجربه کنید:
https://chat.qwen.ai
▪ اطلاعیه:
https://qwen.ai/blog?id=4074cca80393150c248e508aa62983f9cb7d27cd&from=research.latest-advancements-list
▪ HuggingFace:
https://huggingface.co/collections/Qwen/qwen3-next-68c25fd6838e585db8eeea9d
▪ ModelScope:
https://modelscope.cn/collections/Qwen3-Next-c314f23bd0264a
▪ Kaggle:
https://kaggle.com/models/qwen-lm/qwen3-next-80b
▪ API سرویس ابری علی‌بابا:
https://alibabacloud.com/help/en/model-studio/models#c5414da58bjgj
#هوش‌مصنوعی #مدل‌زبانی‌بزرگ #Qwen #یادگیری_عمیق #MoE #مدل_کارآمد #زمینه_طولانی #استدلال
---
@asrgooyeshpardaz
❤4👍2👏2
💡 مدل RND1 — نسل جدید مدل‌های زبانی با منطق دیفیوژن
مدل RND1 یک مدل زبانی مبتنی بر دیفیوژن (Diffusion Language Model - DLM) است که توسط تیم Radical Numerics معرفی شده است.
این مدل با ۳۰ میلیارد پارامتر ساخته شده، اما تنها ۳ میلیارد پارامتر فعال دارد. مدل بر پایه‌ی معماری Sparse Mixture-of-Experts (MoE) طراحی شده و از مدل پیش‌آموزش‌دیده‌ی Qwen3-30B-A3B مشتق شده است. سپس با ۵۰۰ میلیارد توکن دیگر بازآموزی شده تا رفتار خود را از یک مدل خودبازگشتی (Autoregressive) به مدل دیفیوژنی تغییر دهد.
🌀 برخلاف مدل‌های زبانی معمولی (مثل GPT) که متن را واژه‌به‌واژه تولید می‌کنند،
مدل RND1 کل جمله را به‌صورت همزمان می‌سازد و سپس آن را به‌تدریج اصلاح و تکمیل می‌کند — درست مانند مدل‌های دیفیوژنی در تولید تصویر که از “نویز” شروع می‌کنند و تصویر نهایی را مرحله‌به‌مرحله ظاهر می‌سازند.
🔄 روش نوآورانه‌ی ساخت
تیم Radical Numerics روش جالبی ابداع کرده که به آن AR-to-Diffusion Conversion (A2D) می‌گویند — یعنی تبدیل مدل خودبازگشتی به مدل دیفیوژنی بدون نیاز به آموزش از صفر.
مراحل کار:
1️⃣ انتخاب یک مدل قدرتمند GPT-مانند
2️⃣ تغییر سازوکار توجه (Attention) تا مدل کل متن را یکجا ببیند
3️⃣ بازآموزی روی داده‌های دیفیوژنی
4️⃣ استفاده از نرخ‌های یادگیری متفاوت برای بخش‌های مختلف شبکه تا مدل دانش قدیمی را حفظ کند ولی منطق تفکر جدید را بیاموزد
⚙️ ویژگی‌های فنی
معماری Mixture-of-Experts: ساختار ۳۰ میلیاردی با تنها ۳ میلیارد پارامتر فعال در هر گام 👈 کارایی بالا با هزینه کم
یادگیری پیوسته: دانش پیشین حذف نمی‌شود، بلکه در منطق جدید ادغام می‌گردد
آموزش با Batchهای عظیم: برای پایداری یادگیری در مدل‌هایی که متن را همزمان پردازش می‌کنند
🚀 چرا RND1 مهم است
✅ تولید موازی متن: بدون تأخیر گام‌به‌گام؛ پاسخ‌ها سریع‌تر شکل می‌گیرند
✅ کارایی بالا با منابع کمتر: تنها ۳ میلیارد پارامتر فعال، اما کیفیت در حد مدل‌های بسیار بزرگ
✅ معماری ترکیبی نوین: تلفیق مزایای AR و DLM
✅ کاملاً متن‌باز: کد، گزارش فنی، و وزن‌ها آزادانه در دسترس پژوهشگران است
✅ گامی به‌سوی خودبهبوددهی هوش مصنوعی (Recursive Self-Improvement): مدلی که نه‌تنها یاد می‌گیرد، بلکه می‌تواند در طراحی نسخه‌های بعدی خود مشارکت کند
🔗 منابع رسمی:
🟠 Blog
🟠 Report
🟠 Code (GitHub)
🟠 Weights (HuggingFace)
🟠 Video
🧩 مدل RND1 نشان می‌دهد که آینده‌ی هوش مصنوعی فقط در “آموزش” نیست — بلکه در “تغییر منطق تفکر” است.
مدلی که به‌جای تقلید از زبان، واقعاً یاد می‌گیرد چگونه فکر کند.
#RND1 #RadicalNumerics #DiffusionLanguageModel #AI #MoE #OpenSource #SelfImprovingAI
@asrgooyeshpardaz
مدل RND1 یک مدل زبانی مبتنی بر دیفیوژن (Diffusion Language Model - DLM) است که توسط تیم Radical Numerics معرفی شده است.
این مدل با ۳۰ میلیارد پارامتر ساخته شده، اما تنها ۳ میلیارد پارامتر فعال دارد. مدل بر پایه‌ی معماری Sparse Mixture-of-Experts (MoE) طراحی شده و از مدل پیش‌آموزش‌دیده‌ی Qwen3-30B-A3B مشتق شده است. سپس با ۵۰۰ میلیارد توکن دیگر بازآموزی شده تا رفتار خود را از یک مدل خودبازگشتی (Autoregressive) به مدل دیفیوژنی تغییر دهد.
🌀 برخلاف مدل‌های زبانی معمولی (مثل GPT) که متن را واژه‌به‌واژه تولید می‌کنند،
مدل RND1 کل جمله را به‌صورت همزمان می‌سازد و سپس آن را به‌تدریج اصلاح و تکمیل می‌کند — درست مانند مدل‌های دیفیوژنی در تولید تصویر که از “نویز” شروع می‌کنند و تصویر نهایی را مرحله‌به‌مرحله ظاهر می‌سازند.
🔄 روش نوآورانه‌ی ساخت
تیم Radical Numerics روش جالبی ابداع کرده که به آن AR-to-Diffusion Conversion (A2D) می‌گویند — یعنی تبدیل مدل خودبازگشتی به مدل دیفیوژنی بدون نیاز به آموزش از صفر.
مراحل کار:
1️⃣ انتخاب یک مدل قدرتمند GPT-مانند
2️⃣ تغییر سازوکار توجه (Attention) تا مدل کل متن را یکجا ببیند
3️⃣ بازآموزی روی داده‌های دیفیوژنی
4️⃣ استفاده از نرخ‌های یادگیری متفاوت برای بخش‌های مختلف شبکه تا مدل دانش قدیمی را حفظ کند ولی منطق تفکر جدید را بیاموزد
⚙️ ویژگی‌های فنی
معماری Mixture-of-Experts: ساختار ۳۰ میلیاردی با تنها ۳ میلیارد پارامتر فعال در هر گام 👈 کارایی بالا با هزینه کم
یادگیری پیوسته: دانش پیشین حذف نمی‌شود، بلکه در منطق جدید ادغام می‌گردد
آموزش با Batchهای عظیم: برای پایداری یادگیری در مدل‌هایی که متن را همزمان پردازش می‌کنند
🚀 چرا RND1 مهم است
✅ تولید موازی متن: بدون تأخیر گام‌به‌گام؛ پاسخ‌ها سریع‌تر شکل می‌گیرند
✅ کارایی بالا با منابع کمتر: تنها ۳ میلیارد پارامتر فعال، اما کیفیت در حد مدل‌های بسیار بزرگ
✅ معماری ترکیبی نوین: تلفیق مزایای AR و DLM
✅ کاملاً متن‌باز: کد، گزارش فنی، و وزن‌ها آزادانه در دسترس پژوهشگران است
✅ گامی به‌سوی خودبهبوددهی هوش مصنوعی (Recursive Self-Improvement): مدلی که نه‌تنها یاد می‌گیرد، بلکه می‌تواند در طراحی نسخه‌های بعدی خود مشارکت کند
🔗 منابع رسمی:
🟠 Blog
🟠 Report
🟠 Code (GitHub)
🟠 Weights (HuggingFace)
🟠 Video
🧩 مدل RND1 نشان می‌دهد که آینده‌ی هوش مصنوعی فقط در “آموزش” نیست — بلکه در “تغییر منطق تفکر” است.
مدلی که به‌جای تقلید از زبان، واقعاً یاد می‌گیرد چگونه فکر کند.
#RND1 #RadicalNumerics #DiffusionLanguageModel #AI #MoE #OpenSource #SelfImprovingAI
@asrgooyeshpardaz
❤5🔥3😍1🤝1
🦅 معرفی Ornith-1.0 – مدل هوش مصنوعی برای برنامه‌نویسی عامل‌محور
شرکت DeepReinforce AI خانواده‌ی مدل‌های متن‌باز Ornith-1.0 را در ابعاد مختلف از ۹ میلیارد تا ۳۹۷ میلیارد پارامتر روانه‌ی بازار کرده. نسخه‌ی ۳۵ میلیاردی این خانواده به‌گونه‌ای طراحی شده که به‌راحتی روی یک کارت گرافیک اجرا می‌شود و برای بسیاری از کاربران گزینه‌ای ایده‌آل محسوب می‌شود.
---
🤖 ویژگی‌های برجسته
- یادگیری خودبهبوددهنده از طریق تقویت (RL) – این مدل فقط کد نهایی تولید نمی‌کند؛ بلکه اسکافولد (همان ساختار و منطق هدایت‌کننده‌ی جستجو) را هم خودش می‌سازد. این قابلیت به مدل کمک می‌کند تا مسیرهای هوشمندانه‌تری برای حل مسئله پیدا کند و در نهایت راه‌حل‌های باکیفیت‌تری تحویل دهد.
- مجوز MIT – یعنی کاملاً رایگان و متن‌باز برای همه، بدون هیچ محدودیت منطقه‌ای یا تجاری.
- پنجره‌ی متنی بزرگ – مدل قادر است همزمان تا ۲۶۲ هزار توکن را پردازش کند که برای پروژه‌های بزرگ کدنویسی بسیار کاربردی است.
---
📊 عملکرد در بنچمارک‌های معتبر
نسخه‌ی ۳۵ میلیاردی Ornith در مقایسه با مدل هم‌رده‌ی Qwen3.5-35B عملکرد بسیار بهتری داشته:
- در بنچمارک Terminal-Bench 2.1 امتیاز ۶۴.۲ را کسب کرده در حالی که رقیب به ۴۱.۴ رسیده.
- در SWE-bench Verified با ۷۵.۶ در مقابل ۷۰.۰ موفق‌تر عمل کرده.
- در نسخه‌ی چندزبانه‌ی همین بنچمارک، امتیاز ۶۹.۳ در برابر ۶۰.۳ را ثبت کرده.
- در NL2Repo اختلاف چشمگیرتر است: ۳۴.۶ در برابر ۲۰.۵.
- و در میانگین بنچمارک Claw-eval نیز با ۶۹.۸ از رقیب خود با امتیاز ۶۵.۴ پیشی گرفته است.
---
🔥 نسخه‌ی غول‌پیکر ۳۹۷ میلیاردی
این نسخه حتی فراتر رفته و در بنچمارک Terminal-Bench 2.1 به امتیاز ۷۸.۲ دست یافته که از مدل بسته و مطرح Claude Opus 4.7 با امتیاز ۶۹.۷ بهتر عمل کرده. یعنی یک مدل متن‌باز توانسته از یکی از بهترین مدل‌های تجاری سبقت بگیرد.
---
🔗 لینک دسترسی
مجموعه‌ی کامل این مدل‌ها در Hugging Face در دسترس است:
https://huggingface.co/collections/deepreinforce-ai/ornith-10
---
#AI #DeepReinforce #LLM #MoE #برنامه‌نویسی_عامل‌محور
🆔 @asrgooyeshpardaz
شرکت DeepReinforce AI خانواده‌ی مدل‌های متن‌باز Ornith-1.0 را در ابعاد مختلف از ۹ میلیارد تا ۳۹۷ میلیارد پارامتر روانه‌ی بازار کرده. نسخه‌ی ۳۵ میلیاردی این خانواده به‌گونه‌ای طراحی شده که به‌راحتی روی یک کارت گرافیک اجرا می‌شود و برای بسیاری از کاربران گزینه‌ای ایده‌آل محسوب می‌شود.
---
🤖 ویژگی‌های برجسته
- یادگیری خودبهبوددهنده از طریق تقویت (RL) – این مدل فقط کد نهایی تولید نمی‌کند؛ بلکه اسکافولد (همان ساختار و منطق هدایت‌کننده‌ی جستجو) را هم خودش می‌سازد. این قابلیت به مدل کمک می‌کند تا مسیرهای هوشمندانه‌تری برای حل مسئله پیدا کند و در نهایت راه‌حل‌های باکیفیت‌تری تحویل دهد.
- مجوز MIT – یعنی کاملاً رایگان و متن‌باز برای همه، بدون هیچ محدودیت منطقه‌ای یا تجاری.
- پنجره‌ی متنی بزرگ – مدل قادر است همزمان تا ۲۶۲ هزار توکن را پردازش کند که برای پروژه‌های بزرگ کدنویسی بسیار کاربردی است.
---
📊 عملکرد در بنچمارک‌های معتبر
نسخه‌ی ۳۵ میلیاردی Ornith در مقایسه با مدل هم‌رده‌ی Qwen3.5-35B عملکرد بسیار بهتری داشته:
- در بنچمارک Terminal-Bench 2.1 امتیاز ۶۴.۲ را کسب کرده در حالی که رقیب به ۴۱.۴ رسیده.
- در SWE-bench Verified با ۷۵.۶ در مقابل ۷۰.۰ موفق‌تر عمل کرده.
- در نسخه‌ی چندزبانه‌ی همین بنچمارک، امتیاز ۶۹.۳ در برابر ۶۰.۳ را ثبت کرده.
- در NL2Repo اختلاف چشمگیرتر است: ۳۴.۶ در برابر ۲۰.۵.
- و در میانگین بنچمارک Claw-eval نیز با ۶۹.۸ از رقیب خود با امتیاز ۶۵.۴ پیشی گرفته است.
---
🔥 نسخه‌ی غول‌پیکر ۳۹۷ میلیاردی
این نسخه حتی فراتر رفته و در بنچمارک Terminal-Bench 2.1 به امتیاز ۷۸.۲ دست یافته که از مدل بسته و مطرح Claude Opus 4.7 با امتیاز ۶۹.۷ بهتر عمل کرده. یعنی یک مدل متن‌باز توانسته از یکی از بهترین مدل‌های تجاری سبقت بگیرد.
---
🔗 لینک دسترسی
مجموعه‌ی کامل این مدل‌ها در Hugging Face در دسترس است:
https://huggingface.co/collections/deepreinforce-ai/ornith-10
---
#AI #DeepReinforce #LLM #MoE #برنامه‌نویسی_عامل‌محور
🆔 @asrgooyeshpardaz
❤6
🔥 مدل غول‌پیکر Qwen با ۲.۴ تریلیون پارامتر منتشر شد
علی‌بابا وزن‌های مدل Qwen3.8-2.4T-A95B را روی Hugging Face منتشر کرده است. این مدل ۲.۴ تریلیون پارامتر کلی دارد که از این میان ۹۵ میلیارد پارامتر فعال هستند (معماری MoE با ۵۱۲ کارشناس و فعال‌سازی ۱۰ کارشناس مسیریابی‌شده + ۱ کارشناس مشترک در هر توکن).
مشخصات کلیدی:
- معماری هیبریدی Gated DeltaNet + Attention
- پنجره‌ی متنی ۲۶۲ هزار توکن (قابل‌افزایش تا ۱ میلیون)
- همیشه با حالت استدلال (Reasoning) کار می‌کند (قابل تنظیم با
- فقط متن (Text-Only)
عملکرد نزدیک به مدل‌های بسته (نتایج تیم Qwen):
- Terminal Bench 2.1: ۸۶.۶ (در مقابل ۸۸.۸ GPT-5.6 Sol)
- GPQA Diamond: ۹۲.۶
- IFBench: ۸۲.۸
- PaperBench: ۹۳.۰
نسخه‌ی Qwen3.8-Max روی همین پایه ساخته شده و قابلیت‌های بیشتری مثل چندوجهی، ابزارهای داخلی و ۱ میلیون توکن پیش‌فرض دارد.
این مدل نشان می‌دهد که آینده‌ی مدل‌های MoE به‌سمت تریلیون‌ها پارامتر با فعال‌سازی بهینه است.
---
🔗 لینک مدل:
https://huggingface.co/Qwen/Qwen3.8-2.4T-A95B
---
#Qwen #هوش_مصنوعی #مدل_متن_باز #MoE
🆔 @asrgooyeshpardaz
علی‌بابا وزن‌های مدل Qwen3.8-2.4T-A95B را روی Hugging Face منتشر کرده است. این مدل ۲.۴ تریلیون پارامتر کلی دارد که از این میان ۹۵ میلیارد پارامتر فعال هستند (معماری MoE با ۵۱۲ کارشناس و فعال‌سازی ۱۰ کارشناس مسیریابی‌شده + ۱ کارشناس مشترک در هر توکن).
مشخصات کلیدی:
- معماری هیبریدی Gated DeltaNet + Attention
- پنجره‌ی متنی ۲۶۲ هزار توکن (قابل‌افزایش تا ۱ میلیون)
- همیشه با حالت استدلال (Reasoning) کار می‌کند (قابل تنظیم با
reasoning_effort)- فقط متن (Text-Only)
عملکرد نزدیک به مدل‌های بسته (نتایج تیم Qwen):
- Terminal Bench 2.1: ۸۶.۶ (در مقابل ۸۸.۸ GPT-5.6 Sol)
- GPQA Diamond: ۹۲.۶
- IFBench: ۸۲.۸
- PaperBench: ۹۳.۰
نسخه‌ی Qwen3.8-Max روی همین پایه ساخته شده و قابلیت‌های بیشتری مثل چندوجهی، ابزارهای داخلی و ۱ میلیون توکن پیش‌فرض دارد.
این مدل نشان می‌دهد که آینده‌ی مدل‌های MoE به‌سمت تریلیون‌ها پارامتر با فعال‌سازی بهینه است.
---
🔗 لینک مدل:
https://huggingface.co/Qwen/Qwen3.8-2.4T-A95B
---
#Qwen #هوش_مصنوعی #مدل_متن_باز #MoE
🆔 @asrgooyeshpardaz
huggingface.co
Qwen/Qwen3.8-2.4T-A95B · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
❤4👍2
🚀 معرفی FreeToken: اجرای مدل‌های غول‌پیکر MoE روی کامپیوتر شخصی شما!
آیا تا به حال آرزو کرده‌اید که بتوانید مدل‌های ۲۹۰ میلیارد پارامتری را روی کامپیوتر گیمینگ خود اجرا کنید؟ پروژه‌ی جدید FreeToken این رویا را به واقعیت تبدیل کرده است!
---
🧩 ابزار FreeToken دقیقاً چیست؟
فری توکن (FreeToken) یک موتور سروینگ تخصصی برای مدل‌های Mixture-of-Experts (MoE) است که به‌طور ویژه برای اجرا روی سخت‌افزارهای شخصی و مصرفی طراحی شده. این ابزار با استفاده هوشمندانه از تمام منابع موجود (GPU، CPU، حافظه و ارتباطات داخلی)، امکان اجرای مدل‌های غول‌پیکر مانند DeepSeek-V4-Flash، Qwen3.6-35B-A3B و GLM-5.2 را روی کامپیوتر شما فراهم می‌کند.
---
⚙️ ویژگی‌های کلیدی و شگفت‌انگیز:
🔹 اجرای همزمان CPU-GPU: FreeToken با استفاده از یک سیاست هوشمند، بار محاسباتی را بین پردازنده و کارت گرافیک تقسیم می‌کند تا بهترین عملکرد ممکن را از سخت‌افزار شما بگیرد.
🔹 کشینگ هوشمند (Semantic-Aware Caching): این ویژگی به مدل اجازه می‌دهد تا زمینه‌های تکراری (مثل فراخوانی ابزارها یا بخش‌های تکراری استدلال) را ذخیره کرده و از محاسبه‌ی مجدد آنها جلوگیری کند. این یعنی سرعت بیشتر و مصرف انرژی کمتر!
🔹 مدیریت حافظه پویا: FreeToken می‌تواند در زمان اجرا، حافظه‌ی اختصاصی به کش متخصصان (Expert Caches) و حافظه‌ی KV را بدون نیاز به راه‌اندازی مجدد، تغییر دهد.
🔹 پشتیبانی گسترده: این موتور از مدل‌های مختلف با فرمت‌های کوانتیزاسیون متنوع (MXFP4، NVFP4، FP8 و BF16) پشتیبانی می‌کند.
🔹 سازگاری با ابزارهای محبوب: FreeToken با APIهای سازگار با Anthropic و OpenAI طراحی شده و به‌راحتی با ابزارهایی مثل Codex، Claude Code، OpenCode و OpenClaw کار می‌کند.
🔹 سخت‌افزارهای متنوع: از لپ‌تاپ‌های معمولی تا کامپیوترهای گیمینگ و ایستگاه‌های کاری، FreeToken روی کارت‌های گرافیک سری RTX 30، RTX 40 و RTX 50 اجرا می‌شود.
---
💻 نحوه‌ی نصب و راه‌اندازی:
نصب FreeToken بسیار ساده است و به‌سرعت روی سیستم شما راه‌اندازی می‌شود. شما می‌توانید از طریق خط فرمان با دستور
---
💡 چرا FreeToken ؟
این ابزار به کاربران عادی و پژوهشگران امکان می‌دهد تا بدون نیاز به سرورهای گران‌قیمت ابری، با مدل‌های پیشرفته‌ی هوش مصنوعی کار کنند. FreeToken دسترسی به هوش مصنوعی در سطح دیتاسنتر را به خانه‌ها آورده است و با مجوز Apache 2.0 کاملاً متن‌باز است.
---
🔗 لینک‌های مفید:
📦 گیت‌هاب:
https://github.com/FlashML-org/FreeToken
📄 مقاله:
https://arxiv.org/abs/2608.16157
🌐 وب‌سایت:
https://flashml.ai
---
#FreeToken #MoE #هوش_مصنوعی #متن_باز #اجرای_محلی
🆔 @asrgooyeshpardaz
آیا تا به حال آرزو کرده‌اید که بتوانید مدل‌های ۲۹۰ میلیارد پارامتری را روی کامپیوتر گیمینگ خود اجرا کنید؟ پروژه‌ی جدید FreeToken این رویا را به واقعیت تبدیل کرده است!
---
🧩 ابزار FreeToken دقیقاً چیست؟
فری توکن (FreeToken) یک موتور سروینگ تخصصی برای مدل‌های Mixture-of-Experts (MoE) است که به‌طور ویژه برای اجرا روی سخت‌افزارهای شخصی و مصرفی طراحی شده. این ابزار با استفاده هوشمندانه از تمام منابع موجود (GPU، CPU، حافظه و ارتباطات داخلی)، امکان اجرای مدل‌های غول‌پیکر مانند DeepSeek-V4-Flash، Qwen3.6-35B-A3B و GLM-5.2 را روی کامپیوتر شما فراهم می‌کند.
---
⚙️ ویژگی‌های کلیدی و شگفت‌انگیز:
🔹 اجرای همزمان CPU-GPU: FreeToken با استفاده از یک سیاست هوشمند، بار محاسباتی را بین پردازنده و کارت گرافیک تقسیم می‌کند تا بهترین عملکرد ممکن را از سخت‌افزار شما بگیرد.
🔹 کشینگ هوشمند (Semantic-Aware Caching): این ویژگی به مدل اجازه می‌دهد تا زمینه‌های تکراری (مثل فراخوانی ابزارها یا بخش‌های تکراری استدلال) را ذخیره کرده و از محاسبه‌ی مجدد آنها جلوگیری کند. این یعنی سرعت بیشتر و مصرف انرژی کمتر!
🔹 مدیریت حافظه پویا: FreeToken می‌تواند در زمان اجرا، حافظه‌ی اختصاصی به کش متخصصان (Expert Caches) و حافظه‌ی KV را بدون نیاز به راه‌اندازی مجدد، تغییر دهد.
🔹 پشتیبانی گسترده: این موتور از مدل‌های مختلف با فرمت‌های کوانتیزاسیون متنوع (MXFP4، NVFP4، FP8 و BF16) پشتیبانی می‌کند.
🔹 سازگاری با ابزارهای محبوب: FreeToken با APIهای سازگار با Anthropic و OpenAI طراحی شده و به‌راحتی با ابزارهایی مثل Codex، Claude Code، OpenCode و OpenClaw کار می‌کند.
🔹 سخت‌افزارهای متنوع: از لپ‌تاپ‌های معمولی تا کامپیوترهای گیمینگ و ایستگاه‌های کاری، FreeToken روی کارت‌های گرافیک سری RTX 30، RTX 40 و RTX 50 اجرا می‌شود.
---
💻 نحوه‌ی نصب و راه‌اندازی:
نصب FreeToken بسیار ساده است و به‌سرعت روی سیستم شما راه‌اندازی می‌شود. شما می‌توانید از طریق خط فرمان با دستور
uv pip install "freetoken[accel]" آن را نصب کنید یا از نسخه‌ی دسکتاپ با رابط کاربری گرافیکی برای ویندوز و لینوکس استفاده کنید.---
💡 چرا FreeToken ؟
این ابزار به کاربران عادی و پژوهشگران امکان می‌دهد تا بدون نیاز به سرورهای گران‌قیمت ابری، با مدل‌های پیشرفته‌ی هوش مصنوعی کار کنند. FreeToken دسترسی به هوش مصنوعی در سطح دیتاسنتر را به خانه‌ها آورده است و با مجوز Apache 2.0 کاملاً متن‌باز است.
---
🔗 لینک‌های مفید:
📦 گیت‌هاب:
https://github.com/FlashML-org/FreeToken
📄 مقاله:
https://arxiv.org/abs/2608.16157
🌐 وب‌سایت:
https://flashml.ai
---
#FreeToken #MoE #هوش_مصنوعی #متن_باز #اجرای_محلی
🆔 @asrgooyeshpardaz
GitHub
GitHub - FlashML-org/FreeToken: FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast…
FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently. - FlashML-org/FreeToken
❤4👏3