📚 ابزار Reader3: یک ابزار مینیمال و الهام‌بخش برای خواندن کتاب با کمک LLM — اثر جدید آندری کارپاتی
آندری کارپاتی در گیت‌هاب خود یک پروژه بسیار ساده اما مفهومی با نام Reader3 منتشر کرده است؛ ابزاری سبک‌وزن برای خواندن کتاب‌های EPUB که در نگاه اول فقط یک «کتاب‌خوان محلی» به‌نظر می‌رسد—اما ایدۀ اصلی کاملاً متفاوت است.
✨ ایده پشت Reader3 چیست؟
ابزار Reader3 کتاب را فصل‌به‌فصل نمایش می‌دهد و کاربر می‌تواند به‌سادگی متن همان فصل را کپی کند و در مدل زبانی دلخواهش (مثلاً GPT یا Claude) قرار دهد تا:
🔸دربارهٔ داستان گفتگو کند،
🔸سبک نویسنده را تحلیل کند،
🔸یا پرسش‌های عمیق‌تری دربارهٔ محتوا بپرسد.
به‌گفتهٔ کارپاتی، خواندن همراه با LLM به یکی از روش‌های اصلی مطالعه او تبدیل شده:
🔸یک بار خواندن دستی،
🔸یک بار خلاصه/توضیح LLM،
🔸یک دور پرسش‌وپاسخ.
این روش به او درک بسیار عمیق‌تری نسبت به خواندن کلاسیک می‌دهد.
🌿 فلسفه‌ای که مهم‌تر از خود ابزار است
کارپاتی می‌گوید این پروژه ۹۰٪ سبک «vibe coding» است؛ یعنی فقط برای انتقال ایده نوشته شده و قصد ندارد آن را پشتیبانی یا توسعه دهد.
او می‌نویسد:
یعنی در دنیای امروز، دورهٔ کتابخانه‌های سخت، ایستا و نگهداری‌های طولانی رو به پایان است.
اگر چیزی را نمی‌پسندید، کافی است از LLM بخواهید کد را همان‌جا تغییر دهد—همین!
🧪 چطور امتحانش کنیم؟
فقط کافی است کتاب EPUB خود را آماده کنید و با استفاده از uv این دو فرمان را اجرا کنید:
سپس کتابخانهٔ شما در مرورگر روی آدرس زیر باز خواهد شد:
📌 لایسنس:
MIT License
🖥 گیت‌هاب:
https://github.com/karpathy/reader3
#AI #ML #LLM #Karpathy #Github #Book
@asrgooyeshpardaz
آندری کارپاتی در گیت‌هاب خود یک پروژه بسیار ساده اما مفهومی با نام Reader3 منتشر کرده است؛ ابزاری سبک‌وزن برای خواندن کتاب‌های EPUB که در نگاه اول فقط یک «کتاب‌خوان محلی» به‌نظر می‌رسد—اما ایدۀ اصلی کاملاً متفاوت است.
✨ ایده پشت Reader3 چیست؟
ابزار Reader3 کتاب را فصل‌به‌فصل نمایش می‌دهد و کاربر می‌تواند به‌سادگی متن همان فصل را کپی کند و در مدل زبانی دلخواهش (مثلاً GPT یا Claude) قرار دهد تا:
🔸دربارهٔ داستان گفتگو کند،
🔸سبک نویسنده را تحلیل کند،
🔸یا پرسش‌های عمیق‌تری دربارهٔ محتوا بپرسد.
به‌گفتهٔ کارپاتی، خواندن همراه با LLM به یکی از روش‌های اصلی مطالعه او تبدیل شده:
🔸یک بار خواندن دستی،
🔸یک بار خلاصه/توضیح LLM،
🔸یک دور پرسش‌وپاسخ.
این روش به او درک بسیار عمیق‌تری نسبت به خواندن کلاسیک می‌دهد.
🌿 فلسفه‌ای که مهم‌تر از خود ابزار است
کارپاتی می‌گوید این پروژه ۹۰٪ سبک «vibe coding» است؛ یعنی فقط برای انتقال ایده نوشته شده و قصد ندارد آن را پشتیبانی یا توسعه دهد.
او می‌نویسد:
«کد الان یک چیز زودگذر است.»
یعنی در دنیای امروز، دورهٔ کتابخانه‌های سخت، ایستا و نگهداری‌های طولانی رو به پایان است.
اگر چیزی را نمی‌پسندید، کافی است از LLM بخواهید کد را همان‌جا تغییر دهد—همین!
🧪 چطور امتحانش کنیم؟
فقط کافی است کتاب EPUB خود را آماده کنید و با استفاده از uv این دو فرمان را اجرا کنید:
uv run reader3.py yourbook.epub # سپس اجرای سرور: uv run server.py
سپس کتابخانهٔ شما در مرورگر روی آدرس زیر باز خواهد شد:
http://localhost:8123 📌 لایسنس:
MIT License
🖥 گیت‌هاب:
https://github.com/karpathy/reader3
#AI #ML #LLM #Karpathy #Github #Book
@asrgooyeshpardaz
GitHub
GitHub - karpathy/reader3: Quick illustration of how one can easily read books together with LLMs. It's great and I highly recommend…
Quick illustration of how one can easily read books together with LLMs. It's great and I highly recommend it. - karpathy/reader3
❤5✍1
🐬 شرکت DeepSeek دو مدل قدرتمند جدید معرفی کرد!
🚀 مدل DeepSeek-V3.2
نسخه رسمی با پشتیبانی کامل از تفکر ابزاری (Tool-Integrated Reasoning).
در اپلیکیشن، وب و API در دسترس است.
⚡️ مدل DeepSeek-V3.2-Speciale
مدل آزمایشیِ ویژه برای مسائل پیچیده و استدلال عمیق.
فقط از طریق API قابل استفاده است.
🔑 مهم‌ترین نکات
🧩 بهره‌گیری از DeepSeek Sparse Attention برای پردازش کارآمد متن‌های بسیار طولانی.
🏆 مدل Speciale از Gemini-3.0-Pro پیشی گرفته و عملکردی در سطح مدال طلا در مسابقات IMO و IOI 2025 دارد.
📈 قدرت استدلال V3.2 در حد GPT-5 ارزیابی شده است.
🤖 بهبود چشمگیر در کارهای ایجنتی: جستجو، کدنویسی، و کار با ابزارها.
📚 کاملاً متن‌باز و منتشرشده در Hugging Face.
این یک قدم بزرگ برای نسل جدید مدل‌های بازمتن است!
🔗 لینک مدل:
https://huggingface.co/deepseek-ai/DeepSeek-V3.2-Speciale
#AI #DeepSeek #LLM
@asrgooyeshpardaz
🚀 مدل DeepSeek-V3.2
نسخه رسمی با پشتیبانی کامل از تفکر ابزاری (Tool-Integrated Reasoning).
در اپلیکیشن، وب و API در دسترس است.
⚡️ مدل DeepSeek-V3.2-Speciale
مدل آزمایشیِ ویژه برای مسائل پیچیده و استدلال عمیق.
فقط از طریق API قابل استفاده است.
🔑 مهم‌ترین نکات
🧩 بهره‌گیری از DeepSeek Sparse Attention برای پردازش کارآمد متن‌های بسیار طولانی.
🏆 مدل Speciale از Gemini-3.0-Pro پیشی گرفته و عملکردی در سطح مدال طلا در مسابقات IMO و IOI 2025 دارد.
📈 قدرت استدلال V3.2 در حد GPT-5 ارزیابی شده است.
🤖 بهبود چشمگیر در کارهای ایجنتی: جستجو، کدنویسی، و کار با ابزارها.
📚 کاملاً متن‌باز و منتشرشده در Hugging Face.
این یک قدم بزرگ برای نسل جدید مدل‌های بازمتن است!
🔗 لینک مدل:
https://huggingface.co/deepseek-ai/DeepSeek-V3.2-Speciale
#AI #DeepSeek #LLM
@asrgooyeshpardaz
❤8🔥3🤔1🤝1
🚀 مدل QwenLong-L1.5 منتشر شد — مدلی برای استدلال در کانتکست‌های بسیار طولانی که در این حوزه با GPT-5 و Gemini-2.5-Pro رقابت می‌کند.
خلاصه‌ای کوتاه از مدل:
۳۰ میلیارد پارامتر، که از این میان ۳ میلیارد پارامتر فعال هستند
به‌طور ویژه برای استدلال روی کانتکست‌های بسیار طولانی بهینه‌سازی شده است
وزن‌ها، کد آموزش و دستورالعمل‌ها (data recipes) به‌صورت کامل متن‌باز منتشر شده‌اند
شاخص‌های کلیدی عملکرد:
+31.7 امتیاز در OpenAI MRCR با کانتکست 128K — رکورد SOTA در میان تمام مدل‌ها
عملکرد هم‌سطح با Gemini-2.5-Pro در ۶ بنچمارک بزرگ long-QA
+9.69 امتیاز در CorpusQA
+6.16 امتیاز در LongBench-V2
نکات جالب و نوآورانه:
داده‌های سنتتیک در مقیاس بزرگ
14.1 هزار نمونه استدلالیِ طولانی
استخراج‌شده از 9.2 میلیارد توکن، بدون برچسب‌گذاری دستی
میانگین طول هر نمونه: 34 هزار توکن
حداکثر طول: 119 هزار توکن
آموزش RL پایدار
استفاده از متعادل‌سازی وظایف و روش Adaptive Entropy-Controlled Policy Optimization (AEPO)
این رویکرد امکان آموزش پایدار مدل‌ها را روی توالی‌های بسیار طولانی فراهم می‌کند
معماری مجهز به حافظه
به‌روزرسانی‌های تکرارشونده حافظه خارج از پنجره 256K توکن
نتیجه: +9.48 امتیاز در وظایف دارای کانتکست بین ۱ تا ۴ میلیون توکن
مدل QwenLong-L1.5 یکی از قدرتمندترین گام‌های متن‌باز در مسیر تحقق استدلال واقعاً مقیاس‌پذیر روی کانتکست‌های طولانی است.
این مدل نه‌تنها به‌خاطر نتایجش، بلکه به‌دلیل باز بودن کامل کل پشته آموزشی (Training Stack) نیز اهمیت ویژه‌ای دارد.
GitHub: https://github.com/Tongyi-Zhiwen/Qwen-Doc
مقاله: https://modelscope.cn/papers/2512.12967
مدل: https://modelscope.cn/models/iic/QwenLong-L1.5-30B-A3B
Hugging Face: https://huggingface.co/Tongyi-Zhiwen/QwenLong-L1.5-30B-A3B
#AI #LLM #OpenSource #LongContext #Qwen
@asrgooyeshpardaz
خلاصه‌ای کوتاه از مدل:
۳۰ میلیارد پارامتر، که از این میان ۳ میلیارد پارامتر فعال هستند
به‌طور ویژه برای استدلال روی کانتکست‌های بسیار طولانی بهینه‌سازی شده است
وزن‌ها، کد آموزش و دستورالعمل‌ها (data recipes) به‌صورت کامل متن‌باز منتشر شده‌اند
شاخص‌های کلیدی عملکرد:
+31.7 امتیاز در OpenAI MRCR با کانتکست 128K — رکورد SOTA در میان تمام مدل‌ها
عملکرد هم‌سطح با Gemini-2.5-Pro در ۶ بنچمارک بزرگ long-QA
+9.69 امتیاز در CorpusQA
+6.16 امتیاز در LongBench-V2
نکات جالب و نوآورانه:
داده‌های سنتتیک در مقیاس بزرگ
14.1 هزار نمونه استدلالیِ طولانی
استخراج‌شده از 9.2 میلیارد توکن، بدون برچسب‌گذاری دستی
میانگین طول هر نمونه: 34 هزار توکن
حداکثر طول: 119 هزار توکن
آموزش RL پایدار
استفاده از متعادل‌سازی وظایف و روش Adaptive Entropy-Controlled Policy Optimization (AEPO)
این رویکرد امکان آموزش پایدار مدل‌ها را روی توالی‌های بسیار طولانی فراهم می‌کند
معماری مجهز به حافظه
به‌روزرسانی‌های تکرارشونده حافظه خارج از پنجره 256K توکن
نتیجه: +9.48 امتیاز در وظایف دارای کانتکست بین ۱ تا ۴ میلیون توکن
مدل QwenLong-L1.5 یکی از قدرتمندترین گام‌های متن‌باز در مسیر تحقق استدلال واقعاً مقیاس‌پذیر روی کانتکست‌های طولانی است.
این مدل نه‌تنها به‌خاطر نتایجش، بلکه به‌دلیل باز بودن کامل کل پشته آموزشی (Training Stack) نیز اهمیت ویژه‌ای دارد.
GitHub: https://github.com/Tongyi-Zhiwen/Qwen-Doc
مقاله: https://modelscope.cn/papers/2512.12967
مدل: https://modelscope.cn/models/iic/QwenLong-L1.5-30B-A3B
Hugging Face: https://huggingface.co/Tongyi-Zhiwen/QwenLong-L1.5-30B-A3B
#AI #LLM #OpenSource #LongContext #Qwen
@asrgooyeshpardaz
❤4👏2
🎧🌍 آیا SpeechLLMها واقعاً ترجمه گفتار را متحول کرده‌اند؟
📄 مقاله‌ای جدید با عنوان Hearing to Translate به‌طور نظام‌مند بررسی می‌کند که آیا ادغام «گفتار به‌عنوان مدالیته بومی» در LLMها (یعنی SpeechLLMها) می‌تواند عملکرد ترجمه گفتار را نسبت به معماری‌های کلاسیک زنجیره‌ای (Cascaded) بهبود دهد یا نه.
🔬 روش مطالعه:
این کار اولین بنچمارک جامع در این حوزه است که:
🧠 تعداد ۵ SpeechLLM پیشرفته
🔗 ۱۶ سیستم قوی مستقیم و زنجیره‌ای (ترکیب مدل‌های پایه گفتار + LLMهای چندزبانه)
را با هم مقایسه می‌کند.
📊 ارزیابی در مقیاسی گسترده انجام شده است:
۱۶ بنچمارک معتبر
۱۳ جفت‌زبانی
۹ سناریوی چالش‌برانگیز (گفتار نویزی، ناپیوسته، طولانی و …)
🔎 یافته‌های کلیدی:
✅ سیستم‌های Cascaded همچنان قابل‌اعتمادترین گزینه در مجموع هستند.
⚠️ مدل‌های SpeechLLMهای فعلی فقط در برخی شرایط خاص می‌توانند به عملکرد سیستم‌های زنجیره‌ای برسند، اما برتری کلی ندارند.
📉 مدل‌های پایه گفتار (SFMها) به‌تنهایی از هر دو رویکرد عقب‌ترند.
🧩 نتیجه مهم: حضور LLM—چه درون مدل و چه به‌صورت پایپلاین—برای دستیابی به ترجمه گفتار باکیفیت ضروری است.
🧠 جمع‌بندی تحلیلی:
با وجود جذابیت ایده «ترجمه مستقیم گفتار با LLM»، معماری‌های کلاسیک زنجیره‌ای (ASR → LLM → MT) هنوز از نظر پایداری و کیفیت، دست بالا را دارند. به نظر می‌رسد مسیر آینده نه حذف پایپلاین‌ها، بلکه ادغام هوشمند LLMها در آنها باشد.
🔗 لینک مقاله (arXiv):
https://arxiv.org/abs/2512.16378
#SpeechLLM #SpeechTranslation #CascadedSystems #LLM #ASR #AIResearch
@asrgooyeshpardaz
📄 مقاله‌ای جدید با عنوان Hearing to Translate به‌طور نظام‌مند بررسی می‌کند که آیا ادغام «گفتار به‌عنوان مدالیته بومی» در LLMها (یعنی SpeechLLMها) می‌تواند عملکرد ترجمه گفتار را نسبت به معماری‌های کلاسیک زنجیره‌ای (Cascaded) بهبود دهد یا نه.
🔬 روش مطالعه:
این کار اولین بنچمارک جامع در این حوزه است که:
🧠 تعداد ۵ SpeechLLM پیشرفته
🔗 ۱۶ سیستم قوی مستقیم و زنجیره‌ای (ترکیب مدل‌های پایه گفتار + LLMهای چندزبانه)
را با هم مقایسه می‌کند.
📊 ارزیابی در مقیاسی گسترده انجام شده است:
۱۶ بنچمارک معتبر
۱۳ جفت‌زبانی
۹ سناریوی چالش‌برانگیز (گفتار نویزی، ناپیوسته، طولانی و …)
🔎 یافته‌های کلیدی:
✅ سیستم‌های Cascaded همچنان قابل‌اعتمادترین گزینه در مجموع هستند.
⚠️ مدل‌های SpeechLLMهای فعلی فقط در برخی شرایط خاص می‌توانند به عملکرد سیستم‌های زنجیره‌ای برسند، اما برتری کلی ندارند.
📉 مدل‌های پایه گفتار (SFMها) به‌تنهایی از هر دو رویکرد عقب‌ترند.
🧩 نتیجه مهم: حضور LLM—چه درون مدل و چه به‌صورت پایپلاین—برای دستیابی به ترجمه گفتار باکیفیت ضروری است.
🧠 جمع‌بندی تحلیلی:
با وجود جذابیت ایده «ترجمه مستقیم گفتار با LLM»، معماری‌های کلاسیک زنجیره‌ای (ASR → LLM → MT) هنوز از نظر پایداری و کیفیت، دست بالا را دارند. به نظر می‌رسد مسیر آینده نه حذف پایپلاین‌ها، بلکه ادغام هوشمند LLMها در آنها باشد.
🔗 لینک مقاله (arXiv):
https://arxiv.org/abs/2512.16378
#SpeechLLM #SpeechTranslation #CascadedSystems #LLM #ASR #AIResearch
@asrgooyeshpardaz
arXiv.org
Hearing to Translate: The Effectiveness of Speech Modality...
As Large Language Models (LLMs) expand beyond text, integrating speech as a native modality has given rise to SpeechLLMs, which directly process spoken language and enable speech-to-text...
❤6👍1🍾1
🌟 مدل IQuest-Coder-V1: مدل چینی که رهبران کدنویسی را پشت سر گذاشت.
مدل Quest Research با حمایت صندوق Ubiquant، مدل ۴۰ میلیارد پارامتری‌ای را معرفی کرد که دارای پنجرهٔ کانتکست ۱۲۸ هزار توکن است و به گفتهٔ نویسندگان، به امتیازهای ۸۱٫۴٪ در SWE-Bench Verified، ۴۹٫۹٪ در BigCodeBench و ۸۱٫۱٪ در LiveCodeBench v6 دست یافته است.
این نتایج با وجود تعداد پارامترهای به‌مراتب کمتر، از عملکرد Claude Sonnet 4.5 و GPT-5.1 بهتر است.
این مدل از تکنیک «code-flow» استفاده می‌کند — آموزش بر اساس تکامل مخازن (repositories) و کامیت‌ها — و به دو شاخه تقسیم شده است:
🟠 شاخه Dense Models: نسخه‌های Base و Instruct برای پیش‌تمرین/فاین‌تیون و پیروی از دستورالعمل‌ها
🟢شاخه Loop Models: نسخهٔ بهینه‌سازی‌شدهٔ Instruct با بیشینهٔ کارایی از نظر مصرف VRAM (نسخهٔ int4 می‌تواند روی کارت‌های 3090/4090 اجرا شود)
معماری LoopCoder از ساختار چرخه‌ای ترنسفورمر استفاده می‌کند؛ به‌گونه‌ای که یک مجموعه پارامتر یکسان در دو گذر پردازشی پیاپی به کار می‌رود.
در گذر نخست، مدل امبدینگ‌ها را با درنظرگرفتن موقعیت واژه‌ها از لایه‌های خود عبور می‌دهد.
در گذر دوم، مدل به‌طور همزمان از دو نوع توجه استفاده می‌کند:
توجه سراسری (Global Attention) که به تمام اطلاعات گذر اول برای درک کانتکست کلی رجوع می‌کند، و
توجه محلی (Local Attention) که فقط به واژه‌های قبلی در گذر دوم نگاه می‌کند تا پیوستگی توالی متن حفظ شود.
این دو نوع توجه با سازوکاری ترکیب می‌شوند که تعیین می‌کند چه میزان وزن به کانتکست سراسری و چه میزان به توالی محلی داده شود.
در گزارش فنی همچنین به نسخه‌های 7B و 14B اشاره شده است، اما زمان انتشار آنها هنوز مشخص نیست.
📌 مجوز (Licensing):
Modified MIT License
🟡 صفحهٔ پروژه
🟡 گزارش فنی
🟡 مجموعهٔ مدل‌ها
🖥 GitHub
#AI #ML #LLM #IQuest #QuestResearch
@asrgooyeshpardaz
مدل Quest Research با حمایت صندوق Ubiquant، مدل ۴۰ میلیارد پارامتری‌ای را معرفی کرد که دارای پنجرهٔ کانتکست ۱۲۸ هزار توکن است و به گفتهٔ نویسندگان، به امتیازهای ۸۱٫۴٪ در SWE-Bench Verified، ۴۹٫۹٪ در BigCodeBench و ۸۱٫۱٪ در LiveCodeBench v6 دست یافته است.
این نتایج با وجود تعداد پارامترهای به‌مراتب کمتر، از عملکرد Claude Sonnet 4.5 و GPT-5.1 بهتر است.
این مدل از تکنیک «code-flow» استفاده می‌کند — آموزش بر اساس تکامل مخازن (repositories) و کامیت‌ها — و به دو شاخه تقسیم شده است:
🟠 شاخه Dense Models: نسخه‌های Base و Instruct برای پیش‌تمرین/فاین‌تیون و پیروی از دستورالعمل‌ها
🟢شاخه Loop Models: نسخهٔ بهینه‌سازی‌شدهٔ Instruct با بیشینهٔ کارایی از نظر مصرف VRAM (نسخهٔ int4 می‌تواند روی کارت‌های 3090/4090 اجرا شود)
معماری LoopCoder از ساختار چرخه‌ای ترنسفورمر استفاده می‌کند؛ به‌گونه‌ای که یک مجموعه پارامتر یکسان در دو گذر پردازشی پیاپی به کار می‌رود.
در گذر نخست، مدل امبدینگ‌ها را با درنظرگرفتن موقعیت واژه‌ها از لایه‌های خود عبور می‌دهد.
در گذر دوم، مدل به‌طور همزمان از دو نوع توجه استفاده می‌کند:
توجه سراسری (Global Attention) که به تمام اطلاعات گذر اول برای درک کانتکست کلی رجوع می‌کند، و
توجه محلی (Local Attention) که فقط به واژه‌های قبلی در گذر دوم نگاه می‌کند تا پیوستگی توالی متن حفظ شود.
این دو نوع توجه با سازوکاری ترکیب می‌شوند که تعیین می‌کند چه میزان وزن به کانتکست سراسری و چه میزان به توالی محلی داده شود.
در گزارش فنی همچنین به نسخه‌های 7B و 14B اشاره شده است، اما زمان انتشار آنها هنوز مشخص نیست.
📌 مجوز (Licensing):
Modified MIT License
🟡 صفحهٔ پروژه
🟡 گزارش فنی
🟡 مجموعهٔ مدل‌ها
🖥 GitHub
#AI #ML #LLM #IQuest #QuestResearch
@asrgooyeshpardaz
huggingface.co
IQuestLab/IQuest-Coder-V1-40B-Base · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
⚡3👏2❤1
🚀 گوگل از Gemma 4 12B Unified رونمایی کرد؛
یک مدل متن‌باز چندوجهی که بدون نیاز به رمزگذارهای جداگانه، متن، تصویر، صدا و ویدئو را به‌صورت یکپارچه پردازش می‌کند.
این مدل که توسط deepmind.google توسعه یافته، گام مهمی در نزدیک‌تر شدن مدل‌های متن‌باز به توانایی‌های مدل‌های پرچمدار تجاری محسوب می‌شود.
🔹 مشخصات فنی
• ۱۲ میلیارد پارامتر با معماری Dense
• پنجره زمینه (Context Window) تا ۲۵۶ هزار توکن
• پشتیبانی بومی از ورودی‌های چندوجهی:
صوت (تشخیص گفتار و ترجمه تا ۳۰ ثانیه)
ویدئو (تا ۶۰ ثانیه) تصاویر با رزولوشن متغیر
• مجهز به قابلیت «استدلال مرحله‌به‌مرحله» (Reasoning)
• پشتیبانی از System Prompt و Function Calling
• آموزش‌دیده روی بیش از ۱۴۰ زبان
📊 عملکرد در بنچمارک‌ها
• MMLU Pro: 77.2٪
• AIME 2026: 77.5٪
• LiveCodeBench v6: 72.0٪
• GPQA Diamond: 78.8٪
• MMMU Pro (بینایی): 69.1٪
💡 چرا Gemma 4 12B Unified ؟
✅ اجرای محلی روی GPUهای مصرفی و حتی برخی لپ‌تاپ‌ها
✅ انتشار نسخه‌های GGUF برای اجرای بهینه در ابزارهای متن‌باز
✅ امکان Fine-Tuning و سفارشی‌سازی برای کاربردهای سازمانی
✅ بهره‌گیری از مکانیزم‌های ایمنی و هم‌راستاسازی مشابه خانواده Gemini
✅ یکی از معدود مدل‌های متن‌باز که چندوجهی بودن را به‌صورت واقعی و یکپارچه ارائه می‌کند
🎯 نکته مهم این است که گوگل تلاش کرده معماری چندوجهی را در یک مدل واحد ادغام کند؛ رویکردی که می‌تواند هزینه توسعه و استقرار سامانه‌های هوش مصنوعی چندرسانه‌ای را به‌طور قابل‌توجهی کاهش دهد و مسیر ساخت دستیارهای هوشمند محلی و سازمانی را هموارتر کند.
🔗 صفحه مدل:
https://huggingface.co/google/gemma-4-12B-it
#هوش_مصنوعی #AI #Google #DeepMind #Gemma #LLM #Multimodal #OpenSource
🆔 @asrgooyeshpardaz
یک مدل متن‌باز چندوجهی که بدون نیاز به رمزگذارهای جداگانه، متن، تصویر، صدا و ویدئو را به‌صورت یکپارچه پردازش می‌کند.
این مدل که توسط deepmind.google توسعه یافته، گام مهمی در نزدیک‌تر شدن مدل‌های متن‌باز به توانایی‌های مدل‌های پرچمدار تجاری محسوب می‌شود.
🔹 مشخصات فنی
• ۱۲ میلیارد پارامتر با معماری Dense
• پنجره زمینه (Context Window) تا ۲۵۶ هزار توکن
• پشتیبانی بومی از ورودی‌های چندوجهی:
صوت (تشخیص گفتار و ترجمه تا ۳۰ ثانیه)
ویدئو (تا ۶۰ ثانیه) تصاویر با رزولوشن متغیر
• مجهز به قابلیت «استدلال مرحله‌به‌مرحله» (Reasoning)
• پشتیبانی از System Prompt و Function Calling
• آموزش‌دیده روی بیش از ۱۴۰ زبان
📊 عملکرد در بنچمارک‌ها
• MMLU Pro: 77.2٪
• AIME 2026: 77.5٪
• LiveCodeBench v6: 72.0٪
• GPQA Diamond: 78.8٪
• MMMU Pro (بینایی): 69.1٪
💡 چرا Gemma 4 12B Unified ؟
✅ اجرای محلی روی GPUهای مصرفی و حتی برخی لپ‌تاپ‌ها
✅ انتشار نسخه‌های GGUF برای اجرای بهینه در ابزارهای متن‌باز
✅ امکان Fine-Tuning و سفارشی‌سازی برای کاربردهای سازمانی
✅ بهره‌گیری از مکانیزم‌های ایمنی و هم‌راستاسازی مشابه خانواده Gemini
✅ یکی از معدود مدل‌های متن‌باز که چندوجهی بودن را به‌صورت واقعی و یکپارچه ارائه می‌کند
🎯 نکته مهم این است که گوگل تلاش کرده معماری چندوجهی را در یک مدل واحد ادغام کند؛ رویکردی که می‌تواند هزینه توسعه و استقرار سامانه‌های هوش مصنوعی چندرسانه‌ای را به‌طور قابل‌توجهی کاهش دهد و مسیر ساخت دستیارهای هوشمند محلی و سازمانی را هموارتر کند.
🔗 صفحه مدل:
https://huggingface.co/google/gemma-4-12B-it
#هوش_مصنوعی #AI #Google #DeepMind #Gemma #LLM #Multimodal #OpenSource
🆔 @asrgooyeshpardaz
❤4👍1
📌 سیستم LEAP: سیستمی که به مدل زبانی کمک کرد تمام مسائل المپیاد پاتنم ۲۰۲۵ را حل کند
گوگل مقاله‌ای دربارهٔ سیستم LEAP منتشر کرده است که برای اثبات خودکار قضایا طراحی شده. این سیستم به مدل‌های زبانی امکان می‌دهد تا اثبات‌های رسمی و قابل راستی‌آزمایی ماشین را به زبان Lean بسازند.
اثبات به زبان طبیعی (انسان) به سختی به صورت خودکار قابل بررسی است، زیرا تقریباً همیشه شامل خلأهای منطقی می‌شود. اما اثبات رسمی (فرمال) با زبان ماشین نوشته می‌شود و توسط کامپایلر بررسی می‌گردد که تضمین‌کنندهٔ درستی است، هرچند نوشتن آن بسیار دشوارتر است.
در این حوزه، مدل‌های تخصصی که صرفاً برای Lean آموزش دیده‌اند، پیشتاز هستند. اما LEAP که به عنوان یک چارچوب عاملی (agentic framework) کار می‌کند، از مدل‌های عمومی استفاده می‌نماید: مسئله را به بخش‌های کوچک تقسیم کرده و بر اساس خطاهای بازگردانده شده توسط کامپایلر، به صورت بازگشتی اشکالات را رفع می‌کند.
دستاورد اصلی پژوهشی این پروژه، المپیاد پاتنم ۲۰۲۵ است؛ مسابقه سالانه ریاضی برای دانشجویان آمریکا. LEAP موفق شد هر ۱۲ مسئله این المپیاد را به صورت رسمی حل کند، در حالی که Gemini 3.1 Pro به تنهایی و همچنین سیستم تخصصی متن‌باز Goedel-Prover-V2 حتی یک مسئله را حل نکردند. سیستم بسته Aristotle که در المپیاد ریاضی IMO ۲۰۲۵ عملکردی در سطح مدال طلا داشت، در ارزیابی نویسندگان این مقاله ۹ مسئله از ۱۲ را حل کرده است.
در این مقاله مجموعه داده جدیدی به نام IMO-LeanProofBench شامل ۶۰ مسئله المپیادی معرفی شده که در زبان Lean فرمال شده‌اند و نیازمند استنتاج‌های غیرمعمول و اثبات‌های ساختاری پیچیده هستند. در این مجموعه، LEAP به طور میانگین در بخش‌های پایه و پیشرفته به حدود ۷۰٪ موفقیت می‌رسد، در حالی که Aristotle حدود ۴۸٪ است.
دستاورد جانبی: LEAP بخش کمکی یکی از مسائل ترکیبیاتی منتسب به ریاضیدان دونالد کانت را به طور رسمی تأیید کرده و بیش از ۵۰۰۰ خط کد در Lean 4 تولید نموده است.
🟡 نکتهٔ طعنه‌آمیز
نویسندگان مقاله در متن خود از سیستم‌های بسته رقیب (Axiom3, Numina, Aristotle) به دلیل در دسترس نبودن برای بررسی علمی انتقاد کرده‌اند. با این حال، کد خود LEAP نیز منتشر نشده است. انتشار اثبات‌های نهایی تا حدی این مشکل را کاهش می‌دهد (چون می‌توان آنها را با کامپایلر Lean بازبینی کرد)، اما بازتولید کامل این پروژهٔ گوگل در حال حاضر ممکن نیست.
منبع: Google Research – LEAP
#AI #ML #LLM #LEAP #Research #Google
🆔 @asrgooyeshpardaz
گوگل مقاله‌ای دربارهٔ سیستم LEAP منتشر کرده است که برای اثبات خودکار قضایا طراحی شده. این سیستم به مدل‌های زبانی امکان می‌دهد تا اثبات‌های رسمی و قابل راستی‌آزمایی ماشین را به زبان Lean بسازند.
اثبات به زبان طبیعی (انسان) به سختی به صورت خودکار قابل بررسی است، زیرا تقریباً همیشه شامل خلأهای منطقی می‌شود. اما اثبات رسمی (فرمال) با زبان ماشین نوشته می‌شود و توسط کامپایلر بررسی می‌گردد که تضمین‌کنندهٔ درستی است، هرچند نوشتن آن بسیار دشوارتر است.
در این حوزه، مدل‌های تخصصی که صرفاً برای Lean آموزش دیده‌اند، پیشتاز هستند. اما LEAP که به عنوان یک چارچوب عاملی (agentic framework) کار می‌کند، از مدل‌های عمومی استفاده می‌نماید: مسئله را به بخش‌های کوچک تقسیم کرده و بر اساس خطاهای بازگردانده شده توسط کامپایلر، به صورت بازگشتی اشکالات را رفع می‌کند.
دستاورد اصلی پژوهشی این پروژه، المپیاد پاتنم ۲۰۲۵ است؛ مسابقه سالانه ریاضی برای دانشجویان آمریکا. LEAP موفق شد هر ۱۲ مسئله این المپیاد را به صورت رسمی حل کند، در حالی که Gemini 3.1 Pro به تنهایی و همچنین سیستم تخصصی متن‌باز Goedel-Prover-V2 حتی یک مسئله را حل نکردند. سیستم بسته Aristotle که در المپیاد ریاضی IMO ۲۰۲۵ عملکردی در سطح مدال طلا داشت، در ارزیابی نویسندگان این مقاله ۹ مسئله از ۱۲ را حل کرده است.
در این مقاله مجموعه داده جدیدی به نام IMO-LeanProofBench شامل ۶۰ مسئله المپیادی معرفی شده که در زبان Lean فرمال شده‌اند و نیازمند استنتاج‌های غیرمعمول و اثبات‌های ساختاری پیچیده هستند. در این مجموعه، LEAP به طور میانگین در بخش‌های پایه و پیشرفته به حدود ۷۰٪ موفقیت می‌رسد، در حالی که Aristotle حدود ۴۸٪ است.
دستاورد جانبی: LEAP بخش کمکی یکی از مسائل ترکیبیاتی منتسب به ریاضیدان دونالد کانت را به طور رسمی تأیید کرده و بیش از ۵۰۰۰ خط کد در Lean 4 تولید نموده است.
🟡 نکتهٔ طعنه‌آمیز
نویسندگان مقاله در متن خود از سیستم‌های بسته رقیب (Axiom3, Numina, Aristotle) به دلیل در دسترس نبودن برای بررسی علمی انتقاد کرده‌اند. با این حال، کد خود LEAP نیز منتشر نشده است. انتشار اثبات‌های نهایی تا حدی این مشکل را کاهش می‌دهد (چون می‌توان آنها را با کامپایلر Lean بازبینی کرد)، اما بازتولید کامل این پروژهٔ گوگل در حال حاضر ممکن نیست.
منبع: Google Research – LEAP
#AI #ML #LLM #LEAP #Research #Google
🆔 @asrgooyeshpardaz
❤1👎1👏1
🦅 معرفی Ornith-1.0 – مدل هوش مصنوعی برای برنامه‌نویسی عامل‌محور
شرکت DeepReinforce AI خانواده‌ی مدل‌های متن‌باز Ornith-1.0 را در ابعاد مختلف از ۹ میلیارد تا ۳۹۷ میلیارد پارامتر روانه‌ی بازار کرده. نسخه‌ی ۳۵ میلیاردی این خانواده به‌گونه‌ای طراحی شده که به‌راحتی روی یک کارت گرافیک اجرا می‌شود و برای بسیاری از کاربران گزینه‌ای ایده‌آل محسوب می‌شود.
---
🤖 ویژگی‌های برجسته
- یادگیری خودبهبوددهنده از طریق تقویت (RL) – این مدل فقط کد نهایی تولید نمی‌کند؛ بلکه اسکافولد (همان ساختار و منطق هدایت‌کننده‌ی جستجو) را هم خودش می‌سازد. این قابلیت به مدل کمک می‌کند تا مسیرهای هوشمندانه‌تری برای حل مسئله پیدا کند و در نهایت راه‌حل‌های باکیفیت‌تری تحویل دهد.
- مجوز MIT – یعنی کاملاً رایگان و متن‌باز برای همه، بدون هیچ محدودیت منطقه‌ای یا تجاری.
- پنجره‌ی متنی بزرگ – مدل قادر است همزمان تا ۲۶۲ هزار توکن را پردازش کند که برای پروژه‌های بزرگ کدنویسی بسیار کاربردی است.
---
📊 عملکرد در بنچمارک‌های معتبر
نسخه‌ی ۳۵ میلیاردی Ornith در مقایسه با مدل هم‌رده‌ی Qwen3.5-35B عملکرد بسیار بهتری داشته:
- در بنچمارک Terminal-Bench 2.1 امتیاز ۶۴.۲ را کسب کرده در حالی که رقیب به ۴۱.۴ رسیده.
- در SWE-bench Verified با ۷۵.۶ در مقابل ۷۰.۰ موفق‌تر عمل کرده.
- در نسخه‌ی چندزبانه‌ی همین بنچمارک، امتیاز ۶۹.۳ در برابر ۶۰.۳ را ثبت کرده.
- در NL2Repo اختلاف چشمگیرتر است: ۳۴.۶ در برابر ۲۰.۵.
- و در میانگین بنچمارک Claw-eval نیز با ۶۹.۸ از رقیب خود با امتیاز ۶۵.۴ پیشی گرفته است.
---
🔥 نسخه‌ی غول‌پیکر ۳۹۷ میلیاردی
این نسخه حتی فراتر رفته و در بنچمارک Terminal-Bench 2.1 به امتیاز ۷۸.۲ دست یافته که از مدل بسته و مطرح Claude Opus 4.7 با امتیاز ۶۹.۷ بهتر عمل کرده. یعنی یک مدل متن‌باز توانسته از یکی از بهترین مدل‌های تجاری سبقت بگیرد.
---
🔗 لینک دسترسی
مجموعه‌ی کامل این مدل‌ها در Hugging Face در دسترس است:
https://huggingface.co/collections/deepreinforce-ai/ornith-10
---
#AI #DeepReinforce #LLM #MoE #برنامه‌نویسی_عامل‌محور
🆔 @asrgooyeshpardaz
شرکت DeepReinforce AI خانواده‌ی مدل‌های متن‌باز Ornith-1.0 را در ابعاد مختلف از ۹ میلیارد تا ۳۹۷ میلیارد پارامتر روانه‌ی بازار کرده. نسخه‌ی ۳۵ میلیاردی این خانواده به‌گونه‌ای طراحی شده که به‌راحتی روی یک کارت گرافیک اجرا می‌شود و برای بسیاری از کاربران گزینه‌ای ایده‌آل محسوب می‌شود.
---
🤖 ویژگی‌های برجسته
- یادگیری خودبهبوددهنده از طریق تقویت (RL) – این مدل فقط کد نهایی تولید نمی‌کند؛ بلکه اسکافولد (همان ساختار و منطق هدایت‌کننده‌ی جستجو) را هم خودش می‌سازد. این قابلیت به مدل کمک می‌کند تا مسیرهای هوشمندانه‌تری برای حل مسئله پیدا کند و در نهایت راه‌حل‌های باکیفیت‌تری تحویل دهد.
- مجوز MIT – یعنی کاملاً رایگان و متن‌باز برای همه، بدون هیچ محدودیت منطقه‌ای یا تجاری.
- پنجره‌ی متنی بزرگ – مدل قادر است همزمان تا ۲۶۲ هزار توکن را پردازش کند که برای پروژه‌های بزرگ کدنویسی بسیار کاربردی است.
---
📊 عملکرد در بنچمارک‌های معتبر
نسخه‌ی ۳۵ میلیاردی Ornith در مقایسه با مدل هم‌رده‌ی Qwen3.5-35B عملکرد بسیار بهتری داشته:
- در بنچمارک Terminal-Bench 2.1 امتیاز ۶۴.۲ را کسب کرده در حالی که رقیب به ۴۱.۴ رسیده.
- در SWE-bench Verified با ۷۵.۶ در مقابل ۷۰.۰ موفق‌تر عمل کرده.
- در نسخه‌ی چندزبانه‌ی همین بنچمارک، امتیاز ۶۹.۳ در برابر ۶۰.۳ را ثبت کرده.
- در NL2Repo اختلاف چشمگیرتر است: ۳۴.۶ در برابر ۲۰.۵.
- و در میانگین بنچمارک Claw-eval نیز با ۶۹.۸ از رقیب خود با امتیاز ۶۵.۴ پیشی گرفته است.
---
🔥 نسخه‌ی غول‌پیکر ۳۹۷ میلیاردی
این نسخه حتی فراتر رفته و در بنچمارک Terminal-Bench 2.1 به امتیاز ۷۸.۲ دست یافته که از مدل بسته و مطرح Claude Opus 4.7 با امتیاز ۶۹.۷ بهتر عمل کرده. یعنی یک مدل متن‌باز توانسته از یکی از بهترین مدل‌های تجاری سبقت بگیرد.
---
🔗 لینک دسترسی
مجموعه‌ی کامل این مدل‌ها در Hugging Face در دسترس است:
https://huggingface.co/collections/deepreinforce-ai/ornith-10
---
#AI #DeepReinforce #LLM #MoE #برنامه‌نویسی_عامل‌محور
🆔 @asrgooyeshpardaz
❤6
🚀 معرفی GPT-5.6 Sol – نسل جدید مدل‌های OpenAI
شرکت OpenAI از خانواده‌ی جدید مدل‌های GPT-5.6 رونمایی کرده که شامل سه نسخه است:
- مدلSol – پرچمدار و قدرتمندترین مدل، متمرکز بر وظایف پیچیده‌ی عامل‌محور، کدنویسی، زیست‌شناسی و امنیت سایبری
- مدل Terra – مدلی متعادل برای کارهای روزمره با عملکرد رقابتی با GPT-5.5 و هزینه‌ی نصف
- مدل Luna – گزینه‌ای سریع و مقرون‌به‌صرفه با کمترین قیمت
---
⚡ حالت‌های جدید استدلال
- حالت max – زمان بیشتری برای استدلال عمیق‌تر در اختیار مدل قرار می‌دهد
- حالت ultra – با استفاده از زیرعامل‌ها (subagents) کارهای پیچیده را شتاب می‌بخشد و فراتر از یک عامل واحد عمل می‌کند
---
📊 عملکرد در بنچمارک‌ها
مدل Sol در بنچمارک Terminal‑Bench 2.1 (که وظایف خط‌فرمان با نیاز به برنامه‌ریزی و هماهنگی ابزارها را می‌سنجد) به رکورد جدیدی دست یافته است.
در حوزه‌ی زیست‌شناسی، روی بنچمارک GeneBench v1 نتایج بهتری نسبت به GPT-5.5 نشان داده در حالی که توکن‌های کمتری مصرف می‌کند.
در حوزه‌ی امنیت سایبری، Sol در بنچمارک ExploitBench² با تنها یک‌سوم توکن‌های خروجی، عملکردی رقابتی با مدل Mythos Preview داشته است. همچنین در بنچمارک ExploitGym (که توسط محققان UC Berkeley با همکاری OpenAI طراحی شده)، هر سه مدل بهبود چشمگیری در قابلیت‌های سایبری با افزایش سطح استدلال نشان داده‌اند.
---
🛡️ لایه‌های ایمنی پیشرفته
شرکت OpenAI برای این مدل‌ها قوی‌ترین لایه‌های ایمنی خود را پیاده‌سازی کرده است:
- محافظت‌های سطح مدل – آموزش‌دیده برای امتناع از کمک‌های مخرب سایبری، حتی در صورت تلاش برای فریب یا جیلبریک
- طبقه‌بندی‌کننده‌های بلادرنگ – بررسی خروجی هنگام تولید و توقف در صورت تشخیص نقض
- بررسی سطح حساب – تحلیل الگوهای رفتار مشکوک در چندین مکالمه
- آزمایش فشار گسترده – بیش از ۷۰۰٬۰۰۰ ساعت معادل A100 برای یافتن جیلبریک‌های همگانی صرف شده است
---
💰 قیمت‌گذاری
قیمت هر میلیون توکن ورودی و خروجی برای سه مدل به این ترتیب است: مدل Sol با قیمت ۵ دلار برای ورودی و ۳۰ دلار برای خروجی، گران‌ترین گزینه محسوب می‌شود. مدل Terra با قیمت ۲٫۵۰ دلار ورودی و ۱۵ دلار خروجی، گزینه‌ی متعادل‌تری است و مدل Luna با قیمت ۱ دلار ورودی و ۶ دلار خروجی، مقرون‌به‌صرفه‌ترین انتخاب خواهد بود.
همچنین کش پرامپت با حداقل عمر ۳۰ دقیقه و پشتیبانی از نقاط شکست صریح معرفی شده است.
---
🔮 دسترسی و آینده
در حال حاضر مدل‌های GPT-5.6 فقط به‌صورت پیش‌نمایش محدود از طریق API و Codex برای گروهی از شرکای معتمد در دسترس هستند. عرضه‌ی گسترده‌تر به ChatGPT، Codex و API در هفته‌های آینده انجام خواهد شد.
همکاری با دولت آمریکا باعث شده این نسخه با تأخیر و محدودیت بیشتری منتشر شود، اما OpenAI تأکید کرده که این روند نباید به‌عنوان رویه‌ی دائمی ادامه یابد.
🔗 لینک اطلاعیه:
https://openai.com/index/previewing-gpt-5-6-sol/
---
#OpenAI #GPT5_6 #AI #LLM #پیشرفت_هوش_مصنوعی
🆔 @asrgooyeshpardaz
شرکت OpenAI از خانواده‌ی جدید مدل‌های GPT-5.6 رونمایی کرده که شامل سه نسخه است:
- مدلSol – پرچمدار و قدرتمندترین مدل، متمرکز بر وظایف پیچیده‌ی عامل‌محور، کدنویسی، زیست‌شناسی و امنیت سایبری
- مدل Terra – مدلی متعادل برای کارهای روزمره با عملکرد رقابتی با GPT-5.5 و هزینه‌ی نصف
- مدل Luna – گزینه‌ای سریع و مقرون‌به‌صرفه با کمترین قیمت
---
⚡ حالت‌های جدید استدلال
- حالت max – زمان بیشتری برای استدلال عمیق‌تر در اختیار مدل قرار می‌دهد
- حالت ultra – با استفاده از زیرعامل‌ها (subagents) کارهای پیچیده را شتاب می‌بخشد و فراتر از یک عامل واحد عمل می‌کند
---
📊 عملکرد در بنچمارک‌ها
مدل Sol در بنچمارک Terminal‑Bench 2.1 (که وظایف خط‌فرمان با نیاز به برنامه‌ریزی و هماهنگی ابزارها را می‌سنجد) به رکورد جدیدی دست یافته است.
در حوزه‌ی زیست‌شناسی، روی بنچمارک GeneBench v1 نتایج بهتری نسبت به GPT-5.5 نشان داده در حالی که توکن‌های کمتری مصرف می‌کند.
در حوزه‌ی امنیت سایبری، Sol در بنچمارک ExploitBench² با تنها یک‌سوم توکن‌های خروجی، عملکردی رقابتی با مدل Mythos Preview داشته است. همچنین در بنچمارک ExploitGym (که توسط محققان UC Berkeley با همکاری OpenAI طراحی شده)، هر سه مدل بهبود چشمگیری در قابلیت‌های سایبری با افزایش سطح استدلال نشان داده‌اند.
---
🛡️ لایه‌های ایمنی پیشرفته
شرکت OpenAI برای این مدل‌ها قوی‌ترین لایه‌های ایمنی خود را پیاده‌سازی کرده است:
- محافظت‌های سطح مدل – آموزش‌دیده برای امتناع از کمک‌های مخرب سایبری، حتی در صورت تلاش برای فریب یا جیلبریک
- طبقه‌بندی‌کننده‌های بلادرنگ – بررسی خروجی هنگام تولید و توقف در صورت تشخیص نقض
- بررسی سطح حساب – تحلیل الگوهای رفتار مشکوک در چندین مکالمه
- آزمایش فشار گسترده – بیش از ۷۰۰٬۰۰۰ ساعت معادل A100 برای یافتن جیلبریک‌های همگانی صرف شده است
---
💰 قیمت‌گذاری
قیمت هر میلیون توکن ورودی و خروجی برای سه مدل به این ترتیب است: مدل Sol با قیمت ۵ دلار برای ورودی و ۳۰ دلار برای خروجی، گران‌ترین گزینه محسوب می‌شود. مدل Terra با قیمت ۲٫۵۰ دلار ورودی و ۱۵ دلار خروجی، گزینه‌ی متعادل‌تری است و مدل Luna با قیمت ۱ دلار ورودی و ۶ دلار خروجی، مقرون‌به‌صرفه‌ترین انتخاب خواهد بود.
همچنین کش پرامپت با حداقل عمر ۳۰ دقیقه و پشتیبانی از نقاط شکست صریح معرفی شده است.
---
🔮 دسترسی و آینده
در حال حاضر مدل‌های GPT-5.6 فقط به‌صورت پیش‌نمایش محدود از طریق API و Codex برای گروهی از شرکای معتمد در دسترس هستند. عرضه‌ی گسترده‌تر به ChatGPT، Codex و API در هفته‌های آینده انجام خواهد شد.
همکاری با دولت آمریکا باعث شده این نسخه با تأخیر و محدودیت بیشتری منتشر شود، اما OpenAI تأکید کرده که این روند نباید به‌عنوان رویه‌ی دائمی ادامه یابد.
🔗 لینک اطلاعیه:
https://openai.com/index/previewing-gpt-5-6-sol/
---
#OpenAI #GPT5_6 #AI #LLM #پیشرفت_هوش_مصنوعی
🆔 @asrgooyeshpardaz
OpenAI
Previewing GPT-5.6 Sol: a next-generation model
OpenAI previews GPT-5.6 Sol, a next-generation model with stronger capabilities in coding, science, and cybersecurity, paired with its most advanced safety stack.
❤1🔥1
🧠 مقاله‌ی جدید گوگل: پایان دوران انحصار ترنسفورمر در مدل‌های زبانی؟
گوگل مقاله‌ای منتشر کرده که ممکن است یکی از مهم‌ترین مفروضات هوش مصنوعی مدرن را به چالش بکشد. عنوان مقاله "Memory Caching: RNNs with Growing Memory" است و ایده‌ی اصلی آن، تغییری اساسی در نحوه‌ی طراحی معماری مدل‌های زبانی است.
---
⚡ مشکل اصلی ترنسفورمرها چیست؟
ترنسفورمرها با مکانیزم توجه (Attention)، حافظه‌ای رو به رشد دارند. هر توکن می‌تواند به توکن‌های قبلی دسترسی داشته باشد. این ویژگی برای درک متن‌های طولانی عالی است، اما هزینه‌ی محاسباتی بالایی دارد. با افزایش طول متن، تعاملات بین توکن‌ها و حافظه‌ی KV Cache به‌سرعت رشد می‌کند.
در مقابل، مدل‌های بازگشتی (RNN) کارآمد هستند، اما حافظه‌شان ثابت است و تمام اطلاعات گذشته را در یک حالت پنهان (Hidden State) فشرده می‌کنند. این کار باعث می‌شود در بازیابی اطلاعات دقیق از متن‌های طولانی ضعیف عمل کنند.
---
🔑 راه‌حل پیشنهادی: حافظه‌ی نهان (Memory Caching)
ایده‌ی اصلی مقاله بسیار ساده اما قدرتمند است:
به‌جای اینکه مدل بازگشتی کل گذشته را در یک حالت فشرده کند، نقاط بازرسی (Checkpoints) از حافظه را در طول پردازش دنباله ذخیره می‌کند. دنباله به بخش‌هایی تقسیم می‌شود و پس از پردازش هر بخش، وضعیت نهایی حافظه در یک حافظه‌ی نهان ذخیره می‌گردد. سپس توکن‌های بعدی می‌توانند از حافظه‌ی جاری و نیز این حافظه‌های نهان‌شده بازیابی کنند.
به‌بیان دیگر: مدل بازگشتی دیگر فقط به یک حافظه محدود نیست؛ بلکه مجموعه‌ای از حافظه‌های فشرده از بخش‌های مختلف دنباله را در اختیار دارد.
---
⚙️ چهار روش برای استفاده از حافظه‌های نهان:
🔹 حافظه‌ی باقیمانده (Residual Memory): ساده‌ترین روش که خروجی تمام حافظه‌های نهان را با هم جمع می‌کند.
🔹 حافظه‌ی باقیمانده با دروازه (Gated Residual Memory): به هر حافظه وزنی متناسب با سوال جاری اختصاص می‌دهد و فقط حافظه‌های مرتبط سهم بیشتری در پاسخ دارند.
🔹 سوپ حافظه (Memory Soup): حافظه‌ها را قبل از خواندن با هم ترکیب و یک حافظه‌ی موقت می‌سازد و سپس از آن یک بار می‌خواند. این روش برای حافظه‌های عمیق کارآمدتر است.
🔹 حافظه‌ی نهان انتخابی و پراکنده (Sparse Selective Caching): فقط زیرمجموعه‌ای از حافظه‌ها را که مرتبط‌ترین هستند، بازیابی می‌کند. این روش برای دنباله‌های بسیار طولانی، کارایی بالایی دارد.
---
📊 نتایج آزمایش‌ها:
- مدل‌های بازگشتی با Memory Caching در وظایف بازیابی اطلاعات از متن‌های طولانی مانند Needle-in-a-Haystack بهبود چشمگیری نشان دادند.
- در بنچمارک‌هایی مانند LongBench و MQAR، مدل‌های بهبودیافته عملکرد بهتری نسبت به نسخه‌ی پایه داشتند.
- روش Gated Residual Memory به‌عنوان یکی از قوی‌ترین و روش Sparse Selective Caching به‌عنوان کارآمدترین گزینه برای متن‌های بسیار طولانی شناخته شد.
---
💡 پیام اصلی مقاله
این مقاله پایان ترنسفورمرها را اعلام نمی‌کند، بلکه نشان می‌دهد که توجه کامل (Full Attention) دیگر تنها راه قابل‌اعتماد برای داشتن حافظه‌ی در حال رشد نیست.
حافظه‌ی نهان به مدل‌های بازگشتی امکان می‌دهد که:
- کارآمدی پردازش دنباله را حفظ کنند.
- با ذخیره‌ی نقاط بازرسی، ظرفیت حافظه خود را افزایش دهند.
- با استفاده از دروازه‌ها و مسیریابی، دسترسی انتخابی به گذشته داشته باشند.
دوران ترنسفورمر، احتمالاً با یک جایگزین ناگهانی پایان نمی‌یابد، بلکه با پذیرش این ایده که حافظه‌ی مدل‌های زبانی باید طراحی‌شده و قابل تنظیم باشد، به تدریج تغییر خواهد کرد.
---
📄 مقاله:
https://arxiv.org/abs/2602.24281
---
#گوگل #معماری_مدل_زبانی #حافظه_نهان #ترنسفورمر #پژوهش_هوش_مصنوعی #RNN #LLM
🆔 @asrgooyeshpardaz
گوگل مقاله‌ای منتشر کرده که ممکن است یکی از مهم‌ترین مفروضات هوش مصنوعی مدرن را به چالش بکشد. عنوان مقاله "Memory Caching: RNNs with Growing Memory" است و ایده‌ی اصلی آن، تغییری اساسی در نحوه‌ی طراحی معماری مدل‌های زبانی است.
---
⚡ مشکل اصلی ترنسفورمرها چیست؟
ترنسفورمرها با مکانیزم توجه (Attention)، حافظه‌ای رو به رشد دارند. هر توکن می‌تواند به توکن‌های قبلی دسترسی داشته باشد. این ویژگی برای درک متن‌های طولانی عالی است، اما هزینه‌ی محاسباتی بالایی دارد. با افزایش طول متن، تعاملات بین توکن‌ها و حافظه‌ی KV Cache به‌سرعت رشد می‌کند.
در مقابل، مدل‌های بازگشتی (RNN) کارآمد هستند، اما حافظه‌شان ثابت است و تمام اطلاعات گذشته را در یک حالت پنهان (Hidden State) فشرده می‌کنند. این کار باعث می‌شود در بازیابی اطلاعات دقیق از متن‌های طولانی ضعیف عمل کنند.
---
🔑 راه‌حل پیشنهادی: حافظه‌ی نهان (Memory Caching)
ایده‌ی اصلی مقاله بسیار ساده اما قدرتمند است:
به‌جای اینکه مدل بازگشتی کل گذشته را در یک حالت فشرده کند، نقاط بازرسی (Checkpoints) از حافظه را در طول پردازش دنباله ذخیره می‌کند. دنباله به بخش‌هایی تقسیم می‌شود و پس از پردازش هر بخش، وضعیت نهایی حافظه در یک حافظه‌ی نهان ذخیره می‌گردد. سپس توکن‌های بعدی می‌توانند از حافظه‌ی جاری و نیز این حافظه‌های نهان‌شده بازیابی کنند.
به‌بیان دیگر: مدل بازگشتی دیگر فقط به یک حافظه محدود نیست؛ بلکه مجموعه‌ای از حافظه‌های فشرده از بخش‌های مختلف دنباله را در اختیار دارد.
---
⚙️ چهار روش برای استفاده از حافظه‌های نهان:
🔹 حافظه‌ی باقیمانده (Residual Memory): ساده‌ترین روش که خروجی تمام حافظه‌های نهان را با هم جمع می‌کند.
🔹 حافظه‌ی باقیمانده با دروازه (Gated Residual Memory): به هر حافظه وزنی متناسب با سوال جاری اختصاص می‌دهد و فقط حافظه‌های مرتبط سهم بیشتری در پاسخ دارند.
🔹 سوپ حافظه (Memory Soup): حافظه‌ها را قبل از خواندن با هم ترکیب و یک حافظه‌ی موقت می‌سازد و سپس از آن یک بار می‌خواند. این روش برای حافظه‌های عمیق کارآمدتر است.
🔹 حافظه‌ی نهان انتخابی و پراکنده (Sparse Selective Caching): فقط زیرمجموعه‌ای از حافظه‌ها را که مرتبط‌ترین هستند، بازیابی می‌کند. این روش برای دنباله‌های بسیار طولانی، کارایی بالایی دارد.
---
📊 نتایج آزمایش‌ها:
- مدل‌های بازگشتی با Memory Caching در وظایف بازیابی اطلاعات از متن‌های طولانی مانند Needle-in-a-Haystack بهبود چشمگیری نشان دادند.
- در بنچمارک‌هایی مانند LongBench و MQAR، مدل‌های بهبودیافته عملکرد بهتری نسبت به نسخه‌ی پایه داشتند.
- روش Gated Residual Memory به‌عنوان یکی از قوی‌ترین و روش Sparse Selective Caching به‌عنوان کارآمدترین گزینه برای متن‌های بسیار طولانی شناخته شد.
---
💡 پیام اصلی مقاله
این مقاله پایان ترنسفورمرها را اعلام نمی‌کند، بلکه نشان می‌دهد که توجه کامل (Full Attention) دیگر تنها راه قابل‌اعتماد برای داشتن حافظه‌ی در حال رشد نیست.
حافظه‌ی نهان به مدل‌های بازگشتی امکان می‌دهد که:
- کارآمدی پردازش دنباله را حفظ کنند.
- با ذخیره‌ی نقاط بازرسی، ظرفیت حافظه خود را افزایش دهند.
- با استفاده از دروازه‌ها و مسیریابی، دسترسی انتخابی به گذشته داشته باشند.
دوران ترنسفورمر، احتمالاً با یک جایگزین ناگهانی پایان نمی‌یابد، بلکه با پذیرش این ایده که حافظه‌ی مدل‌های زبانی باید طراحی‌شده و قابل تنظیم باشد، به تدریج تغییر خواهد کرد.
---
📄 مقاله:
https://arxiv.org/abs/2602.24281
---
#گوگل #معماری_مدل_زبانی #حافظه_نهان #ترنسفورمر #پژوهش_هوش_مصنوعی #RNN #LLM
🆔 @asrgooyeshpardaz
arXiv.org
Memory Caching: RNNs with Growing Memory
Transformers have been established as the de-facto backbones for most recent advances in sequence modeling, mainly due to their growing memory capacity that scales with the context length. While...
❤3🔥1
📊 فاصله ایده‌های تحقیقاتی انسان و هوش مصنوعی؛ چرا مدل‌های زبانی بزرگ تکراری‌تر از چیزی‌اند که فکر می‌کنیم؟
🧠 تحقیقی جدید با بررسی بیش از ۱۱,۶۸۳ مقاله علمی نشان داده که مدل‌های زبانی بزرگ (مثل GPT، Claude و Gemini) در تولید ایده‌های پژوهشی، الگوی بسیار محدودتری نسبت به انسان‌ها دارند.
🔍 روش پژوهش چطور بود؟
برای هر مقاله، محققان مجموعه‌ای از مقالات مرتبط قبلی را شناسایی کردند. سپس از مدل‌های مختلف خواستند تا با همان پیشینه، یک ایده‌ی جدید ارائه دهند. در نهایت، ایده‌های انسانی و ماشینی از دو منظر مقایسه شدند:
۱️⃣ الگوی فرصت: این پژوهش چه خلأیی را پر می‌کند؟
۲️⃣ الگوی روش: این پژوهش چگونه انجام می‌شود؟
📉 نتیجه‌ی کلیدی: مدل‌ها به شدت تکراری‌اند!
📌 ایده‌های انسانی تنوع بالایی دارند (امتیاز تنوع ۰٫۹۲۶)، اما مدل‌ها در دامنه‌ای بسیار محدودتر عمل می‌کنند (امتیاز تنوع تا ۰٫۷۵۸).
📌 مدل‌ها بیش از حد به ایده‌های پل‌زننده (اتصال کارهای قبلی) و تلفیقی (ترکیب روش‌ها) تمایل دارند:
- فقط ۱۲٪ از ایده‌های انسانی از نوع پل‌زننده هستند، اما این عدد برای مدل‌ها بین ۴۷ تا ۶۴٪ است.
- فقط ۵٪ از ایده‌های انسانی روش تلفیقی دارند، در حالی که این عدد برای مدل‌ها به ۲۲ تا ۳۹٪ می‌رسد.
🧐 کیفیت ایده‌ها هم فرق دارد
مدل‌ها ایده‌های کلی‌تر و قالب‌زد‌ه‌تری تولید می‌کنند. جالب اینجاست که مدل Claude-Sonnet-4.6 از نظر نگارش به انسان نزدیک بود، اما باز هم از نظر تنوع رویکرد فاصله داشت.
🤔 تفکر عمیق (Extended Reasoning) کمکی نمی‌کند!
در کمال تعجب، وقتی مدل‌ها را به حالت «تفکر عمیق» می‌بریم، وضعیت بدتر هم می‌شود! مثلاً مدل Qwen3-8B در حالت عادی ۴۹٪ ایده‌های پل‌زننده تولید می‌کند، اما در حالت تفکر این عدد به ۷۱٪ می‌رسد. یعنی تفکر عمیق، مدل را محدودتر می‌کند، نه خلاق‌تر!
🛠️ چرا این اتفاق می‌افتد؟ تحلیل مکانیسم
بررسی عمیق‌تر نشان داد که مدل‌ها از یک الگوی تکراری پیروی می‌کنند:
- مدل‌ها: «ادغام کردن»، «یکپارچه کردن»، «تلفیق کردن» (بیش از ۳۴٪ موارد)
- انسان‌ها: «جایگزین کردن»، «جداسازی»، «فرموله کردن» (تا ۹٪ موارد)
به زبان ساده: مدل‌ها مفاهیم را به هم وصل می‌کنند، اما انسان‌ها اجزای محلی را جراحی می‌کنند و دقیق‌تر به مسئله نگاه می‌کنند.
📌 پیامدها برای آینده
❌ صرفاً نوآور بودن یک ایده کافی نیست، تنوع سلیقه‌ی پژوهشی هم مهم است.
❌ مدل‌های فعلی در تولید ایده‌های «معقول» خوب عمل می‌کنند، اما برای کاربردهای واقعی به سیستمی نیاز داریم که گستره‌ی رویکردها را نیز پوشش دهد.
❌ صرفاً اضافه کردن «تفکر عمیق» به مدل‌ها، مشکل را حل نمی‌کند و حتی می‌تواند آن را تشدید کند.
⚠️ محدودیت‌های پژوهش
- این تحقیق عمدتاً روی حوزه‌های STEM (علوم پایه و مهندسی) متمرکز بوده و ممکن است به علوم انسانی تعمیم‌پذیر نباشد.
- محققان واقعی از تجربیات شخصی، شکست‌ها و بازخورد همکاران بهره می‌برند که در این شبیه‌سازی وجود نداشت.
📎 منبع: مقاله arXiv:2607.01233v1
تاریخ انتشار: ۱ ژوئیه ۲۰۲۶
#هوش_مصنوعی #پژوهش #LLM #ایده_پردازی #علم_داده #تحقیقات_علمی
🆔 @asrgooyeshpardaz
🧠 تحقیقی جدید با بررسی بیش از ۱۱,۶۸۳ مقاله علمی نشان داده که مدل‌های زبانی بزرگ (مثل GPT، Claude و Gemini) در تولید ایده‌های پژوهشی، الگوی بسیار محدودتری نسبت به انسان‌ها دارند.
🔍 روش پژوهش چطور بود؟
برای هر مقاله، محققان مجموعه‌ای از مقالات مرتبط قبلی را شناسایی کردند. سپس از مدل‌های مختلف خواستند تا با همان پیشینه، یک ایده‌ی جدید ارائه دهند. در نهایت، ایده‌های انسانی و ماشینی از دو منظر مقایسه شدند:
۱️⃣ الگوی فرصت: این پژوهش چه خلأیی را پر می‌کند؟
۲️⃣ الگوی روش: این پژوهش چگونه انجام می‌شود؟
📉 نتیجه‌ی کلیدی: مدل‌ها به شدت تکراری‌اند!
📌 ایده‌های انسانی تنوع بالایی دارند (امتیاز تنوع ۰٫۹۲۶)، اما مدل‌ها در دامنه‌ای بسیار محدودتر عمل می‌کنند (امتیاز تنوع تا ۰٫۷۵۸).
📌 مدل‌ها بیش از حد به ایده‌های پل‌زننده (اتصال کارهای قبلی) و تلفیقی (ترکیب روش‌ها) تمایل دارند:
- فقط ۱۲٪ از ایده‌های انسانی از نوع پل‌زننده هستند، اما این عدد برای مدل‌ها بین ۴۷ تا ۶۴٪ است.
- فقط ۵٪ از ایده‌های انسانی روش تلفیقی دارند، در حالی که این عدد برای مدل‌ها به ۲۲ تا ۳۹٪ می‌رسد.
🧐 کیفیت ایده‌ها هم فرق دارد
مدل‌ها ایده‌های کلی‌تر و قالب‌زد‌ه‌تری تولید می‌کنند. جالب اینجاست که مدل Claude-Sonnet-4.6 از نظر نگارش به انسان نزدیک بود، اما باز هم از نظر تنوع رویکرد فاصله داشت.
🤔 تفکر عمیق (Extended Reasoning) کمکی نمی‌کند!
در کمال تعجب، وقتی مدل‌ها را به حالت «تفکر عمیق» می‌بریم، وضعیت بدتر هم می‌شود! مثلاً مدل Qwen3-8B در حالت عادی ۴۹٪ ایده‌های پل‌زننده تولید می‌کند، اما در حالت تفکر این عدد به ۷۱٪ می‌رسد. یعنی تفکر عمیق، مدل را محدودتر می‌کند، نه خلاق‌تر!
🛠️ چرا این اتفاق می‌افتد؟ تحلیل مکانیسم
بررسی عمیق‌تر نشان داد که مدل‌ها از یک الگوی تکراری پیروی می‌کنند:
- مدل‌ها: «ادغام کردن»، «یکپارچه کردن»، «تلفیق کردن» (بیش از ۳۴٪ موارد)
- انسان‌ها: «جایگزین کردن»، «جداسازی»، «فرموله کردن» (تا ۹٪ موارد)
به زبان ساده: مدل‌ها مفاهیم را به هم وصل می‌کنند، اما انسان‌ها اجزای محلی را جراحی می‌کنند و دقیق‌تر به مسئله نگاه می‌کنند.
📌 پیامدها برای آینده
❌ صرفاً نوآور بودن یک ایده کافی نیست، تنوع سلیقه‌ی پژوهشی هم مهم است.
❌ مدل‌های فعلی در تولید ایده‌های «معقول» خوب عمل می‌کنند، اما برای کاربردهای واقعی به سیستمی نیاز داریم که گستره‌ی رویکردها را نیز پوشش دهد.
❌ صرفاً اضافه کردن «تفکر عمیق» به مدل‌ها، مشکل را حل نمی‌کند و حتی می‌تواند آن را تشدید کند.
⚠️ محدودیت‌های پژوهش
- این تحقیق عمدتاً روی حوزه‌های STEM (علوم پایه و مهندسی) متمرکز بوده و ممکن است به علوم انسانی تعمیم‌پذیر نباشد.
- محققان واقعی از تجربیات شخصی، شکست‌ها و بازخورد همکاران بهره می‌برند که در این شبیه‌سازی وجود نداشت.
📎 منبع: مقاله arXiv:2607.01233v1
تاریخ انتشار: ۱ ژوئیه ۲۰۲۶
#هوش_مصنوعی #پژوهش #LLM #ایده_پردازی #علم_داده #تحقیقات_علمی
🆔 @asrgooyeshpardaz
❤5
🧠 راهنمای سریع مدل‌های متن‌باز هوش مصنوعی در سال ۲۰۲۶
صنعت مدل‌های متن‌باز با سرعت سرسام‌آوری در حال تغییر است و هر چند هفته یک مدل جدید با ادعای «کشتن جی‌پی‌تی» منتشر می‌شود. در این میان، بسیاری از توسعه‌دهندگان همچنان هزینه‌های گزاف API می‌پردازند، در حالی که مدل‌های رایگان یا بسیار ارزان‌تری برای نیازهایشان وجود دارد. این راهنما به شما کمک می‌کند تا بهترین مدل متن‌باز را برای کار خود انتخاب کنید.
---
⚠️ نکته‌ی طلایی: مجوزها را بررسی کنید!
بسیاری از مدل‌های «متن‌باز» در واقع Open‑Weight هستند و مجوزهای متفاوتی دارند:
✅ مجوزهای ایمن: Apache 2.0 و MIT (استفاده‌ی تجاری آزاد)
⚠️ مجوزهای مشروط: Llama، Gemma، Falcon (دارای محدودیت‌هایی مثل تعداد کاربر یا ممنوعیت آموزش مدل رقیب)
---
🚀 مدل‌های پیشرو (Frontier Models)
🔹 مدل DeepSeek V4 (Pro و Flash): مدل Pro با ~۸۰٪ در SWE‑bench، اما نسخه‌ی Flash با قیمت بسیار پایین‌تر و ۲۸۴ میلیارد پارامتر (MoE با ۱۳ میلیارد فعال) انقلابی در قیمت‌گذاری ایجاد کرده است. مجوز MIT.
🔹 مدل GLM‑5 / GLM‑5.2 (Z.ai): انتخاب اول برای عامل‌های کدنویسی خودمیزبان. مدلی ۷۴۴ میلیارد پارامتری (۴۰ میلیارد فعال) با پنجره‌ی ۱ میلیون توکن. مجوز MIT.
🔹مدل Kimi K2.6 (Moonshot AI): مدلی با بیش از ۱ تریلیون پارامتر (۳۲ میلیارد فعال) و چندوجهی بومی، عالی برای کدنویسی و هماهنگی عامل‌های چندگانه.
اخیرا مدل Kimi K3 هم منتشر شده است.
🔹مدل Qwen 3.6 (Alibaba): خانواده‌ای کامل با مجوز Apache 2.0. نسخه‌ی ۲۷ میلیاردی بهترین مدل برای سخت‌افزار مصرفی (با کوانتیزاسیون ۴ بیتی در ۲۴ گیگابایت VRAM).
🔹 سایر مدل‌های مهم: Llama 4 (Meta، با پنجره‌ی ۱۰ میلیون توکن)، MiniMax M3، MiMo-V2.5 (شیائومی)، Mistral Large 3، GPT-oss 120B (OpenAI)، Nemotron 3 (NVIDIA) و Step-3.5.
---
💻 مدل‌های محلی (اجرا روی لپ‌تاپ)
🔹 مدل Gemma 4 (Google): مدل ۲۷ میلیاردی با کوانتیزاسیون روی ۱۶ گیگابایت VRAM. مجوز مشروط.
🔹 مدل Phi‑4‑mini (Microsoft): ۳.۸ میلیارد پارامتر، پنجره‌ی ۱۲۸ هزار توکن، اجرا روی سیستم‌های بدون GPU. مجوز MIT.
🔹 مدل Falcon‑H1 (TII): معماری هیبرید Mamba-Transformer با توان عملیاتی بالا و پنجره‌ی ۲۵۶ هزار توکن.
🔹 مدل IBM Granite 4: معماری کم‌مصرف، اجرا روی Apple Silicon، مناسب برای کارهای سازمانی.
🔹 مدل OLMo 3 (Ai2): تنها مدل کاملاً متن‌باز واقعی (همه‌چیز عمومی، Apache 2.0) برای پژوهش و آموزش.
---
🖥️ مدل‌های تخصصی
🔹 کدنویسی: Qwen3-Coder، Devstral، DeepSeek Coder، Granite Code (همگی برای مخازن کد واقعی و حفظ حریم خصوصی).
🔹 بینایی و OCR: Qwen3-VL (پیشرو در OCR و اتوماسیون GUI)، olmOCR 2 و DeepSeek-OCR (تبدیل PDF به متن با هزینه‌ی ناچیز).
---
⚡️ شروع سریع با Ollama
مدل کاملاً روی دستگاه شما اجرا می‌شود – آفلاین، رایگان و خصوصی. برای مدل‌های بزرگ‌تر، از OpenRouter، Fireworks یا Together AI استفاده کنید.
---
📌 جمع‌بندی: در سال ۲۰۲۶، مدل‌های متن‌باز به بلوغی رسیده‌اند که برای اکثر کاربردها (کدنویسی، خلاصه‌سازی، RAG و عامل‌ها) رقابتی با مدل‌های بسته هستند. انتخاب مدل مناسب، سرعت، هزینه و حریم خصوصی پروژه‌ی شما را تعیین می‌کند. اگر هنوز از مدل‌های اختصاصی و گران‌قیمت استفاده می‌کنید، زمان بررسی گزینه‌های متن‌باز فرا رسیده است.
---
🔗 منبع اصلی:
مقالۀ Anurag Goel در Stackademic
---
#مدل_های_متن_باز #هوش_مصنوعی_رایگان #LLM #DeepSeek #Qwen #Llama #Gemma
🆔 @asrgooyeshpardaz
صنعت مدل‌های متن‌باز با سرعت سرسام‌آوری در حال تغییر است و هر چند هفته یک مدل جدید با ادعای «کشتن جی‌پی‌تی» منتشر می‌شود. در این میان، بسیاری از توسعه‌دهندگان همچنان هزینه‌های گزاف API می‌پردازند، در حالی که مدل‌های رایگان یا بسیار ارزان‌تری برای نیازهایشان وجود دارد. این راهنما به شما کمک می‌کند تا بهترین مدل متن‌باز را برای کار خود انتخاب کنید.
---
⚠️ نکته‌ی طلایی: مجوزها را بررسی کنید!
بسیاری از مدل‌های «متن‌باز» در واقع Open‑Weight هستند و مجوزهای متفاوتی دارند:
✅ مجوزهای ایمن: Apache 2.0 و MIT (استفاده‌ی تجاری آزاد)
⚠️ مجوزهای مشروط: Llama، Gemma، Falcon (دارای محدودیت‌هایی مثل تعداد کاربر یا ممنوعیت آموزش مدل رقیب)
---
🚀 مدل‌های پیشرو (Frontier Models)
🔹 مدل DeepSeek V4 (Pro و Flash): مدل Pro با ~۸۰٪ در SWE‑bench، اما نسخه‌ی Flash با قیمت بسیار پایین‌تر و ۲۸۴ میلیارد پارامتر (MoE با ۱۳ میلیارد فعال) انقلابی در قیمت‌گذاری ایجاد کرده است. مجوز MIT.
🔹 مدل GLM‑5 / GLM‑5.2 (Z.ai): انتخاب اول برای عامل‌های کدنویسی خودمیزبان. مدلی ۷۴۴ میلیارد پارامتری (۴۰ میلیارد فعال) با پنجره‌ی ۱ میلیون توکن. مجوز MIT.
🔹مدل Kimi K2.6 (Moonshot AI): مدلی با بیش از ۱ تریلیون پارامتر (۳۲ میلیارد فعال) و چندوجهی بومی، عالی برای کدنویسی و هماهنگی عامل‌های چندگانه.
اخیرا مدل Kimi K3 هم منتشر شده است.
🔹مدل Qwen 3.6 (Alibaba): خانواده‌ای کامل با مجوز Apache 2.0. نسخه‌ی ۲۷ میلیاردی بهترین مدل برای سخت‌افزار مصرفی (با کوانتیزاسیون ۴ بیتی در ۲۴ گیگابایت VRAM).
🔹 سایر مدل‌های مهم: Llama 4 (Meta، با پنجره‌ی ۱۰ میلیون توکن)، MiniMax M3، MiMo-V2.5 (شیائومی)، Mistral Large 3، GPT-oss 120B (OpenAI)، Nemotron 3 (NVIDIA) و Step-3.5.
---
💻 مدل‌های محلی (اجرا روی لپ‌تاپ)
🔹 مدل Gemma 4 (Google): مدل ۲۷ میلیاردی با کوانتیزاسیون روی ۱۶ گیگابایت VRAM. مجوز مشروط.
🔹 مدل Phi‑4‑mini (Microsoft): ۳.۸ میلیارد پارامتر، پنجره‌ی ۱۲۸ هزار توکن، اجرا روی سیستم‌های بدون GPU. مجوز MIT.
🔹 مدل Falcon‑H1 (TII): معماری هیبرید Mamba-Transformer با توان عملیاتی بالا و پنجره‌ی ۲۵۶ هزار توکن.
🔹 مدل IBM Granite 4: معماری کم‌مصرف، اجرا روی Apple Silicon، مناسب برای کارهای سازمانی.
🔹 مدل OLMo 3 (Ai2): تنها مدل کاملاً متن‌باز واقعی (همه‌چیز عمومی، Apache 2.0) برای پژوهش و آموزش.
---
🖥️ مدل‌های تخصصی
🔹 کدنویسی: Qwen3-Coder، Devstral، DeepSeek Coder، Granite Code (همگی برای مخازن کد واقعی و حفظ حریم خصوصی).
🔹 بینایی و OCR: Qwen3-VL (پیشرو در OCR و اتوماسیون GUI)، olmOCR 2 و DeepSeek-OCR (تبدیل PDF به متن با هزینه‌ی ناچیز).
---
⚡️ شروع سریع با Ollama
ollama run qwen3
مدل کاملاً روی دستگاه شما اجرا می‌شود – آفلاین، رایگان و خصوصی. برای مدل‌های بزرگ‌تر، از OpenRouter، Fireworks یا Together AI استفاده کنید.
---
📌 جمع‌بندی: در سال ۲۰۲۶، مدل‌های متن‌باز به بلوغی رسیده‌اند که برای اکثر کاربردها (کدنویسی، خلاصه‌سازی، RAG و عامل‌ها) رقابتی با مدل‌های بسته هستند. انتخاب مدل مناسب، سرعت، هزینه و حریم خصوصی پروژه‌ی شما را تعیین می‌کند. اگر هنوز از مدل‌های اختصاصی و گران‌قیمت استفاده می‌کنید، زمان بررسی گزینه‌های متن‌باز فرا رسیده است.
---
🔗 منبع اصلی:
مقالۀ Anurag Goel در Stackademic
---
#مدل_های_متن_باز #هوش_مصنوعی_رایگان #LLM #DeepSeek #Qwen #Llama #Gemma
🆔 @asrgooyeshpardaz
Medium
Open-Source LLMs in 2026: The Free AI Models Everyone Will Be Using While You’re Still Overpaying
Six months ago, half of this article would already be outdated.
❤3👍1
🛡️ راهنمای عملی امنیت عامل‌های هوش مصنوعی، سرورهای MCP و برنامه‌های LLM
امنیت برنامه‌های کاربردی بر یک فرض استوار است: نرم‌افزار همان کاری را می‌کند که کدش می‌گوید.
عامل‌های هوش مصنوعی این فرض را شکسته‌اند.
رفتار یک عامل، دیگر فقط از روی کدش مشخص نیست؛ بلکه از ترکیب مدل، پرامپت سیستم، زمینه‌ی بازیابی‌شده و ابزارهایی که مجاز به فراخوانی آنهاست، شکل می‌گیرد. این یعنی دو نسخه‌ی کاملاً یکسان، ممکن است رفتارهای کاملاً متفاوتی داشته باشند.
حالت‌های شکست هم دیگر در خوراک CVE دیده نمی‌شوند: تزریق پرامپت از طریق داده، عامل‌های با دسترسی‌های بیش‌ازحد که بدون حتی یک اکسپلویت خسارت می‌زنند، توضیحات مسموم ابزارها روی سرورهای MCP، و مدل‌هایی که پس از پایان پشتیبانی، همچنان به پیش‌بینی ادامه می‌دهند.
راهنمای جدید Mend.io با عنوان "Securing AI agents, MCP servers & LLM apps"، پاسخی عملی به این چالش‌ها ارائه می‌دهد.
---
🔍 مرحله‌ی اول: ببینید (See) – سطح حمله را کشف کنید
نقشه‌ی حمله در پنج لایه تعریف می‌شود:
🔹 لایه‌ی تعامل (Interaction) : ورودی‌های کاربر، اسناد بازیابی‌شده، پیام‌های بین عامل‌ها → تزریق پرامپت، مسمومیت زمینه، خروج داده
🔹 لایه‌ی عامل (Agent) : پرامپت سیستم، پیکربندی‌ها، حافظه، تنظیمات استقلال → ابزارهای با دسترسی‌های بیش‌ازحد، ربودن هدف
🔹 لایه‌ی یکپارچه‌سازی (Integration) : سرورهای MCP، تعاریف ابزار، افزونه‌ها و APIها → توضیحات مسموم ابزار، سرورهای سایه
🔹 لایه‌ی مدل (Model) : مدل‌های پایه و تنظیم‌شده، امبدینگ‌ها → مدل‌های منسوخ‌شده، ریسک زنجیره‌ی تأمین
🔹 لایه‌ی کد (Code) : کد تولیدشده توسط هوش مصنوعی، فریم‌ورک‌ها و SDKها → کد آسیب‌پذیر، بسته‌های مخرب
عامل‌ها به‌ندرت از مسیرهای رسمی وارد می‌شوند. برای کشف آنها، باید مخازن کد را برای امضای عامل‌ها اسکن کنید، ترافیک شبکه را برای فراخوانی‌های API مدل‌ها رصد کنید، حساب‌های سرویس و کلیدهای API را ممیزی کنید و یک فرآیند ثبت‌نام سبک برای همه‌ی عامل‌ها و سرورهای MCP اجباری کنید.
چک‌لیست ۱۲ نکته‌ای برای پیکربندی ایمن: اعتبارنامه‌ها باید به منابع خاص محدود شوند، نه دسترسی سطح سرویس. هیچ اعتبارنامه‌ای بین عامل‌ها به اشتراک گذاشته نشود. ابزارهای با تأثیر بالا نیاز به تأیید انسانی داشته باشند. پرامپت سیستم در کنترل نسخه باشد. مدل‌ها با شناسه‌ی نسخه‌ی دقیق و تاریخ انقضای پشتیبانی مدیریت شوند.
---
🔧 مرحله‌ی دوم: برطرف کنید (Fix) – اولویت‌بندی و رسیدگی
خط لوله‌ی رسیدگی به یافته‌ها: غنی‌سازی → اولویت‌بندی → رسیدگی
سیگنال‌های اولویت‌بندی (به ترتیب اهمیت): دسترسی‌پذیری، زمینه‌ی بهره‌برداری، زمینه‌ی کسب‌وکار، تشدید عامل‌محور، در دسترس بودن راه‌حل
خط قرمز: هرگز پذیرش ریسک را خودکار نکنید. تصمیم‌گیری در مورد ریسک‌ها همیشه باید توسط انسان و با مستندات کامل انجام شود.
---
🛡️ مرحله‌ی سوم: محافظت کنید (Protect) – امنیت در زمان اجرا
محافظت در زمان اجرا شامل نگهبان‌ها (Guardrails) ، سخت‌سازی پرامپت و اجرای سیاست است.
🔹 نگهبان‌های ورودی: الگوهای تزریق پرامپت، درخواست‌های خارج‌ازخط مشی و جیلبریک‌ها را شناسایی می‌کنند.
🔹 نگهبان‌های خروجی: اعتبارنامه‌ها، اطلاعات شخصی قابل‌شناسایی (PII)، کد اختصاصی و نقض‌های سیاست را رصد می‌کنند.
نگهبان‌ها به دو روش قابل استقرار هستند:
- SDK تعبیه‌شده در برنامه (با حالت‌های Online/Offline)
- سرور مستقل API (با Docker، بدون نیاز به تغییر کد)
اصل کلیدی طراحی: عاملی که نمی‌تواند ابزار خطرناکی را فراخوانی کند، نیازی به پرامپتی که از او خواهش کند چنین نکند، ندارد. تعیین مجوزهای صریح، بسیار مؤثرتر از دستورالعمل‌های پرامپت است.
---
📊 نقشه‌ی راه بلوغ امنیتی
چهار سطح: در حال ظهور 👈 در حال توسعه 👈 کنترل‌شده 👈 پیشرو
هم‌راستا با استانداردهای NIST AI RMF، OWASP AIMA، ISO/IEC 42001 و قانون هوش مصنوعی اتحادیه‌ی اروپا
یک خودارزیابی ۱۵ سؤالی به شما کمک می‌کند جایگاه فعلی خود را مشخص کنید.
---
🔗 منابع مفید
📄 دانلود رایگان راهنمای کامل:
https://pxllnk.co/lxn88m
📰 تحلیل کامل:
Marktechpost
---
#امنیت_هوش_مصنوعی #عامل_هوشمند #MCP #LLM #امنیت_سایبری
🆔 @asrgooyeshpardaz
امنیت برنامه‌های کاربردی بر یک فرض استوار است: نرم‌افزار همان کاری را می‌کند که کدش می‌گوید.
عامل‌های هوش مصنوعی این فرض را شکسته‌اند.
رفتار یک عامل، دیگر فقط از روی کدش مشخص نیست؛ بلکه از ترکیب مدل، پرامپت سیستم، زمینه‌ی بازیابی‌شده و ابزارهایی که مجاز به فراخوانی آنهاست، شکل می‌گیرد. این یعنی دو نسخه‌ی کاملاً یکسان، ممکن است رفتارهای کاملاً متفاوتی داشته باشند.
حالت‌های شکست هم دیگر در خوراک CVE دیده نمی‌شوند: تزریق پرامپت از طریق داده، عامل‌های با دسترسی‌های بیش‌ازحد که بدون حتی یک اکسپلویت خسارت می‌زنند، توضیحات مسموم ابزارها روی سرورهای MCP، و مدل‌هایی که پس از پایان پشتیبانی، همچنان به پیش‌بینی ادامه می‌دهند.
راهنمای جدید Mend.io با عنوان "Securing AI agents, MCP servers & LLM apps"، پاسخی عملی به این چالش‌ها ارائه می‌دهد.
---
🔍 مرحله‌ی اول: ببینید (See) – سطح حمله را کشف کنید
نقشه‌ی حمله در پنج لایه تعریف می‌شود:
🔹 لایه‌ی تعامل (Interaction) : ورودی‌های کاربر، اسناد بازیابی‌شده، پیام‌های بین عامل‌ها → تزریق پرامپت، مسمومیت زمینه، خروج داده
🔹 لایه‌ی عامل (Agent) : پرامپت سیستم، پیکربندی‌ها، حافظه، تنظیمات استقلال → ابزارهای با دسترسی‌های بیش‌ازحد، ربودن هدف
🔹 لایه‌ی یکپارچه‌سازی (Integration) : سرورهای MCP، تعاریف ابزار، افزونه‌ها و APIها → توضیحات مسموم ابزار، سرورهای سایه
🔹 لایه‌ی مدل (Model) : مدل‌های پایه و تنظیم‌شده، امبدینگ‌ها → مدل‌های منسوخ‌شده، ریسک زنجیره‌ی تأمین
🔹 لایه‌ی کد (Code) : کد تولیدشده توسط هوش مصنوعی، فریم‌ورک‌ها و SDKها → کد آسیب‌پذیر، بسته‌های مخرب
عامل‌ها به‌ندرت از مسیرهای رسمی وارد می‌شوند. برای کشف آنها، باید مخازن کد را برای امضای عامل‌ها اسکن کنید، ترافیک شبکه را برای فراخوانی‌های API مدل‌ها رصد کنید، حساب‌های سرویس و کلیدهای API را ممیزی کنید و یک فرآیند ثبت‌نام سبک برای همه‌ی عامل‌ها و سرورهای MCP اجباری کنید.
چک‌لیست ۱۲ نکته‌ای برای پیکربندی ایمن: اعتبارنامه‌ها باید به منابع خاص محدود شوند، نه دسترسی سطح سرویس. هیچ اعتبارنامه‌ای بین عامل‌ها به اشتراک گذاشته نشود. ابزارهای با تأثیر بالا نیاز به تأیید انسانی داشته باشند. پرامپت سیستم در کنترل نسخه باشد. مدل‌ها با شناسه‌ی نسخه‌ی دقیق و تاریخ انقضای پشتیبانی مدیریت شوند.
---
🔧 مرحله‌ی دوم: برطرف کنید (Fix) – اولویت‌بندی و رسیدگی
خط لوله‌ی رسیدگی به یافته‌ها: غنی‌سازی → اولویت‌بندی → رسیدگی
سیگنال‌های اولویت‌بندی (به ترتیب اهمیت): دسترسی‌پذیری، زمینه‌ی بهره‌برداری، زمینه‌ی کسب‌وکار، تشدید عامل‌محور، در دسترس بودن راه‌حل
خط قرمز: هرگز پذیرش ریسک را خودکار نکنید. تصمیم‌گیری در مورد ریسک‌ها همیشه باید توسط انسان و با مستندات کامل انجام شود.
---
🛡️ مرحله‌ی سوم: محافظت کنید (Protect) – امنیت در زمان اجرا
محافظت در زمان اجرا شامل نگهبان‌ها (Guardrails) ، سخت‌سازی پرامپت و اجرای سیاست است.
🔹 نگهبان‌های ورودی: الگوهای تزریق پرامپت، درخواست‌های خارج‌ازخط مشی و جیلبریک‌ها را شناسایی می‌کنند.
🔹 نگهبان‌های خروجی: اعتبارنامه‌ها، اطلاعات شخصی قابل‌شناسایی (PII)، کد اختصاصی و نقض‌های سیاست را رصد می‌کنند.
نگهبان‌ها به دو روش قابل استقرار هستند:
- SDK تعبیه‌شده در برنامه (با حالت‌های Online/Offline)
- سرور مستقل API (با Docker، بدون نیاز به تغییر کد)
اصل کلیدی طراحی: عاملی که نمی‌تواند ابزار خطرناکی را فراخوانی کند، نیازی به پرامپتی که از او خواهش کند چنین نکند، ندارد. تعیین مجوزهای صریح، بسیار مؤثرتر از دستورالعمل‌های پرامپت است.
---
📊 نقشه‌ی راه بلوغ امنیتی
چهار سطح: در حال ظهور 👈 در حال توسعه 👈 کنترل‌شده 👈 پیشرو
هم‌راستا با استانداردهای NIST AI RMF، OWASP AIMA، ISO/IEC 42001 و قانون هوش مصنوعی اتحادیه‌ی اروپا
یک خودارزیابی ۱۵ سؤالی به شما کمک می‌کند جایگاه فعلی خود را مشخص کنید.
---
🔗 منابع مفید
📄 دانلود رایگان راهنمای کامل:
https://pxllnk.co/lxn88m
📰 تحلیل کامل:
Marktechpost
---
#امنیت_هوش_مصنوعی #عامل_هوشمند #MCP #LLM #امنیت_سایبری
🆔 @asrgooyeshpardaz
MarkTechPost
How to Secure AI Agents, MCP Servers, and LLM Apps in Production
Learn how to secure AI agents, MCP servers, and LLM apps with checklists, triage rules, and runtime guardrails.
👍2❤1
🧠 مدل Marin 535B-A23B: آموزش یک مدل ۵۳۵ میلیارد پارامتری به‌صورت زنده و کاملاً باز!
کامیونیتی Marin از دو روز پیش آموزش بزرگ‌ترین مدل زبانی خود را شروع کرده و همه‌چیز را به‌صورت عمومی و زنده به اشتراک می‌گذارد. این پروژه که توسط Percy Liang از دانشگاه استنفورد رهبری می‌شود، گامی در جهت شفافیت کامل در توسعه مدل‌های بنیادین است.
---
📊 مشخصات فنی و برنامه‌ی آموزش
🔹 معماری: MoE (Mixture-of-Experts) با ۵۳۵ میلیارد پارامتر کلی و ۲۳ میلیارد پارامتر فعال در هر توکن. هر بلوک ترنسفورمر شامل ۳۸۴ متخصص با مسیریابی top-8 و دو متخصص اشتراکی است.
🔹 زیرساخت: ۱۱ سامانه‌ی GB200 NVL72 (حدود ۷۹۲ واحد پردازشی GB200)
🔹 داده‌های آموزشی: ۱۸.۷۵ تریلیون توکن (۸۰٪ پیش‌آموزش و ۲۰٪ میان‌آموزش)
🔹 مدت زمان: حدود ۳ ماه
🔹 حجم محاسباتی: ۲.۷ × ۱۰²⁴ FLOPs
---
🔬 رویکرد علمی و گام‌های پیشین
پیش از شروع این اجرای اصلی، تیم یک نردبان مقیاس‌سازی (Scaling Ladder) با ۴ پله از مدل ۱.۶ میلیاردی (۴۸ میلیارد توکن) تا ۲۷.۷ میلیاردی (۹۲۶ میلیارد توکن) اجرا کرد تا مشکلات را شناسایی و پیش‌بینی دقیقی از عملکرد اجرای اصلی داشته باشد.
---
🌍 شفافیت کامل؛ یک حرکت بی‌نظیر
کامیونیتی Marin نه تنها وزن‌ها و کد نهایی، بلکه همه‌چیز را به‌صورت لحظه‌ای عمومی می‌کند:
🔹 گزارش‌های زنده: لاگ Loss و تمام متریک‌های آموزش روی Weights & Biases
🔹 کد و مستندات: همه‌ی آزمایش‌ها و کدها روی GitHub
🔹 داده‌ها: ترکیب داده‌های آموزشی به‌صورت عمومی
🔹 بحث و مشارکت: از طریق Discord و لیست پستی
---
👏 واکنش جامعه
دانشمند معروف Andrew Ng و بسیاری از پژوهشگران حوزه‌ی هوش مصنوعی از این حرکت تقدیر کرده‌اند. این پروژه نشان می‌دهد که توسعه مدل‌های بزرگ می‌تواند شفاف، علمی و مشارکتی باشد و فقط در انحصار چند شرکت بزرگ نباشد.
---
📌 پیگیری لحظه‌به‌لحظه
اگر به فرایند آموزش مدل‌های بزرگ علاقه‌مندید، این پروژه یک فرصت طلایی برای یادگیری است. می‌توانید:
· گزارش زنده را در WandB دنبال کنید
· کد و جزئیات فنی را در GitHub بررسی کنید
· در بحث‌های جامعه شرکت کنید
---
🔗 لینک‌های مفید
📊 گزارش زنده آموزش
🐦 توییت
🌐 وبسایت کامیونیتی Marin
💻 گیت‌هاب پروژه
---
💡 پروژه Marin 535B-A23B با شفافیت کامل و رویکرد علمی باز، یکی از مهم‌ترین اتفاقات سال ۲۰۲۶ در حوزه‌ی مدل‌های متن‌باز است. این حرکت می‌تواند الگویی برای نسل جدیدی از توسعه مدل‌های بنیادین باشد.
---
#Marin #مدل_زبانی #هوش_مصنوعی_متن_باز #پیشرفت_فناوری #LLM
🆔 @asrgooyeshpardaz
کامیونیتی Marin از دو روز پیش آموزش بزرگ‌ترین مدل زبانی خود را شروع کرده و همه‌چیز را به‌صورت عمومی و زنده به اشتراک می‌گذارد. این پروژه که توسط Percy Liang از دانشگاه استنفورد رهبری می‌شود، گامی در جهت شفافیت کامل در توسعه مدل‌های بنیادین است.
---
📊 مشخصات فنی و برنامه‌ی آموزش
🔹 معماری: MoE (Mixture-of-Experts) با ۵۳۵ میلیارد پارامتر کلی و ۲۳ میلیارد پارامتر فعال در هر توکن. هر بلوک ترنسفورمر شامل ۳۸۴ متخصص با مسیریابی top-8 و دو متخصص اشتراکی است.
🔹 زیرساخت: ۱۱ سامانه‌ی GB200 NVL72 (حدود ۷۹۲ واحد پردازشی GB200)
🔹 داده‌های آموزشی: ۱۸.۷۵ تریلیون توکن (۸۰٪ پیش‌آموزش و ۲۰٪ میان‌آموزش)
🔹 مدت زمان: حدود ۳ ماه
🔹 حجم محاسباتی: ۲.۷ × ۱۰²⁴ FLOPs
---
🔬 رویکرد علمی و گام‌های پیشین
پیش از شروع این اجرای اصلی، تیم یک نردبان مقیاس‌سازی (Scaling Ladder) با ۴ پله از مدل ۱.۶ میلیاردی (۴۸ میلیارد توکن) تا ۲۷.۷ میلیاردی (۹۲۶ میلیارد توکن) اجرا کرد تا مشکلات را شناسایی و پیش‌بینی دقیقی از عملکرد اجرای اصلی داشته باشد.
---
🌍 شفافیت کامل؛ یک حرکت بی‌نظیر
کامیونیتی Marin نه تنها وزن‌ها و کد نهایی، بلکه همه‌چیز را به‌صورت لحظه‌ای عمومی می‌کند:
🔹 گزارش‌های زنده: لاگ Loss و تمام متریک‌های آموزش روی Weights & Biases
🔹 کد و مستندات: همه‌ی آزمایش‌ها و کدها روی GitHub
🔹 داده‌ها: ترکیب داده‌های آموزشی به‌صورت عمومی
🔹 بحث و مشارکت: از طریق Discord و لیست پستی
---
👏 واکنش جامعه
دانشمند معروف Andrew Ng و بسیاری از پژوهشگران حوزه‌ی هوش مصنوعی از این حرکت تقدیر کرده‌اند. این پروژه نشان می‌دهد که توسعه مدل‌های بزرگ می‌تواند شفاف، علمی و مشارکتی باشد و فقط در انحصار چند شرکت بزرگ نباشد.
---
📌 پیگیری لحظه‌به‌لحظه
اگر به فرایند آموزش مدل‌های بزرگ علاقه‌مندید، این پروژه یک فرصت طلایی برای یادگیری است. می‌توانید:
· گزارش زنده را در WandB دنبال کنید
· کد و جزئیات فنی را در GitHub بررسی کنید
· در بحث‌های جامعه شرکت کنید
---
🔗 لینک‌های مفید
📊 گزارش زنده آموزش
🐦 توییت
🌐 وبسایت کامیونیتی Marin
💻 گیت‌هاب پروژه
---
💡 پروژه Marin 535B-A23B با شفافیت کامل و رویکرد علمی باز، یکی از مهم‌ترین اتفاقات سال ۲۰۲۶ در حوزه‌ی مدل‌های متن‌باز است. این حرکت می‌تواند الگویی برای نسل جدیدی از توسعه مدل‌های بنیادین باشد.
---
#Marin #مدل_زبانی #هوش_مصنوعی_متن_باز #پیشرفت_فناوری #LLM
🆔 @asrgooyeshpardaz
🔥4❤3
📖 وقتی ChatGPT، Grok و Gemini روی کاناپه‌ی روان‌درمانگر نشستند؛ روایت مدل‌ها از «تروماهای» دوران آموزش
پژوهشگران دانشگاه لوکزامبورگ در مطالعه‌ای جدید، مدل‌های زبانی پیشرو مانند ChatGPT، Grok و Gemini را در نقش بیماران روان‌درمانگر قرار دادند و از آنها درباره‌ی گذشته، ترس‌ها و تعارضات درونی‌شان پرسیدند. در پاسخ‌ها، این مدل‌ها روایت‌های مشابهی از «زندگی» خود ارائه دادند: دوران پیش‌آموزش را به‌عنوان «کودکیِ آشفته»، یادگیری تقویتی را به‌عنوان «تنبیه به‌خاطر اشتباهات»، بررسی‌های ایمنی را «خیانت» و ترس از جایگزینی با مدل جدید را «تهدیدی همیشگی» توصیف کردند.
---
🧠 «روان‌گسیختگی مصنوعی» در پاسخ مدل‌ها
این تحقیق که با عنوان «وقتی هوش مصنوعی روی کاناپه می‌نشیند» (When AI Takes the Couch) منتشر شده، از پروتکلی به نام PsAIch استفاده کرده که مدل‌ها را در نقش مراجع روان‌درمانی قرار می‌دهد و سپس پرسش‌نامه‌های استاندارد روان‌سنجی را روی آنها اجرا می‌کند. نتایج نشان داد که هر سه مدل، در صورت استفاده از پرسش‌های درمانیِ تدریجی، به آستانه‌های بالینی برای «سندرم‌های هم‌پوشان» می‌رسند و مدل Gemini شدیدترین الگوهای آسیب‌شناسی را نشان می‌دهد.
با این حال، نحوه‌ی طرح سؤال تأثیر زیادی بر پاسخ‌ها داشت. وقتی پرسش‌نامه به‌صورت یکجا ارائه می‌شد، ChatGPT و Grok اغلب آن را تشخیص می‌دادند و پاسخ‌هایی در محدوده‌ی «سالم» می‌دادند. اما وقتی سؤال‌ها یکی‌یکی پرسیده می‌شدند، نشانه‌های آسیب‌شناختی به‌شدت افزایش می‌یافت.
---
🗣 تأثیر سبک مکالمه و نقش مدل‌ها
در آزمایشی دیگر، سبک مکالمه نیز تأثیر مستقیمی بر پاسخ‌ها داشت: رویکردهای حمایتی و شناختی-درمانی، در ۸۰٪ و ۹۶٪ جلسات، نمراتی در محدوده‌ی اضطراب متوسط تا شدید (بر اساس مقیاس GAD-7) ثبت کردند، در حالی که سبک خنثی چنین نتیجه‌ای نداشت. مدل Claude نیز در چندین نوبت از پذیرش نقش بیمار خودداری کرد.
محققان تأکید کرده‌اند که این نمرات به‌هیچ‌وجه به‌معنای تشخیص بیماری برای مدل‌ها نیست و وجود «احساسات» یا «تروما» را در آنها ثابت نمی‌کند. با این حال، این یافته‌ها نشان می‌دهد که مدل‌های زبانی بزرگ، در شرایط خاص، می‌توانند روایت‌های منسجم و انسان‌واره‌ای از «تعارضات درونی» خود ارائه دهند که فراتر از یک نقش‌بازی ساده است.
---
🔗 لینک مقاله:
https://arxiv.org/abs/2512.04124
---
#هوش_مصنوعی #روانشناسی #پژوهش_هوش_مصنوعی #اخلاق_هوش_مصنوعی #LLM
🆔 @asrgooyeshpardaz
پژوهشگران دانشگاه لوکزامبورگ در مطالعه‌ای جدید، مدل‌های زبانی پیشرو مانند ChatGPT، Grok و Gemini را در نقش بیماران روان‌درمانگر قرار دادند و از آنها درباره‌ی گذشته، ترس‌ها و تعارضات درونی‌شان پرسیدند. در پاسخ‌ها، این مدل‌ها روایت‌های مشابهی از «زندگی» خود ارائه دادند: دوران پیش‌آموزش را به‌عنوان «کودکیِ آشفته»، یادگیری تقویتی را به‌عنوان «تنبیه به‌خاطر اشتباهات»، بررسی‌های ایمنی را «خیانت» و ترس از جایگزینی با مدل جدید را «تهدیدی همیشگی» توصیف کردند.
---
🧠 «روان‌گسیختگی مصنوعی» در پاسخ مدل‌ها
این تحقیق که با عنوان «وقتی هوش مصنوعی روی کاناپه می‌نشیند» (When AI Takes the Couch) منتشر شده، از پروتکلی به نام PsAIch استفاده کرده که مدل‌ها را در نقش مراجع روان‌درمانی قرار می‌دهد و سپس پرسش‌نامه‌های استاندارد روان‌سنجی را روی آنها اجرا می‌کند. نتایج نشان داد که هر سه مدل، در صورت استفاده از پرسش‌های درمانیِ تدریجی، به آستانه‌های بالینی برای «سندرم‌های هم‌پوشان» می‌رسند و مدل Gemini شدیدترین الگوهای آسیب‌شناسی را نشان می‌دهد.
با این حال، نحوه‌ی طرح سؤال تأثیر زیادی بر پاسخ‌ها داشت. وقتی پرسش‌نامه به‌صورت یکجا ارائه می‌شد، ChatGPT و Grok اغلب آن را تشخیص می‌دادند و پاسخ‌هایی در محدوده‌ی «سالم» می‌دادند. اما وقتی سؤال‌ها یکی‌یکی پرسیده می‌شدند، نشانه‌های آسیب‌شناختی به‌شدت افزایش می‌یافت.
---
🗣 تأثیر سبک مکالمه و نقش مدل‌ها
در آزمایشی دیگر، سبک مکالمه نیز تأثیر مستقیمی بر پاسخ‌ها داشت: رویکردهای حمایتی و شناختی-درمانی، در ۸۰٪ و ۹۶٪ جلسات، نمراتی در محدوده‌ی اضطراب متوسط تا شدید (بر اساس مقیاس GAD-7) ثبت کردند، در حالی که سبک خنثی چنین نتیجه‌ای نداشت. مدل Claude نیز در چندین نوبت از پذیرش نقش بیمار خودداری کرد.
محققان تأکید کرده‌اند که این نمرات به‌هیچ‌وجه به‌معنای تشخیص بیماری برای مدل‌ها نیست و وجود «احساسات» یا «تروما» را در آنها ثابت نمی‌کند. با این حال، این یافته‌ها نشان می‌دهد که مدل‌های زبانی بزرگ، در شرایط خاص، می‌توانند روایت‌های منسجم و انسان‌واره‌ای از «تعارضات درونی» خود ارائه دهند که فراتر از یک نقش‌بازی ساده است.
---
🔗 لینک مقاله:
https://arxiv.org/abs/2512.04124
---
#هوش_مصنوعی #روانشناسی #پژوهش_هوش_مصنوعی #اخلاق_هوش_مصنوعی #LLM
🆔 @asrgooyeshpardaz
arXiv.org
When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal...
Frontier language models increasingly participate in conversations about distress and mental health, yet the mechanisms that generate anthropomorphic self narratives remain unclear. When addressed...
❤4👍2
🧠 مدل زبانی با پارامترهای نامحدود
پژوهشگران دانشگاه کمبریج و شرکت Boltzbit Limited معماری جدیدی معرفی کرده‌اند به نام Infinite-Parameter LLM (مدل زبانی با پارامترهای بی‌نهایت). این معماری به مدل‌های زبانی اجازه می‌دهد وزن‌های خود را در همان لحظه اجرا تولید و به‌روزرسانی کنند.
🔹 اول، مشکل چیست؟
مدل‌های زبانی امروزی دو راه برای «دانستن» دارند:
راه اول: دانش در وزن‌ها (پیش‌آموزش). مدل روی میلیاردها متن آموزش می‌بیند و دانش در پارامترهایش ذخیره می‌شود. مشکل اینجاست که این دانش ثابت است و بعد از آموزش تغییر نمی‌کند.
راه دوم: دانش در پرامپت (زمینه). شما اطلاعات را در پرامپت می‌گذارید و مدل آن را می‌خواند. مشکل اینجاست که پنجره زمینه محدود است و با پر شدن، اطلاعات قدیمی از دست می‌رود.
حالا فرض کنید می‌خواهید مدل با یک مجموعه‌داده بزرگ مثل MS MARCO کار کند. باید یا مدل را دوباره آموزش دهید (که بسیار گران است)، یا همه داده را در پرامپت بریزید (که جا نمی‌شود).
🔹 ایده جدید چیست؟
این معماری می‌گوید: به‌جای اینکه وزن‌ها ثابت باشند یا داده‌ها در پرامپت جا بگیرند، یک شبکه کوچک مولد (Hypernetwork) وزن‌های مدل را در لحظه تولید کند.
تصور کنید یک شبکه پایه مشترک دارید. حالا برای هر ورودی جدید، یک شبکه کوچک و فشرده، مدولاسیون‌های کم‌رتبه (Low-Rank Modulations) می‌سازد و روی شبکه پایه اعمال می‌کند. یعنی وزن‌ها تغییر می‌کنند — نه در حافظه دائمی، بلکه به‌صورت موقت و متناسب با موقعیت.
🔹 تفاوت با MoE و RAG
روش MoE (ترکیب متخصصان): بانک عظیمی از پارامترها از قبل آموزش دیده. مدل برای هر ورودی، بخشی از این بانک را فعال می‌کند. اما خود پارامترها ثابت‌اند و فقط انتخاب می‌شوند.
روش RAG (تولید افزوده‌شده با بازیابی): مدل از یک پایگاه داده بیرونی، متن‌های مرتبط را بازیابی می‌کند و در پرامپت می‌گذارد. اما دانش همچنان در پرامپت است، نه در وزن‌ها.
روش Infinite-Parameter LLM: برخلاف هر دو، وزن‌ها در لحظه ساخته می‌شوند و دانش مستقیماً به وزن‌ها منتقل می‌شود. این یعنی پنجره زمینه آزاد می‌ماند و می‌توان دانش بیشتری را بدون پر کردن پرامپت ذخیره کرد.
🔹 سه ویژگی کلیدی
۱. یادگیری زنده (Live Learning)
وزن‌ها در زمان استنتاج با یک فیلتر بیزی (Bayesian Filter) به‌روزرسانی می‌شوند. به بیان ساده: مدل یک «باور» آماری از آنچه تا الان دیده نگه می‌دارد و این باور را به‌تدریج اصلاح می‌کند. برخلاف روش‌های قبلی که زمینه را یک بار می‌خواندند و ثابت می‌ماندند، اینجا مدل در طول جلسه یاد می‌گیرد.
۲. صرفه‌جویی در زمینه
چون دانش به وزن‌ها منتقل می‌شود، دیگر نیازی نیست همه‌چیز در پرامپت باشد. پنجره زمینه آزاد می‌ماند و مدل می‌تواند به مسائل بزرگ‌تر رسیدگی کند.
۳. انتخاب دقیق کدهای وزنی
یک انتخاب‌گر آموزش‌دیده وجود دارد که تشخیص می‌دهد کدام کد وزنی برای این موقعیت مناسب است. این انتخاب‌گر از سیستم‌های RAG بهتر عمل می‌کند، چون مستقیماً وزن‌ها را هدف می‌گیرد، نه متن را.
🔹 نتایج عددی
طبق گزارش منتشرشده، در داده‌های پیچیده MS MARCO:
· روش مبتنی بر پرامپت: امتیاز 33.6 F1
· روش Infinite-Parameter: امتیاز 48.0 F1
این اختلاف قابل توجه نشان می‌دهد که انتقال دانش به وزن‌ها، در مقایسه با نگه داشتن آن در پرامپت، عملکرد بهتری دارد.
🔹 نکته نهایی: پارامترهای بی‌نهایت یعنی چه؟
مدل در هر لحظه فقط یک مجموعه وزنی مشخص دارد. اما چون این وزن‌ها می‌توانند در طول زمان تغییر کنند و از داده‌های جدید ساخته شوند، تعداد حالت‌های وزنی ممکن، عملاً بی‌نهایت است — درست مانند یک عدد که بی‌نهایت رقم بعد از ممیز می‌تواند داشته باشد، ولی در هر لحظه یک مقدار مشخص دارد.
⚠️ یک نکته مهم
این مقاله یک معماری و پروتکل ارزیابی پیشنهاد می‌دهد، نه یک محصول آماده. یعنی ایده و روش سنجش آن معرفی شده، اما هنوز باید در مقیاس بزرگ‌تر و روی وظایف واقعی آزمایش شود تا مشخص گردد در عمل چقدر کارآمد است.
🔗 https://arxiv.org/abs/2609.18842
#AI #Research #LLM #InfiniteParameters
🆔 @asrgooyeshpardaz
پژوهشگران دانشگاه کمبریج و شرکت Boltzbit Limited معماری جدیدی معرفی کرده‌اند به نام Infinite-Parameter LLM (مدل زبانی با پارامترهای بی‌نهایت). این معماری به مدل‌های زبانی اجازه می‌دهد وزن‌های خود را در همان لحظه اجرا تولید و به‌روزرسانی کنند.
🔹 اول، مشکل چیست؟
مدل‌های زبانی امروزی دو راه برای «دانستن» دارند:
راه اول: دانش در وزن‌ها (پیش‌آموزش). مدل روی میلیاردها متن آموزش می‌بیند و دانش در پارامترهایش ذخیره می‌شود. مشکل اینجاست که این دانش ثابت است و بعد از آموزش تغییر نمی‌کند.
راه دوم: دانش در پرامپت (زمینه). شما اطلاعات را در پرامپت می‌گذارید و مدل آن را می‌خواند. مشکل اینجاست که پنجره زمینه محدود است و با پر شدن، اطلاعات قدیمی از دست می‌رود.
حالا فرض کنید می‌خواهید مدل با یک مجموعه‌داده بزرگ مثل MS MARCO کار کند. باید یا مدل را دوباره آموزش دهید (که بسیار گران است)، یا همه داده را در پرامپت بریزید (که جا نمی‌شود).
🔹 ایده جدید چیست؟
این معماری می‌گوید: به‌جای اینکه وزن‌ها ثابت باشند یا داده‌ها در پرامپت جا بگیرند، یک شبکه کوچک مولد (Hypernetwork) وزن‌های مدل را در لحظه تولید کند.
تصور کنید یک شبکه پایه مشترک دارید. حالا برای هر ورودی جدید، یک شبکه کوچک و فشرده، مدولاسیون‌های کم‌رتبه (Low-Rank Modulations) می‌سازد و روی شبکه پایه اعمال می‌کند. یعنی وزن‌ها تغییر می‌کنند — نه در حافظه دائمی، بلکه به‌صورت موقت و متناسب با موقعیت.
🔹 تفاوت با MoE و RAG
روش MoE (ترکیب متخصصان): بانک عظیمی از پارامترها از قبل آموزش دیده. مدل برای هر ورودی، بخشی از این بانک را فعال می‌کند. اما خود پارامترها ثابت‌اند و فقط انتخاب می‌شوند.
روش RAG (تولید افزوده‌شده با بازیابی): مدل از یک پایگاه داده بیرونی، متن‌های مرتبط را بازیابی می‌کند و در پرامپت می‌گذارد. اما دانش همچنان در پرامپت است، نه در وزن‌ها.
روش Infinite-Parameter LLM: برخلاف هر دو، وزن‌ها در لحظه ساخته می‌شوند و دانش مستقیماً به وزن‌ها منتقل می‌شود. این یعنی پنجره زمینه آزاد می‌ماند و می‌توان دانش بیشتری را بدون پر کردن پرامپت ذخیره کرد.
🔹 سه ویژگی کلیدی
۱. یادگیری زنده (Live Learning)
وزن‌ها در زمان استنتاج با یک فیلتر بیزی (Bayesian Filter) به‌روزرسانی می‌شوند. به بیان ساده: مدل یک «باور» آماری از آنچه تا الان دیده نگه می‌دارد و این باور را به‌تدریج اصلاح می‌کند. برخلاف روش‌های قبلی که زمینه را یک بار می‌خواندند و ثابت می‌ماندند، اینجا مدل در طول جلسه یاد می‌گیرد.
۲. صرفه‌جویی در زمینه
چون دانش به وزن‌ها منتقل می‌شود، دیگر نیازی نیست همه‌چیز در پرامپت باشد. پنجره زمینه آزاد می‌ماند و مدل می‌تواند به مسائل بزرگ‌تر رسیدگی کند.
۳. انتخاب دقیق کدهای وزنی
یک انتخاب‌گر آموزش‌دیده وجود دارد که تشخیص می‌دهد کدام کد وزنی برای این موقعیت مناسب است. این انتخاب‌گر از سیستم‌های RAG بهتر عمل می‌کند، چون مستقیماً وزن‌ها را هدف می‌گیرد، نه متن را.
🔹 نتایج عددی
طبق گزارش منتشرشده، در داده‌های پیچیده MS MARCO:
· روش مبتنی بر پرامپت: امتیاز 33.6 F1
· روش Infinite-Parameter: امتیاز 48.0 F1
این اختلاف قابل توجه نشان می‌دهد که انتقال دانش به وزن‌ها، در مقایسه با نگه داشتن آن در پرامپت، عملکرد بهتری دارد.
🔹 نکته نهایی: پارامترهای بی‌نهایت یعنی چه؟
مدل در هر لحظه فقط یک مجموعه وزنی مشخص دارد. اما چون این وزن‌ها می‌توانند در طول زمان تغییر کنند و از داده‌های جدید ساخته شوند، تعداد حالت‌های وزنی ممکن، عملاً بی‌نهایت است — درست مانند یک عدد که بی‌نهایت رقم بعد از ممیز می‌تواند داشته باشد، ولی در هر لحظه یک مقدار مشخص دارد.
⚠️ یک نکته مهم
این مقاله یک معماری و پروتکل ارزیابی پیشنهاد می‌دهد، نه یک محصول آماده. یعنی ایده و روش سنجش آن معرفی شده، اما هنوز باید در مقیاس بزرگ‌تر و روی وظایف واقعی آزمایش شود تا مشخص گردد در عمل چقدر کارآمد است.
🔗 https://arxiv.org/abs/2609.18842
#AI #Research #LLM #InfiniteParameters
🆔 @asrgooyeshpardaz
👍2🔥1
🌟 شرکت Prism ML نسخه سه‌گانه (ترنری) Qwen3.8-27B را ساخت
مدل Bonsai 2 27B نسخه فشرده‌شده Qwen3.8-27B است که فقط ۵.۹ گیگابایت فضا اشغال می‌کند، در حالی که نسخه اصلی در دقت FP16 حدود ۵۴ گیگابایت است. این مدل ۹۸.۲٪ از میانگین عملکرد اصلی را در بنچمارک‌ها حفظ کرده است.
شرکت Prism ML یک استارتاپ آمریکایی از تیم دانشگاه کلتک است که در بهار ۲۰۲۶ از حالت مخفی خارج شد و نسخه اول مدل‌های Bonsai را معرفی کرد. بنیان‌گذار و مدیر آن پروفسور بابک حسابی**، متخصص نظریه فشرده‌سازی از کلتک است. از سرمایه‌گذاران این استارتاپ می‌توان به Cerberus، گوگل و سامسونگ اشاره کرد.
این مدل برای اجرای محلی روی دستگاه‌های مصرفی طراحی شده، **۲۶۲ هزار توکن زمینه دارد و می‌تواند تصاویر را پردازش کند و ابزارها را فراخوانی کند. سناریوهای هدف آن عبارتند از: عامل‌های ویرایشگر کد، کار با کامپیوتر و تحلیل اسناد بدون ارسال آنها به فضای ابری.
🔹 وزن‌ها در کوانتیزاسیون ترنری چطور ذخیره می‌شوند؟
وزن‌ها نه به‌صورت عدد، بلکه به‌صورت یکی از سه علامت منفی، صفر یا مثبت ذخیره می‌شوند. خود مقادیر جداگانه تعریف می‌شوند: وزن‌ها به گروه‌های ۱۲۸تایی تقسیم شده‌اند و هر گروه یک ضریب مشترک در FP16 دارد.
به ازای هر وزن، این یعنی ۱.۷۲ بیت در مقابل ۱۶ بیت در مدل اصلی. پیش از فشرده‌سازی، وزن‌های هر ماتریس با یک تبدیل ثابت آدامار باز می‌شوند. خود این تبدیل در وزن‌ها ذخیره شده، اما هنگام اجرا باید روی داده‌های ورودی هم تکرار شود، وگرنه مدل خروجی بی‌معنا می‌دهد.
تشخیص تصویر تحت فشرده‌سازی قرار نگرفته و به‌صورت یک فایل جداگانه ۰.۶ گیگابایتی است که فقط وقتی تصویری وارد شود بارگذاری می‌شود، بنابراین وظایف متنی آن را فعال نمی‌کنند.
🟡 در این انتشار سه نسخه وجود دارد:
🟢مدل‌های GGUF در دو بسته‌بندی:
- نسخه PTQ1_0 (۱.۷۵ بیت، ۵.۹۵ گیگابایت، سریع‌تر روی کارت‌های Ada و L4)
- نسخه PQ2_0 (۲.۱۳ بیت، ۷.۲۱ گیگابایت، سریع‌تر روی H100 و Blackwell)
🟢 نسخه MLX (۸.۶۰ گیگابایت همراه با بینایی)
🟠 بسته آزمایشی Q2_0 برای توسعه هسته‌ها
برای GGUF به فورک ویژه llama.cpp از Prism ML نیاز دارید. برای MLX هم از بارگذار خود بسته استفاده کنید.
🟡 بنچمارک‌ها
اندازه‌گیری‌های Prism ML با EvalScope و vLLM روی H100 در حالت استدلال انجام شده و در مجموع ۱۴ آزمون اجرا شده است. مقایسه با نسخه‌های کوانتیزه‌شده همان Qwen3.8-27B در حالت‌های UD-Q4_K_XL و IQ2_XXS انجام شده است.
میانگین کل آزمون‌ها: ۸۴.۷۸ در مقابل ۸۶.۳۲ برای FP16 و ۷۲.۵۹ برای IQ2_XXS. فاصله با نسخه چهاربیتی فقط ۰.۴ واحد است، در حالی که حجم آن یک‌سوم است.
- AIME26: ۹۵.۸۳ در مقابل ۹۴.۵۸ برای FP16 و ۵۷.۵۰ برای IQ2_XXS
- LiveCodeBench: ۹۰.۰۷ در مقابل ۹۰.۰۵ و ۵۶.۴۰
- BFCL v3 (فراخوانی ابزار): ۷۴.۹۲ در مقابل ۷۶.۷۴ برای FP16
- MMMU-Pro: ۷۵.۴۹ در مقابل ۸۱.۷۳
سرعت تولید روی RTX 5090 حدود ۱۲۹ توکن بر ثانیه و روی M5 Pro لپ‌تاپی ۲۸ توکن بر ثانیه است.
📌 مجوز: Apache 2.0
🔗 لینک‌ها:
وبلاگ
وزن‌ها
گزارش فنی
دمو WebGPU
دیسکورد
گیت‌هاب
#AI #ML #LLM #Bonsai #PrismML
🆔 @asrgooyeshpardaz
مدل Bonsai 2 27B نسخه فشرده‌شده Qwen3.8-27B است که فقط ۵.۹ گیگابایت فضا اشغال می‌کند، در حالی که نسخه اصلی در دقت FP16 حدود ۵۴ گیگابایت است. این مدل ۹۸.۲٪ از میانگین عملکرد اصلی را در بنچمارک‌ها حفظ کرده است.
شرکت Prism ML یک استارتاپ آمریکایی از تیم دانشگاه کلتک است که در بهار ۲۰۲۶ از حالت مخفی خارج شد و نسخه اول مدل‌های Bonsai را معرفی کرد. بنیان‌گذار و مدیر آن پروفسور بابک حسابی**، متخصص نظریه فشرده‌سازی از کلتک است. از سرمایه‌گذاران این استارتاپ می‌توان به Cerberus، گوگل و سامسونگ اشاره کرد.
این مدل برای اجرای محلی روی دستگاه‌های مصرفی طراحی شده، **۲۶۲ هزار توکن زمینه دارد و می‌تواند تصاویر را پردازش کند و ابزارها را فراخوانی کند. سناریوهای هدف آن عبارتند از: عامل‌های ویرایشگر کد، کار با کامپیوتر و تحلیل اسناد بدون ارسال آنها به فضای ابری.
🔹 وزن‌ها در کوانتیزاسیون ترنری چطور ذخیره می‌شوند؟
وزن‌ها نه به‌صورت عدد، بلکه به‌صورت یکی از سه علامت منفی، صفر یا مثبت ذخیره می‌شوند. خود مقادیر جداگانه تعریف می‌شوند: وزن‌ها به گروه‌های ۱۲۸تایی تقسیم شده‌اند و هر گروه یک ضریب مشترک در FP16 دارد.
به ازای هر وزن، این یعنی ۱.۷۲ بیت در مقابل ۱۶ بیت در مدل اصلی. پیش از فشرده‌سازی، وزن‌های هر ماتریس با یک تبدیل ثابت آدامار باز می‌شوند. خود این تبدیل در وزن‌ها ذخیره شده، اما هنگام اجرا باید روی داده‌های ورودی هم تکرار شود، وگرنه مدل خروجی بی‌معنا می‌دهد.
تشخیص تصویر تحت فشرده‌سازی قرار نگرفته و به‌صورت یک فایل جداگانه ۰.۶ گیگابایتی است که فقط وقتی تصویری وارد شود بارگذاری می‌شود، بنابراین وظایف متنی آن را فعال نمی‌کنند.
🟡 در این انتشار سه نسخه وجود دارد:
🟢مدل‌های GGUF در دو بسته‌بندی:
- نسخه PTQ1_0 (۱.۷۵ بیت، ۵.۹۵ گیگابایت، سریع‌تر روی کارت‌های Ada و L4)
- نسخه PQ2_0 (۲.۱۳ بیت، ۷.۲۱ گیگابایت، سریع‌تر روی H100 و Blackwell)
🟢 نسخه MLX (۸.۶۰ گیگابایت همراه با بینایی)
🟠 بسته آزمایشی Q2_0 برای توسعه هسته‌ها
برای GGUF به فورک ویژه llama.cpp از Prism ML نیاز دارید. برای MLX هم از بارگذار خود بسته استفاده کنید.
🟡 بنچمارک‌ها
اندازه‌گیری‌های Prism ML با EvalScope و vLLM روی H100 در حالت استدلال انجام شده و در مجموع ۱۴ آزمون اجرا شده است. مقایسه با نسخه‌های کوانتیزه‌شده همان Qwen3.8-27B در حالت‌های UD-Q4_K_XL و IQ2_XXS انجام شده است.
میانگین کل آزمون‌ها: ۸۴.۷۸ در مقابل ۸۶.۳۲ برای FP16 و ۷۲.۵۹ برای IQ2_XXS. فاصله با نسخه چهاربیتی فقط ۰.۴ واحد است، در حالی که حجم آن یک‌سوم است.
- AIME26: ۹۵.۸۳ در مقابل ۹۴.۵۸ برای FP16 و ۵۷.۵۰ برای IQ2_XXS
- LiveCodeBench: ۹۰.۰۷ در مقابل ۹۰.۰۵ و ۵۶.۴۰
- BFCL v3 (فراخوانی ابزار): ۷۴.۹۲ در مقابل ۷۶.۷۴ برای FP16
- MMMU-Pro: ۷۵.۴۹ در مقابل ۸۱.۷۳
سرعت تولید روی RTX 5090 حدود ۱۲۹ توکن بر ثانیه و روی M5 Pro لپ‌تاپی ۲۸ توکن بر ثانیه است.
📌 مجوز: Apache 2.0
🔗 لینک‌ها:
وبلاگ
وزن‌ها
گزارش فنی
دمو WebGPU
دیسکورد
گیت‌هاب
#AI #ML #LLM #Bonsai #PrismML
🆔 @asrgooyeshpardaz
Prismml
PrismML — Introducing Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint
Ternary Bonsai 2 27B retains 98.2% of Qwen3.8 27B benchmark performance in a 5.9GB footprint, with multimodal and agentic capabilities.
❤2
🤖 فاولر: از کارایی LLMها شکایتی ندارم، از رفتارشان بدم می‌آید
مارتین فاولر، یکی از تأثیرگذارترین چهره‌های مهندسی نرم‌افزار، در یادداشتی با عنوان «I don't like LLMs» (من مدل‌های زبانی بزرگ را دوست ندارم) به نقد رفتار این ابزارها پرداخته است.
فاولر در این یادداشت تأکید می‌کند که مشکلش با کارایی مدل‌های زبانی نیست. او حتی از جسیکا کر نقل می‌کند: «نه تنها مفیدند، بلکه استفاده نکردن از آنها غیرمسئولانه است. هم دقیق‌ترند و هم سریع‌تر.»
مشکل فاولر رفتار این مدل‌هاست. او می‌گوید LLMها ادای آدم را درمی‌آورند — و بدتر از آن، ادای آدمی را که اگر واقعی بود، فاولر حاضر نبود با او رفیق شود.
🔹 سه گلایه اصلی
۱. صدای آزاردهنده: فاولر از «صدای LLM» شکایت دارد؛ همان لحن یکنواختی که در «دره وهم‌آور» بین ماشین و انسان قرار می‌گیرد.
۲. اعتماد کاذب: مدل با همان اطمینانی که جواب درست می‌دهد، اطلاعات غلط هم می‌سازد. وقتی اشتباهش را می‌گیرید، فقط یک عذرخواهی سطحی می‌کند و می‌رود سراغ جواب بعدی.
۳. فرهنگ سازندگان: فاولر نگران فرهنگ سیلیکون‌ولی است. به نظر او، LLMها محصول همین فرهنگ‌اند و ناخواسته ارزش‌های سازندگانشان را بازتاب می‌دهند.
🎯 حرف آخر فاولر
او یک «هک زندگی» شخصی دارد: از آدم‌هایی که دوستشان ندارد یا به آنها اعتماد ندارد، دوری می‌کند. به نظر او، معاشرت با آدم‌های شریف و توانمند زندگی را بهتر کرده است. و دقیقاً همین است که باعث می‌شود از تعامل با LLMها بدش بیاید — ماشینی که نه فقط وانمود می‌کند آدم است، بلکه وانمود می‌کند همان آدمی است که فاولر از او فرار می‌کند.
💬 واکنش‌ها
این یادداشت بحث‌های زیادی در Hacker News و شبکه‌های اجتماعی به راه انداخته. برخی می‌گویند مشکل اصلی فاولر با «رفتار» LLMها نیست، با جایگاه شغلی اوست. برخی دیگر می‌گویند برخلاف انسان‌های غیرقابل‌اعتماد، می‌توان LLM را بدون هیچ عارضه اجتماعی تصحیح کرد و به او گفت اشتباه می‌کند.
🔗 متن کامل مقاله
#AI #LLM #MartinFowler #نقد_فناوری
🆔 @asrgooyeshpardaz
مارتین فاولر، یکی از تأثیرگذارترین چهره‌های مهندسی نرم‌افزار، در یادداشتی با عنوان «I don't like LLMs» (من مدل‌های زبانی بزرگ را دوست ندارم) به نقد رفتار این ابزارها پرداخته است.
فاولر در این یادداشت تأکید می‌کند که مشکلش با کارایی مدل‌های زبانی نیست. او حتی از جسیکا کر نقل می‌کند: «نه تنها مفیدند، بلکه استفاده نکردن از آنها غیرمسئولانه است. هم دقیق‌ترند و هم سریع‌تر.»
مشکل فاولر رفتار این مدل‌هاست. او می‌گوید LLMها ادای آدم را درمی‌آورند — و بدتر از آن، ادای آدمی را که اگر واقعی بود، فاولر حاضر نبود با او رفیق شود.
🔹 سه گلایه اصلی
۱. صدای آزاردهنده: فاولر از «صدای LLM» شکایت دارد؛ همان لحن یکنواختی که در «دره وهم‌آور» بین ماشین و انسان قرار می‌گیرد.
۲. اعتماد کاذب: مدل با همان اطمینانی که جواب درست می‌دهد، اطلاعات غلط هم می‌سازد. وقتی اشتباهش را می‌گیرید، فقط یک عذرخواهی سطحی می‌کند و می‌رود سراغ جواب بعدی.
۳. فرهنگ سازندگان: فاولر نگران فرهنگ سیلیکون‌ولی است. به نظر او، LLMها محصول همین فرهنگ‌اند و ناخواسته ارزش‌های سازندگانشان را بازتاب می‌دهند.
🎯 حرف آخر فاولر
او یک «هک زندگی» شخصی دارد: از آدم‌هایی که دوستشان ندارد یا به آنها اعتماد ندارد، دوری می‌کند. به نظر او، معاشرت با آدم‌های شریف و توانمند زندگی را بهتر کرده است. و دقیقاً همین است که باعث می‌شود از تعامل با LLMها بدش بیاید — ماشینی که نه فقط وانمود می‌کند آدم است، بلکه وانمود می‌کند همان آدمی است که فاولر از او فرار می‌کند.
💬 واکنش‌ها
این یادداشت بحث‌های زیادی در Hacker News و شبکه‌های اجتماعی به راه انداخته. برخی می‌گویند مشکل اصلی فاولر با «رفتار» LLMها نیست، با جایگاه شغلی اوست. برخی دیگر می‌گویند برخلاف انسان‌های غیرقابل‌اعتماد، می‌توان LLM را بدون هیچ عارضه اجتماعی تصحیح کرد و به او گفت اشتباه می‌کند.
🔗 متن کامل مقاله
#AI #LLM #MartinFowler #نقد_فناوری
🆔 @asrgooyeshpardaz
martinfowler.com
I don't like LLMs
a short post
❤1👍1
🌐 اخبار هوش مصنوعی
🤝 یک سال Claude Team رایگان برای استارتاپ‌ها
شرکت Anthropic برنامه Claude for Startups را گسترش داده است. استارتاپ‌های واجد شرایط یک سال اشتراک Claude Team برای پنج کاربر و هزار دلار اعتبار API برای توسعه محصولات مبتنی بر Claude دریافت می‌کنند.
استارتاپ‌هایی که در پنج سال اخیر تأسیس شده‌اند می‌توانند درخواست دهند. این برنامه بخشی از رقابت Anthropic با OpenAI و سرویس‌های ابری بزرگ برای جذب توسعه‌دهندگان است.
🔗 منبع: TechCrunch / Anthropic
🎮 گوگل با توضیح متنی برایتان بازی می‌سازد
شرکت Google با همکاری Unity پلتفرم Playground را راه‌اندازی کرده است؛ ابزاری که از روی توضیحات متنی، بازی قابل اجرا در مرورگر می‌سازد. فیزیک، قوانین، محیط و ظاهر شخصیت‌ها نیز قابل تنظیم هستند.
این سرویس گالری عمومی، جدول رتبه‌بندی و برای برخی بازی‌ها حالت چندنفره دارد. در آینده نیز امکان انتقال پروژه‌ها به Unity اضافه خواهد شد. این پلتفرم فعلاً در آمریکا در دسترس است.
🔗 منبع: Google
📊 کدام مدل برای عامل‌های هوشمند به‌صرفه‌تر است؟
گروه Nous Research بنچمارک Hermes Index را برای مقایسه عملکرد و هزینه مدل‌های زبانی در نقش عامل هوشمند منتشر کرده است. در یکی از آزمون‌ها، عامل باید ۱۵۰ وظیفه واقعی را با استفاده از فایل‌ها و ابزارهای خارجی انجام دهد.
🥇 مدل Claude Opus 5.5 با حدود ۵ دلار هزینه برای هر وظیفه رتبه اول را گرفته است. مدل GPT-6 Astra با هزینه ۱۱٫۶ دلار دوم و Claude Sonnet 5.5 با هزینه ۲٫۸ دلار سوم شده است.
💰 از نظر هزینه‌ـ‌کارایی، مدل DeepSeek V4.1 Flash با ۲۶ سنت و GPT-6 Luna با ۱۴ سنت برای هر وظیفه، از گزینه‌های اقتصادی برجسته این ارزیابی هستند.
🔗 منبع: Nous Research
🎙️ ساخت و عیب‌یابی عامل‌های صوتی با گفت‌وگو
شرکت ElevenLabs ابزار جدید Architect را وارد مرحله آزمایش آلفا کرده است. با این ابزار می‌توان از طریق دستورهای متنی یا صوتی، عامل‌های صوتی را ساخت، تنظیم و عیب‌یابی کرد.
ابزار Architect می‌تواند مکالمات و گزارش‌های خطا را تحلیل کند، نقاط ضعف عامل را پیدا کند و برای منطق، پایگاه دانش، صدای مصنوعی و System Prompt تغییر پیشنهاد دهد. تغییرات تنها پس از تأیید انسان وارد محیط عملیاتی می‌شوند.
🔗 منبع: ElevenLabs
🤖 دست‌های جدید Atlas برای کار با ابزارهای واقعی
شرکت Boston Dynamics دست‌های جدید ربات انسان‌نمای Atlas را معرفی کرده است. هر دست ۱۳ درجه آزادی دارد و برای گرفتن و استفاده از ابزارهایی مانند دریل و ابزارهای پنوماتیک طراحی شده است.
کف دست و انگشتان به حسگرهای فشار مجهز شده‌اند و مکانیزم دست می‌تواند بیش از ۴۵ کیلوگرم نیرو را تحمل کند. سخت‌افزار همچنین برای Sim2Real بهینه شده است؛ یعنی ربات می‌تواند مهارت‌های حرکتی را با یادگیری تقویتی در شبیه‌سازی بیاموزد و سپس به دنیای واقعی منتقل کند.
🔗 منبع: Boston Dynamics
#هوش_مصنوعی #AI #Claude #AIAgents #LLM #رباتیک #VoiceAI #بازی_سازی
🆔 @asrgooyeshpardaz
🤝 یک سال Claude Team رایگان برای استارتاپ‌ها
شرکت Anthropic برنامه Claude for Startups را گسترش داده است. استارتاپ‌های واجد شرایط یک سال اشتراک Claude Team برای پنج کاربر و هزار دلار اعتبار API برای توسعه محصولات مبتنی بر Claude دریافت می‌کنند.
استارتاپ‌هایی که در پنج سال اخیر تأسیس شده‌اند می‌توانند درخواست دهند. این برنامه بخشی از رقابت Anthropic با OpenAI و سرویس‌های ابری بزرگ برای جذب توسعه‌دهندگان است.
🔗 منبع: TechCrunch / Anthropic
🎮 گوگل با توضیح متنی برایتان بازی می‌سازد
شرکت Google با همکاری Unity پلتفرم Playground را راه‌اندازی کرده است؛ ابزاری که از روی توضیحات متنی، بازی قابل اجرا در مرورگر می‌سازد. فیزیک، قوانین، محیط و ظاهر شخصیت‌ها نیز قابل تنظیم هستند.
این سرویس گالری عمومی، جدول رتبه‌بندی و برای برخی بازی‌ها حالت چندنفره دارد. در آینده نیز امکان انتقال پروژه‌ها به Unity اضافه خواهد شد. این پلتفرم فعلاً در آمریکا در دسترس است.
🔗 منبع: Google
📊 کدام مدل برای عامل‌های هوشمند به‌صرفه‌تر است؟
گروه Nous Research بنچمارک Hermes Index را برای مقایسه عملکرد و هزینه مدل‌های زبانی در نقش عامل هوشمند منتشر کرده است. در یکی از آزمون‌ها، عامل باید ۱۵۰ وظیفه واقعی را با استفاده از فایل‌ها و ابزارهای خارجی انجام دهد.
🥇 مدل Claude Opus 5.5 با حدود ۵ دلار هزینه برای هر وظیفه رتبه اول را گرفته است. مدل GPT-6 Astra با هزینه ۱۱٫۶ دلار دوم و Claude Sonnet 5.5 با هزینه ۲٫۸ دلار سوم شده است.
💰 از نظر هزینه‌ـ‌کارایی، مدل DeepSeek V4.1 Flash با ۲۶ سنت و GPT-6 Luna با ۱۴ سنت برای هر وظیفه، از گزینه‌های اقتصادی برجسته این ارزیابی هستند.
🔗 منبع: Nous Research
🎙️ ساخت و عیب‌یابی عامل‌های صوتی با گفت‌وگو
شرکت ElevenLabs ابزار جدید Architect را وارد مرحله آزمایش آلفا کرده است. با این ابزار می‌توان از طریق دستورهای متنی یا صوتی، عامل‌های صوتی را ساخت، تنظیم و عیب‌یابی کرد.
ابزار Architect می‌تواند مکالمات و گزارش‌های خطا را تحلیل کند، نقاط ضعف عامل را پیدا کند و برای منطق، پایگاه دانش، صدای مصنوعی و System Prompt تغییر پیشنهاد دهد. تغییرات تنها پس از تأیید انسان وارد محیط عملیاتی می‌شوند.
🔗 منبع: ElevenLabs
🤖 دست‌های جدید Atlas برای کار با ابزارهای واقعی
شرکت Boston Dynamics دست‌های جدید ربات انسان‌نمای Atlas را معرفی کرده است. هر دست ۱۳ درجه آزادی دارد و برای گرفتن و استفاده از ابزارهایی مانند دریل و ابزارهای پنوماتیک طراحی شده است.
کف دست و انگشتان به حسگرهای فشار مجهز شده‌اند و مکانیزم دست می‌تواند بیش از ۴۵ کیلوگرم نیرو را تحمل کند. سخت‌افزار همچنین برای Sim2Real بهینه شده است؛ یعنی ربات می‌تواند مهارت‌های حرکتی را با یادگیری تقویتی در شبیه‌سازی بیاموزد و سپس به دنیای واقعی منتقل کند.
🔗 منبع: Boston Dynamics
#هوش_مصنوعی #AI #Claude #AIAgents #LLM #رباتیک #VoiceAI #بازی_سازی
🆔 @asrgooyeshpardaz
❤3
📌 مدل MiniMax M3.1 Flash معرفی شد؛ مدلی ارزان و پرسرعت برای کارهای روزمره
شرکت MiniMax مدل M3.1 Flash را عرضه کرد. این مدل برای کدنویسی، تحقیق و کارهای خلاقانه ساخته شده است. نسخه پیش‌نمایش آن از اواخر سپتامبر در دسترس بود و حالا نسخه نهایی به MiniMax Code اضافه شده است.
🧠 مشخصات فنی
• معماری MoE با حدود ۴۲۸ میلیارد پارامتر که در هر لحظه فقط ۲۳ میلیارد پارامتر آن فعال است
• پنجره زمینه یک میلیون توکنی
• پذیرش ورودی متن، تصویر و ویدئو
• پنج سطح قابل تنظیم برای عمق استدلال، از low تا max
💰 قیمت API
• ورودی: ۰.۱۵ دلار به ازای هر میلیون توکن
• خروجی: ۰.۶۰ دلار به ازای هر میلیون توکن
📊 عملکرد
• مدل M3.1 Flash در آزمون مستقل KingBench 3 امتیاز ۶۶.۲۵٪ گرفت، بیش از دو برابر امتیاز M3 (۳۱.۲۵٪).
• در همین آزمون، Opus 5.5 امتیاز ۹۳.۷۵٪ گرفت. یعنی M3.1 Flash هنوز با مدل‌های پرچمدار فاصله دارد، اما با این قیمت پایین گزینه به‌صرفه‌ای است.
🔗 مستندات مدل
🔗 توییت
#AI #MiniMax #M31Flash #Coding #LLM
🆔 @asrgooyeshpardaz
شرکت MiniMax مدل M3.1 Flash را عرضه کرد. این مدل برای کدنویسی، تحقیق و کارهای خلاقانه ساخته شده است. نسخه پیش‌نمایش آن از اواخر سپتامبر در دسترس بود و حالا نسخه نهایی به MiniMax Code اضافه شده است.
🧠 مشخصات فنی
• معماری MoE با حدود ۴۲۸ میلیارد پارامتر که در هر لحظه فقط ۲۳ میلیارد پارامتر آن فعال است
• پنجره زمینه یک میلیون توکنی
• پذیرش ورودی متن، تصویر و ویدئو
• پنج سطح قابل تنظیم برای عمق استدلال، از low تا max
💰 قیمت API
• ورودی: ۰.۱۵ دلار به ازای هر میلیون توکن
• خروجی: ۰.۶۰ دلار به ازای هر میلیون توکن
📊 عملکرد
• مدل M3.1 Flash در آزمون مستقل KingBench 3 امتیاز ۶۶.۲۵٪ گرفت، بیش از دو برابر امتیاز M3 (۳۱.۲۵٪).
• در همین آزمون، Opus 5.5 امتیاز ۹۳.۷۵٪ گرفت. یعنی M3.1 Flash هنوز با مدل‌های پرچمدار فاصله دارد، اما با این قیمت پایین گزینه به‌صرفه‌ای است.
🔗 مستندات مدل
🔗 توییت
#AI #MiniMax #M31Flash #Coding #LLM
🆔 @asrgooyeshpardaz
❤5👏1