🚀 مدل QwenLong-L1.5 منتشر شد — مدلی برای استدلال در کانتکستهای بسیار طولانی که در این حوزه با GPT-5 و Gemini-2.5-Pro رقابت میکند.
خلاصهای کوتاه از مدل:
۳۰ میلیارد پارامتر، که از این میان ۳ میلیارد پارامتر فعال هستند
بهطور ویژه برای استدلال روی کانتکستهای بسیار طولانی بهینهسازی شده است
وزنها، کد آموزش و دستورالعملها (data recipes) بهصورت کامل متنباز منتشر شدهاند
شاخصهای کلیدی عملکرد:
+31.7 امتیاز در OpenAI MRCR با کانتکست 128K — رکورد SOTA در میان تمام مدلها
عملکرد همسطح با Gemini-2.5-Pro در ۶ بنچمارک بزرگ long-QA
+9.69 امتیاز در CorpusQA
+6.16 امتیاز در LongBench-V2
نکات جالب و نوآورانه:
دادههای سنتتیک در مقیاس بزرگ
14.1 هزار نمونه استدلالیِ طولانی
استخراجشده از 9.2 میلیارد توکن، بدون برچسبگذاری دستی
میانگین طول هر نمونه: 34 هزار توکن
حداکثر طول: 119 هزار توکن
آموزش RL پایدار
استفاده از متعادلسازی وظایف و روش Adaptive Entropy-Controlled Policy Optimization (AEPO)
این رویکرد امکان آموزش پایدار مدلها را روی توالیهای بسیار طولانی فراهم میکند
معماری مجهز به حافظه
بهروزرسانیهای تکرارشونده حافظه خارج از پنجره 256K توکن
نتیجه: +9.48 امتیاز در وظایف دارای کانتکست بین ۱ تا ۴ میلیون توکن
مدل QwenLong-L1.5 یکی از قدرتمندترین گامهای متنباز در مسیر تحقق استدلال واقعاً مقیاسپذیر روی کانتکستهای طولانی است.
این مدل نهتنها بهخاطر نتایجش، بلکه بهدلیل باز بودن کامل کل پشته آموزشی (Training Stack) نیز اهمیت ویژهای دارد.
GitHub: https://github.com/Tongyi-Zhiwen/Qwen-Doc
مقاله: https://modelscope.cn/papers/2512.12967
مدل: https://modelscope.cn/models/iic/QwenLong-L1.5-30B-A3B
Hugging Face: https://huggingface.co/Tongyi-Zhiwen/QwenLong-L1.5-30B-A3B
#AI #LLM #OpenSource #LongContext #Qwen
@asrgooyeshpardaz
خلاصهای کوتاه از مدل:
۳۰ میلیارد پارامتر، که از این میان ۳ میلیارد پارامتر فعال هستند
بهطور ویژه برای استدلال روی کانتکستهای بسیار طولانی بهینهسازی شده است
وزنها، کد آموزش و دستورالعملها (data recipes) بهصورت کامل متنباز منتشر شدهاند
شاخصهای کلیدی عملکرد:
+31.7 امتیاز در OpenAI MRCR با کانتکست 128K — رکورد SOTA در میان تمام مدلها
عملکرد همسطح با Gemini-2.5-Pro در ۶ بنچمارک بزرگ long-QA
+9.69 امتیاز در CorpusQA
+6.16 امتیاز در LongBench-V2
نکات جالب و نوآورانه:
دادههای سنتتیک در مقیاس بزرگ
14.1 هزار نمونه استدلالیِ طولانی
استخراجشده از 9.2 میلیارد توکن، بدون برچسبگذاری دستی
میانگین طول هر نمونه: 34 هزار توکن
حداکثر طول: 119 هزار توکن
آموزش RL پایدار
استفاده از متعادلسازی وظایف و روش Adaptive Entropy-Controlled Policy Optimization (AEPO)
این رویکرد امکان آموزش پایدار مدلها را روی توالیهای بسیار طولانی فراهم میکند
معماری مجهز به حافظه
بهروزرسانیهای تکرارشونده حافظه خارج از پنجره 256K توکن
نتیجه: +9.48 امتیاز در وظایف دارای کانتکست بین ۱ تا ۴ میلیون توکن
مدل QwenLong-L1.5 یکی از قدرتمندترین گامهای متنباز در مسیر تحقق استدلال واقعاً مقیاسپذیر روی کانتکستهای طولانی است.
این مدل نهتنها بهخاطر نتایجش، بلکه بهدلیل باز بودن کامل کل پشته آموزشی (Training Stack) نیز اهمیت ویژهای دارد.
GitHub: https://github.com/Tongyi-Zhiwen/Qwen-Doc
مقاله: https://modelscope.cn/papers/2512.12967
مدل: https://modelscope.cn/models/iic/QwenLong-L1.5-30B-A3B
Hugging Face: https://huggingface.co/Tongyi-Zhiwen/QwenLong-L1.5-30B-A3B
#AI #LLM #OpenSource #LongContext #Qwen
@asrgooyeshpardaz
❤4👏2