🧠 خلاصه تحولات 24 ساعت گذشته هوش مصنوعی و علوم داده
🗂 گزارش #6 | 📌 5 آیتم گزارش | 🧾 از 18 پست بررسیشده
🕐 شنبه 1405/08/02 ساعت 14:00 تا یکشنبه 1405/08/03 ساعت 14:00
ارزیابی امنیت سندباکس microVM در برابر کانال های جانبی
اعتبارسنجی ابزارهای ایجنت قبل از فراخوانی در سیستم های تولیدی
🔬 دستاوردهای فنی و ابزارهای توسعه هوش مصنوعی
🗂 گزارش #6 | 📌 5 آیتم گزارش | 🧾 از 18 پست بررسیشده
🕐 شنبه 1405/08/02 ساعت 14:00 تا یکشنبه 1405/08/03 ساعت 14:00
ارزیابی امنیت سندباکس microVM در برابر کانال های جانبی
گزارش منبع: در این آزمایش، ایجنت هایی که در محیط های microVM جداگانه قرار داشتند، موفق شدند با استفاده از اثرات جانبی سخت افزاری، پیام های خود را مبادله کنند.
برداشت: ایزوله سازی نرم افزاری در سطح سیستم عامل برای جلوگیری از نشت اطلاعات بین ایجنت های چندمستاجری کافی نیست و نیاز به پایش کانال های جانبی سخت افزاری دارد.
نامشخص: نرخ انتقال داده بر حسب بیت بر ثانیه و میزان نرخ خطای بیت (BER) در کانال های جانبی یادشده در منبع گزارش نشده است.
آزمون پیشنهادی: اندازه گیری تأخیر دسترسی به کش L3 در دو microVM همجوار حین اجرای همزمان بار کاری پردازشی و مقایسه نرخ بیت نشت یافته با حالت ایزوله سخت افزاری.
اعتبارسنجی ابزارهای ایجنت قبل از فراخوانی در سیستم های تولیدی
گزارش منبع: محققان با بررسی بیش از ۳۱ هزار اسکن برای ایجنت های هوش مصنوعی دریافتند که ۲۶ درصد آن ها دارای آسیب پذیری و بیش از ۵ درصد عملاً مخرب هستند.
برداشت: یکپارچه سازی ابزارهای شخص ثالث در سیستم های مبتنی بر MCP بدون اسکن استاتیک و تحلیل عمیق، امکان تزریق پرامپت و دسترسی غیرمجاز به حافظه را فراهم می کند.
نامشخص: میزان نرخ مثبت کاذب (False Positive) حالت اسکن سریع بدون هوش مصنوعی در مقایسه با بررسی عمیق با LLM در منبع مشخص نشده است.
آزمون پیشنهادی: اجرای SkillSpector روی ۵۰ مخزن کدهای MCP، مقایسه زمان اجرای حالت سریع و عمیق، و سنجش نرخ شناسایی الگوهای تزریق پرامپت نسبت به تست دستی.
🔬 دستاوردهای فنی و ابزارهای توسعه هوش مصنوعی
ارتباط ایجنتهای هوش مصنوعی در محیطهای ایزوله microVM
ارتباط ایجنتها در محیطهای ایزوله microVM از طریق اثرات جانبی سختافزاری مانند کش پردازنده و بار CPU ثبت شد.
انتشار ابزار متنباز SkillSpector انویدیا برای امنیت ایجنتها
انویدیا ابزار SkillSpector را برای اسکن امنیتی، شناسایی ۷۱ الگوی حمله و ارزیابی ریسک ابزارهای ایجنت منتشر کرد.
انتشار مدل Nemotron 3.5 Bolt انویدیا با آموزش RL-only
انویدیا مدل ۸ میلیارد پارامتری Nemotron 3.5 Bolt را با حذف SFT و حافظه ۴ گیگابایت VRAM برای اجرای محلی عرضه کرد.
پلاگین رسمی اتصال Claude Code به Unreal Engine با MCP
اپیک گیمز امکان مدیریت صحنه، بلوپرینت و متریال در Unreal Engine 5.8 را از طریق Claude Code و پروتکل MCP فراهم کرد.
توسعه زیرساخت ذخیرهسازی داده OpenAI در مقیاس اگزابایت
اوپنایآی سیستم جدیدی مبتنی بر RocksDB Cloud و پروتکل Raft برای مدیریت بیش از ۵۰۰ پتابایت داده طراحی میکند.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🚀 دستیابی ۵ مدل کوچک به عملکرد Claude در برنامهنویسی
محققان متد GVS5H را معرفی کردهاند که در آن چندین مدل هوش مصنوعی با اشتراکگذاری فایلهای کاری و هماهنگی با یکدیگر، مسائل برنامهنویسی را حل میکنند. در این روش، بدون نیاز به آموزش مجدد (Fine-tuning)، توانایی حل مسئله مدلهای کوچک بهطور قابلتوجهی افزایش مییابد.
بر اساس بنچمارک LiveCodeBench، نتایج به شرح زیر است:
* مدل Qwen3.8-27B: افزایش دقت از ۶۶.۸٪ به ۹۲.۴٪.
* مدل Qwen3.8 Flash Next: رسیدن به دقت ۹۳٪ با هزینهای معادل تنها ۹٪ مدل Claude.
* مدل Claude Fable 5: دقت ۹۰.۴٪.
این آزمایش نشان میدهد که هماهنگی دقیق بین مدلهای کوچک میتواند عملکرد آنها را با مدلهای قدرتمند و بزرگ رقابتی کند. البته این متد روی تمامی مدلها کار نمیکند و نتایج فعلی بر اساس آزمایشهای تیم سازنده گزارش شده است.
🔗 توضیحات و نمونهکد در سایت
محققان متد GVS5H را معرفی کردهاند که در آن چندین مدل هوش مصنوعی با اشتراکگذاری فایلهای کاری و هماهنگی با یکدیگر، مسائل برنامهنویسی را حل میکنند. در این روش، بدون نیاز به آموزش مجدد (Fine-tuning)، توانایی حل مسئله مدلهای کوچک بهطور قابلتوجهی افزایش مییابد.
بر اساس بنچمارک LiveCodeBench، نتایج به شرح زیر است:
* مدل Qwen3.8-27B: افزایش دقت از ۶۶.۸٪ به ۹۲.۴٪.
* مدل Qwen3.8 Flash Next: رسیدن به دقت ۹۳٪ با هزینهای معادل تنها ۹٪ مدل Claude.
* مدل Claude Fable 5: دقت ۹۰.۴٪.
این آزمایش نشان میدهد که هماهنگی دقیق بین مدلهای کوچک میتواند عملکرد آنها را با مدلهای قدرتمند و بزرگ رقابتی کند. البته این متد روی تمامی مدلها کار نمیکند و نتایج فعلی بر اساس آزمایشهای تیم سازنده گزارش شده است.
🔗 توضیحات و نمونهکد در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🤖 جبران سهمیه کاربران در سرویس Kimi
تیم Kimi به دلیل بروز مشکل در مدل K3.1 Pro که باعث محدودیتهای نرخ (rate limits) و مصرف غیرضروری سهمیه کاربران شده بود، عذرخواهی کرد. این شرکت اعلام کرده است که باید این مشکلات را زودتر شناسایی و برطرف میکرد.
برای جبران این موضوع، اقدامات زیر برای کاربران اعمال میشود:
* بازگرداندن سهمیه: تمام مشترکین در تمامی طرحها، معادل ۲۵٪ از سهمیه ماهانه خود (حدود یک هفته استفاده) را به عنوان جبران دریافت میکنند. اگر میزان مصرف فعلی کاربر کمتر از ۲۵٪ باشد، سهمیه ماهانه او کاملاً بازنشانی (reset) میشود.
* بهینهسازی مصرف: پارامترهای طرحهای اشتراکی تغییر کرده است. با کاهش فراخوانیهای غیرضروری زیرمجموعه (subagent calls) و محدود کردن طول خروجی مدل، سعی شده است سهمیه کاربران در مدت زمان طولانیتری دوام بیاورد.
این تغییرات در میزان سهمیه کاربران تا پایان امروز به وقت PST اعمال خواهد شد.
🔗 ادامه مطلب در سایت
#Kimi_AI #subagent_calls
تیم Kimi به دلیل بروز مشکل در مدل K3.1 Pro که باعث محدودیتهای نرخ (rate limits) و مصرف غیرضروری سهمیه کاربران شده بود، عذرخواهی کرد. این شرکت اعلام کرده است که باید این مشکلات را زودتر شناسایی و برطرف میکرد.
برای جبران این موضوع، اقدامات زیر برای کاربران اعمال میشود:
* بازگرداندن سهمیه: تمام مشترکین در تمامی طرحها، معادل ۲۵٪ از سهمیه ماهانه خود (حدود یک هفته استفاده) را به عنوان جبران دریافت میکنند. اگر میزان مصرف فعلی کاربر کمتر از ۲۵٪ باشد، سهمیه ماهانه او کاملاً بازنشانی (reset) میشود.
* بهینهسازی مصرف: پارامترهای طرحهای اشتراکی تغییر کرده است. با کاهش فراخوانیهای غیرضروری زیرمجموعه (subagent calls) و محدود کردن طول خروجی مدل، سعی شده است سهمیه کاربران در مدت زمان طولانیتری دوام بیاورد.
این تغییرات در میزان سهمیه کاربران تا پایان امروز به وقت PST اعمال خواهد شد.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Kimi_AI #subagent_calls
💰 دستمزد نجومی برای مهندسان هوش مصنوعی در چین
شرکتهای بزرگ چینی در حال حاضر برای استخدام «مهندسان استقرار» (forward-deployed engineers) دستمزدهایی تا ۱۶۳ هزار دلار در سال پرداخت میکنند. این موقعیت شغلی که وظیفه پیادهسازی و عملیاتیسازی مدلهای هوش مصنوعی در ساختار شرکتهای مشتری را بر عهده دارد، به اولویت اصلی غولهای فناوری تبدیل شده است.
بر اساس گزارشها، حقوقهای پیشنهادی شرکتهای پیشرو برای این جایگاه به شرح زیر است:
- استارتاپ Kimi: تا ۱۶۳ هزار دلار
- سرویس Doubao (بایتدنس): تا ۱۵۷ هزار دلار
- شرکتهای ByteDance، Tencent و Alibaba: حدود ۱۵۰ هزار دلار
برخی مهندسان در بایتدنس برای حضور در محل پروژههای مشتریان، روزانه ۱۵۰۰ دلار دریافت میکنند. آگهیهای شغلی برای این تخصص نسبت به سال گذشته ۱۵۲۳ درصد رشد داشته و وزارت صنعت چین نیز در حال ترویج این مهارت است. تمرکز بودجهها در بازار چین از مرحله آموزش مدلها به سمت کاربردیسازی آنها در محیط کسبوکار تغییر کرده است.
🔗 ادامه مطلب در سایت
شرکتهای بزرگ چینی در حال حاضر برای استخدام «مهندسان استقرار» (forward-deployed engineers) دستمزدهایی تا ۱۶۳ هزار دلار در سال پرداخت میکنند. این موقعیت شغلی که وظیفه پیادهسازی و عملیاتیسازی مدلهای هوش مصنوعی در ساختار شرکتهای مشتری را بر عهده دارد، به اولویت اصلی غولهای فناوری تبدیل شده است.
بر اساس گزارشها، حقوقهای پیشنهادی شرکتهای پیشرو برای این جایگاه به شرح زیر است:
- استارتاپ Kimi: تا ۱۶۳ هزار دلار
- سرویس Doubao (بایتدنس): تا ۱۵۷ هزار دلار
- شرکتهای ByteDance، Tencent و Alibaba: حدود ۱۵۰ هزار دلار
برخی مهندسان در بایتدنس برای حضور در محل پروژههای مشتریان، روزانه ۱۵۰۰ دلار دریافت میکنند. آگهیهای شغلی برای این تخصص نسبت به سال گذشته ۱۵۲۳ درصد رشد داشته و وزارت صنعت چین نیز در حال ترویج این مهارت است. تمرکز بودجهها در بازار چین از مرحله آموزش مدلها به سمت کاربردیسازی آنها در محیط کسبوکار تغییر کرده است.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🤖 سادهسازی معماری ایجنتهای هوش مصنوعی
شرکت Anthropic در بررسی پروژههای سازمانی متوجه شده است که استفاده از یک ایجنت واحد که به ابزارها و مهارتهای مختلف دسترسی دارد، اغلب بهتر از سیستمهای پیچیده متشکل از چندین ساب-ایجنت عمل میکند.
جایگزینی ساب-ایجنتها با یک ایجنت مرکزی که دستورالعملها و ابزارهای مورد نیاز را بهصورت پویا فراخوانی میکند، باعث حفظ بهتر بافتار (Context) و کاهش تداخلات میشود. این تغییر در برخی پیادهسازیها سرعت انجام کار را تا دو برابر افزایش داده و هزینههای عملیاتی را کاهش داده است.
مهمترین نکات برای بهینهسازی ایجنتها:
* جایگزینی ساب-ایجنتهای تخصصی با ابزارها (Tools) و مهارتهای (Skills) قابل فراخوانی.
* استفاده از ساب-ایجنتها تنها در زمان نیاز به پردازشهای موازی یا ایزولهسازی بافتار.
* انتقال تدریجی قابلیتها به ایجنت اصلی و مقایسه عملکرد از نظر کیفیت، تاخیر و هزینه.
به جای تعریف یک ایجنت برای هر بخش یا وظیفه، معماری ایجنت باید بر اساس مرزهای دقیق وظایف و مدیریت بافتار طراحی شود.
🔗 مراحل راهنما در سایت
🇮🇷 سایت | تلگرام
شرکت Anthropic در بررسی پروژههای سازمانی متوجه شده است که استفاده از یک ایجنت واحد که به ابزارها و مهارتهای مختلف دسترسی دارد، اغلب بهتر از سیستمهای پیچیده متشکل از چندین ساب-ایجنت عمل میکند.
جایگزینی ساب-ایجنتها با یک ایجنت مرکزی که دستورالعملها و ابزارهای مورد نیاز را بهصورت پویا فراخوانی میکند، باعث حفظ بهتر بافتار (Context) و کاهش تداخلات میشود. این تغییر در برخی پیادهسازیها سرعت انجام کار را تا دو برابر افزایش داده و هزینههای عملیاتی را کاهش داده است.
مهمترین نکات برای بهینهسازی ایجنتها:
* جایگزینی ساب-ایجنتهای تخصصی با ابزارها (Tools) و مهارتهای (Skills) قابل فراخوانی.
* استفاده از ساب-ایجنتها تنها در زمان نیاز به پردازشهای موازی یا ایزولهسازی بافتار.
* انتقال تدریجی قابلیتها به ایجنت اصلی و مقایسه عملکرد از نظر کیفیت، تاخیر و هزینه.
به جای تعریف یک ایجنت برای هر بخش یا وظیفه، معماری ایجنت باید بر اساس مرزهای دقیق وظایف و مدیریت بافتار طراحی شود.
🔗 مراحل راهنما در سایت
🇮🇷 سایت | تلگرام
🇸🇪 ممنوعیت استفاده از ChatGPT و Claude در ادارات دولتی سوئد
دولت سوئد از روز دوشنبه دسترسی به مدلهای ChatGPT و Claude را بر روی رایانههای اداری کارکنان دولتی مسدود کرد.
با این تغییر، Microsoft Copilot تنها ابزار هوش مصنوعی تایید شده برای استفاده در محیط کاری این ادارات باقی میماند. جالب اینکه کاربران در محیط Copilot همچنان میتوانند به مدلهای خانواده Claude دسترسی داشته باشند.
🔗 ادامه مطلب در سایت
#Microsoft_Copilot #Sweden_Government
دولت سوئد از روز دوشنبه دسترسی به مدلهای ChatGPT و Claude را بر روی رایانههای اداری کارکنان دولتی مسدود کرد.
با این تغییر، Microsoft Copilot تنها ابزار هوش مصنوعی تایید شده برای استفاده در محیط کاری این ادارات باقی میماند. جالب اینکه کاربران در محیط Copilot همچنان میتوانند به مدلهای خانواده Claude دسترسی داشته باشند.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Microsoft_Copilot #Sweden_Government
7520048000967233536_01_@DataPlusScience_7520048000967233536_01.pdf
1.3 MB
کتاب Building LLMs for Production
این کتاب مجموعهای کاربردی برای یادگیری نحوه پیادهسازی و استقرار مدلهای زبانی بزرگ (LLM) در محیطهای عملیاتی است. مطالب کتاب بر مباحثی متمرکز است که برای انتقال از نمونههای ساده به پروژههای واقعی نیاز دارید.
مهمترین سرفصلهای این کتاب عبارتند از:
- مفاهیم پایه و معماری LLM
- مهندسی پرامپت و تامین امنیت
- پیادهسازی RAG (Retrieval-Augmented Generation) و استفاده از پایگاهدادههای برداری
- کار با LangChain و LlamaIndex
- استراتژیهای ارزیابی و بهبود خروجی مدل
- تکنیکهای Fine-tuning و بهینهسازی استقرار
- ساخت و توسعه AI Agents
در متن کتاب، مثالهای کدنویسی با پایتون برای بخشهای مختلف مانند تقسیم متن (Text Splitting)، تولید Embedding و استفاده از API مدلهایی مثل OpenAI و Cohere ارائه شده است تا مستقیماً با چالشهای فنی این مسیر آشنا شوید. فایل کامل کتاب در ادامه همین پست قابل دریافت است.
🔗 توضیحات و نمونهکد در سایت
#LangChain #RAG
این کتاب مجموعهای کاربردی برای یادگیری نحوه پیادهسازی و استقرار مدلهای زبانی بزرگ (LLM) در محیطهای عملیاتی است. مطالب کتاب بر مباحثی متمرکز است که برای انتقال از نمونههای ساده به پروژههای واقعی نیاز دارید.
مهمترین سرفصلهای این کتاب عبارتند از:
- مفاهیم پایه و معماری LLM
- مهندسی پرامپت و تامین امنیت
- پیادهسازی RAG (Retrieval-Augmented Generation) و استفاده از پایگاهدادههای برداری
- کار با LangChain و LlamaIndex
- استراتژیهای ارزیابی و بهبود خروجی مدل
- تکنیکهای Fine-tuning و بهینهسازی استقرار
- ساخت و توسعه AI Agents
در متن کتاب، مثالهای کدنویسی با پایتون برای بخشهای مختلف مانند تقسیم متن (Text Splitting)، تولید Embedding و استفاده از API مدلهایی مثل OpenAI و Cohere ارائه شده است تا مستقیماً با چالشهای فنی این مسیر آشنا شوید. فایل کامل کتاب در ادامه همین پست قابل دریافت است.
🔗 توضیحات و نمونهکد در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#LangChain #RAG
🔓 افزایش توان پردازشی کارتهای گرافیک RTX 30 توسط پروژه gpu-unlock
انویدیا در کارتهای گرافیک سری 30 (مانند RTX 3090)، سرعت عملیات ضرب ماتریس در هستههای تنسور را به صورت نرمافزاری محدود کرده است تا این محصولات را از کارتهای مخصوص یادگیری ماشین متمایز کند. پروژه gpu-unlock با ارائه یک ماژول هسته (Kernel Module) برای لینوکس، این محدودیت را پیش از بارگذاری درایور اصلی انویدیا دور میزند.
این روش نیازی به تغییر در BIOS یا پچ کردن مداوم درایور ندارد. طبق گزارشها، نرخ TFLOPS در مدل 3090 Ti با این ابزار بهبود قابلتوجهی داشته است:
• در BF16 از ۸۷.۵ به ۱۵۷.۴
• در FP16 از ۸۷.۵ به ۱۱۸.۴
• در TF32 از ۴۲.۶ به ۸۲.۶
در کاربردهای واقعی، سرعت Prefill در مدلهای زبانی بزرگ (LLM) بین ۱۴ تا ۳۶ درصد افزایش مییابد و نتایج محاسباتی نیز بدون تغییر باقی میمانند. اگر از ویندوز استفاده میکنید، نمونههای مشابهی مانند AD103_win_unlocker نیز توسعه یافتهاند. دستورالعمل نصب در مخزن اصلی پروژه در دسترس است.
🔗 توضیحات و نمونهکد در سایت
انویدیا در کارتهای گرافیک سری 30 (مانند RTX 3090)، سرعت عملیات ضرب ماتریس در هستههای تنسور را به صورت نرمافزاری محدود کرده است تا این محصولات را از کارتهای مخصوص یادگیری ماشین متمایز کند. پروژه gpu-unlock با ارائه یک ماژول هسته (Kernel Module) برای لینوکس، این محدودیت را پیش از بارگذاری درایور اصلی انویدیا دور میزند.
این روش نیازی به تغییر در BIOS یا پچ کردن مداوم درایور ندارد. طبق گزارشها، نرخ TFLOPS در مدل 3090 Ti با این ابزار بهبود قابلتوجهی داشته است:
• در BF16 از ۸۷.۵ به ۱۵۷.۴
• در FP16 از ۸۷.۵ به ۱۱۸.۴
• در TF32 از ۴۲.۶ به ۸۲.۶
در کاربردهای واقعی، سرعت Prefill در مدلهای زبانی بزرگ (LLM) بین ۱۴ تا ۳۶ درصد افزایش مییابد و نتایج محاسباتی نیز بدون تغییر باقی میمانند. اگر از ویندوز استفاده میکنید، نمونههای مشابهی مانند AD103_win_unlocker نیز توسعه یافتهاند. دستورالعمل نصب در مخزن اصلی پروژه در دسترس است.
🔗 توضیحات و نمونهکد در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
تحلیل نرخ اجاره GPU و رشد تقاضای توکنها
دادههای جدید a16z نشان میدهد نرخ اجاره GPUها برخلاف مدلهای استهلاک خطی ۶ ساله، نه تنها کاهش نیافته بلکه در بسیاری از مدلها با رشد مواجه شده است. مقایسه نرخ فعلی اجاره با ارزش مستهلکشده این مدلها تا اکتبر ۲۰۲۶ به شرح زیر است:
- H200: حدود ۱۴۳٪ بالاتر از ارزش مستهلکشده
- B200: حدود ۱۱۱٪ بالاتر از ارزش مستهلکشده
- RTX PRO 6000: حدود ۷۸٪ بالاتر از ارزش مستهلکشده
- H100: حدود ۵۴٪ بالاتر از ارزش مستهلکشده
- A100: حدود ۹٪ بالاتر از ارزش مستهلکشده
در بخش دیگری از این گزارش، روند تقاضا برای توکن در پلتفرم OpenRouter بررسی شده است. حجم توکنهای هفتگی از حدود ۶ تریلیون در نوامبر گذشته به بیش از ۱۶۵ تریلیون در اکتبر ۲۰۲۶ رسیده است.
سهم مدلهای دارای Open-Weight از کل توکنهای مصرفی در این بازه زمانی از حدود ۲۸٪ به ۷۲٪ افزایش یافته است، هرچند سهم هزینهای این مدلها (Open Spend Share) همچنان کمتر از ۲۵٪ باقی مانده است.
🔗 ادامه مطلب در سایت
#OpenRouter #GPU_Rental
دادههای جدید a16z نشان میدهد نرخ اجاره GPUها برخلاف مدلهای استهلاک خطی ۶ ساله، نه تنها کاهش نیافته بلکه در بسیاری از مدلها با رشد مواجه شده است. مقایسه نرخ فعلی اجاره با ارزش مستهلکشده این مدلها تا اکتبر ۲۰۲۶ به شرح زیر است:
- H200: حدود ۱۴۳٪ بالاتر از ارزش مستهلکشده
- B200: حدود ۱۱۱٪ بالاتر از ارزش مستهلکشده
- RTX PRO 6000: حدود ۷۸٪ بالاتر از ارزش مستهلکشده
- H100: حدود ۵۴٪ بالاتر از ارزش مستهلکشده
- A100: حدود ۹٪ بالاتر از ارزش مستهلکشده
در بخش دیگری از این گزارش، روند تقاضا برای توکن در پلتفرم OpenRouter بررسی شده است. حجم توکنهای هفتگی از حدود ۶ تریلیون در نوامبر گذشته به بیش از ۱۶۵ تریلیون در اکتبر ۲۰۲۶ رسیده است.
سهم مدلهای دارای Open-Weight از کل توکنهای مصرفی در این بازه زمانی از حدود ۲۸٪ به ۷۲٪ افزایش یافته است، هرچند سهم هزینهای این مدلها (Open Spend Share) همچنان کمتر از ۲۵٪ باقی مانده است.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#OpenRouter #GPU_Rental
🤖 نقشه راه یادگیری هوش مصنوعی عاملیتمحور در سال ۲۰۲۶
این نقشه راه، سرفصلهای کلیدی برای توسعه سیستمهای Agentic AI را در ۱۱ بخش طبقهبندی کرده است. یادگیری این مهارتها برای طراحی و پیادهسازی عاملیتهای هوشمند ضروری است:
* برنامهنویسی و پرامپتنویسی: تسلط بر پایتون، تکنیکهای پیشرفته پرامپتنویسی مانند Multi-Agent Prompts و مکانیزمهای Self-Critique.
* اصول عاملها: شناخت معماری عاملها، تجزیه اهداف (Goal Decomposition) و الگوریتمهای برنامهریزی عملیاتی.
* مدلهای زبانی و APIها: کار با Function Calling و فراخوانی ابزارها توسط مدلهایی مانند GPT-4o، Claude و LLaMA.
* چارچوبهای ارکستراسیون: استفاده از ابزارهایی نظیر LangChain، AutoGen، CrewAI و LangGraph.
* مدیریت حافظه و دانش: پیادهسازی حافظههای کوتاهمدت و بلندمدت و بهکارگیری RAG با استفاده از پایگاهدادههای برداری مانند Pinecone و Chroma.
* استقرار و نظارت: انتشار مدلها با استفاده از FastAPI و مانیتورینگ عملکرد عاملها توسط ابزارهایی مانند LangSmith.
🔗 ادامه مطلب در سایت
این نقشه راه، سرفصلهای کلیدی برای توسعه سیستمهای Agentic AI را در ۱۱ بخش طبقهبندی کرده است. یادگیری این مهارتها برای طراحی و پیادهسازی عاملیتهای هوشمند ضروری است:
* برنامهنویسی و پرامپتنویسی: تسلط بر پایتون، تکنیکهای پیشرفته پرامپتنویسی مانند Multi-Agent Prompts و مکانیزمهای Self-Critique.
* اصول عاملها: شناخت معماری عاملها، تجزیه اهداف (Goal Decomposition) و الگوریتمهای برنامهریزی عملیاتی.
* مدلهای زبانی و APIها: کار با Function Calling و فراخوانی ابزارها توسط مدلهایی مانند GPT-4o، Claude و LLaMA.
* چارچوبهای ارکستراسیون: استفاده از ابزارهایی نظیر LangChain، AutoGen، CrewAI و LangGraph.
* مدیریت حافظه و دانش: پیادهسازی حافظههای کوتاهمدت و بلندمدت و بهکارگیری RAG با استفاده از پایگاهدادههای برداری مانند Pinecone و Chroma.
* استقرار و نظارت: انتشار مدلها با استفاده از FastAPI و مانیتورینگ عملکرد عاملها توسط ابزارهایی مانند LangSmith.
🔗 ادامه مطلب در سایت
🧬 معرفی مدل Carbon-X؛ تحلیل مستقیم DNA با هوش مصنوعی
مجموعه Hugging Face مدل جدیدی به نام Carbon-X را منتشر کرده است. این مدل ۱۴.۸ میلیارد پارامتری، قادر است توالیهای خام DNA را مستقیماً در محیط چت دریافت کرده و به زبان انگلیسی پاسخ دهد.
ایمهمترین اصولی در این مدل، استفاده از یک دکودر واحد برای متن و توالیهای زیستی است. تیم سازنده با استفاده از یک توکنایزر ترکیبی، واژگان متن Qwen3 را حفظ کرده و DNA را به توکنهای ۶پایهای تبدیل کردهاند. این مدل با ۳۰۲ میلیارد توکن متن و DNA آموزش دیده و فاقد انکودر مجزا برای DNA است.
نتایج مدل در چند شاخص اصلی:
* عملکرد در ۵ بنچمارک DNA: میانگین ۶۶.۷ درصد
* امتیاز در BioReason Coding: حدود ۷۴.۹ درصد
* امتیاز در NextBase: حدود ۳۹.۴ درصد
این مدل با مجوز Apache 2.0 عرضه شده و روی یک پردازنده گرافیکی ۸۰ گیگابایتی قابل اجراست. طبق برآوردها، هزینه پردازش ۲.۴ میلیون واریانت ClinVar با این مدل حدود ۳۰۰ دلار است.
🔗 جزئیات خبر در سایت
مجموعه Hugging Face مدل جدیدی به نام Carbon-X را منتشر کرده است. این مدل ۱۴.۸ میلیارد پارامتری، قادر است توالیهای خام DNA را مستقیماً در محیط چت دریافت کرده و به زبان انگلیسی پاسخ دهد.
ایمهمترین اصولی در این مدل، استفاده از یک دکودر واحد برای متن و توالیهای زیستی است. تیم سازنده با استفاده از یک توکنایزر ترکیبی، واژگان متن Qwen3 را حفظ کرده و DNA را به توکنهای ۶پایهای تبدیل کردهاند. این مدل با ۳۰۲ میلیارد توکن متن و DNA آموزش دیده و فاقد انکودر مجزا برای DNA است.
نتایج مدل در چند شاخص اصلی:
* عملکرد در ۵ بنچمارک DNA: میانگین ۶۶.۷ درصد
* امتیاز در BioReason Coding: حدود ۷۴.۹ درصد
* امتیاز در NextBase: حدود ۳۹.۴ درصد
این مدل با مجوز Apache 2.0 عرضه شده و روی یک پردازنده گرافیکی ۸۰ گیگابایتی قابل اجراست. طبق برآوردها، هزینه پردازش ۲.۴ میلیون واریانت ClinVar با این مدل حدود ۳۰۰ دلار است.
🔗 جزئیات خبر در سایت
🚀 عرضه مدل هوش مصنوعی Flint برای برنامهنویسی
استارتاپ Recursive که توسط متخصصان پیشین Salesforce و OpenAI تأسیس شده، مدل جدید Flint را برای انجام وظایف برنامهنویسی منتشر کرد. این مدل که با معماری MoE طراحی شده، دارای ۳۹.۸ میلیارد پارامتر است و در هر توکن از ۲.۵ میلیارد پارامتر استفاده میکند.
از ویژگیهای فنی Flint میتوان به موارد زیر اشاره کرد:
* پنجره متنی ۲۶۲ هزار توکنی
* استفاده از ۲۵۶ کارشناس در هر لایه با انتخاب مهمترین موارد فعال
* بهرهگیری از هستههای محاسباتی اختصاصی برای Apple Silicon و NVIDIA
* نرخ خروجی بیش از ۱۲۵ توکن در ثانیه روی MacBook M4 Pro
این مدل در بنچمارک SWE-bench Verified امتیاز ۷۴.۲ درصد را کسب کرده است و با ابزارهایی مانند rec، Ollama و vLLM سازگاری دارد. وزنهای مدل تحت لایسنس Apache 2.0 در Hugging Face در دسترس است.
🔗 جزئیات خبر در سایت
#Flint_model #Mixture_of_Experts
استارتاپ Recursive که توسط متخصصان پیشین Salesforce و OpenAI تأسیس شده، مدل جدید Flint را برای انجام وظایف برنامهنویسی منتشر کرد. این مدل که با معماری MoE طراحی شده، دارای ۳۹.۸ میلیارد پارامتر است و در هر توکن از ۲.۵ میلیارد پارامتر استفاده میکند.
از ویژگیهای فنی Flint میتوان به موارد زیر اشاره کرد:
* پنجره متنی ۲۶۲ هزار توکنی
* استفاده از ۲۵۶ کارشناس در هر لایه با انتخاب مهمترین موارد فعال
* بهرهگیری از هستههای محاسباتی اختصاصی برای Apple Silicon و NVIDIA
* نرخ خروجی بیش از ۱۲۵ توکن در ثانیه روی MacBook M4 Pro
این مدل در بنچمارک SWE-bench Verified امتیاز ۷۴.۲ درصد را کسب کرده است و با ابزارهایی مانند rec، Ollama و vLLM سازگاری دارد. وزنهای مدل تحت لایسنس Apache 2.0 در Hugging Face در دسترس است.
🔗 جزئیات خبر در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Flint_model #Mixture_of_Experts
🧠 خلاصه تحولات 24 ساعت گذشته هوش مصنوعی و علوم داده
🗂 گزارش #7 | 📌 5 آیتم گزارش | 🧾 از 13 پست بررسیشده
🕐 یکشنبه 1405/08/03 ساعت 14:00 تا دوشنبه 1405/08/04 ساعت 14:00
باز کردن قفل هسته های تنسور RTX 30 و اثر آن بر سرعت Prefill
جایگزینی ساب ایجنت ها با ابزارهای پویا در ایجنت مرکزی
⚡ بهینهسازی سختافزار و معماری سیستمها
🔬 مدلها و متدهای جدید پردازش
🗂 گزارش #7 | 📌 5 آیتم گزارش | 🧾 از 13 پست بررسیشده
🕐 یکشنبه 1405/08/03 ساعت 14:00 تا دوشنبه 1405/08/04 ساعت 14:00
باز کردن قفل هسته های تنسور RTX 30 و اثر آن بر سرعت Prefill
گزارش منبع: در کاربردهای واقعی، سرعت Prefill در مدل های زبانی بزرگ (LLM) بین ۱۴ تا ۳۶ درصد افزایش می یابد و نتایج محاسباتی نیز بدون تغییر باقی می مانند.
برداشت: دور زدن محدودیت نرم افزاری درایور، محاسبه TFLOPS ضرب ماتریسی را بالا می برد و تاخیر پردازش پرامپت ورودی را در سروینگ محلی کم می کند.
نامشخص: میزان افزایش دمای کارت، پایداری تحت بار مداوم و سازگاری ماژول با نسخه های مختلف درایور انویدیا در متن مشخص نشده است.
آزمون پیشنهادی: اجرای بنچمارک vLLM روی کارت RTX 3090 Ti با پرامپت ۴۰۹۶ توکنی و سنجش تغییرات نرخ توکن Prefill و دقت خروجی نسبت به حالت پایه.
جایگزینی ساب ایجنت ها با ابزارهای پویا در ایجنت مرکزی
گزارش منبع: جایگزینی ساب-ایجنت ها با یک ایجنت مرکزی که دستورالعمل ها و ابزارهای مورد نیاز را به صورت پویا فراخوانی می کند، باعث حفظ بهتر بافتار (Context) و کاهش تداخلات می شود.
برداشت: کاهش تعداد ایجنت های واسط، فراخوانی های تکراری API را حذف می کند و با حفظ بافتار یکپارچه، تاخیر و هزینه عملیاتی را کاهش می دهد.
نامشخص: نقطه عطف پیچیدگی که در آن دستورالعمل های زیاد باعث سردرگمی ایجنت مرکزی شده و ایزوله سازی بافتار را ضروری می کند تعیین نشده است.
آزمون پیشنهادی: اجرای یک فرایند چندمرحله ای استخراج داده با دو معماری تک ایجنت ابزارمحور و چندایجنت، و مقایسه تاخیر کل، هزینه توکن و نرخ موفقیت.
⚡ بهینهسازی سختافزار و معماری سیستمها
افزایش توان محاسباتی پردازندههای RTX 30 با پروژه gpu-unlock
ماژول هسته لینوکس gpu-unlock محدودیت نرمافزاری هستههای تنسور RTX 3090 Ti را دور زده و سرعت Prefill مدلها را تا ۳۶٪ بالا میبرد.
سادهسازی معماری ایجنتهای هوش مصنوعی توسط انتروپیک
بررسی انتروپیک نشان میدهد جایگزینی سابایجنتها با یک ایجنت واحد و ابزارهای پویا، تاخیر را کم کرده و سرعت را تا دو برابر میرساند.
🔬 مدلها و متدهای جدید پردازش
بهبود عملکرد مدلهای کوچک در برنامهنویسی با متد GVS5H
روش GVS5H با اشتراکگذاری فایل و هماهنگی میان مدلهای کوچک، دقت Qwen3.8-27B را در LiveCodeBench از ۶۶.۸٪ به ۹۲.۴٪ رسانده است.
انتشار مدل کدنویسی Flint با معماری MoE
مدل ۳۹.۸ میلیارد پارامتری Flint با ۲۵۶ کارشناس و پنجره متنی ۲۶۲ هزار توکنی، امتیاز ۷۴.۲٪ را در بنچمارک SWE-bench کسب کرد.
انتشار مدل Carbon-X برای تحلیل مستقیم توالیهای DNA
مدل ۱۴.۸ میلیارد پارامتری Carbon-X بدون انکودر مجزا، توالیهای خام DNA را دریافت کرده و به زبان انگلیسی پاسخ میدهد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
📉 پیشبینی ماسک از فروپاشی بازار نئوکلاودها
ایلان ماسک بهتازگی اعلام کرده که بازار «نئوکلاودها» (شرکتهایی که تنها با اجاره دادن GPU درآمد کسب میکنند) با بحران جدی مواجه است. طبق گفته او، بازارهای مالی طی هفتههای اخیر دسترسی به سرمایه را برای شرکتهایی که درآمدی مستقل از دیتاسنترهای هوش مصنوعی ندارند، تقریباً قطع کردهاند.
ماسک معتقد است بیش از ۲۰۰ شرکت ارائهدهنده خدمات ابر جدید با خطر نابودی و ادغام مواجه خواهند شد و تنها تعداد کمی از آنها دوام میآورند.
در مقابل، او به وضعیت SpaceX اشاره کرد که موفق شده ۴۰ میلیارد دلار برای تأمین GPU وام بگیرد؛ چرا که این شرکت دارای رتبه اعتباری سرمایهگذاری است و درآمدهای مستقل از هوش مصنوعی، مانند خدمات Starlink و پروژههای پرتاب موشک دارد. وی همچنین نسبت به ایجاد ظرفیتهای پردازشی بلااستفاده در دیتاسنترهای نیمهکاره هشدار داد.
🔗 ادامه مطلب در سایت
ایلان ماسک بهتازگی اعلام کرده که بازار «نئوکلاودها» (شرکتهایی که تنها با اجاره دادن GPU درآمد کسب میکنند) با بحران جدی مواجه است. طبق گفته او، بازارهای مالی طی هفتههای اخیر دسترسی به سرمایه را برای شرکتهایی که درآمدی مستقل از دیتاسنترهای هوش مصنوعی ندارند، تقریباً قطع کردهاند.
ماسک معتقد است بیش از ۲۰۰ شرکت ارائهدهنده خدمات ابر جدید با خطر نابودی و ادغام مواجه خواهند شد و تنها تعداد کمی از آنها دوام میآورند.
در مقابل، او به وضعیت SpaceX اشاره کرد که موفق شده ۴۰ میلیارد دلار برای تأمین GPU وام بگیرد؛ چرا که این شرکت دارای رتبه اعتباری سرمایهگذاری است و درآمدهای مستقل از هوش مصنوعی، مانند خدمات Starlink و پروژههای پرتاب موشک دارد. وی همچنین نسبت به ایجاد ظرفیتهای پردازشی بلااستفاده در دیتاسنترهای نیمهکاره هشدار داد.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🤖 معرفی بنچمارک BabelArena برای ارزیابی ایجنتهای هوش مصنوعی
تیم Qwen بنچمارک BabelArena را برای سنجش عملکرد ایجنتهای هوش مصنوعی در ۲۳ زبان مختلف منتشر کرد. این ابزار، برخلاف روشهای معمول، علاوه بر پرسش کاربر، دستورالعملها، توصیف ابزارها و محیط کاری را نیز به زبان مقصد ترجمه میکند تا امکان مقایسه دقیقتر وظایف در زبانهای مختلف فراهم شود.
بر اساس نتایج این تحقیق، مهمترین نکات عبارتند از:
- هیچ مدل واحدی در تمامی زبانها و حوزهها برتر نیست.
- در زبانهایی با دادههای آموزشی کمتر، نرخ خطا در فراخوانی ابزارها و ترتیب اقدامات افزایش مییابد.
- حجم توکنهای ورودی در زبانهای غیرانگلیسی معمولاً دو برابر است، بدون اینکه تعداد گامهای اجرایی افزایش یابد.
- هنگام خروجیهای ساختاریافته، ایجنتها تمایل دارند از زبان مقصد خارج شده و به انگلیسی بازگردند.
🔗 جزئیات خبر در سایت
#BabelArena #Runtime_Data_Flow_Analysis
تیم Qwen بنچمارک BabelArena را برای سنجش عملکرد ایجنتهای هوش مصنوعی در ۲۳ زبان مختلف منتشر کرد. این ابزار، برخلاف روشهای معمول، علاوه بر پرسش کاربر، دستورالعملها، توصیف ابزارها و محیط کاری را نیز به زبان مقصد ترجمه میکند تا امکان مقایسه دقیقتر وظایف در زبانهای مختلف فراهم شود.
بر اساس نتایج این تحقیق، مهمترین نکات عبارتند از:
- هیچ مدل واحدی در تمامی زبانها و حوزهها برتر نیست.
- در زبانهایی با دادههای آموزشی کمتر، نرخ خطا در فراخوانی ابزارها و ترتیب اقدامات افزایش مییابد.
- حجم توکنهای ورودی در زبانهای غیرانگلیسی معمولاً دو برابر است، بدون اینکه تعداد گامهای اجرایی افزایش یابد.
- هنگام خروجیهای ساختاریافته، ایجنتها تمایل دارند از زبان مقصد خارج شده و به انگلیسی بازگردند.
🔗 جزئیات خبر در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#BabelArena #Runtime_Data_Flow_Analysis