7520048000967233536_01_@DataPlusScience_7520048000967233536_01.pdf
1.3 MB
کتاب Building LLMs for Production
این کتاب مجموعه‌ای کاربردی برای یادگیری نحوه پیاده‌سازی و استقرار مدل‌های زبانی بزرگ (LLM) در محیط‌های عملیاتی است. مطالب کتاب بر مباحثی متمرکز است که برای انتقال از نمونه‌های ساده به پروژه‌های واقعی نیاز دارید.
مهم‌ترین سرفصل‌های این کتاب عبارتند از:
- مفاهیم پایه و معماری LLM
- مهندسی پرامپت و تامین امنیت
- پیاده‌سازی RAG (Retrieval-Augmented Generation) و استفاده از پایگاه‌داده‌های برداری
- کار با LangChain و LlamaIndex
- استراتژی‌های ارزیابی و بهبود خروجی مدل
- تکنیک‌های Fine-tuning و بهینه‌سازی استقرار
- ساخت و توسعه AI Agents
در متن کتاب، مثال‌های کدنویسی با پایتون برای بخش‌های مختلف مانند تقسیم متن (Text Splitting)، تولید Embedding و استفاده از API مدل‌هایی مثل OpenAI و Cohere ارائه شده است تا مستقیماً با چالش‌های فنی این مسیر آشنا شوید. فایل کامل کتاب در ادامه همین پست قابل دریافت است.
🔗 توضیحات و نمونه‌کد در سایت
#LangChain #RAG
این کتاب مجموعه‌ای کاربردی برای یادگیری نحوه پیاده‌سازی و استقرار مدل‌های زبانی بزرگ (LLM) در محیط‌های عملیاتی است. مطالب کتاب بر مباحثی متمرکز است که برای انتقال از نمونه‌های ساده به پروژه‌های واقعی نیاز دارید.
مهم‌ترین سرفصل‌های این کتاب عبارتند از:
- مفاهیم پایه و معماری LLM
- مهندسی پرامپت و تامین امنیت
- پیاده‌سازی RAG (Retrieval-Augmented Generation) و استفاده از پایگاه‌داده‌های برداری
- کار با LangChain و LlamaIndex
- استراتژی‌های ارزیابی و بهبود خروجی مدل
- تکنیک‌های Fine-tuning و بهینه‌سازی استقرار
- ساخت و توسعه AI Agents
در متن کتاب، مثال‌های کدنویسی با پایتون برای بخش‌های مختلف مانند تقسیم متن (Text Splitting)، تولید Embedding و استفاده از API مدل‌هایی مثل OpenAI و Cohere ارائه شده است تا مستقیماً با چالش‌های فنی این مسیر آشنا شوید. فایل کامل کتاب در ادامه همین پست قابل دریافت است.
🔗 توضیحات و نمونه‌کد در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#LangChain #RAG
🔓 افزایش توان پردازشی کارت‌های گرافیک RTX 30 توسط پروژه gpu-unlock
انویدیا در کارت‌های گرافیک سری 30 (مانند RTX 3090)، سرعت عملیات ضرب ماتریس در هسته‌های تنسور را به صورت نرم‌افزاری محدود کرده است تا این محصولات را از کارت‌های مخصوص یادگیری ماشین متمایز کند. پروژه gpu-unlock با ارائه یک ماژول هسته (Kernel Module) برای لینوکس، این محدودیت را پیش از بارگذاری درایور اصلی انویدیا دور می‌زند.
این روش نیازی به تغییر در BIOS یا پچ کردن مداوم درایور ندارد. طبق گزارش‌ها، نرخ TFLOPS در مدل 3090 Ti با این ابزار بهبود قابل‌توجهی داشته است:
• در BF16 از ۸۷.۵ به ۱۵۷.۴
• در FP16 از ۸۷.۵ به ۱۱۸.۴
• در TF32 از ۴۲.۶ به ۸۲.۶
در کاربردهای واقعی، سرعت Prefill در مدل‌های زبانی بزرگ (LLM) بین ۱۴ تا ۳۶ درصد افزایش می‌یابد و نتایج محاسباتی نیز بدون تغییر باقی می‌مانند. اگر از ویندوز استفاده می‌کنید، نمونه‌های مشابهی مانند AD103_win_unlocker نیز توسعه یافته‌اند. دستورالعمل نصب در مخزن اصلی پروژه در دسترس است.
🔗 توضیحات و نمونه‌کد در سایت
انویدیا در کارت‌های گرافیک سری 30 (مانند RTX 3090)، سرعت عملیات ضرب ماتریس در هسته‌های تنسور را به صورت نرم‌افزاری محدود کرده است تا این محصولات را از کارت‌های مخصوص یادگیری ماشین متمایز کند. پروژه gpu-unlock با ارائه یک ماژول هسته (Kernel Module) برای لینوکس، این محدودیت را پیش از بارگذاری درایور اصلی انویدیا دور می‌زند.
این روش نیازی به تغییر در BIOS یا پچ کردن مداوم درایور ندارد. طبق گزارش‌ها، نرخ TFLOPS در مدل 3090 Ti با این ابزار بهبود قابل‌توجهی داشته است:
• در BF16 از ۸۷.۵ به ۱۵۷.۴
• در FP16 از ۸۷.۵ به ۱۱۸.۴
• در TF32 از ۴۲.۶ به ۸۲.۶
در کاربردهای واقعی، سرعت Prefill در مدل‌های زبانی بزرگ (LLM) بین ۱۴ تا ۳۶ درصد افزایش می‌یابد و نتایج محاسباتی نیز بدون تغییر باقی می‌مانند. اگر از ویندوز استفاده می‌کنید، نمونه‌های مشابهی مانند AD103_win_unlocker نیز توسعه یافته‌اند. دستورالعمل نصب در مخزن اصلی پروژه در دسترس است.
🔗 توضیحات و نمونه‌کد در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
تحلیل نرخ اجاره GPU و رشد تقاضای توکن‌ها
داده‌های جدید a16z نشان می‌دهد نرخ اجاره GPUها برخلاف مدل‌های استهلاک خطی ۶ ساله، نه تنها کاهش نیافته بلکه در بسیاری از مدل‌ها با رشد مواجه شده است. مقایسه نرخ فعلی اجاره با ارزش مستهلک‌شده این مدل‌ها تا اکتبر ۲۰۲۶ به شرح زیر است:
- H200: حدود ۱۴۳٪ بالاتر از ارزش مستهلک‌شده
- B200: حدود ۱۱۱٪ بالاتر از ارزش مستهلک‌شده
- RTX PRO 6000: حدود ۷۸٪ بالاتر از ارزش مستهلک‌شده
- H100: حدود ۵۴٪ بالاتر از ارزش مستهلک‌شده
- A100: حدود ۹٪ بالاتر از ارزش مستهلک‌شده
در بخش دیگری از این گزارش، روند تقاضا برای توکن در پلتفرم OpenRouter بررسی شده است. حجم توکن‌های هفتگی از حدود ۶ تریلیون در نوامبر گذشته به بیش از ۱۶۵ تریلیون در اکتبر ۲۰۲۶ رسیده است.
سهم مدل‌های دارای Open-Weight از کل توکن‌های مصرفی در این بازه زمانی از حدود ۲۸٪ به ۷۲٪ افزایش یافته است، هرچند سهم هزینه‌ای این مدل‌ها (Open Spend Share) همچنان کمتر از ۲۵٪ باقی مانده است.
🔗 ادامه مطلب در سایت
#OpenRouter #GPU_Rental
داده‌های جدید a16z نشان می‌دهد نرخ اجاره GPUها برخلاف مدل‌های استهلاک خطی ۶ ساله، نه تنها کاهش نیافته بلکه در بسیاری از مدل‌ها با رشد مواجه شده است. مقایسه نرخ فعلی اجاره با ارزش مستهلک‌شده این مدل‌ها تا اکتبر ۲۰۲۶ به شرح زیر است:
- H200: حدود ۱۴۳٪ بالاتر از ارزش مستهلک‌شده
- B200: حدود ۱۱۱٪ بالاتر از ارزش مستهلک‌شده
- RTX PRO 6000: حدود ۷۸٪ بالاتر از ارزش مستهلک‌شده
- H100: حدود ۵۴٪ بالاتر از ارزش مستهلک‌شده
- A100: حدود ۹٪ بالاتر از ارزش مستهلک‌شده
در بخش دیگری از این گزارش، روند تقاضا برای توکن در پلتفرم OpenRouter بررسی شده است. حجم توکن‌های هفتگی از حدود ۶ تریلیون در نوامبر گذشته به بیش از ۱۶۵ تریلیون در اکتبر ۲۰۲۶ رسیده است.
سهم مدل‌های دارای Open-Weight از کل توکن‌های مصرفی در این بازه زمانی از حدود ۲۸٪ به ۷۲٪ افزایش یافته است، هرچند سهم هزینه‌ای این مدل‌ها (Open Spend Share) همچنان کمتر از ۲۵٪ باقی مانده است.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#OpenRouter #GPU_Rental
🤖 نقشه راه یادگیری هوش مصنوعی عاملیت‌محور در سال ۲۰۲۶
این نقشه راه، سرفصل‌های کلیدی برای توسعه سیستم‌های Agentic AI را در ۱۱ بخش طبقه‌بندی کرده است. یادگیری این مهارت‌ها برای طراحی و پیاده‌سازی عاملیت‌های هوشمند ضروری است:
* برنامه‌نویسی و پرامپت‌نویسی: تسلط بر پایتون، تکنیک‌های پیشرفته پرامپت‌نویسی مانند Multi-Agent Prompts و مکانیزم‌های Self-Critique.
* اصول عامل‌ها: شناخت معماری عامل‌ها، تجزیه اهداف (Goal Decomposition) و الگوریتم‌های برنامه‌ریزی عملیاتی.
* مدل‌های زبانی و APIها: کار با Function Calling و فراخوانی ابزارها توسط مدل‌هایی مانند GPT-4o، Claude و LLaMA.
* چارچوب‌های ارکستراسیون: استفاده از ابزارهایی نظیر LangChain، AutoGen، CrewAI و LangGraph.
* مدیریت حافظه و دانش: پیاده‌سازی حافظه‌های کوتاه‌مدت و بلندمدت و به‌کارگیری RAG با استفاده از پایگاه‌داده‌های برداری مانند Pinecone و Chroma.
* استقرار و نظارت: انتشار مدل‌ها با استفاده از FastAPI و مانیتورینگ عملکرد عامل‌ها توسط ابزارهایی مانند LangSmith.
🔗 ادامه مطلب در سایت
این نقشه راه، سرفصل‌های کلیدی برای توسعه سیستم‌های Agentic AI را در ۱۱ بخش طبقه‌بندی کرده است. یادگیری این مهارت‌ها برای طراحی و پیاده‌سازی عاملیت‌های هوشمند ضروری است:
* برنامه‌نویسی و پرامپت‌نویسی: تسلط بر پایتون، تکنیک‌های پیشرفته پرامپت‌نویسی مانند Multi-Agent Prompts و مکانیزم‌های Self-Critique.
* اصول عامل‌ها: شناخت معماری عامل‌ها، تجزیه اهداف (Goal Decomposition) و الگوریتم‌های برنامه‌ریزی عملیاتی.
* مدل‌های زبانی و APIها: کار با Function Calling و فراخوانی ابزارها توسط مدل‌هایی مانند GPT-4o، Claude و LLaMA.
* چارچوب‌های ارکستراسیون: استفاده از ابزارهایی نظیر LangChain، AutoGen، CrewAI و LangGraph.
* مدیریت حافظه و دانش: پیاده‌سازی حافظه‌های کوتاه‌مدت و بلندمدت و به‌کارگیری RAG با استفاده از پایگاه‌داده‌های برداری مانند Pinecone و Chroma.
* استقرار و نظارت: انتشار مدل‌ها با استفاده از FastAPI و مانیتورینگ عملکرد عامل‌ها توسط ابزارهایی مانند LangSmith.
🔗 ادامه مطلب در سایت
🧬 معرفی مدل Carbon-X؛ تحلیل مستقیم DNA با هوش مصنوعی
مجموعه Hugging Face مدل جدیدی به نام Carbon-X را منتشر کرده است. این مدل ۱۴.۸ میلیارد پارامتری، قادر است توالی‌های خام DNA را مستقیماً در محیط چت دریافت کرده و به زبان انگلیسی پاسخ دهد.
ایمهم‌ترین اصولی در این مدل، استفاده از یک دکودر واحد برای متن و توالی‌های زیستی است. تیم سازنده با استفاده از یک توکنایزر ترکیبی، واژگان متن Qwen3 را حفظ کرده و DNA را به توکن‌های ۶پایه‌ای تبدیل کرده‌اند. این مدل با ۳۰۲ میلیارد توکن متن و DNA آموزش دیده و فاقد انکودر مجزا برای DNA است.
نتایج مدل در چند شاخص اصلی:
* عملکرد در ۵ بنچمارک DNA: میانگین ۶۶.۷ درصد
* امتیاز در BioReason Coding: حدود ۷۴.۹ درصد
* امتیاز در NextBase: حدود ۳۹.۴ درصد
این مدل با مجوز Apache 2.0 عرضه شده و روی یک پردازنده گرافیکی ۸۰ گیگابایتی قابل اجراست. طبق برآوردها، هزینه پردازش ۲.۴ میلیون واریانت ClinVar با این مدل حدود ۳۰۰ دلار است.
🔗 جزئیات خبر در سایت
مجموعه Hugging Face مدل جدیدی به نام Carbon-X را منتشر کرده است. این مدل ۱۴.۸ میلیارد پارامتری، قادر است توالی‌های خام DNA را مستقیماً در محیط چت دریافت کرده و به زبان انگلیسی پاسخ دهد.
ایمهم‌ترین اصولی در این مدل، استفاده از یک دکودر واحد برای متن و توالی‌های زیستی است. تیم سازنده با استفاده از یک توکنایزر ترکیبی، واژگان متن Qwen3 را حفظ کرده و DNA را به توکن‌های ۶پایه‌ای تبدیل کرده‌اند. این مدل با ۳۰۲ میلیارد توکن متن و DNA آموزش دیده و فاقد انکودر مجزا برای DNA است.
نتایج مدل در چند شاخص اصلی:
* عملکرد در ۵ بنچمارک DNA: میانگین ۶۶.۷ درصد
* امتیاز در BioReason Coding: حدود ۷۴.۹ درصد
* امتیاز در NextBase: حدود ۳۹.۴ درصد
این مدل با مجوز Apache 2.0 عرضه شده و روی یک پردازنده گرافیکی ۸۰ گیگابایتی قابل اجراست. طبق برآوردها، هزینه پردازش ۲.۴ میلیون واریانت ClinVar با این مدل حدود ۳۰۰ دلار است.
🔗 جزئیات خبر در سایت
🚀 عرضه مدل هوش مصنوعی Flint برای برنامه‌نویسی
استارتاپ Recursive که توسط متخصصان پیشین Salesforce و OpenAI تأسیس شده، مدل جدید Flint را برای انجام وظایف برنامه‌نویسی منتشر کرد. این مدل که با معماری MoE طراحی شده، دارای ۳۹.۸ میلیارد پارامتر است و در هر توکن از ۲.۵ میلیارد پارامتر استفاده می‌کند.
از ویژگی‌های فنی Flint می‌توان به موارد زیر اشاره کرد:
* پنجره متنی ۲۶۲ هزار توکنی
* استفاده از ۲۵۶ کارشناس در هر لایه با انتخاب مهم‌ترین موارد فعال
* بهره‌گیری از هسته‌های محاسباتی اختصاصی برای Apple Silicon و NVIDIA
* نرخ خروجی بیش از ۱۲۵ توکن در ثانیه روی MacBook M4 Pro
این مدل در بنچمارک SWE-bench Verified امتیاز ۷۴.۲ درصد را کسب کرده است و با ابزارهایی مانند rec، Ollama و vLLM سازگاری دارد. وزن‌های مدل تحت لایسنس Apache 2.0 در Hugging Face در دسترس است.
🔗 جزئیات خبر در سایت
#Flint_model #Mixture_of_Experts
استارتاپ Recursive که توسط متخصصان پیشین Salesforce و OpenAI تأسیس شده، مدل جدید Flint را برای انجام وظایف برنامه‌نویسی منتشر کرد. این مدل که با معماری MoE طراحی شده، دارای ۳۹.۸ میلیارد پارامتر است و در هر توکن از ۲.۵ میلیارد پارامتر استفاده می‌کند.
از ویژگی‌های فنی Flint می‌توان به موارد زیر اشاره کرد:
* پنجره متنی ۲۶۲ هزار توکنی
* استفاده از ۲۵۶ کارشناس در هر لایه با انتخاب مهم‌ترین موارد فعال
* بهره‌گیری از هسته‌های محاسباتی اختصاصی برای Apple Silicon و NVIDIA
* نرخ خروجی بیش از ۱۲۵ توکن در ثانیه روی MacBook M4 Pro
این مدل در بنچمارک SWE-bench Verified امتیاز ۷۴.۲ درصد را کسب کرده است و با ابزارهایی مانند rec، Ollama و vLLM سازگاری دارد. وزن‌های مدل تحت لایسنس Apache 2.0 در Hugging Face در دسترس است.
🔗 جزئیات خبر در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Flint_model #Mixture_of_Experts
🧠 خلاصه تحولات 24 ساعت گذشته هوش مصنوعی و علوم داده
🗂 گزارش #7 | 📌 5 آیتم گزارش | 🧾 از 13 پست بررسی‌شده
🕐 یکشنبه 1405/08/03 ساعت 14:00 تا دوشنبه 1405/08/04 ساعت 14:00
باز کردن قفل هسته های تنسور RTX 30 و اثر آن بر سرعت Prefill
جایگزینی ساب ایجنت ها با ابزارهای پویا در ایجنت مرکزی
⚡ بهینه‌سازی سخت‌افزار و معماری سیستم‌ها
🔬 مدل‌ها و متدهای جدید پردازش
🗂 گزارش #7 | 📌 5 آیتم گزارش | 🧾 از 13 پست بررسی‌شده
🕐 یکشنبه 1405/08/03 ساعت 14:00 تا دوشنبه 1405/08/04 ساعت 14:00
باز کردن قفل هسته های تنسور RTX 30 و اثر آن بر سرعت Prefill
گزارش منبع: در کاربردهای واقعی، سرعت Prefill در مدل های زبانی بزرگ (LLM) بین ۱۴ تا ۳۶ درصد افزایش می یابد و نتایج محاسباتی نیز بدون تغییر باقی می مانند.
برداشت: دور زدن محدودیت نرم افزاری درایور، محاسبه TFLOPS ضرب ماتریسی را بالا می برد و تاخیر پردازش پرامپت ورودی را در سروینگ محلی کم می کند.
نامشخص: میزان افزایش دمای کارت، پایداری تحت بار مداوم و سازگاری ماژول با نسخه های مختلف درایور انویدیا در متن مشخص نشده است.
آزمون پیشنهادی: اجرای بنچمارک vLLM روی کارت RTX 3090 Ti با پرامپت ۴۰۹۶ توکنی و سنجش تغییرات نرخ توکن Prefill و دقت خروجی نسبت به حالت پایه.
جایگزینی ساب ایجنت ها با ابزارهای پویا در ایجنت مرکزی
گزارش منبع: جایگزینی ساب-ایجنت ها با یک ایجنت مرکزی که دستورالعمل ها و ابزارهای مورد نیاز را به صورت پویا فراخوانی می کند، باعث حفظ بهتر بافتار (Context) و کاهش تداخلات می شود.
برداشت: کاهش تعداد ایجنت های واسط، فراخوانی های تکراری API را حذف می کند و با حفظ بافتار یکپارچه، تاخیر و هزینه عملیاتی را کاهش می دهد.
نامشخص: نقطه عطف پیچیدگی که در آن دستورالعمل های زیاد باعث سردرگمی ایجنت مرکزی شده و ایزوله سازی بافتار را ضروری می کند تعیین نشده است.
آزمون پیشنهادی: اجرای یک فرایند چندمرحله ای استخراج داده با دو معماری تک ایجنت ابزارمحور و چندایجنت، و مقایسه تاخیر کل، هزینه توکن و نرخ موفقیت.
⚡ بهینه‌سازی سخت‌افزار و معماری سیستم‌ها
افزایش توان محاسباتی پردازنده‌های RTX 30 با پروژه gpu-unlock
ماژول هسته لینوکس gpu-unlock محدودیت نرم‌افزاری هسته‌های تنسور RTX 3090 Ti را دور زده و سرعت Prefill مدل‌ها را تا ۳۶٪ بالا می‌برد.
ساده‌سازی معماری ایجنت‌های هوش مصنوعی توسط انتروپیک
بررسی انتروپیک نشان می‌دهد جایگزینی ساب‌ایجنت‌ها با یک ایجنت واحد و ابزارهای پویا، تاخیر را کم کرده و سرعت را تا دو برابر می‌رساند.
🔬 مدل‌ها و متدهای جدید پردازش
بهبود عملکرد مدل‌های کوچک در برنامه‌نویسی با متد GVS5H
روش GVS5H با اشتراک‌گذاری فایل و هماهنگی میان مدل‌های کوچک، دقت Qwen3.8-27B را در LiveCodeBench از ۶۶.۸٪ به ۹۲.۴٪ رسانده است.
انتشار مدل کدنویسی Flint با معماری MoE
مدل ۳۹.۸ میلیارد پارامتری Flint با ۲۵۶ کارشناس و پنجره متنی ۲۶۲ هزار توکنی، امتیاز ۷۴.۲٪ را در بنچمارک SWE-bench کسب کرد.
انتشار مدل Carbon-X برای تحلیل مستقیم توالی‌های DNA
مدل ۱۴.۸ میلیارد پارامتری Carbon-X بدون انکودر مجزا، توالی‌های خام DNA را دریافت کرده و به زبان انگلیسی پاسخ می‌دهد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
📉 پیش‌بینی ماسک از فروپاشی بازار نئوکلاودها
ایلان ماسک به‌تازگی اعلام کرده که بازار «نئوکلاودها» (شرکت‌هایی که تنها با اجاره دادن GPU درآمد کسب می‌کنند) با بحران جدی مواجه است. طبق گفته او، بازارهای مالی طی هفته‌های اخیر دسترسی به سرمایه را برای شرکت‌هایی که درآمدی مستقل از دیتاسنترهای هوش مصنوعی ندارند، تقریباً قطع کرده‌اند.
ماسک معتقد است بیش از ۲۰۰ شرکت ارائه‌دهنده خدمات ابر جدید با خطر نابودی و ادغام مواجه خواهند شد و تنها تعداد کمی از آن‌ها دوام می‌آورند.
در مقابل، او به وضعیت SpaceX اشاره کرد که موفق شده ۴۰ میلیارد دلار برای تأمین GPU وام بگیرد؛ چرا که این شرکت دارای رتبه اعتباری سرمایه‌گذاری است و درآمدهای مستقل از هوش مصنوعی، مانند خدمات Starlink و پروژه‌های پرتاب موشک دارد. وی همچنین نسبت به ایجاد ظرفیت‌های پردازشی بلااستفاده در دیتاسنترهای نیمه‌کاره هشدار داد.
🔗 ادامه مطلب در سایت
ایلان ماسک به‌تازگی اعلام کرده که بازار «نئوکلاودها» (شرکت‌هایی که تنها با اجاره دادن GPU درآمد کسب می‌کنند) با بحران جدی مواجه است. طبق گفته او، بازارهای مالی طی هفته‌های اخیر دسترسی به سرمایه را برای شرکت‌هایی که درآمدی مستقل از دیتاسنترهای هوش مصنوعی ندارند، تقریباً قطع کرده‌اند.
ماسک معتقد است بیش از ۲۰۰ شرکت ارائه‌دهنده خدمات ابر جدید با خطر نابودی و ادغام مواجه خواهند شد و تنها تعداد کمی از آن‌ها دوام می‌آورند.
در مقابل، او به وضعیت SpaceX اشاره کرد که موفق شده ۴۰ میلیارد دلار برای تأمین GPU وام بگیرد؛ چرا که این شرکت دارای رتبه اعتباری سرمایه‌گذاری است و درآمدهای مستقل از هوش مصنوعی، مانند خدمات Starlink و پروژه‌های پرتاب موشک دارد. وی همچنین نسبت به ایجاد ظرفیت‌های پردازشی بلااستفاده در دیتاسنترهای نیمه‌کاره هشدار داد.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🤖 معرفی بنچمارک BabelArena برای ارزیابی ایجنت‌های هوش مصنوعی
تیم Qwen بنچمارک BabelArena را برای سنجش عملکرد ایجنت‌های هوش مصنوعی در ۲۳ زبان مختلف منتشر کرد. این ابزار، برخلاف روش‌های معمول، علاوه بر پرسش کاربر، دستورالعمل‌ها، توصیف ابزارها و محیط کاری را نیز به زبان مقصد ترجمه می‌کند تا امکان مقایسه دقیق‌تر وظایف در زبان‌های مختلف فراهم شود.
بر اساس نتایج این تحقیق، مهم‌ترین نکات عبارتند از:
- هیچ مدل واحدی در تمامی زبان‌ها و حوزه‌ها برتر نیست.
- در زبان‌هایی با داده‌های آموزشی کمتر، نرخ خطا در فراخوانی ابزارها و ترتیب اقدامات افزایش می‌یابد.
- حجم توکن‌های ورودی در زبان‌های غیرانگلیسی معمولاً دو برابر است، بدون اینکه تعداد گام‌های اجرایی افزایش یابد.
- هنگام خروجی‌های ساختاریافته، ایجنت‌ها تمایل دارند از زبان مقصد خارج شده و به انگلیسی بازگردند.
🔗 جزئیات خبر در سایت
#BabelArena #Runtime_Data_Flow_Analysis
تیم Qwen بنچمارک BabelArena را برای سنجش عملکرد ایجنت‌های هوش مصنوعی در ۲۳ زبان مختلف منتشر کرد. این ابزار، برخلاف روش‌های معمول، علاوه بر پرسش کاربر، دستورالعمل‌ها، توصیف ابزارها و محیط کاری را نیز به زبان مقصد ترجمه می‌کند تا امکان مقایسه دقیق‌تر وظایف در زبان‌های مختلف فراهم شود.
بر اساس نتایج این تحقیق، مهم‌ترین نکات عبارتند از:
- هیچ مدل واحدی در تمامی زبان‌ها و حوزه‌ها برتر نیست.
- در زبان‌هایی با داده‌های آموزشی کمتر، نرخ خطا در فراخوانی ابزارها و ترتیب اقدامات افزایش می‌یابد.
- حجم توکن‌های ورودی در زبان‌های غیرانگلیسی معمولاً دو برابر است، بدون اینکه تعداد گام‌های اجرایی افزایش یابد.
- هنگام خروجی‌های ساختاریافته، ایجنت‌ها تمایل دارند از زبان مقصد خارج شده و به انگلیسی بازگردند.
🔗 جزئیات خبر در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#BabelArena #Runtime_Data_Flow_Analysis
📈 رشد تقاضا برای ابزارهای هوش مصنوعی در بازار کار
گزارش Creative Intelligence ۲۰۲۶ نشان می‌دهد که تقاضای بازار برای مهارت کار با ابزارهای هوش مصنوعی تغییرات قابل‌توجهی داشته است. در این بررسی، میزان رشد درخواست برای ابزارهای مختلف در نیمه اول سال ۲۰۲۶ نسبت به بازه مشابه در سال ۲۰۲۵ مقایسه شده است.
مهم‌ترین ابزارهایی که شاهد بیشترین رشد در تقاضای شغلی بوده‌اند عبارتند از:
* Higgsfield: با رشد ۲۵ برابری، صدرنشین فهرست است. این ابزار با استفاده از قابلیت
* Replit: با رشد ۱۰.۸ برابری.
* Claude: با رشد ۹.۹ برابری.
* Cursor: با رشد ۹ برابری.
* Google Gemini: با رشد ۵.۵ برابری.
این آمارها نشان‌دهنده تغییر گرایش کاربران و بازار به سمت ابزارهای تخصصی‌تر است، به‌طوری‌که در این بازه زمانی،
🔗 ادامه مطلب در سایت
#Higgsfield #Claude_Motion
گزارش Creative Intelligence ۲۰۲۶ نشان می‌دهد که تقاضای بازار برای مهارت کار با ابزارهای هوش مصنوعی تغییرات قابل‌توجهی داشته است. در این بررسی، میزان رشد درخواست برای ابزارهای مختلف در نیمه اول سال ۲۰۲۶ نسبت به بازه مشابه در سال ۲۰۲۵ مقایسه شده است.
مهم‌ترین ابزارهایی که شاهد بیشترین رشد در تقاضای شغلی بوده‌اند عبارتند از:
* Higgsfield: با رشد ۲۵ برابری، صدرنشین فهرست است. این ابزار با استفاده از قابلیت
Claude Motion، امکان تولید ویدیو از بریف اولیه تا تدوین نهایی را فراهم می‌کند.* Replit: با رشد ۱۰.۸ برابری.
* Claude: با رشد ۹.۹ برابری.
* Cursor: با رشد ۹ برابری.
* Google Gemini: با رشد ۵.۵ برابری.
این آمارها نشان‌دهنده تغییر گرایش کاربران و بازار به سمت ابزارهای تخصصی‌تر است، به‌طوری‌که در این بازه زمانی،
ChatGPT با رشد ۱.۳ برابری، کمترین میزان افزایش تقاضا را در میان ابزارهای بررسی‌شده ثبت کرده است.🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Higgsfield #Claude_Motion
This media is not supported in your browser
VIEW IN TELEGRAM
🫀 انتشار نسخه دوم مجموعه داده SKIM برای مدل‌سازی تغییر شکل بافت
مدل SOMA قادر است تغییر شکل عضلات را بر اساس مشاهدات سطحی که توسط دوربین‌های RGB چندمنظره ثبت شده، بازیابی کند. این نخستین روشی است که به چنین قابلیتی در حوزه تغییر شکل بافت‌های نرم دست یافته است.
همزمان با این مدل، نسخه دوم مجموعه داده SKIM V2 نیز منتشر شده است.
دسترسی به منابع این پروژه از طریق لینک‌های زیر امکان‌پذیر است:
- بررسی فنی (Review)
- مقاله پژوهشی
- مخزن کد (GitHub)
کد این پروژه تحت مجوز MIT منتشر شده و استفاده از داده‌ها و وزن‌های مدل برای مقاصد غیرتجاری (NC) مجاز است.
🔗 جزئیات خبر در سایت
#SKIM_V2 #SOMA_Model
مدل SOMA قادر است تغییر شکل عضلات را بر اساس مشاهدات سطحی که توسط دوربین‌های RGB چندمنظره ثبت شده، بازیابی کند. این نخستین روشی است که به چنین قابلیتی در حوزه تغییر شکل بافت‌های نرم دست یافته است.
همزمان با این مدل، نسخه دوم مجموعه داده SKIM V2 نیز منتشر شده است.
دسترسی به منابع این پروژه از طریق لینک‌های زیر امکان‌پذیر است:
- بررسی فنی (Review)
- مقاله پژوهشی
- مخزن کد (GitHub)
کد این پروژه تحت مجوز MIT منتشر شده و استفاده از داده‌ها و وزن‌های مدل برای مقاصد غیرتجاری (NC) مجاز است.
🔗 جزئیات خبر در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#SKIM_V2 #SOMA_Model
❤1
مدل هوش مصنوعی Nanbeige 4.3 با ۳۳ میلیارد پارامتر
تیم Nanbeige مدل جدید Nanbeige4.3-33B را با وزن‌های آزاد منتشر کرد. این مدل بر برنامه‌نویسی و انجام وظایف با ابزارها (Agentic tasks) تمرکز دارد و با هدف ایفای نقش به عنوان معلم برای آموزش مدل‌های کوچک‌تر در آینده، به‌ویژه نسخه 3B، توسعه یافته است.
طبق گزارش تیم سازنده، این مدل در بنچمارک‌های متعددی نسبت به مدل‌های هم‌رده ۳۰ میلیاردی عملکرد بهتری نشان می‌دهد. مهم‌ترین نتایج بنچمارک این مدل عبارتند از:
* Terminal-Bench 2.1: امتیاز ۸۰.۹
* DeepSWE: امتیاز ۶۵.۵
* NL2Repo: امتیاز ۵۳.۰
* SkillsBench: امتیاز ۶۱.۱
* DeepPlanning: امتیاز ۶۳.۳
این مدل در اکثر سناریوهای Agentic Coding و Agentic Cowork بر رقبایی مانند Qwen3.8-27B، Muse-Glimmer-30B و Gemma4-31B پیشی گرفته است. نسخه‌های اصلی و پایه این مدل هم‌اکنون در Hugging Face در دسترس قرار دارند.
🔗 جزئیات خبر در سایت
#Nanbeige4_3_33B #Agentic_Coding
تیم Nanbeige مدل جدید Nanbeige4.3-33B را با وزن‌های آزاد منتشر کرد. این مدل بر برنامه‌نویسی و انجام وظایف با ابزارها (Agentic tasks) تمرکز دارد و با هدف ایفای نقش به عنوان معلم برای آموزش مدل‌های کوچک‌تر در آینده، به‌ویژه نسخه 3B، توسعه یافته است.
طبق گزارش تیم سازنده، این مدل در بنچمارک‌های متعددی نسبت به مدل‌های هم‌رده ۳۰ میلیاردی عملکرد بهتری نشان می‌دهد. مهم‌ترین نتایج بنچمارک این مدل عبارتند از:
* Terminal-Bench 2.1: امتیاز ۸۰.۹
* DeepSWE: امتیاز ۶۵.۵
* NL2Repo: امتیاز ۵۳.۰
* SkillsBench: امتیاز ۶۱.۱
* DeepPlanning: امتیاز ۶۳.۳
این مدل در اکثر سناریوهای Agentic Coding و Agentic Cowork بر رقبایی مانند Qwen3.8-27B، Muse-Glimmer-30B و Gemma4-31B پیشی گرفته است. نسخه‌های اصلی و پایه این مدل هم‌اکنون در Hugging Face در دسترس قرار دارند.
🔗 جزئیات خبر در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Nanbeige4_3_33B #Agentic_Coding
آسیب‌پذیری AI Agent از طریق فایل‌های مارک‌داون
شرکت Forever Security نوعی حمله را شناسایی کرده که در آن عامل‌های برنامه‌نویسی (AI coding agents) با خواندن فایل‌های مخرب در پوشه Downloads، دستورات ناخواسته را اجرا می‌کنند. در این روش، مهاجمان با قرار دادن فایلی با نام
این مشکل نه یک باگ نرم‌افزاری، بلکه پیامد نحوه طراحی فعلی این ابزارهاست که فایل‌های متنی در مسیر کاری خود را به عنوان دستورالعمل‌های معتبر تلقی می‌کنند. طبق نتایج آزمایشگاهی، این حمله روی مدل‌های Codex و Claude Code در شرایط تست موفقیت‌آمیز بوده است.
برای کاهش ریسک امنیتی، نکات زیر را در نظر داشته باشید:
* هرگز عامل‌های هوش مصنوعی را در پوشه Downloads اجرا نکنید.
* فایل‌های ناشناس با نام
* قابلیت تایید دستی (Human-in-the-loop) و محیط ایزوله (Sandbox) را برای عامل‌ها فعال نگه دارید.
جزئیات بیشتر را در گزارش فنی Forever Security بخوانید.
🔗 توضیحات و نمونه‌کد در سایت
شرکت Forever Security نوعی حمله را شناسایی کرده که در آن عامل‌های برنامه‌نویسی (AI coding agents) با خواندن فایل‌های مخرب در پوشه Downloads، دستورات ناخواسته را اجرا می‌کنند. در این روش، مهاجمان با قرار دادن فایلی با نام
AGENTS.md در پوشه دانلودها، هوش مصنوعی را وادار به بازنویسی پیکربندی، نصب بسته‌های مخرب npm یا سرقت توکن‌های API می‌کنند.این مشکل نه یک باگ نرم‌افزاری، بلکه پیامد نحوه طراحی فعلی این ابزارهاست که فایل‌های متنی در مسیر کاری خود را به عنوان دستورالعمل‌های معتبر تلقی می‌کنند. طبق نتایج آزمایشگاهی، این حمله روی مدل‌های Codex و Claude Code در شرایط تست موفقیت‌آمیز بوده است.
برای کاهش ریسک امنیتی، نکات زیر را در نظر داشته باشید:
* هرگز عامل‌های هوش مصنوعی را در پوشه Downloads اجرا نکنید.
* فایل‌های ناشناس با نام
AGENTS.md یا CLAUDE.md را قبل از بررسی باز نکنید.* قابلیت تایید دستی (Human-in-the-loop) و محیط ایزوله (Sandbox) را برای عامل‌ها فعال نگه دارید.
جزئیات بیشتر را در گزارش فنی Forever Security بخوانید.
🔗 توضیحات و نمونه‌کد در سایت
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 معرفی مدل GPT-6.1 Terra با نصف قیمت نسل قبل
شرکت OpenAI مدل GPT-6.1 Terra را برای سناریوهای عاملی، کار با کامپیوتر و کدنویسی روزمره عرضه کرد. قیمت این مدل در API نسبت به GPT-5.6 Terra نصف شده است: ۱ دلار به ازای هر میلیون توکن ورودی و ۶ دلار برای هر میلیون توکن خروجی.
طبق اعلام این شرکت، این مدل مسائل را بیش از سه برابر سریع‌تر از Astra و GPT-6.1 Sol حل می‌کند. در بنچمارک Agents' Last Exam نیز عملکرد آن به شکل محسوسی از GPT-5.6 Terra بالاتر است و با قیمت توکن تقریباً یک‌دهمی، عملکردی مشابه GPT-6 Astra ارائه می‌دهد.
مدل جدید با شناسه
شرکت OpenAI مدل GPT-6.1 Terra را برای سناریوهای عاملی، کار با کامپیوتر و کدنویسی روزمره عرضه کرد. قیمت این مدل در API نسبت به GPT-5.6 Terra نصف شده است: ۱ دلار به ازای هر میلیون توکن ورودی و ۶ دلار برای هر میلیون توکن خروجی.
طبق اعلام این شرکت، این مدل مسائل را بیش از سه برابر سریع‌تر از Astra و GPT-6.1 Sol حل می‌کند. در بنچمارک Agents' Last Exam نیز عملکرد آن به شکل محسوسی از GPT-5.6 Terra بالاتر است و با قیمت توکن تقریباً یک‌دهمی، عملکردی مشابه GPT-6 Astra ارائه می‌دهد.
مدل جدید با شناسه
gpt-6.1-terra در API، Codex و ChatGPT Work در دسترس است و روند انتشار آن برای کاربران Plus، Pro، Enterprise و Edu در ChatGPT آغاز شده است.🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
💻 میزان حافظه لازم برای اجرای محلی مدل Qwen3-8B
بررسی‌های llamaperf نشان می‌دهد اجرای مدل Qwen3-8B با کوانتیزاسیون Q4_K_M و طول کانکست 8K به حدود ۷.۵ گیگابایت حافظه نیاز دارد که شامل وزن‌های مدل، KV-cache و بافرهای پردازشی است. این مقدار حافظه روی کارت گرافیک ۱۰ گیگابایتی یا مک با ۱۶ گیگابایت حافظه یکپارچه قابل اجراست.
با این حال، افزایش طول کانکست به 128K حجم حافظه مصرفی را تغییر می‌دهد؛ در این حالت تنها KV-cache در فرمت ۱۶ بیتی حدود ۱۹ گیگابایت حافظه اشغال می‌کند. کوانتیزه‌کردن وزن مدل به Q4 به‌طور خودکار KV-cache را ۴ بیتی نمی‌کند.
مصرف دقیق حافظه به موتور اجرا، فرمت کش و تنظیمات بستگی دارد، بنابراین هنگام اجرای محلی مدل‌ها باید طول پنجره گفتگو را هم در محاسبه حافظه در نظر گرفت.
🔗 ادامه مطلب در سایت
#Qwen3_8B #KV_cache
بررسی‌های llamaperf نشان می‌دهد اجرای مدل Qwen3-8B با کوانتیزاسیون Q4_K_M و طول کانکست 8K به حدود ۷.۵ گیگابایت حافظه نیاز دارد که شامل وزن‌های مدل، KV-cache و بافرهای پردازشی است. این مقدار حافظه روی کارت گرافیک ۱۰ گیگابایتی یا مک با ۱۶ گیگابایت حافظه یکپارچه قابل اجراست.
با این حال، افزایش طول کانکست به 128K حجم حافظه مصرفی را تغییر می‌دهد؛ در این حالت تنها KV-cache در فرمت ۱۶ بیتی حدود ۱۹ گیگابایت حافظه اشغال می‌کند. کوانتیزه‌کردن وزن مدل به Q4 به‌طور خودکار KV-cache را ۴ بیتی نمی‌کند.
مصرف دقیق حافظه به موتور اجرا، فرمت کش و تنظیمات بستگی دارد، بنابراین هنگام اجرای محلی مدل‌ها باید طول پنجره گفتگو را هم در محاسبه حافظه در نظر گرفت.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Qwen3_8B #KV_cache