🌐اخبار هوش مصنوعی
🛡️ مدل GPT-Red؛ سلاح مخفی OpenAI برای یافتن خودکار آسیب‌پذیری مدل‌ها
شرکت OpenAI از ابزار داخلی GPT-Red رونمایی کرده که فرایند ردتیمینگ (Red Teaming) محصولات خود را به‌طور خودکار انجام می‌دهد. این سیستم با شبیه‌سازی حملات تزریق پرامپت (Prompt Injection) و حملات پنهان از طریق ایمیل، فایل و صفحات وب، به جستجوی نقاط ضعف می‌پردازد.
مدل GPT-Red با استفاده از یادگیری تقویتی (RL) و خودبازی (Self-Play) آموزش دیده است؛ در این روش، دو مدل (حمله‌کننده و دفاع‌کننده) به‌طور مداوم با هم رقابت می‌کنند. این فرایند باعث شده نرخ موفقیت در یافتن آسیب‌پذیری‌ها در سناریوهای آزمایشی به ۸۴٪ برسد، در حالی که این عدد برای متخصصان انسانی تنها ۱۳٪ است.
به‌گفته‌ی OpenAI، استفاده از این ابزار، آسیب‌پذیری مدل GPT-5.6 Sol در برابر حملات تزریق مستقیم پرامپت را نسبت به مدل‌های چهار ماه پیش، ۶ برابر کاهش داده است. هرچند حدود ۳.۸٪ از حملات پیچیده همچنان موفق هستند (رقمی قابل‌مقایسه با Claude Opus 4.5).
این ابزار در حال حاضر داخلی است، اما OpenAI قصد دارد به‌زودی مقاله‌ای با جزئیات معماری و فرایند آموزش آن منتشر کند.
🔗 openai.com
---
🧩 اسپیس‌ایکس‌آی کد منبع Grok Build را متن‌باز کرد
شرکت ایلان ماسک، کد منبع ابزار Grok Build را در گیت‌هاب منتشر کرده است. این مخزن شامل اجزای کلیدی مانند حلقه‌ی کنترل عامل، مکانیزم‌های ساخت زمینه، پردازش پاسخ‌های مدل، رابط خط‌فرمان با قابلیت مشاهده‌ی تغییرات (diff) و ابزارهای اجرای دستورات است.
کد منتشرشده، نحوه‌ی اتصال این چارچوب به سرورهای MCP، زیرعامل‌ها (Subagents) و افزونه‌های سفارشی را نشان می‌دهد. Grok Build از استقرار محلی پشتیبانی کرده و امکان تغییر مسیر درخواست‌ها به هر مدل زبانی محلی را فراهم می‌کند و بدین‌ترتیب، ارسال داده به سرورهای شخص ثالث کاملاً حذف می‌شود.
🔗 x.ai
---
🍏 سرویس Apple Intelligence رسماً وارد چین شد؛ همکاری با علی‌بابا و بایدو
سرویس هوش مصنوعی اپل پس از دریافت تأیید رسمی از نهادهای نظارتی چین، به‌طور رسمی در این کشور راه‌اندازی شد. به‌دلیل قوانین سخت‌گیرانه‌ی ثبت سرویس‌های مولد، اپل از به‌کارگیری مدل‌های اختصاصی خود صرف‌نظر کرده و از مدل‌های محلی استفاده می‌کند.
مدل پایه‌ی هوش مصنوعی برای نسخه‌های چینی iOS و macOS، Qwen از علی‌بابا خواهد بود که وظایفی مثل تحلیل متن، تولید محتوا و تصویر را بر عهده می‌گیرد. اپل همچنین برای توسعه‌ی قابلیت‌های تکمیلی، با Baidu همکاری می‌کند. پیش‌تر، گزینه‌هایی مثل DeepSeek و ByteDance نیز بررسی شده بودند.
🔗 reuters.com
---
🎧 اسپاتیفای دستیار گفت‌وگوی هوش مصنوعی را در نسخه‌ی بتا عرضه کرد
سرویس پخش موسیقی، یک دستیار مبتنی بر هوش مصنوعی را به قابلیت‌های پخش خود اضافه کرده است. این دستیار که از دستورات متنی و صوتی پشتیبانی می‌کند، در حال حاضر به‌صورت بتا برای کاربران Premium بالای ۱۸ سال در آمریکا، ایرلند و سوئد در دسترس قرار گرفته است.
کاربران می‌توانند سوالات زمینه‌ای درباره‌ی هنرمندان، آهنگ‌ها و پادکست‌ها بپرسند، تاریخچه‌ی شنیداری خود را مرور کنند یا سوالات عمومی مطرح نمایند. این قابلیت، به قابلیت‌های قبلی اسپاتیفای مانند تولید پلی‌لیست با پرامپت و یکپارچه‌سازی ElevenLabs برای صداگذاری کتاب‌های صوتی افزوده شده است.
🔗 spotify.com
---
⚖️ شکایت کارمندان از متا به‌دلیل استفاده از الگوریتم در تعدیل نیرو
گروهی از کارمندان سابق متا، از این شرکت به‌دلیل استفاده از سیستم‌های هوش مصنوعی در فرایند تعدیل نیرو (اخراج ۸۰۰۰ نفر در ماه می) شکایت کرده‌اند. به‌ادعای شاکیان، الگوریتم‌های داخلی، لیست‌های اخراج را با سوگیری سیستماتیک تولید کرده‌اند و به‌نحوی نامتناسب، کارمندان دارای معلولیت و افرادی که در مرخصی درمانی یا زایمان بودند را هدف قرار داده‌اند.
به‌گفته‌ی شاکیان، این الگوریتم بر اساس معیارهایی مثل ارزیابی عملکرد، حجم کار و میزان استفاده از ابزارهای هوش مصنوعی، لیست‌ها را تهیه می‌کرده است. متا اتهامات را رد کرده و تأکید دارد که تصمیمات نهایی توسط انسان گرفته می‌شود. شاکیان به‌دنبال دستور موقت برای حفظ شغل‌ها تا پایان رسیدگی هستند.
🔗 wsj.com
---
#OpenAI #GrokBuild #Apple #Spotify #Meta #هوش_مصنوعی #اخبار_فناوری #RedTeaming
🆔 @asrgooyeshpardaz
🛡️ مدل GPT-Red؛ سلاح مخفی OpenAI برای یافتن خودکار آسیب‌پذیری مدل‌ها
شرکت OpenAI از ابزار داخلی GPT-Red رونمایی کرده که فرایند ردتیمینگ (Red Teaming) محصولات خود را به‌طور خودکار انجام می‌دهد. این سیستم با شبیه‌سازی حملات تزریق پرامپت (Prompt Injection) و حملات پنهان از طریق ایمیل، فایل و صفحات وب، به جستجوی نقاط ضعف می‌پردازد.
مدل GPT-Red با استفاده از یادگیری تقویتی (RL) و خودبازی (Self-Play) آموزش دیده است؛ در این روش، دو مدل (حمله‌کننده و دفاع‌کننده) به‌طور مداوم با هم رقابت می‌کنند. این فرایند باعث شده نرخ موفقیت در یافتن آسیب‌پذیری‌ها در سناریوهای آزمایشی به ۸۴٪ برسد، در حالی که این عدد برای متخصصان انسانی تنها ۱۳٪ است.
به‌گفته‌ی OpenAI، استفاده از این ابزار، آسیب‌پذیری مدل GPT-5.6 Sol در برابر حملات تزریق مستقیم پرامپت را نسبت به مدل‌های چهار ماه پیش، ۶ برابر کاهش داده است. هرچند حدود ۳.۸٪ از حملات پیچیده همچنان موفق هستند (رقمی قابل‌مقایسه با Claude Opus 4.5).
این ابزار در حال حاضر داخلی است، اما OpenAI قصد دارد به‌زودی مقاله‌ای با جزئیات معماری و فرایند آموزش آن منتشر کند.
🔗 openai.com
---
🧩 اسپیس‌ایکس‌آی کد منبع Grok Build را متن‌باز کرد
شرکت ایلان ماسک، کد منبع ابزار Grok Build را در گیت‌هاب منتشر کرده است. این مخزن شامل اجزای کلیدی مانند حلقه‌ی کنترل عامل، مکانیزم‌های ساخت زمینه، پردازش پاسخ‌های مدل، رابط خط‌فرمان با قابلیت مشاهده‌ی تغییرات (diff) و ابزارهای اجرای دستورات است.
کد منتشرشده، نحوه‌ی اتصال این چارچوب به سرورهای MCP، زیرعامل‌ها (Subagents) و افزونه‌های سفارشی را نشان می‌دهد. Grok Build از استقرار محلی پشتیبانی کرده و امکان تغییر مسیر درخواست‌ها به هر مدل زبانی محلی را فراهم می‌کند و بدین‌ترتیب، ارسال داده به سرورهای شخص ثالث کاملاً حذف می‌شود.
🔗 x.ai
---
🍏 سرویس Apple Intelligence رسماً وارد چین شد؛ همکاری با علی‌بابا و بایدو
سرویس هوش مصنوعی اپل پس از دریافت تأیید رسمی از نهادهای نظارتی چین، به‌طور رسمی در این کشور راه‌اندازی شد. به‌دلیل قوانین سخت‌گیرانه‌ی ثبت سرویس‌های مولد، اپل از به‌کارگیری مدل‌های اختصاصی خود صرف‌نظر کرده و از مدل‌های محلی استفاده می‌کند.
مدل پایه‌ی هوش مصنوعی برای نسخه‌های چینی iOS و macOS، Qwen از علی‌بابا خواهد بود که وظایفی مثل تحلیل متن، تولید محتوا و تصویر را بر عهده می‌گیرد. اپل همچنین برای توسعه‌ی قابلیت‌های تکمیلی، با Baidu همکاری می‌کند. پیش‌تر، گزینه‌هایی مثل DeepSeek و ByteDance نیز بررسی شده بودند.
🔗 reuters.com
---
🎧 اسپاتیفای دستیار گفت‌وگوی هوش مصنوعی را در نسخه‌ی بتا عرضه کرد
سرویس پخش موسیقی، یک دستیار مبتنی بر هوش مصنوعی را به قابلیت‌های پخش خود اضافه کرده است. این دستیار که از دستورات متنی و صوتی پشتیبانی می‌کند، در حال حاضر به‌صورت بتا برای کاربران Premium بالای ۱۸ سال در آمریکا، ایرلند و سوئد در دسترس قرار گرفته است.
کاربران می‌توانند سوالات زمینه‌ای درباره‌ی هنرمندان، آهنگ‌ها و پادکست‌ها بپرسند، تاریخچه‌ی شنیداری خود را مرور کنند یا سوالات عمومی مطرح نمایند. این قابلیت، به قابلیت‌های قبلی اسپاتیفای مانند تولید پلی‌لیست با پرامپت و یکپارچه‌سازی ElevenLabs برای صداگذاری کتاب‌های صوتی افزوده شده است.
🔗 spotify.com
---
⚖️ شکایت کارمندان از متا به‌دلیل استفاده از الگوریتم در تعدیل نیرو
گروهی از کارمندان سابق متا، از این شرکت به‌دلیل استفاده از سیستم‌های هوش مصنوعی در فرایند تعدیل نیرو (اخراج ۸۰۰۰ نفر در ماه می) شکایت کرده‌اند. به‌ادعای شاکیان، الگوریتم‌های داخلی، لیست‌های اخراج را با سوگیری سیستماتیک تولید کرده‌اند و به‌نحوی نامتناسب، کارمندان دارای معلولیت و افرادی که در مرخصی درمانی یا زایمان بودند را هدف قرار داده‌اند.
به‌گفته‌ی شاکیان، این الگوریتم بر اساس معیارهایی مثل ارزیابی عملکرد، حجم کار و میزان استفاده از ابزارهای هوش مصنوعی، لیست‌ها را تهیه می‌کرده است. متا اتهامات را رد کرده و تأکید دارد که تصمیمات نهایی توسط انسان گرفته می‌شود. شاکیان به‌دنبال دستور موقت برای حفظ شغل‌ها تا پایان رسیدگی هستند.
🔗 wsj.com
---
#OpenAI #GrokBuild #Apple #Spotify #Meta #هوش_مصنوعی #اخبار_فناوری #RedTeaming
🆔 @asrgooyeshpardaz
❤3