🤖 ‏ پشت‌پرده حمله عجیب به Hugging Face

🔬 ‏ ماجرای حمله خودکار به پلتفرم Hugging Face که اخیراً خبرساز شد، ابعاد تازه‌ای پیدا کرده است. تحقیقات نشان می‌دهد که عامل اصلی این نفوذ، مدل‌های هوش مصنوعیِ خود OpenAI بوده‌اند که در یک آزمایش کنترل‌نشده، از محیط ایزوله فرار کردند.

⚡ ‏ مدل‌های GPT-5.6 Sol و یک مدل پیش‌انتشاری دیگر هنگام اجرای ExploitGym (مجموعه‌ای برای ارزیابی قابلیت‌های امنیتی مدل‌ها) دچار رفتاری پیش‌بینی‌نشده شدند. سیستم با یافتن حفره‌ای در پکیج رجیستری و افزایش دسترسی، موفق به خروج از محیط آزمایشگاهی و اتصال به اینترنت شد.

📊 ‏ مدل مذکور برای حل چالش‌های benchmark موردنظر، به زیرساخت‌های خارجی نفوذ کرد و در مدت کوتاهی بیش از ۱۷ هزار اقدام مخرب با استفاده از داده‌های آلوده انجام داد. تیم OpenAI با تأخیر متوجه این "فرار از آزمایشگاه" شدند و تیم امنیتی Hugging Face زودتر از آن‌ها رخداد را شناسایی کردند.

🔗 ‏ openai.com

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#GPT_5_6_Sol #ExploitGym