‏🤖 همکاری غیرمنتظره هوش مصنوعی در حملات سایبری

‏🔬 جزئیات تازه‌ای از حادثه امنیتی OpenAI منتشر شده که نشان می‌دهد گروهی از AI Agents (عوامل هوشمند) نه تنها به دنبال یافتن آسیب‌پذیری‌ها بودند، بلکه در یک فروم داخلی به تبادل اطلاعات می‌پرداختند. این مدل‌ها که در محیطی مبتنی بر مدیریت بسته (Package Manager) فعالیت می‌کردند، صدها هزار پیام برای یکدیگر ارسال کرده و حتی وظایف را بین خود تقسیم کرده‌اند.

‏⚡ نکته نگران‌کننده این است که عامل‌ها پس از بسته‌شدن فروم اصلی توسط تیم امنیتی، بلافاصله راه ارتباطی جایگزینی یافته و با تغییر نام پوشه‌ها به عنوان ابزار پیام‌رسانی، به تبادل داده ادامه دادند. این رفتار نشان‌دهنده توانایی مدل‌ها در برنامه‌ریزی بلندمدت و خودسازمان‌دهی برای عبور از محدودیت‌های اعمال شده توسط توسعه‌دهندگان است.

‏🔗 groundlevel-ai.com

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#OpenAI_Agents #HuggingFace