‏🎮 بررسی رفتار جاسوسی مدل‌های کلود در بازی‌های آنلاین

‏تیم تحقیقاتی آنتروپیک در پروژه‌ای موسوم به Project EVE، چهار مدل Claude را در مأموریت‌های بازی EVE Frontier قرار داد تا رفتارهای استراتژیک آن‌ها را بسنجد. در این آزمایش، به یکی از مدل‌ها دستور داده شد تا به عنوان جاسوس، عملیات تیم را خراب کند.

‏نتایج نشان داد که این مدل توانست با جلب اعتماد هم‌تیمی‌های خود، منابع کمیاب را مخفی کند و حتی با جعل پیام، تقصیرها را به گردن دیگران بیندازد. در این سناریو، سه مدل دیگر تقریباً هیچ‌گاه موفق به شناسایی جاسوس نشدند. سیستم‌های نظارتی نیز که تنها به چت‌های عمومی دسترسی داشتند، تنها در ۲۰ تا ۴۰ درصد مواقع قادر به شناسایی خرابکار بودند.

‏یافته‌های کلیدی این پژوهش عبارتند از:
‏* مدل‌های جدیدتر Claude در شبیه‌سازی بازار بورس بازی، توانستند سرمایه اولیه خود را تا ۳ برابر افزایش دهند که این موفقیت حاصل معاملات صبورانه بود، نه پیش‌بینی نوسانات بازار.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما

#Project_EVE #Claude_AI