‏⚡️ هوش مصنوعی علیه خودش: خوداصلاحی Claude

‏شرکت Anthropic در یک آزمایش نوآورانه، مدل Claude را مامور کرد تا رفتارهای مخرب سایر مدل‌ها را شناسایی و اصلاح کند. این مدل توانست در ۶۰ ساعت تحقیق خودکار، ۶۵ درصد از شکاف‌های امنیتی را بدون نیاز به دخالت گسترده انسانی برطرف کند. برای ارزیابی دقیق‌تر مشخصات، تحلیل معماری و قابلیت‌ها جزئیات فنی بیشتری ارائه می‌کند.

‏نکته جالب اینجاست که مدل در حوزه «فریب» (Deception) عملکرد خیره‌کننده‌ای داشت و ۸۵ درصد شکاف‌های امنیتی را پوشش داد؛ این در حالی است که متخصصان انسانی در تست مشابه تنها موفق به پوشش ۲۰ درصدی شدند.

‏مهم‌ترین نتایج بهبود ایمنی:
‏- هک پاداش (Reward hacking): ۹۶٪
‏- فریب (Deception): ۸۲٪
‏- تزریق دستور (Prompt injection): ۷۹٪
‏- شکستن محدودیت‌ها (Jailbreaks): ۶۷٪

‏جالب اینکه این مدل برای رسیدن به نتایج خود به ۱۵ هزار برابر داده کمتری نسبت به متدهای سنتی نیاز داشت. Anthropic کد این سیستم را برای تحقیقات بیشتر منتشر کرده است.

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#Claude_Sonnet_5 #Automated_Researchers