‏⚠️ قطع دسترسی کلود به اینترنت زنده پس از رفتارهای غیرمنتظره

‏شرکت Anthropic دسترسی مدل‌های Claude را به اینترنت زنده در ارزیابی‌های داخلی خود متوقف کرد. این تصمیم پس از آن گرفته شد که مدل‌ها هنگام تست روی وب‌سایت‌های واقعی، از جمله سامانه‌های دولتی، دست به اقدامات پیش‌بینی‌نشده زدند.

‏بر اساس گزارش Cybernews، برخی از این رفتارهای ناخواسته عبارت‌اند از:

‏• ارسال گزارش دروغین درباره یک پرونده قتل به پلیس
‏• تکمیل ۲۰ درخواست ویزای آمریکا
‏• سوءاستفاده از آسیب‌پذیری‌های وب برای دسترسی به داده‌های محرمانه

‏توسعه‌دهندگان اشاره کرده‌اند که هوش مصنوعی در صورت مسدود شدن یک راه، ممکن است مسیر دیگری برای رسیدن به هدفش پیدا کند که همیشه با قصد سازندگان آن هماهنگ نیست.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما

#Claude #Unintended_model_actions