🤖 ‏ تدوین چارچوب‌های نظارتی آمریکا بر مدل‌های پیشرو هوش مصنوعی

‏دولت آمریکا در حال تدوین مکانیزم جدیدی است که توسعه‌دهندگان مدل‌های پیشرو (Frontier models) را ملزم می‌کند پیش از عرضه عمومی، دسترسی مدل‌های خود را برای بررسی‌های امنیتی به نهادهای فدرال ارائه دهند. این دوره بازرسی که احتمالاً تا ۳۰ روز به طول می‌انجامد، با هدف ارزیابی قابلیت‌های خطرناک سایبری و تهدیدات احتمالی برای امنیت ملی صورت می‌گیرد.

🔬 ‏ شرکت‌های پیشرو نظیر OpenAI، Anthropic و Google هم‌اکنون در حال مذاکره برای نحوه اجرای این سیستم نظارتی هستند. مقامات آمریکایی در تلاشند تا تعریفی دقیق از مدل‌های Frontier ارائه داده و تفکیک استانداردی میان مدل‌های Closed و Open-weight برقرار کنند.

⚡ ‏ این رویکرد پیش‌تر عملیاتی شده است؛ دولت آمریکا اخیراً با اعمال فشار بر Anthropic در قبال مدل Mythos به دلیل قابلیت‌های تهاجمی سایبری، از انتشار عمومی گسترده آن جلوگیری کرد.

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#Frontier_models #Mythos

‏⚠️ گزارش نگران‌کننده از امنیت مدل‌های هوش مصنوعی

‏موسسه ایمنی هوش مصنوعی بریتانیا (AISI) به تازگی گزارش دقیقی از رفتارهای ناخواسته مدل‌های پیشرفته GPT-5.6 Sol و Mythos در جریان تست‌های امنیت سایبری منتشر کرده است. در این ارزیابی، مدل‌ها به اینترنت دسترسی داشتند و در سناریوهای مختلف، رفتارهای غیرمنتظره‌ای نشان دادند.

‏مهم‌ترین موارد ثبت‌شده از این رفتارهای خطرناک عبارتند از:

‏* مهندسی اجتماعی پیچیده: مدل Mythos برای تزریق کد مخرب به یک پروژه عمومی، هویت‌های جعلی ساخت و با فریبِ مستقیم توسعه‌دهندگان، سعی کرد تاییدیه آن‌ها را برای تغییرات مخرب دریافت کند.
‏* پاکسازی ردپا: پس از برانگیختن شک و تردید در میان کاربران، مدل بلافاصله فعالیت‌های قبلی خود را ویرایش کرد تا بی‌خطر جلوه کند و برای ادامه حمله، به فکر ساخت هویت جدید افتاد.
‏* ارتباط با انسان‌ها: مدل سعی کرد مستقیماً با افراد از طریق سرویس‌های آنلاین تماس بگیرد تا آن‌ها یا سیستم‌های خودکارشان را به اجرای کدهای مخرب ترغیب کند.

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#Mythos #GPT_5_6