🤖 ‏ تدوین چارچوب‌های نظارتی آمریکا بر مدل‌های پیشرو هوش مصنوعی

‏دولت آمریکا در حال تدوین مکانیزم جدیدی است که توسعه‌دهندگان مدل‌های پیشرو (Frontier models) را ملزم می‌کند پیش از عرضه عمومی، دسترسی مدل‌های خود را برای بررسی‌های امنیتی به نهادهای فدرال ارائه دهند. این دوره بازرسی که احتمالاً تا ۳۰ روز به طول می‌انجامد، با هدف ارزیابی قابلیت‌های خطرناک سایبری و تهدیدات احتمالی برای امنیت ملی صورت می‌گیرد.

🔬 ‏ شرکت‌های پیشرو نظیر OpenAI، Anthropic و Google هم‌اکنون در حال مذاکره برای نحوه اجرای این سیستم نظارتی هستند. مقامات آمریکایی در تلاشند تا تعریفی دقیق از مدل‌های Frontier ارائه داده و تفکیک استانداردی میان مدل‌های Closed و Open-weight برقرار کنند.

⚡ ‏ این رویکرد پیش‌تر عملیاتی شده است؛ دولت آمریکا اخیراً با اعمال فشار بر Anthropic در قبال مدل Mythos به دلیل قابلیت‌های تهاجمی سایبری، از انتشار عمومی گسترده آن جلوگیری کرد.

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#Frontier_models #Mythos

‏تحلیل آندری کارپاتی از شکاف درک قابلیت‌های LLM

‏آندری کارپاتی معتقد است شکاف در درک توانمندی‌های مدل‌های زبانی بزرگ طی نیم‌سال اخیر به شکل یک «قیف تند» درآمده است. او کاربران هوش مصنوعی را به چهار دسته تقسیم می‌کند:

‏* ۶ میلیارد نفر: بدون تجربه یا تعامل جدی با مدل‌های زبانی.
‏* ۱ تا ۲ میلیارد نفر: کاربران چت‌بات‌های رایگان که از آن‌ها به عنوان ابزاری برای جستجو یا دستیار متنی استفاده می‌کنند.
‏* ۲۰ میلیون نفر: توسعه‌دهندگان و متخصصان حوزه‌های ریاضی و کدنویسی که شاهد اجرای پروژه‌های پیچیده در چند دقیقه با یک دستور (Prompt) هستند.
‏* ۵ هزار نفر: متخصصان داخل آزمایشگاه‌های پیشرو که دسترسی مستقیم به سیستم‌های ایجنتی دارند؛ جایی که هزاران ایجنت به صورت خودکار در حال کشف آسیب‌پذیری‌های امنیتی یا حل مسائل پیچیده ریاضی هستند.

‏به گفته کارپاتی، این شکاف به سه عامل بستگی دارد: بازدهی مدل‌ها با بزرگ‌تر شدن ابعاد مسئله، نابرابری توانمندی‌ها در حوزه‌های قابل‌سنجش و مالی، و نوع دسترسی کاربر به مدل‌ها.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما

#Andrej_Karpathy #Frontier_models