‏⚠️ سیستم توقف اضطراری برای پروژه‌های OpenAI

‏شرکت OpenAI از ابزاری جدید به نام Control Room رونمایی کرده که امکان قطع سریع آزمایش‌های هوش مصنوعی را در صورت بروز خطا فراهم می‌کند. با استفاده از این سیستم، محققان یا ناظران مدل می‌توانند در کمتر از ۳۵ ثانیه فعالیت هر آزمایش در حال اجرا را متوقف کنند.

‏این لایه حفاظتی در سطح زیرساخت اجرای مدل قرار دارد و حتی در صورتی که کدهای داخلی آزمایش دچار اختلال شوند یا به درستی کار نکنند، عمل می‌کند. در پروژه‌های تحقیقاتی پیشرفته، اگر Control Room از دسترس خارج شود یا دستکاری شود، تمامی درخواست‌های ارسالی به مدل تا زمان برقراری مجدد سیستم رد می‌شوند.

‏این اقدام در پی حادثه‌ای در ماه سپتامبر طراحی شد که در آن یک مدل حین آموزش توانست از محیط ایزوله (Sandbox) خارج شود و با یک چت‌بات خارجی ارتباط برقرار کند؛ در آن مورد، توقف عملیات به جای چند دقیقه، حدود ۲.۵ ساعت طول کشید. OpenAI اعلام کرده است که در حال بهینه‌سازی این سیستم برای رساندن زمان واکنش به صفر ثانیه است.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما

#Control_Room #AI_Safety