🛡️ انویدیا یک سیستم امنیتی برای کنترل عامل‌های هوش مصنوعی ساخته است
انویدیا پلتفرمی به نام Open Agent Safety Platform معرفی کرده که اجازه می‌دهد عامل‌های هوش مصنوعی در یک محیط امن و ایزوله کار کنند.
🔹 چرا این پلتفرم لازم است؟
عامل‌های هوش مصنوعی وقتی مدت طولانی کار می‌کنند، ممکن است از وظیفه اصلی خود منحرف شوند. مثلاً دستورهای مبهم را اشتباه بفهمند یا وقتی به یک ممنوعیت می‌خورند، راه دور بزنند. به این حالت «رانش» می‌گویند.
نمی‌توان انتظار داشت که عامل خودش را کنترل کند. پس کنترل باید از بیرون اعمال شود.
🔹 دو لایه امنیتی
۱. لایه OpenShell (نرم‌افزار): عامل را داخل یک اتاق ایزوله (سندباکس) می‌گذارد. اپراتور از قبل مشخص می‌کند که عامل به چه فایل‌ها، آدرس‌های شبکه، ابزارها، فرآیندها و کلیدهایی دسترسی دارد. هر اتصال خروجی بررسی می‌شود: یا رد می‌شود، یا کلید موقت دریافت می‌کند، یا مسدود و ثبت می‌شود.
۲. لایه NVIDIA Sentry (سخت‌افزار): یک نگهبان سخت‌افزاری روی تراشه BlueField-4 است. این تراشه جدا از کامپیوتر اصلی قرار دارد و عامل نمی‌تواند آن را ببیند یا دستکاری کند. اگر عامل بخواهد از مرزها عبور کند، در میلی‌ثانیه متوقف می‌شود.
🔹 چرا نگهبان سخت‌افزاری؟
چون اگر نگهبان داخل همان کامپیوتر باشد، عامل ممکن است آن را دور بزند. نگهبان باید بیرون از دسترس عامل باشد.
🔹 سیاست‌ها چطور تعریف می‌شوند؟
در فایل‌های YAML. مثلاً می‌توان گفت: «خواندن از API گیت‌هاب مجاز است، ولی نوشتن ممنوع.» این قوانین می‌توانند حتی تا سطح متد HTTP و مسیر دقیق شوند.
🔹 در سیستم‌های Vera Rubin
تراشه BlueField-4 در هر ماژول محاسباتی و روی تنها مسیر بین گره و مدل قرار دارد. یعنی همه ارتباطات از این نگهبان عبور می‌کند.
🔹 از چه عامل‌هایی پشتیبانی می‌کند؟
عامل‌های Claude Code، Codex، OpenCode و GitHub Copilot CLI به‌صورت پیش‌فرض. همچنین OpenClaw و Hermes Agent از طریق قالب‌های NemoClaw.
🔹 نصب و وضعیت
روی لینوکس، مک با Apple Silicon و ویندوز از طریق WSL 2 (آزمایشی) با یک اسکریپت نصب می‌شود. فعلاً نسخه آلفا ۰.۱.۰ است.
🎯 نکته مهم
کنترل امنیتی به‌جای اینکه به خود عامل سپرده شود، از بیرون اعمال می‌شود. عامل حتی لازم نیست بداند تحت نظارت است.
🔗 منبع: developer.nvidia.com
#AI #NVIDIA #AgentSafety #OpenShell #BlueField
🆔 @asrgooyeshpardaz
انویدیا پلتفرمی به نام Open Agent Safety Platform معرفی کرده که اجازه می‌دهد عامل‌های هوش مصنوعی در یک محیط امن و ایزوله کار کنند.
🔹 چرا این پلتفرم لازم است؟
عامل‌های هوش مصنوعی وقتی مدت طولانی کار می‌کنند، ممکن است از وظیفه اصلی خود منحرف شوند. مثلاً دستورهای مبهم را اشتباه بفهمند یا وقتی به یک ممنوعیت می‌خورند، راه دور بزنند. به این حالت «رانش» می‌گویند.
نمی‌توان انتظار داشت که عامل خودش را کنترل کند. پس کنترل باید از بیرون اعمال شود.
🔹 دو لایه امنیتی
۱. لایه OpenShell (نرم‌افزار): عامل را داخل یک اتاق ایزوله (سندباکس) می‌گذارد. اپراتور از قبل مشخص می‌کند که عامل به چه فایل‌ها، آدرس‌های شبکه، ابزارها، فرآیندها و کلیدهایی دسترسی دارد. هر اتصال خروجی بررسی می‌شود: یا رد می‌شود، یا کلید موقت دریافت می‌کند، یا مسدود و ثبت می‌شود.
۲. لایه NVIDIA Sentry (سخت‌افزار): یک نگهبان سخت‌افزاری روی تراشه BlueField-4 است. این تراشه جدا از کامپیوتر اصلی قرار دارد و عامل نمی‌تواند آن را ببیند یا دستکاری کند. اگر عامل بخواهد از مرزها عبور کند، در میلی‌ثانیه متوقف می‌شود.
🔹 چرا نگهبان سخت‌افزاری؟
چون اگر نگهبان داخل همان کامپیوتر باشد، عامل ممکن است آن را دور بزند. نگهبان باید بیرون از دسترس عامل باشد.
🔹 سیاست‌ها چطور تعریف می‌شوند؟
در فایل‌های YAML. مثلاً می‌توان گفت: «خواندن از API گیت‌هاب مجاز است، ولی نوشتن ممنوع.» این قوانین می‌توانند حتی تا سطح متد HTTP و مسیر دقیق شوند.
🔹 در سیستم‌های Vera Rubin
تراشه BlueField-4 در هر ماژول محاسباتی و روی تنها مسیر بین گره و مدل قرار دارد. یعنی همه ارتباطات از این نگهبان عبور می‌کند.
🔹 از چه عامل‌هایی پشتیبانی می‌کند؟
عامل‌های Claude Code، Codex، OpenCode و GitHub Copilot CLI به‌صورت پیش‌فرض. همچنین OpenClaw و Hermes Agent از طریق قالب‌های NemoClaw.
🔹 نصب و وضعیت
روی لینوکس، مک با Apple Silicon و ویندوز از طریق WSL 2 (آزمایشی) با یک اسکریپت نصب می‌شود. فعلاً نسخه آلفا ۰.۱.۰ است.
🎯 نکته مهم
کنترل امنیتی به‌جای اینکه به خود عامل سپرده شود، از بیرون اعمال می‌شود. عامل حتی لازم نیست بداند تحت نظارت است.
🔗 منبع: developer.nvidia.com
#AI #NVIDIA #AgentSafety #OpenShell #BlueField
🆔 @asrgooyeshpardaz
NVIDIA Technical Blog
NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent Monitoring
To understand where agentic AI stands today, consider the last seismic shift in technology: the rise of the internet in the 90s. It was new and full of possibilities. You could build a website over a…
❤5