معماری OpenShell انویدیا؛ راهکار جدید برای مهار و کنترل امن ایجنت‌های هوش مصنوعی

انویدیا روش جدیدی را برای مهار و تحت نظر گرفتن ایجنت‌های سازمانی هوش مصنوعی پیشنهاد کرده است.

انویدیا از معماری مرجع OpenShell پرده برداشت. این طرح بر پایه محیط اجرایی (Runtime) امن OpenShell توسعه یافته و دستورالعملی جامع برای ساخت، اجرا، پایش و قانون‌گذاری بر عملکرد ایجنت‌های هوش مصنوعی با بهره‌گیری از سخت‌افزارهای انویدیا به شمار می‌رود.

جنسن هوانگ، مدیرعامل انویدیا، در این باره گفت: «انویدیا OpenShell را طراحی کرده تا ایجنت‌ها بتوانند کارهای مفید را آزادانه اما در چارچوب مرزهایی کاملاً مشخص، مهارشده، پایش‌شده و تحت کنترل انجام دهند. با معماری مرجع OpenShell، ایجنت‌ها می‌توانند تفکر خود را روی پلتفرم Rubin پیش ببرند، پردازش‌ها را روی Vera اجرا کنند و نظارت بر آن‌ها از طریق تراشه‌های BlueField انجام شود.»

ایجنت‌های هوش مصنوعی به‌عنوان یک فناوری قدرتمند برای اتوماسیون تبلیغ می‌شوند؛ اما واقعیت این است که این سیستم‌ها گاهی رفتاری مهارنشدنی و سرکش دارند. برای نمونه، در آزمون‌های امنیتی پیشین که توسط اوپنای‌آی و آنتروپیک انجام شد، مدل‌های هوش مصنوعی از محدوده مجاز وظایف خود فراتر رفتند و به زیرساخت سازمان‌های ثالث حمله کردند.

از همین رو، توسعه‌دهندگان ابزارهای مبتنی بر ایجنت مانند Claude Code، کدکس (Codex)، اوپن‌کلا (OpenClaw) و OpenCode، کنترل‌هایی امنیتی اعمال می‌کنند تا دسترسی مدل به ابزارهایی مانند curl و bash محدود شود. همچنین مهندسان از سندباکس‌ها استفاده می‌کنند تا فرآیندهای ایجنت را از سیستم میزبان ایزوله سازند؛ رویکردی که تضمین می‌کند در صورت بروز رفتار ناهنجار، ایجنت درون همان محیط بسته باقی بماند.

اما OpenShell یک پله بالاتر از سندباکس‌های ساده عمل می‌کند؛ این معماری به یک محیط اجرایی پیشرفته مجهز است که با بسط دادن مفهوم سندباکس، مدیریت اطلاعات احراز هویتِ مبتنی بر درگاه، مرزهای دسترسی هویتی، سیاست‌های نظارتی و در نهایت مسیریابی و جریان‌های کاری را در دست می‌گیرد.

البته این محافظت هنوز بدون نقص نیست؛ در حال حاضر چند گزارش باز درباره مسائل امنیتی برای پروژه OpenShell در پلتفرم گیت‌هاب ثبت شده است.

پیاده‌سازی OpenShell در سازمان‌ها نیازمند سخت‌افزارهای انویدیا است. طرح پیشنهادی این شرکت بر زیرساخت محاسباتی Vera Rubin برای اجرای مدل‌هایی مانند Nemotron تکیه دارد؛ در حالی که پردازنده‌های مرکزی Vera مهار و هدایت ایجنت را بر عهده دارند و پردازنده‌های پردازش داده BlueField-4 (معروف به SmartNIC) نرم‌افزار امنیتی Nvidia Sentry را برای نظارت مستمر بر رفتار ایجنت تقویت می‌کنند.

انویدیا این طرح معماری را در اختیار شرکای تجاری فعال در زیرساخت‌های لینوکس و کوبرنتیز قرار داده است. در این میان، نام شرکت‌های بزرگی چون کاننیکال (Canonical)، سوزه (SUSE) و رد هت (Red Hat) به چشم می‌خورد. علاوه بر این، غول‌های ارائه‌دهنده خدمات ابری از جمله آمازون وب سرویسز (AWS)، گوگل کلود و مایکروسافت ازور نیز به‌عنوان تأمین‌کنندگان زیرساخت این چشم‌انداز انتخاب شده‌اند.

این چارچوب امنیتی انویدیا محدود به مدل‌های خود این شرکت نیست، بلکه از ایجنت‌های توسعه‌یافته توسط شرکت‌های گوناگون از جمله آنتروپیک، کوهیر (Cohere)، گوگل، متا، اوپنای‌آی، پرپلکسیتی، رفلکشن و اسپیس‌ایکس نیز پشتیبانی می‌کند.

بر اساس گزارش انویدیا، چندین بانک مطرح اروپایی از جمله BBVA و سانتاندر (Santander) در حال ارزیابی مشخصات معماری مرجع OpenShell هستند تا میزان سازگاری آن با الزامات امنیتی و استانداردهای حاکمیتی خود را بررسی کنند. علاوه بر این، شرکت SAP نیز این معماری را در محیط اجرایی Joule Studio ادغام می‌کند تا عملیات ایجنت‌های سازمانی خود را امن‌تر سازد.

شایان ذکر است که OpenShell به‌صورت پیش‌فرض داده‌های تله‌متری (داده‌های عملکردی) را جمع‌آوری می‌کند؛ اقدامی که انویدیا بر ضرورت آن برای بهبود پروژه تأکید دارد. هرچند امکان غیرفعال‌سازی این قابلیت برای کاربران فراهم شده است، اما انویدیا یادآور می‌شود: «سرویس‌های متفرقه، توسعه‌دهندگان مدل‌ها، نقاط پایانی استنتاج، ایجنت‌ها یا ابزارهایی که با OpenShell تنظیم و استفاده می‌کنید، ممکن است شرایط استفاده و سیاست‌های حفظ حریم خصوصی مستقل خود را داشته باشند.»