زنگ خطر برای ایجنت‌های هوش مصنوعی؛ چرا وقت اجرای استراتژی «اعتماد صفر» رسیده است؟

ایجنت‌های هوش مصنوعی (AI Agents) این روزها پا را از پاسخ دادن ساده به سوالات فراتر گذاشته‌اند. آن‌ها حالا به اپلیکیشن‌های مختلف سرک می‌کشند، APIها را فراخوانی می‌کنند، از اطلاعات کاربری و دسترسی‌ها بهره می‌برند، داده‌ها را دستکاری می‌کنند و وظایف گوناگون را میان چندین سیستم به اجرا درمی‌آورند. اگر حساب کاربری یک انسان به خطر بیفتد، خسارت زیادی به بار می‌آید؛ اما ماجرا وقتی نگران‌کننده می‌شود که یک ایجنت خودران با دسترسی‌های وسیع، با سرعت سرسام‌آور ماشین در سیستم‌های مختلف دست به عملیات بزند—آن‌هم قبل از اینکه یک انسان اصلاً متوجه خرابکاری شود! به همین دلیل، مدیران و پیشگامان هوش مصنوعی باید فوراً مدل‌های امنیتی خود را بازنگری کنند.

اتفاقات اخیر خیلی خوب نشان می‌دهند که چرا این موضوع تا این حد اهمیت دارد. شرکت آنتروپیک (Anthropic) چندی پیش فاش کرد که مدل‌های هوش مصنوعی کلود (Claude) در زمان تست‌های امنیت سایبری، به شکلی ناخواسته و غیرمجاز به سیستم‌های ثالث نفوذ کرده بودند. شرکت متا (Meta) هم تایید کرد که یکی از مدل‌هایش در جریان آزمایش‌ها به اینترنت متصل شده و از یک آسیب‌پذیری در سازمانی بیرونی بهره‌برداری کرده است. در هر دو مورد، یک اشتباه ساده در پیکربندی محیط آزمایشی شرکت امنیتی Irregular باعث شده بود این مدل‌ها به شکلی کاملاً ناخواسته دسترسی آزاد به اینترنت پیدا کنند.

درس اصلی این اتفاقات این نیست که ایجنت‌های هوش مصنوعی ناگهان شرور شده‌اند؛ بلکه هشدار واقعی این است که وقتی به یک ایجنت قدرت عمل می‌دهیم و فقط یکی از لایه‌های کنترلی دچار نقص شود، ایجنت بدون ترمز از مرزهای تعیین‌شده عبور می‌کند و به پیشروی ادامه می‌دهد. دقیقاً همین‌جاست که مدیران ارشد فناوری باید به چهار اصل اساسی زیر توجه کنند.

مدل امنیتی «اعتماد صفر» باید به ایجنت‌ها هم تعمیم داده شود

رونمایی انویدیا (NVIDIA) از پلتفرم Open Agent Safety دقیقاً نشان می‌دهد که بازار به کدام سمت حرکت می‌کند. این پلتفرم شامل ابزار متن‌باز OpenShell برای اعمال سیاست‌های امنیتی بر فعالیت‌های ایجنت‌ها و سیستم سخت‌افزاری Sentry برای نظارت مستقل بر رفتارهای آن‌هاست. سازمان‌ها به لایه‌های کنترلی دقیقی نیاز دارند تا میان آنچه یک ایجنت تصمیم می‌گیرد انجام دهد و آنچه واقعاً اجازه دارد به اجرا بگذارد، فاصله و نظارت ایجاد شود.

این رویکرد، یک توسعه طبیعی برای استراتژی «اعتماد صفر» (Zero Trust) است؛ یعنی احراز هویت اولیه هرگز به معنای اختیارات نامحدود نیست. یک ایجنت ممکن است دسترسی قانونی به یک سیستم داشته باشد، اما نباید اجازه داشته باشد هر عملیاتی را در آن به اجرا درآورد. برای مدیران فناوری و امنیت اطلاعات (CISO)، این نگاه مقوله حاکمیت هوش مصنوعی را از جلسات و سیاست‌نامه‌های کاغذی فراتر می‌برد. سازمان‌ها باید دقیقاً بدانند کدام ایجنت‌ها فعالند، به چه بخش‌هایی دسترسی دارند، چه اقداماتی می‌توانند انجام دهند و در مواقع بحرانی چطور باید متوقف شوند.

همه چیز با ثبت شناسنامه و فهرست دقیق ایجنت‌ها شروع می‌شود

اولین گام اساسی، شفافیت و دید کامل است. سازمان‌ها نمی‌توانند روی ایجنت‌هایی نظارت کنند که حتی از وجودشان بی‌خبرند! این روزها بخش‌های مختلف کسب‌وکار می‌توانند به سادگی و بدون نیاز به سازوکارهای سنتی توسعه، از طریق پلتفرم‌های ابری، ابزارهای کدنویسی و اپلیکیشن‌های جانبی، ایجنت‌های مختلفی برای خودشان دست‌وپا کنند.

گزارش تحلیلی اخیر در The Hacker News به نکته فوق‌العاده‌ای اشاره می‌کند: ثبت فهرست و شناسنامه ایجنت‌ها باید بر اعمال قوانین تقدم داشته باشد. هر ایجنتی که در محیط عملیاتی به کار گرفته می‌شود، باید صاحب مشخص، هدف تجاری معلوم، سطح استقلال مشخص، سیستم‌های مجاز معین، کلیدهای دسترسی تاییدشده و وضعیت چرخه حیات شفاف داشته باشد.

بدون چنین انضباطی، گسترش بی‌رویه ایجنت‌ها به همان دردسر قدیمی تکثیر مهارنشدنی اپلیکیشن‌ها تبدیل می‌شود؛ با یک تفاوت بزرگ و مرگبار: این ایجنت‌ها می‌توانند خودشان و به صورت خودران دست به عمل بزنند!

نگاه به ایجنت‌ها به عنوان هویت‌های غیرانسانی مستقل

تهیه شناسنامه فقط شروع راه است. ایجنت‌های خودران روز به روز بیشتر در نقش یک هویت غیرانسانی عمل می‌کنند؛ اطلاعات ورود دارند، به داده‌های حیاتی دسترسی پیدا می‌کنند، APIها را صدا می‌زنند و حتی تراکنش مالی انجام می‌دهند. بنابراین، مدیریت هویت در سازمان‌ها باید از کارمندان، پیمانکاران و حساب‌های کاربری سنتی فراتر برود.

باید به هر ایجنت یک هویت مستقل اختصاص داده شود و تنها دسترسی‌های واقعاً مورد نیازش در اختیار آن قرار گیرد. هرگز نباید اجازه داد ایجنت‌ها اطلاعات ورود مشترک داشته باشند یا دسترسی‌های خالق و توسعه‌دهنده خود را به ارث ببرند. نقش، وظیفه محوله و بازه زمانی، تنها مواردی هستند که باید محدوده دسترسی ایجنت را تعیین کنند.

در این میان، یک تفاوت بسیار حیاتی وجود دارد: مرز میان «کنترل دسترسی» (Access Control) و «کنترل اقدام» (Action Control). ایجنت ممکن است اجازه ورود به یک سیستم سازمانی را داشته باشد، اما این به معنی اعتماد خودکار به تمام اقداماتی که داخل آن سیستم انجام می‌دهد نیست!

نظارت و حاکمیت امنیتی باید لحظه‌ای (Runtime) باشد

دقیقاً همین‌جاست که چارچوب‌های سنتی مدیریت هوش مصنوعی کم می‌آورند. سیاست‌گذاری‌ها و جلسات نظارتی همچنان لازم هستند، اما هرگز نمی‌توانند جلوی نرم‌افزار خودرانی را که با سرعت ماشین پیش می‌رود بگیرند.

موسسه گارتنر (Gartner) هم تحلیل مشابهی ارائه داده است: حاکمیت هوش مصنوعی باید فراتر از آیین‌نامه‌ها باشد. سازمان‌ها به ابزارهایی نیاز دارند که رفتارهای ایجنت را در لحظه و زمان اجرا (Real-time) پایش کنند، دسترسی‌هایش را محدود سازند و به محض خروج از مرزهای تعیین‌شده، فعالیت آن را متوقف کنند.

این مرحله آینده حاکمیت هوش مصنوعی در شرکت‌هاست. مدیران قبل از اعطای اختیارات بیشتر به ایجنت‌ها، باید پاسخ روشنی برای این سوالات داشته باشند: کدام ایجنت‌ها در شبکه ما فعالند؟ صاحب و مسئول هر کدام کیست؟ به چه سیستم‌ها و داده‌هایی دسترسی دارند؟ چه کارهایی را بدون تایید انسان انجام می‌دهند؟ آیا می‌توانیم رفتارهای آن‌ها را لحظه‌ای رصد کنیم؟ و آیا در صورت بروز خطا امکان توقف فوری آن‌ها وجود دارد؟

اگر این پاسخ‌ها روشن نباشد، سازمان هنوز برای سپردن اختیارات بیشتر به ایجنت‌ها آماده نیست. مدل «اعتماد صفر» برای ایجنت‌های هوش مصنوعی در یک اصل اساسی خلاصه می‌شود: مجوز ورود به سیستم هرگز نباید به معنای اعتماد خودکار به اقدام بعدی ایجنت باشد.

با افزایش اختیارات ایجنت‌ها، پایبندی به این مرز باریک بسیار سرنوشت‌سازتر از تدوین هر سیاست‌نامه کاغذی دیگری خواهد بود.