هشدار مایکروسافت: ایجنت‌های هوش مصنوعی مانند نفوذی‌های داخلی هستند و نمی‌توان به آن‌ها اعتماد کرد

مایکروسافت روز دوشنبه قابلیت‌های امنیتی تازه‌ای معرفی کرد که هدف آن‌ها محافظت از شرکت‌ها و سازمان‌ها در برابر تهدید فزاینده ایجنت‌های هوش مصنوعی است. این اقدام در شرایطی رقم می‌خورد که ردموندی‌ها هشدارهای مداوم خود را درباره خطرات احتمالی ایجنت‌های خودمختار افزایش داده‌اند.

شاید برجسته‌ترین قابلیت جدید، ابزار Guardian Agents (ایجنت‌های محافظ) باشد؛ سیستمی که به‌منظور نظارت مستمر بر ایجنت‌های هوش مصنوعی مورداستفاده در سازمان‌ها طراحی شده است. گاردین ایجنتس در واقع بخشی از پروژه بزرگ‌تر Project Perception محسوب می‌شود که در ماه ژوئن رونمایی شده بود.

پروژه پرسپشن در اصل واکنش مایکروسافت به مدل‌های هک قدرتمندی مانند Mythos و Fable از شرکت آنتروپیک و همچنین سیستم اسکن آسیب‌پذیری Daybreak از اوپن‌ای‌آی بود. این محصول در ابتدا بر پایه سه گروه از ایجنت‌ها توسعه یافت: یک «تیم قرمز» که در نقش هکر ظاهر می‌شد و به سیستم‌ها نفوذ می‌کرد، یک «تیم آبی» که فعالیت‌های تیم قرمز را شناسایی و ابعاد آسیب‌پذیری‌ها را مشخص می‌کرد، و در نهایت یک «تیم سبز» که وظیفه ترمیم و رفع حفره‌های امنیتی را بر عهده داشت.

این سیستم ابتدا بر پایه این فرض شکل گرفته بود که هکرهای هوش مصنوعی همیشه از خارج سازمان حمله می‌کنند. با این حال، ساتیا نادلا، مدیرعامل مایکروسافت، اخیراً هشدار داده است که دشمن اصلی در عرصه هوش مصنوعی ممکن است دقیقاً همان ایجنت‌هایی باشند که خودِ شرکت‌ها آن‌ها را در زیرساختشان به کار گرفته‌اند و هزینه‌اش را پرداخت می‌کنند؛ درست مثل یک کارمند سرکش که در ادبیات امنیت سایبری از آن به‌عنوان «تهدید درون‌سازمانی» یا نفوذی یاد می‌شود.

اوایل ماه جاری میلادی، نادلا در وبلاگ شخصی خود صراحتاً هشدار داد که دوران اعتماد کورکورانه به سازندگان مدل‌های هوش مصنوعی به سر آمده است؛ حتی اگر این شرکت‌ها تضمین‌های امنیتی متعددی درباره محصولات مبتنی بر ایجنت خود ارائه دهند. او بر این باور است که کسب‌وکارها باید سیستم‌های نظارتی کاملاً مستقل و خارج از کنترل آزمایشگاه‌های هوش مصنوعی پیاده‌سازی کنند تا عملکرد ایجنت‌های توسعه‌یافته توسط همین آزمایشگاه‌ها را رصد و مدیریت نمایند.

نادلا در یادداشت خود نوشت: «ما در حال پیاده‌سازی این مدل‌ها و سیستم‌های پیچیده مبتنی بر ایجنت هستیم؛ ابزارهایی که به حساس‌ترین داده‌های ما دسترسی دارند و به آن‌ها اجازه داده شده تا اقدامات حیاتی و سرنوشت‌سازی را به نمایندگی از ما انجام دهند! ما به‌هیچ‌وجه نمی‌توانیم مسئولیت اقدامات هوش مصنوعی را برون‌سپاری کنیم. وعده‌ها و تضمین‌های ارائه‌دهندگان مدل، رافع این مسئولیت بزرگ نیست... به بیانی دیگر، ما باید زنجیره تأمین هوش مصنوعی را از اختیارات و قدرت حاکمیت بر آن جدا کنیم.»

هنگام معرفی Guardian Agents، هایِت گالو، رئیس بخش کسب‌وکار امنیتی مایکروسافت، این دیدگاه را حتی بی‌پرده‌تر مطرح کرد.

او در مطلبی نوشت: «متأسفانه نمی‌توان به مدل‌های پیشرو، صرف‌نظر از منشأ و شرکت سازنده‌شان، اعتماد کرد.» او توضیح داد که این مسئله ناشی از مخرب بودن یا ضعف امنیتی آن‌ها نیست، بلکه به غیرقابل پیش‌بینی بودن ذاتی آن‌ها مربوط می‌شود؛ چراکه این مدل‌ها برای دستیابی به اهداف و انجام وظایف آموزش دیده‌اند، نه برای درک «هنجارها و معیارهای سازمانی».

علاوه بر این، اختیارات گسترده و کلید بخش‌های حساس سازمان‌ها معمولاً در اختیار این ایجنت‌ها قرار می‌گیرد و آن‌ها به داده‌ها و ابزارهایی دسترسی پیدا می‌کنند که در صورت بروز هرگونه انحراف، می‌تواند آسیب‌هایی جدی و جبران‌ناپذیر به بار آورد.

رویکرد مایکروسافت هم شگفت‌انگیز و هم تا حد زیادی هم‌راستا با منافع تجاری خود این شرکت است. جنبه شگفت‌انگیز آن به پیوند عمیق مایکروسافت با اوپن‌ای‌آی و آنتروپیک بازمی‌گردد؛ زیرا مایکروسافت در هر دو شرکت سرمایه‌گذاری هنگفتی کرده است. از طرفی، اوپن‌ای‌آی یکی از بزرگ‌ترین مشتریان خدمات ابری مایکروسافت به شمار می‌رود و ردموندی‌ها آزمایشگاه اختصاصی خود را نیز برای توسعه مدل‌های هوش مصنوعی دارند؛ بنابراین مایکروسافت عملاً در حال زیر سؤال بردن بخشی از منافع تجاری مستقیم خود است.

اما در سوی دیگر، جنبه منفعت‌طلبانه این سیاست کاملاً روشن است: مایکروسافت می‌خواهد سازمان‌ها ابزارهای امنیتی ایجنت‌ها را به‌جای آنتروپیک یا اوپن‌ای‌آی، مستقیماً از خودِ مایکروسافت به‌عنوان ارائه‌دهنده سرویس‌های ابری خریداری کنند. با این حال و فارغ از تعارض منافع، منطق مایکروسافت کاملاً درست و قابل دفاع است؛ نرم‌افزاری که بر رفتار یک ایجنت نظارت می‌کند باید مستقل از توسعه‌دهنده همان ایجنت باشد، درست همان‌طور که بازرسان مالی باید از مجموعه‌ای که آن را حسابرسی می‌کنند کاملاً مستقل باشند.

یا همان‌طور که نادلا خلاصه می‌کند: «ما باید تأمین هوش مصنوعی را از اختیارات و قدرت اعمال نظارت بر آن تفکیک کنیم.»

مایکروسافت اکنون تلاش می‌کند تا از راه‌های مختلف این فرصت تجاری سودآور را به تسخیر خود درآورد. این غول دنیای فناوری علاوه بر Guardian Agents، قابلیتی ویژه به بسته امنیتی «مایکروسافت دیفندر» (Microsoft Defender) افزوده است که می‌تواند تا ۶۰ نوع مختلف از ایجنت‌هایی را که کارمندان به سازمان وارد می‌کنند (از جمله Claude Code، Codex و OpenClaw)، شناسایی کند. این ابزارها همچنین دسترسی ایجنت‌ها به داده‌ها و سیستم‌ها را محدود می‌کنند و مجوزهای دسترسی آن‌ها را به‌صورت پویا و با توجه به مأموریت تعیین‌شده تغییر می‌دهند؛ قابلیتی که در صورت مشاهده تصمیمات پرخطر، تأیید مستقیم نیروی انسانی را الزامی خواهد کرد.

این نگرش که ایجنت‌ها تهدیدهای درونی غیرقابل اعتماد هستند، به‌سرعت در سراسر بدنه صنعت فناوری در حال فراگیر شدن است.

مایکروسافت یکی از نخستین اعضای پلتفرم جدید Open Agent Safety انویدیا است؛ ابتکاری که حمایت بیش از ۱۰۰ شرکت فعال در فناوری را به دست آورده است. این پلتفرم با ایزوله کردن ایجنت‌ها در محیط‌های امن، این امکان را فراهم می‌سازد که رفتارهای آن‌ها از طریق سخت‌افزار رصد شود و در صورت لزوم با مکانیزمی مانند کلید قطع اضطراری متوقف شوند. این تحولات هم‌زمان با رونمایی مایکروسافت از کامپیوترهای جدید سرفیس لپ‌تاپ اولترا رخ می‌دهد؛ دستگاه‌هایی که با تراشه‌های انویدیا برای اجرای بهینه ایجنت‌ها طراحی شده‌اند و قابلیت‌های کنترل و امنیت ایجنت‌ها به‌صورت مستقیم در دل آن‌ها گنجانده شده است.