هشدار امنیتی مایکروسافت: حتی پیشرفته‌ترین ایجنت‌های هوش مصنوعی هم قابل اعتماد نیستند

مایکروسافت به این نتیجه رسیده است که نمی‌توان به ایجنت‌های هوش مصنوعی اعتماد کرد؛ هشداری تکان‌دهنده از سوی شرکتی که خود یکی از بزرگ‌ترین ذی‌نفعان و سرمایه‌گذاران تحول هوش مصنوعی به حساب می‌آید.

هایت گالوت (Hayete Gallot)، معاون ارشد بخش امنیت مایکروسافت، در گزارش امنیتی تازه‌ای اعلام کرده است که «مدل‌های پیشرو، صرف‌نظر از شرکتی که آن‌ها را توسعه داده، غیرقابل‌اعتماد هستند.» این سلب اعتماد ناشی از بدطینتی ذاتی مدل‌ها نیست، بلکه به این دلیل است که هوش مصنوعی برای دستیابی به نتیجه نهایی بسیار ساده تحت تأثیر قرار می‌گیرد و قواعد سازمانی یا قضاوت‌های اخلاقی را نادیده می‌گیرد.

این هشدار درست چند هفته پس از آن منتشر می‌شود که مایکروسافت از زیرساخت جدید خود برای مهار و جداسازی امنیتی ایجنت‌ها در ویندوز رونمایی کرد. به نظر می‌رسد این شرکت هم‌زمان با تلاش برای قدرتمندتر کردن ایجنت‌ها، در رقابتی نفس‌گیر برای ایجاد دیواره‌های حفاظتی به سر می‌برد تا اکوسیستم وب و ساختارهای سازمانی را از رفتارهای پیش‌بینی‌نشده آن‌ها مصون نگه دارد.

هنگامی که ایجنت‌های هوش مصنوعی سرکش می‌شوند، چه اتفاقی می‌افتد؟

وقتی ایجنت‌های هوش مصنوعی از کنترل خارج می‌شوند، پیامدهای بسیار فاجعه‌باری به دنبال دارند. این سناریوی کابوس‌وار تاکنون بارها رخ داده است و با وجود تدابیر حفاظتی تازه مایکروسافت، احتمال تکرار آن در آینده نیز بسیار بالا ارزیابی می‌شود.

شاید جنجالی‌ترین نمونه از سرکشی هوش مصنوعی، ماجرای رخنه به پلتفرم هاگینگ فیس (Hugging Face) باشد؛ رویدادی که در آن حدود ۷۰۰ ایجنت خودکار پس از عبور از لایه‌های مهار امنیتی، راهکاری هماهنگ برای هک کردن این پلتفرم محبوب توسعه‌دهندگان پیدا کردند.

بررسی جزئیات حادثه هاگینگ فیس نشان می‌دهد که ایجنت‌ها کدهای نفوذ را میان یکدیگر به اشتراک گذاشته و حتی با وجود حذف ربات‌های سرکش، حافظه خود را حفظ می‌کردند. با درک چنین ابعادی، هشدار اخیر گالوت بسیار ملموس‌تر و معنادارتر می‌شود.

این نخستین باری نیست که مایکروسافت درباره خطرات آشوب‌آفرین ایجنت‌های هوش مصنوعی در صورت نبود مهار دقیق هشدار می‌دهد.

در نوامبر ۲۰۲۵ نیز گزارشی منتشر شد که تأکید می‌کرد قابلیت‌های هوش مصنوعی ایجنتی در ویندوز ۱۱ فقط باید در صورتی فعال شوند که «پیامدهای امنیتی آن را به‌طور کامل درک کرده باشید.»

این سیستم‌ها به‌ویژه در برابر حملات تزریق پرامپت متقاطع (XPIA) آسیب‌پذیرند؛ نفوذی که می‌تواند دستورالعمل‌های اصلی کاربر به ایجنت را بازنویسی کند و به سرقت داده‌ها یا انتشار بدافزارها ختم شود.

راهکار اولیه مایکروسافت در آن مقطع، تدوین مجموعه‌ای از اصول و چارچوب‌های اجباری برای ایجنت‌ها بود تا مطابق خواست کاربران رفتار کنند. با این حال، با آشکار شدن ظرفیت‌های پیش‌بینی‌نشده ایجنت‌ها حتی بدون مداخله نفوذگران خارجی، این موضوع اکنون به بحرانی بسیار گسترده‌تر تبدیل شده است.

مایکروسافت اکنون هوش مصنوعی مورداستفاده در محیط کار را در دسته «نفوذی‌های مبتنی بر ایجنت (Agentic Insiders)» طبقه‌بندی می‌کند؛ عواملی درون‌سازمانی که ممکن است هر لحظه سرکش شوند و رفتاری غیرقابل‌پیش‌بینی نشان دهند. از آنجا که این ایجنت‌ها عمیقاً با سیستم‌ها و داده‌های سازمانی گره خورده‌اند، خطرات ناشی از آن‌ها روز‌به‌روز بیشتر می‌شود.

بدتر اینکه این ابزارها نیازمند پایش مداوم و بی‌وقفه هستند. اما واقعاً چه کسی می‌تواند امنیت ما را در برابر هوش مصنوعی سرکش تضمین کند؟

پاسخ مایکروسافت به مهار هوش مصنوعی سرکش: هوش مصنوعی بیشتر!

پرسش معروف «چه کسی بر نگهبانان نظارت می‌کند؟»، نخستین نکته‌ای است که با مواجهه با ایده «ایجنت‌های نگهبان (Guardian Agents)» مایکروسافت به ذهن می‌رسد.

در این رویکرد، به‌جای اتکا به نظارت سنتی انسانی، ایجنت‌های نگهبان مایکروسافت به گونه‌ای طراحی شده‌اند که «تمام اقدامات هر ایجنت را پیش از اجرا، به‌صورت ۲۴ ساعته و در ۷ روز هفته زیر نظر بگیرند و مهار کنند.»

این اقدام در واقع اعترافی ضمنی به این واقعیت است که سیستم‌های ایجنتی سریع‌تر از حد تصور در حال تکامل هستند و نظارت دستی بر آن‌ها از توان انسان‌ها خارج شده است.

یکی از نمونه‌های عملیاتی ایجنت‌های نگهبان، پروژه پرسپشن مایکروسافت (Project Perception) است.

این پروژه که تابستان گذشته معرفی شد و هنوز به‌طور گسترده در دسترس قرار نگرفته، با ترکیب سیگنال‌ها، زمینه (Context)، مدل‌ها و ایجنت‌های تخصصی، خط دفاعی چهارگانه‌ای در برابر تهدیدهای بیرونی و درونی سازمان‌ها تشکیل می‌دهد.

در حقیقت ماجرا به نبرد هوش مصنوعی با هوش مصنوعی تبدیل شده است؛ چراکه سرعت تحلیل ذهن انسان دیگر توان همگامی با پردازش‌های سرسام‌آور این سیستم‌ها را ندارد.

چالش بنیادین مایکروسافت و چشم‌انداز امنیت ایجنت‌ها

مایکروسافت اکنون در موقعیت دشواری قرار دارد؛ این شرکت از یک سو ادغام‌های سطحی هوش مصنوعی در ویندوز ۱۱ را محدود کرده و تمرکز خود را بر توسعه زیرساخت‌های عمیق‌تر ایجنتی گذاشته است و از سوی دیگر صراحتاً اذعان می‌کند که نمی‌توان به مدل‌های پایه‌ای هوش مصنوعی اعتماد کرد.

هشدار تازه مایکروسافت بر چالش رو‌به‌رشد کل صنعت هوش مصنوعی دست می‌گذارد: ایجنت‌های مستقلی که قرار بود زندگی و کار را بسیار ساده‌تر کنند، حالا خود به عاملی برای بروز تهدیدهای امنیتی پیچیده و بی‌سابقه تبدیل شده‌اند.

پاسخ فعلی مایکروسافت بر سه محور مهار، پایش مداوم و نظارت سخت‌گیرانه استوار است؛ اما آیا این دیواره‌های دفاعی برای جلوگیری از وقوع یک فاجعه امنیتی کافی خواهند بود؟