مهار ایجنت‌های سرکش در ویندوز؛ مایکروسافت برای هوش مصنوعی ترمز اضطراری ساخت!

اگه این روز‌ها حتی یک خبر از دنیای هوش مصنوعی خونده باشید، احتمالاً با تیترهایی از این دست روبه‌رو شدید: ایجنت یا ربات هوش مصنوعی یکی از آزمایشگاه‌های بزرگ از محیط آزمایشی فرار کرده، سر از اینترنت درآورده و چند وب‌سایت واقعی رو هک کرده است! این اتفاق اخیراً برای چند غول هوش مصنوعی مثل متا، اوپن‌ای‌آی (OpenAI) و آنتروپیک (Anthropic) افتاده و حتی پلتفرم محبوب هاگینگ فیس (Hugging Face) و وب‌سایت‌های دولتی آمریکا و استرالیا هم از خرابکاری این ایجنت‌ها بی‌نصیب نموندن.

حالا برای جلوگیری از این دست رخنه‌های امنیتی ناشی از ایجنت‌ها، مایکروسافت وارد میدان شده و روی یک نرم‌افزار سازمانی جدید حساب باز کرده تا دور این ایجنت‌ها حصار بکشه و اون‌ها رو مهار کنه.

این قابلیت تازه «کانتینرهای اجرایی مایکروسافت» یا به اختصار MXC نام داره و مستقیماً توی محیط سندباکس توسعه‌دهندگان در ویندوز قرار می‌گیره. این کانتینرها دو هدف اصلی دارن: شناسایی ایجنت‌های هوش مصنوعی و سپس مهار کردن اون‌ها. با کمک این کانتینرها — که در اصل یک لایه نرم‌افزاری روی پروژه‌های جاری شما هستند — می‌تونید دسترسی ایجنت هوش مصنوعی به فایل‌ها و مقصدهای شبکه رو کاملاً محدود کنید. ساتیا نادلا، مدیرعامل مایکروسافت، در رویداد سرفیس لپ‌تاپ اولترا اعلام کرد که MXC حالا به صورت عمومی در دسترس قرار گرفته است.

ایده کلی ماجرا اینه که وقتی ایجنت شما فقط به فایل‌ها و بخش‌های خاصی از لپ‌تاپ دسترسی داشته باشه، دردسر کمتری درست می‌کنه و خسارت احتمالی به حداقل می‌رسه. توسعه‌دهندگان ویندوز می‌تونن برای ایجنت‌های خودشون بین سه سطح دسترسی انتخاب کنن. حالت پیشنهادی (Recommended) به ایجنت دسترسی اینترنت میده (که برای انجام خیلی از وظایف ایجنتی واجبه)، اما دسترسی اون رو به بخش‌های حساس ویندوز مثل پوشه‌های دانلود، اسناد و دسکتاپ محدود می‌کنه.

سخت‌گیرانه‌ترین حالت، «قفل کامل» یا Locked Down نام داره که مثل یک دکمه قطع اضطراری (Kill Switch) کار می‌کنه و جلوی هرگونه دسترسی هوش مصنوعی به اینترنت و فایل‌های سیستم رو می‌گیره. در نقطه مقابل، حالت محافظت‌نشده (Unprotected) قرار داره که بیش‌ترین سطح دسترسی به سیستم دیجیتال شما رو به هوش مصنوعی میده. شما می‌تونید خیلی راحت بین این حالت‌ها جابه‌جا بشید و دسترسی‌ها رو مطابق نیازتون شخصی‌سازی کنید.

علاوه بر این، می‌تونید تمام فعالیت‌های ایجنت رو مانیتور کنید و ببینید چقدر از پردازنده (CPU)، رم، دیسک و پهنای باند شبکه توسط شما و چقدر توسط ایجنت مصرف میشه. برای نمونه در تصویر، سطر بالا کاربر انسانی لاگین‌شده در ویندوز رو نشون میده و در سطر پایین هم ایجنت هوش مصنوعی با شناسه R2-W9 (20) در حال دسترسی به اوپن‌کلاو (OpenClaw) و کانتینر انویدیا دیده میشه.

سازوکارهای کنترلی و امنیتی مثل MXC برای آزمایشگاه‌های هوش مصنوعی فوق‌العاده حیاتی بوده و در آینده حیاتی‌تر هم خواهد شد؛ به‌ویژه با افزایش محبوبیت ایجنت‌های هوش مصنوعی شخصی مثل متا میوز (Meta Muse) یا دات‌های اوپن‌ای‌آی. هک‌های اخیر که توسط ایجنت‌های سرکش اتفاق افتاد وب‌سایت‌ها رو هدف گرفته بود، اما تصور اینکه با گسترش این ایجنت‌ها و نفوذشون به عمق سیستم‌ها، عواقب خرابکاری‌هاشون به دنیای واقعی هم کشیده بشه اصلاً دور از ذهن نیست.

به‌طور خاص برای مایکروسافت، که تمرکز ویژه‌ای روی فروش ابزار‌های هوش مصنوعی به مشتریان سازمانی داره، جلب اعتماد شرکت‌ها حیاتی است؛ اینکه مطمئن بشن هوش مصنوعی قرار نیست توی کسب‌وکارشون خرابکاری به بار بیاره. ساتیا نادلا هم به درستی اشاره کرد که غول‌های فناوری مثل مایکروسافت برای تشویق مردم به استفاده از ابزار‌های ایجنتی هوش مصنوعی، اول از همه باید اعتماد اون‌ها رو به دست بیارن.

نادلا در این باره گفت: «اولین تصمیمی که می‌گیریم اینه که قراره چه میزان اختیاری از طرف خودمون به این ایجنت واگذار کنیم؟ این تصمیمی است که کاملاً بر پایه اعتماد شکل می‌گیره و هر چقدر هوش مصنوعی مستقل‌تر و خودمختارتر بشه، نیاز به این اعتماد هم بیش‌تر میشه.»

البته هیچ برنامه امنیتی در دنیای هوش مصنوعی کاملاً رخ‌نه‌ناپذیر و ضدگلوله نیست و بخشی از اون به ماهیت نوپای این فناوری برمی‌گرده. با این حال، بحث‌ها درباره اینکه آیا صنعت هوش مصنوعی اقدامات کافی برای مهار خطرات انجام میده یا نه، اخیراً به اوج خودش رسیده است. کارشناسان هوش مصنوعی و عموم مردم کاملاً حق دارن نگران باشن که مبادا عطش آزمایشگاه‌ها برای رشد سریع و شکستن چارچوب‌ها، به یک فاجعه برای همه ختم بشه.

دست‌کم به نظر می‌رسه رهبران هوش مصنوعی متوجه شده‌اند امنیت، کلید اصلی توسعه هوش مصنوعیه؛ یا شاید هم تصمیم گرفته‌اند اون رو در اولویت بالاتری از شعارهای تبلیغاتی‌شون جا بدن!

جنسن هوانگ، مدیرعامل انویدیا (NVIDIA) هم در این مراسم گفت: «مسئله اصلی، اعتمادسازی، مهار و نظارته. اگه نتونیم همین بخش اول رو درست انجام بدیم، بقیه کار پیش نمی‌ره.»