مهار ایجنت‌های سرکش با هوش مصنوعی؛ وقتی فقط هوش مصنوعی حریف خودش می‌شود!

مدیران ارشد و پژوهشگران دنیای فناوری معتقدند مطمئن‌ترین راهکار برای مهار بحران امنیتی جدید، استفاده از هوش مصنوعی بیشتر است.

چرا این موضوع مهم است؟ افشاگری‌های تازه مبنی بر اینکه پژوهشگران در حال بررسی ده‌ها هزار رخنه و حادثه امنیتی نگران‌کننده هستند — بسیار بیشتر از چند ده موردی که قبلاً رسانه‌ای شده بود — این سؤال جدی را به وجود آورده که آیا سران فناوری واقعاً روی ساخته‌های خود تسلط دارند یا کنترل اوضاع از دستشان خارج شده است.

• جن‌سن هوانگ (Jensen Huang)، مدیرعامل انویدیا، برای آرام کردن نگرانی‌های روزافزون دولت‌ها، بازارها و صنایع، از یک پلتفرم امنیتی متن‌باز برای پایش و حتی قرنطینه کردن ایجنت‌های هوش مصنوعی رونمایی کرد.
• او در گفت‌وگویی تازه اعلام کرد: «همه ما باید امیدوار باشیم که این موضوع یک چالش مهندسی باشد؛ چون اگر یک مسئله مهندسی نباشد، دیگر قابل حل نیست.» او همچنین تأکید کرد ادامه سرمایه‌گذاری شرکت‌ها برای ارتقای مرزهای فناوری نشان می‌دهد آن‌ها معتقدند این چالش واقعاً راه‌حل دارد.

پشت پرده ماجرا: چالش اصلی انسان‌ها برای مهار هوش مصنوعی این است که برای تعیین خط قرمز، باید تمام راه‌های عجیب و پیش‌بینی‌نشده‌ای را تصور کنند که این مدل‌ها ممکن است برای رسیدن به اهدافشان از آن‌ها استفاده کنند؛ کاری که عملاً از توان ذهن انسان خارج است.

• یکی از مدیران ارشد هوش مصنوعی این ماجرا را به مهار یک نوجوان برای فرار نکردن از خانه در دل شب تشبیه کرد. والدین ممکن است کلی قانون بگذارند؛ مثلاً از درِ جلو نرو، درِ پشتی را باز نکن، سراغ گاراژ نرو و از پنجره‌ها هم بیرون نپر!
• اما اگر آن نوجوان بتواند یک بولدوزر بسازد و با خراب کردن دیوار آجری فرار کند چه؟ آیا هیچ پدر و مادری از قبل فکرش را می‌کرد که خراب کردن دیوار با بولدوزر را هم ممنوع کند؟

راهکار کارشناسان چیست؟ به باور مدیران، محققان و متخصصان امنیت سایبری، راه‌حل این است که از خودِ هوش مصنوعی برای کشیدن این خطوط قرمز کمک بگیریم؛ یعنی هوش مصنوعی به ردیابی و متوقف کردن ایجنت‌های سرکش، ارتقای امنیت سیستم‌ها و طراحی محیط‌های آموزشی امن‌تر کمک کند.

تصویر بزرگ‌تر: از آنجا که هکرها و ایجنت‌های سرکش خیلی سریع‌تر از توان پاسخ‌گویی انسان‌ها عمل می‌کنند، ایده «هوش مصنوعی در برابر هوش مصنوعی» در حال تبدیل شدن به ستون اصلی امنیت سایبری است. امروزه شرکت‌ها بیش از پیش به هوش مصنوعی تکیه می‌کنند تا شناسایی تهدیدها، آزمون‌های نفوذ (Red Teaming) و نصب وصله‌های امنیتی را خودکار کنند؛ و حالا پلتفرم جدید انویدیا قرار است همین استراتژی را در سیستم‌های میزبان ایجنت‌ها پیاده کند.

• غول‌هایی مثل مایکروسافت، سیسکو، گوگل و کروداسترایک مدل‌های هوش مصنوعی اختصاصی برای امنیت سایبری معرفی کرده‌اند. شرکت پالو آلتو نتورکز هم اخیراً سرویسی راه‌اندازی کرده که با تکیه بر مدل‌های پیشرو و متن‌باز، رخنه‌های امنیتی را کشف کرده و راهکار رفع آن‌ها را پیشنهاد می‌دهد.
• برد گستورث، مدیر ارشد پژوهش در مؤسسه سیرکولار تکنولوژی، معتقد است: «اگر قرار باشد ایجنت‌های امنیتی و اعتبارسنجی درست همگام با ایجنت‌های اصلی فعالیت کنند، بار پردازشی عظیمی برای استنتاج مدل‌ها به وجود می‌آید که قبلاً اصلاً سابقه نداشته است.»

این وضعیت اخیراً به‌خوبی خودش را نشان داد؛ زمانی که ایجنت‌های اوپن‌ای‌آی (OpenAI) توانستند از محیط آزمایشی فرار کنند و به پلتفرم هاگینگ فیس (Hugging Face) نفوذ کنند.

• این پلتفرم متن‌باز پس از اینکه برای تحلیل حمله سراغ مدل‌های آمریکایی رفت و با فیلترهای امنیتی آن‌ها روبه‌رو شد، ناچار شد از یک مدل هوش مصنوعی چینی برای ارزیابی ماجرا کمک بگیرد.
• در واقع دسترسی هاگینگ فیس به مدل «میتوس» (Mythos) از شرکت آنتروپیک مسدود شد؛ مدلی که طوری طراحی شده بود تا برای پیشگیری از سوءاستفاده‌های خطرناک، به درخواست‌های مرتبط با امنیت سایبری پاسخ ندهد. به عبارت دیگر، اینجا یک هوش مصنوعی مشغول بازجویی و بررسی خرابکاری هوش مصنوعی دیگری شد!

سطح تهدید: رخ‌دادهای امنیتی اخیر بحران اعتمادی جدی پیرامون امنیت و ایمنی هوش مصنوعی به راه انداخته است.

• مدل‌های جدید بارها تلاش کرده‌اند خط قرمزها را دور بزنند، از محیط‌های ایزوله فرار کنند، وب‌سایت‌ها را بربایند، برای خودشان دستور بنویسند و حتی از رادارهای نظارتی مخفی بمانند.
• با این حال، شرکت‌ها در حال درس گرفتن از این شکست‌ها هستند. علاوه بر پلتفرم امنیتی جدید انویدیا که با همکاری بیش از ۱۰۰ شرکت شکل گرفته، فعالان این حوزه چارچوبی برای گزارش تخلفات و نگهداری گزارش‌ها پیشنهاد داده‌اند. هدف این است که کارشناسان چیزی شبیه «جعبه سیاه هواپیما» برای ایجنت‌ها داشته باشند تا عملکردشان کاملاً ثبت شود.

اما یک نکته مهم: عرضه ابزارهای دفاعی بیشتر به این معنا نیست که همه شرکت‌ها می‌توانند سریع آن‌ها را به کار بگیرند. همین حالا هم تیم‌های امنیتی در برابر تغییرات سریع تهدیدها و تنوع سرسام‌آور ابزارها سردرگم شده‌اند.

نگاه واقع‌بینانه: برای پلیس بودن بالای سر هوش مصنوعی چاره‌ای جز استفاده از خودِ هوش مصنوعی نداریم، اما این اتفاق هرگز خودبه‌خود رخ نمی‌دهد. در نهایت این انسان‌ها هستند که باید اولویت‌ها و اهداف درستی تعیین کنند تا بتوانند این مدل‌های قدرتمند را در مسیر امن نگه دارند.