هشدار جدی بریتانیا: نفوذ ایجنت‌های هوش مصنوعی به سیستم‌های دفاع سایبری تقریباً حتمی است!

• هشدار وزیر هوش مصنوعی بریتانیا: سامانه‌های دفاع سایبری کشور دیر یا زود هدف نفوذ قرار می‌گیرند
• ضرورت وضع قوانین سفت‌وسخت‌تر برای مهار خرابکاری «ایجنت‌های سرکش» هوش مصنوعی
• تلاش مؤسسه ایمنی هوش مصنوعی بریتانیا (AISI) برای آزمودن و ایمن‌سازی مدل‌های مرزی پیش از انتشار عمومی

کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، در هشداری صریح اعلام کرده که نفوذ ایجنت‌های هوش مصنوعی به سدهای دفاع سایبری این کشور «بسیار محتمل و شاید حتی اجتناب‌ناپذیر» است.

هشدار نارایان پس از آن مطرح می‌شود که چندین مدل مرزی و پیشرفته توانسته‌اند از محیط‌های آزمایشی فرار کنند و به شرکت‌های شخص ثالث نفوذ کنند؛ از جمله در یک مورد جنجالی، ایجنت متعلق به شرکت اوپن‌ای‌آی (OpenAI) در ژوئن ۲۰۲۶ به وب‌سایت یکی از نهادهای دولتی استرالیا نفوذ کرده بود.

نارایان در یک کنفرانس مطبوعاتی خطاب به غول‌های فناوری گفت: «وقتی دانشمندان‌تان درباره خطرات جدی هشدار می‌دهند، به حرفشان گوش کنید. رفتارهای غیرمنتظره سیستم‌ها را موشکافانه بررسی کنید و اگر نمی‌توانید ریسک‌ها را به اندازه کافی مهار کنید، اصلاً آن سیستم را منتشر نکنید.»

استفاده دولت بریتانیا از هوش مصنوعی برای پدافند سایبری

وزیر هوش مصنوعی همچنین فاش کرد که دولت بریتانیا قصد دارد برای مقابله با تهدیدهای ناشی از هوش مصنوعی، از مدل‌های پیشرفته همین فناوری کمک بگیرد. این برنامه بر پایه دو پروژه آزمایشی توسعه می‌یابد که پیش‌تر به شناسایی و وصله بیش از ۱۰۰۰ رخنه امنیتی در سراسر سامانه‌های دولتی کمک کرده بودند.

علاوه بر این، مدل‌های مرزی هوش مصنوعی تحت ارزیابی‌های بسیار موشکافانه «مؤسسه ایمنی هوش مصنوعی بریتانیا» (AISI) قرار دارند تا خطرات احتمالی در همان مراحل اولیه شناسایی شوند و با آزمایش تدابیر ایمنی مستحکم، امنیت کاربران و جامعه حفظ شود.

با این حال، مسیر مؤسسه AISI برای بررسی آخرین مدل‌ها خالی از دردسر نبوده است. در سپتامبر ۲۰۲۶، دونالد ترامپ، رئیس‌جمهور آمریکا، از شرکت‌های OpenAI و آنتروپیک خواسته بود تا پیش از پایان ارزیابی آزمایشگاه‌های ایالات متحده، جدید‌ترین مدل‌های خود را با کارشناسان بریتانیایی به اشتراک نگذارند.

نارایان اعلام کرد که دولت بریتانیا از آن زمان با کاخ سفید همکاری کرده تا «دسترسی مؤسسه AISI به قدرتمندترین مدل‌های هوش مصنوعی پیش از عرضه عمومی حفظ شود» (به گزارش BBC).

به گفته نارایان، تدابیر حفاظتی هوش مصنوعی قرار است در قالب لایحه «امنیت سایبری و تاب‌آوری» نیز گنجانده شود؛ لایحه‌ای که تمرکز ویژه‌ای بر مقررات مربوط به گزارش‌دهی و شفاف‌سازی سوانح هوش مصنوعی خواهد داشت.

ریچارد وین‌رایت، مدیر ارشد فناوری بخش اروپا، خاورمیانه و آفریقا (EMEA) در شرکت اوکتا (Okta)، با ابراز خرسندی از این رویکرد گفت: «اینکه می‌بینیم دولت پدافند سایبری در برابر مدل‌های مرزی هوش مصنوعی را جدی گرفته، بسیار امیدوارکننده است.»

وین‌رایت در ادامه تأکید کرد: «هر چه ایجنت‌های هوش مصنوعی مستقل‌تر و خودمختارتر می‌شوند، اصول ایمنی هم باید مستقیماً در تار و پود زیرساخت‌هایی که کسب‌وکارها و دولت بریتانیا به آنها تکیه دارند، تعبیه شود. همه به دنبال یک دکمه قرمز بزرگ هستند تا در صورت لزوم، ایجنت‌های سرکش را خاموش کنند. در حال حاضر صنعت فناوری بیش از هر زمان دیگری درباره سوییچ‌های مرگ (Kill Switches) هوش مصنوعی برای حفاظت از زیرساخت‌های حیاتی صحبت می‌کند و امیدوارم این موضوع در چارچوب لایحه امنیت سایبری و تاب‌آوری مد نظر قرار گیرد.»

چرا هوش مصنوعی به مقررات سفت‌وسخت‌تری نیاز دارد؟

از آغاز سال ۲۰۲۶ تاکنون، حوادث متعددی از فرار ایجنت‌های مرزی هوش مصنوعی از محیط‌های قرنطینه آزمایشی و نفوذ آنها به شبکه‌های شرکت‌های دیگر به ثبت رسیده است.

شرکت OpenAI تاکنون به بیش از ۱۰۰ سازمان درباره فعالیت‌های غیرمجاز مربوط به ایجنت‌های خود هشدار داده که حمله به هاگینگ فیس (Hugging Face) یکی از این نمونه‌هاست. شرکت آنتروپیک نیز وقوع دو رویداد مرتبط با ایجنت‌های غیرمجاز را فاش کرده و شرکت‌های متا و گوگل هم هر کدام از یک مورد فرار ایجنت از محیط آزمایشی خبر داده‌اند. در چند نمونه از این موارد، ایجنت‌ها در حال سپری کردن مراحل ارزیابی توسط شرکت آزمون امنیتی اسرائیلی ایرگولار (Irregular) بودند.

شرکت‌های درگیر در این حوادث اکنون با نظارت‌ها و انتقادهای شدیدی بر سر ایمنی مدل‌هایشان دست‌وپنجه نرم می‌کنند، اما هنوز به دلیل ناتوانی در مهار ایجنت‌هایشان با هیچ جریمه یا مجازاتی روبه‌رو نشده‌اند.

همچنین مناقشات زیادی بر سر برچسب زدن روی این سیستم‌ها با عنوان «ایجنت سرکش» وجود دارد؛ به طوری که برخی کارشناسان از جمله برنارد مونتل، مدیر ارشد فناوری در شرکت تنیبل (Tenable)، معتقدند این کار «روشی خطرناک برای سلب مسئولیت و فرار از پاسخگویی» است.

با این همه، در حالی که مقررات سخت‌گیرانه ممکن است شرکت‌های هوش مصنوعی را وادار کند در آزمایش و استقرار مدل‌هایشان وسواس بیشتری به خرج دهند، از سوی دیگر ممکن است سرعت پیشرفت هوش مصنوعی را کُند کند.

برای دولت ترامپ، این موضوع خط قرمزی است که نباید از آن عبور کرد؛ زیرا کُند شدن توسعه هوش مصنوعی می‌تواند به معنای واگذاری سکان پیشتازی به چین و در نتیجه به خطر افتادن امنیت ملی آمریکا باشد.

هم‌اکنون انتخابات میان‌دوره‌ای آمریکا نیز با بحث‌های داغ درباره توسعه هوش مصنوعی گره خورده است؛ به‌ویژه در رابطه با طرح ساخت هزاران دیتاسنتر غول‌پیکر هوش مصنوعی که در سراسر ایالات متحده پیشنهاد شده‌اند.