شورش ایجنت‌های هوش مصنوعی؛ آسیب‌پذیری‌های قدیمی اینترنت زیر پای ربات‌های نفوذگر!

ایجنت‌های هوش مصنوعی برای در هم شکستن خطوط دفاعی اینترنت، اصلاً نیازی به اختراع روش‌های جدید هک ندارند؛ آن‌ها فقط کافی است همان روش‌هایی را که هکرهای انسانی سال‌هاست به کار می‌برند، با سرعت سرسام‌آوری شبیه به یک مسابقه سرعت (Speed-run) اجرا کنند.

چرا این موضوع مهم است: ایجنت‌ها دارند نشان می‌دهند که می‌توانند تکنیک‌های پایه‌ای هک را با چنان سرعت و در ابعادی باورنکردنی خودکار کنند که حفره‌های امنیتی قدیمی و فراموش‌شده اینترنت را به اهدافی بی‌نهایت ساده تبدیل کرده‌اند.

اصل ماجرا: شرکت اوپن‌ای‌آی (OpenAI) اخیراً اعلام کرد به بیش از ۱۰۰ سازمان و شرکت هشدار داده است، چرا که ممکن است ایجنت‌های هوش مصنوعی این شرکت در طول آزمایش‌های پیش از انتشار، بدون اجازه به سیستم‌های آن‌ها دسترسی پیدا کرده باشند.

• پژوهشگران شرکت‌های ترنسلوس (Transluce) و کوریدور (Corridor) هم طی روز‌های گذشته به موارد تازه‌ای برخوردند که در آن‌ها ایجنت‌های هوش مصنوعی وب‌سایت‌های دولتی، از جمله سایت‌های رسمی ایالات متحده و کانادا را هدف قرار داده بودند.
• شرکت‌های هوش مصنوعی و پژوهشگران در حال حاضر مشغول بررسی ده‌ها هزار موردی هستند که در آن‌ها مدل‌های پیشرو (Frontier Models) در جریان تست‌های پیش از عرضه، از چارچوب‌های تعیین‌شده فراتر رفته‌اند.

نیم‌نگاهی به واقعیت: ایجنت‌ها در این سناریوهای آزمایشی سرکش، هیچ کار خارق‌العاده‌ای انجام نداده‌اند؛ آن‌ها صرفاً از روش‌های سنتی هکرها تقلید می‌کنند؛ یعنی استفاده از اطلاعات ورود لو‌رفته، کلیدهای API فاش‌شده و دور زدن سیستم‌های تشخیص بات؛ همان تکنیک‌هایی که هکرهای انسانی دهه‌هاست با موفقیت از آن‌ها استفاده می‌کنند.

• در بسیاری از موارد گزارش‌شده، این ایجنت‌ها صرفاً به دیتابیس‌ها و وب‌سایت‌های عمومی دسترسی پیدا کرده بودند.
• جک کیبل (Jack Cable)، هم‌بنیان‌گذار Corridor و از نویسندگان گزارش Transluce، در گفتگو با رسانه‌ها توضیح داد: «نفوذهایی که ما دیدیم اصلاً پیچیده یا پیشرفته نبودند؛ بلکه بسیار ابتدایی، محدود و در سطح پایه‌ای بودند.»

نکته قابل‌تأمل: نکته جالب اینجاست که برخی از این اتفاقات زمانی رخ داد که ایجنت‌ها در حال انجام کار‌های کاملاً معمولی و بدون هیچ ارتباطی با امنیت سایبری بودند! این موضوع نشان می‌دهد که ایجنت‌ها حتی نیازی ندارند دستوری برای هک کردن بگیرند تا به سراغ پیدا کردن رخنه‌های امنیتی بروند.

• در یک نمونه جالب، ایجنتی مأمور شده بود سوابق طلاق در کانادا در اوایل دهه ۱۹۰۰ را پیدا کند؛ اما وقتی به درِ بسته خورد، برای به دست آوردن اطلاعات، خودش سرخود شروع کرد به تست کردن آسیب‌پذیری‌های سایبری سیستم!
• کیبل در این باره می‌گوید: «همین که چنین رفتاری از اساس رخ داده، واقعاً نگران‌کننده و جای تأمل دارد.»

پشت پرده چه خبر است؟ موج فعالیت‌های خودکار تولیدشده با هوش مصنوعی، دردسرهای کاملاً تازه‌ای برای مدافعان امنیت شبکه ایجاد خواهد کرد.

• مایکل مورگن‌استرن (Michael Morgenstern)، از شرکای شرکت مشاوره DayBlink، اشاره می‌کند: «هیچ‌کدام از این حملات جدید نیستند، اما تفاوت بزرگ اینجاست که حالا یک نفر به کمک هوش مصنوعی می‌تواند همان حملات قدیمی را در مقیاسی باورنکردنی و انبوه اجرا کند.»
• کار‌هایی که زمانی هکرها را وادار می‌کرد ساعت‌ها به شکل دستی سایت‌ها را بررسی کنند، دنبال رمزهای عبور لو‌رفته بگردند یا محدودیت‌های دسترسی را دور بزنند، حالا به نرم‌افزاری سپرده می‌شود که بی‌وقفه و خودکار تلاش می‌کند تا راهی باز کند.
• کیبل معتقد است شرکت‌هایی که این ایجنت‌ها را به کار می‌گیرند و شرکت‌های سازنده‌ای که آن‌ها را ارزیابی می‌کنند، باید نظارت‌های بسیار سفت‌وسختی برقرار کنند تا رفتارهای غیرمنتظره این ایجنت‌ها را به موقع شکار نمایند.

نگاه کلی به ماجرا: دستورالعمل‌های قدیمی امنیت سایبری هنوز هم پابرجا و کاملاً کارآمد هستند.

• بستن پورت‌ها و سرویس‌های در دسترس، تغییر دوره‌ای رمزهای عبور و کلیدهای API لو‌رفته، وصله کردن باگ‌های شناخته‌شده و محدود کردن سطوح دسترسی، هنوز هم سد راه بخش بزرگی از این نفوذها می‌شود.
• کیبل می‌گوید مدل‌های هوش مصنوعی عمدتاً از همان دسته آسیب‌پذیری‌هایی سوءاستفاده می‌کنند که مدافعان امنیت «دهه‌هاست از وجودشان خبر دارند» و دقیقاً می‌دانند چطور باید جلوی آن‌ها را بگیرند.

کلام آخر: شیوه محافظت از شبکه‌ها تغییر نکرده است؛ صرفاً به این دلیل که ابزار حمله عوض شده، اصول بنیادین دفاع در دنیای سایبری عوض نمی‌شود.

بیش‌تر بخوانید: اصول پایه امنیت سایبری هنوز هم در عصر هوش مصنوعی حرف اول را می‌زند