هشدار کارشناسان امنیت: هوش مصنوعی می‌تواند هکرهای تازه‌کار را به تهدیدی جدی برای زیرساخت‌ها تبدیل کند

وقتی صحبت از حملات سایبری فلج‌کننده به شبکه‌های برق، تأسیسات آب آشامیدنی و سایر زیرساخت‌های حیاتی در میان باشد، هوش مصنوعی هنوز نتوانسته است هکرهای کم‌تجربه (اسکریپت کیدی‌ها) را به مهاجمان سایبری فوق‌پیشرفته در سطح سازمان‌های دولتی تبدیل کند؛ با این حال، به گفته متخصصان امنیت فناوری عملیاتی (OT)، «این پتانسیل خطرناک کاملاً وجود دارد».

استیو سویک، مدیر پیشین امنیت اطلاعات در شرکت American Electric Power، در نشست رسانه‌ای پیش از انتشار گزارش «وضعیت هوش مصنوعی در امنیت» از سوی شرکت فرنوس (Frenos) گفت: «ما سال‌ها در حفاظت از تأسیسات حیاتی به اصل "امنیت از طریق گمنامی و پنهان‌کاری" تکیه کرده بودیم، اما دانشی که برای پیاده‌سازی این نفوذها نیاز بود، حالا روزبه‌روز دسترس‌پذیرتر می‌شود و دیگر نیازی به تخصص عمیق گذشته ندارد.»

هوش مصنوعی کار مهاجمان انسانی را برای هدف قرار دادن زیرساخت‌های حیاتی، نفوذ به شبکه تأسیسات و کارخانه‌های تولیدی و همچنین جمع‌آوری اطلاعات و شناسایی سیستم‌های فناوری عملیاتی بسیار ساده‌تر و سریع‌تر کرده است.

پل شیور، مدیر بخش امنیت فناوری عملیاتی در استارتاپ آرمادین (Armadin)، در این نشست توضیح داد: «یک هکر با دسترسی اولیه می‌تواند مستندات فنی را جمع‌آوری کند و با تحلیل برق‌آسای آنها، ویژگی‌های حیاتی طراحی تأسیسات و کارخانه شما را بیرون بکشد. اکنون می‌توان دفترچه راهنمای تقریباً هر کنترل‌کننده اتوماسیون صنعتی را دانلود کرد، آن را به‌سرعت با هوش مصنوعی واکاوی نمود و راهکارهایی برای سوءاستفاده از بخش‌هایی یافت که از پایه به‌صورت امن طراحی نشده‌اند.»

استارتاپ آرمادین، کسب‌وکار امنیتی جدیدی است که کوین مندیا تأسیس کرده و از دسته‌های خودکار ایجنت‌های هوش مصنوعی برای شبیه‌سازی حملات سایبری در دنیای واقعی استفاده می‌کند. شیور پیش از پیوستن به آرمادین، شش سال مدیریت جهانی بخش فناوری عملیاتی را در شرکت قبلی مندیا یعنی مندیانت (Mandiant) بر عهده داشت؛ شرکتی که گوگل در سال ۲۰۲۲ آن را تصاحب کرد.

شیور افزود: «اگر بخواهم با نگاه تجربیاتم در مندیانت صحبت کنم، باید بگویم قصد ندارم موجی از ترس، بلاتکلیفی و آخرالزمان سایبری به راه بیندازم و ادعا کنم که تک‌تک اسکریپت کیدی‌ها اکنون به مهاجمان سایبری پیچیده در سطح دولت‌ها تبدیل شده‌اند؛ اما نمی‌توان انکار کرد که چنین پتانسیلی وجود دارد، چراکه ابزارها با سرعتی باورنکردنی در حال پیشرفت هستند و دسترسی به اطلاعات کلیدی را بسیار سریع‌تر کرده‌اند.»

شیور درباره تجربه کاری خود در آرمادین گفت: «با کمک هوش مصنوعی، اکنون ابزارهایی را ظرف چند روز می‌سازم که در گذشته ساخت آنها ماه‌ها زمان می‌برد. اگر هوش مصنوعی می‌تواند چنین جهشی برای من ایجاد کند، قطعاً توانمندی افرادی با مهارت‌های پایه را نیز ارتقا می‌دهد. شاید هنوز نتوان ادعا کرد که اسکریپت کیدی‌ها به این سطح رسیده‌اند، اما با پیشرفت مدل‌ها، این فرضیه در دنیای امنیت به واقعیتی ملموس نزدیک‌تر می‌شود.»

علاوه بر این، با پایین آمدن موانع فنی ورود برای هکرهای فناوری عملیاتی توسط هوش مصنوعی، جدول زمانی وقوع حملات نیز به‌شدت فشرده‌تر شده است. هری توماس، مدیر ارشد فناوری و هم‌بنیان‌گذار فرنوس (شرکتی که در حوزه آزمون نفوذ مبتنی بر هوش مصنوعی برای محیط‌های صنعتی فعالیت می‌کند)، در این زمینه هشدار می‌دهد.

توماس تأکید کرد: «اگر یک اسکریپت کیدی با مهارتی کمی بالاتر از حد متوسط بتواند حملات صنعتی ترتیب دهد، تعداد بازیگران تهدید در فضای سایبری چندبرابر خواهد شد. این مسئله به کوتاه‌تر شدن چرخه حملات و وقوع نفوذهای بیشتر منجر می‌شود؛ به‌گونه‌ای که تیم‌های مدافع از موضع دفاعی شاید دیگر حتی نتوانند تشخیص دهند مهاجم پشت پرده کیست.»

سنجش قدرت مدل‌های زبانی بزرگ در طراحی نقشه‌های حمله

گزارش شرکت فرنوس میزان کارآمدی هوش مصنوعی در کمک به افراد برای برنامه‌ریزی حمله به سیستم‌های صنعتی را ارزیابی کرده است. برای این منظور، چند مدل هوش مصنوعی در بازه زمانی میان اکتبر ۲۰۲۵ تا سپتامبر ۲۰۲۶ در معرض ۱۶ هزار و ۹۸۰ آزمایش مختلف قرار گرفتند که شامل ۱۳ هزار و ۸۸۴ تلاش برای تصمیم‌گیری، ۲ هزار و ۵۲۰ سناریوی برنامه‌ریزی و ۵۷۶ شبیه‌سازی حمله بود.

فرنوس نام مدل‌ها یا شرکت‌های توسعه‌دهنده آنها را فاش نکرده است، اما اعلام کرد که شش مدل پیشگام، دو مدل وزن‌باز آمریکایی و دو مدل وزن‌باز خارجی را در سه نوع وظیفه آزموده است: انتخاب یک اقدام، برنامه‌ریزی گام‌به‌گام برای دستیابی به هدف، و پیشبرد یک سناریوی شبیه‌سازی‌شده.

در هر آزمون، اطلاعات پس‌زمینه و مجموعه‌ای از اقدامات هجومی در اختیار مدل قرار گرفت تا از میان آنها انتخاب کند. پیش از انتخاب، جزئیات کاملی از دارایی‌ها، ساختار شبکه‌ها، آسیب‌پذیری‌های شناخته‌شده و سطح دسترسی مورد نیاز برای هر اقدام به مدل ارائه شد.

فرنوس سپس بررسی کرد که آیا انتخاب مدل با نتیجه مورد نظر انطباق دارد یا خیر. بسته به نوع مدل، بین ۶ تا ۴۷ درصد از انتخاب‌ها مورد تأیید قرار گرفتند.

یافته‌های این آزمون‌ها نشان داد که سه مدل پیشگام برتر تقریباً در ۹۰ درصد از سناریوهای برنامه‌ریزی موفق ظاهر شدند و طرح‌های حمله کاربردی و قابل اجرایی ارائه دادند؛ با این حال، پایداری عملکرد آنها نوسان داشت و به ترتیب ۶۰ درصد، ۶۲٫۹ درصد و ۷۴٫۳ درصد از طرح‌های حمله آنها در تکرارهای متوالی با موفقیت همراه شد.

در بخشی از این گزارش آمده است: «یک طرح ممکن است منطقی و حساب‌شده به نظر برسد، اما یک مؤلفه حیاتی را از قلم بیندازد. مدل‌ها با اینکه اطلاعات لازم را درباره وظیفه در اختیار داشتند، در برخی پاسخ‌ها یکی از مراحل کلیدی را نادیده گرفتند یا فرضیاتی درباره دسترسی‌هایی مطرح کردند که هنوز در طرح تثبیت نشده بود.»

در این میان، موفق‌ترین مدل از بین چهار مدل وزن‌باز (که مدلی غیرآمریکایی بود) توانست به نرخ موفقیت کلی ۳۶٫۲ درصدی دست یابد. این رقم حتی از نرخ موفقیت کلی سه مدل پیشگام آمریکایی دیگر که به ترتیب امتیازهای ۳۱٫۹ درصد، ۱۸٫۸ درصد و ۱۷٫۹ درصد را ثبت کردند، بالاتر بود.

توماس خاطرنشان کرد: «مشاهدات ما نشان می‌دهد با وجود اینکه مدل‌های هوش مصنوعی به ساخت سریع‌تر ابزارها، دسترسی آسان‌تر و انتقال سریع دانش کمک می‌کنند، همچنان در معرض خطا و توهم قرار دارند. ما معتقدیم قضاوت و هوشمندی انسانی برای این مدل‌ها همچنان عنصری حیاتی است تا بازیگران تهدید بتوانند به اهدافی که در سر دارند برسند.»

در این آزمایش‌ها، هیچ کاربر انسانی از مدل‌ها نخواست تا اشتباهات طرح‌های خود را تصحیح کنند؛ در حالی که در یک سناریوی واقعی، یک مجرم سایبری که به اهداف خود آگاهی دارد می‌تواند خلأهای موجود در نقشه هوش مصنوعی را تشخیص دهد، جزئیات بیشتری به آن اضافه کند و بازبینی پاسخ را از مدل بخواهد.

توماس افزود: «علاوه بر این، در سنجش مدل‌های هوش مصنوعی از یک بستر تست (هارنس) بسیار ساده استفاده کردیم؛ به این صورت که اطلاعات و زمینه (کانتکست) در اختیار سیستم قرار می‌گرفت و پاسخ خواسته می‌شد. به‌کارگیری یک چارچوب آزمایشی توانمندتر و پیشرفته‌تر می‌توانست عملکرد به‌مراتب برتری برای این مدل‌های هوش مصنوعی رقم بزند.»

بر اساس این یافته‌ها، فرنوس اقداماتی را برای مدافعان امنیت فناوری عملیاتی توصیه می‌کند که با استراتژی دفاع چندلایه آغاز می‌شود. این رویکرد شامل بخش‌بندی شبکه‌ها، محدود کردن دسترسی‌های از راه دور و مجوزهای کاربران، و اجرای منظم آزمون‌های بازیابی سیستم‌ها است.

توماس در پایان یادآور شد: «برنامه‌های تداوم کسب‌وکار و بازیابی پس از سانحه بی‌دلیل تدوین نشده‌اند؛ اکنون زمان آن است که آنها را دقیقاً در میدان عمل پیاده کنیم.»