بی‌خیال آخرالزمان هوش مصنوعی؛ خطر واقعی تنبلی ما در رعایت امنیت پایه است!

تیترهای رنگارنگ و جنجالی این روز‌ها درباره ایجنت‌های هوش مصنوعی که خودسرانه به سیستم‌ها و رایانه‌ها رخنه می‌کنند، شاید این حس را به شما بدهد که وقتش رسیده حسابی نگران خیزش ایجنت‌های تهاجمی شوید؛ یا دست‌کم از این بترسید که هوش مصنوعی نکند روزی به زندگی بشر پایان دهد!

با این حال، سه تن از کارشناسان برجسته امنیت سایبری اصلاً این حرف‌ها را قبول ندارند. در پنل تخصصی که در جریان کنفرانس هوش مصنوعی HumanX در آمستردام برگزار شد، این کارشناسان تأکید کردند که بزرگ‌ترین خطر امنیتی فعلی نه هوش مصنوعی، بلکه همان «هوش ارگانیک» یعنی انسان‌های جایزالخطایی هستند که هنوز یاد نگرفته‌اند جوانب کار را درست بسنجند و اصول پایه را رعایت کنند.

دایانا کلی (مدیر ارشد امنیت اطلاعات در Noma Security) در این باره گفت: «اگر نگران این هستید که اربابان رباتیک به ابرهوش برسند و تصمیم بگیرند همه ما را به عنوان سوخت بسوزانند، خیالتان راحت باشد که در حال حاضر این سناریو بیش‌تر به داستان‌های علمی‌تخیلی شبیه است تا واقعیت علمی.»

او در ادامه افزود: «ما داریم به این نرم‌افزارها اختیارات، دسترسی‌ها و توانمندی‌های فوق‌العاده بالایی برای اقدام و تصمیم‌گیری می‌دهیم. بنابراین باید کنترل‌ها و چارچوب‌های دقیقی دور این سیستم‌ها ایجاد کنیم؛ کاری که در حال حاضر اصلاً به خوبی از پس آن برنمی‌آییم.»

اریک دور (مدیر ارشد محصول در شرکت Tenable) نیز با تأیید این موضوع گفت خطراتی که میان مشتریان خود می‌بیند، خیلی پیش‌پاافتاده‌تر و کم‌هیجان‌تر از سناریوی شورش ایجنت‌های هوش مصنوعی روی سیستم‌ها است. او توضیح داد: «در یک سوی ماجرا، مشتریانی داریم که حتی احراز هویت چندمرحله‌ای (MFA) را هم در سازمانشان فعال نکرده‌اند! این افراد اصلاً نباید نگران حمله هوش مصنوعی باشند؛ اولین کارشان باید این باشد که بروند و MFA را روشن کنند.» (توصیه‌ای کاملاً درست که اگر شما هم تا به حال انجام نداده‌اید، باید فوراً سراغش بروید!)

او در ادامه گفت: «در سوی دیگر، متخصصان و سازمان‌های فوق‌العاده پیشرفته‌ای را می‌بینید که با وجود مهارت بالا، به شکلی بیش‌ازحد دست‌ودلبازانه به هوش مصنوعی اجازه می‌دهند آزادانه در کل سازمانشان بچرخد و به همه چیز سرک بکشد.»

مادلین لارنس (هم‌بنیان‌گذار Aikido) هم دیدگاه مشابهی درباره بازگشت به اصول اولیه دارد: «چیزی که سازمان شما را به دردسر می‌اندازد، مسیرها و روش‌های حمله عجیب و غریب جدید نیست؛ بلکه دقیقاً همان بخش‌های خراب، کسل‌کننده و پیش‌پاافتاده‌ای است که خودتان هم می‌دانید ایراد دارند و باید سال‌ها پیش درستشان می‌کردید!»

جالب است بدانید برخی از ماجراهای پرسروصدای نفوذ ایجنت‌های هوش مصنوعی به سیستم‌های دیگر، در واقع حاصل سوءاستفاده از همان حفره‌هایی بوده که هر هکر انسانی با مهارت متوسط هم می‌توانست به راحتی از آنها عبور کند. برای نمونه، در یک آزمون امنیتی که روندش به هم ریخت، مدل Gemini گوگل توانست یک رمز عبور ساده را به درستی حدس بزند! خلاصه کلام این است: حملات قدیمی و امتحان‌پس‌داده همچنان در برابر دیوارهای دفاعی توخالی و ضعیف به راحتی جواب می‌دهند.

اریک دور خاطرنشان کرد از آنجا که هوش مصنوعی سرعت و گستره حملات سایبری را چند برابر کرده، باورها و فرضیات امنیتی قدیمی دیگر جوابگو نیستند: «استراتژی امنیتی بخش زیادی از شرکت‌ها تا به حال فقط این بوده که "بد‌ترین نباشند و گلیم خود را از آب بیرون بکشند"! اما حالا همه باید استانداردهای بازی خود را حسابی بالا ببرند.»

دایانا کلی یادآور شد که دادن اختیارات و آزادی عمل بیش‌ازحد به ایجنت‌های هوش مصنوعی، نسخه مدرنی از خطای قدیمی «مأمور گمراه» (Confused Deputy Problem) را پدید آورده است؛ یعنی همان رخنه‌ای که در آن، مهاجم یک نرم‌افزار معتبر را فریب می‌دهد تا دسترسی‌های غیرمجاز را برایش باز کند. کلی گفت: «به این ایجنت‌های هوش مصنوعی دسترسی‌های بیش‌ازحد داده می‌شود.» او سپس به پژوهشی از Noma اشاره کرد که نشان می‌داد چگونه جریان‌های کاری خودکار و ایجنتی در گیت‌هاب (GitHub) می‌توانند فریب بخورند و مخازن کد محرمانه شرکت‌ها را لو بدهند.

مادلین لارنس هم در تأیید این موضوع اضافه کرد که مدام پست‌هایی نگران‌کننده درباره کاربردهای عجیب Instinct می‌بیند؛ دستیار هوش مصنوعی جدیدی که هنوز در نسخه بتای خصوصی قرار دارد و حسابی دل شیفتگان هوش مصنوعی را برده است. این ابزار دقیقاً مثل مدل Muse از متا و پروژه تازه معرفی‌شده dots از اوپن‌ای‌آی، می‌تواند به نمایندگی از کاربر دست به اقدام بزند. در یکی از مثال‌های عجیبی که لارنس تعریف کرد، ایجنت Instinct یک کاربر رفته و از ایجنت Instinct کاربر دیگر رمز عبور نتفلیکس را تقاضا کرده بود!

لارنس گفت: «مردم عاشق این هستند که مدام از ابزار‌های جذاب و ترند روز مثل Instinct حرف بزنند؛ اما در واقع همه این‌ها همان ساختار قدیمی هستند که فقط بنزین بیشتری رویشان ریخته‌اند و با یک برندینگ فریبنده و خوش آب‌ورنگ بسته‌بندی شده‌اند!»

اریک دور هم نمونه‌ای عجیب و ناخوشایند از «فناوری اطلاعات در سایه» (Shadow IT) در یکی از شرکت‌های مشتری تعریف کرد؛ جایی که اسکنرهای Tenable متوجه نصب مخفیانه و غیرمجاز یک ایجنت به نام OpenClaw شدند: «ماجرا جالب‌تر هم می‌شود: این ایجنت را پیمانکاری نصب کرده بود که برای کار روی سورس‌کد شرکت استخدام شده بود! از آنجا که این پیمانکار خیلی دلش می‌خواست از خانه دورکاری کند، ایجنت را به اکانت تلگرام شخصی‌اش متصل کرده بود تا بتواند سیستم را از راه دور کنترل کند!» اما اتصال این پیام‌رسان باعث شده بود «تمام فیلترها و پروتکل‌های امنیتی سازمانی که تصورش را بکنید به راحتی دور زده شوند.»

دور این اتفاق را نوعی ناهماهنگی و خطای انسانی در به‌کارگیری فناوری دانست: «این اتفاقات هر روز دارد می‌افتد؛ چون افراد و شرکت‌ها برای رسیدن به بهره‌وری وسوسه‌انگیز هوش مصنوعی که واقعاً هم وجود دارد، مسابقه گذاشته‌اند، بدون اینکه زحمت پیاده‌سازی چارچوب‌ها و کنترل‌های امنیتی درست را به خودشان بدهند.»

لارنس با لحنی کنایه‌آمیز، سم آلتمن (مدیرعامل OpenAI) و داریو آمودی (مدیرعامل شرکت Anthropic) را «بهترین مدیران بازاریابی تاریخ برای شرکت‌های امنیتی» نامید و گفت فضاسازی‌های آنها باعث شده مدیران سایر شرکت‌ها تازه دست به جیب شوند و پول بیشتری پای امنیت سایبری بریزند!

البته هوش مصنوعی می‌تواند با کشف سریع‌تر آسیب‌پذیری‌ها نسبت به انسان، امنیت سیستم‌ها را تقویت کند؛ موضوعی که گزارش اخیر گروه اطلاعات تهدیدات گوگل نیز آن را تأیید کرده است. با این وجود، مدیران حاضر در پنل این ادعا را که هوش مصنوعی در نهایت منجر به تولید نرم‌افزارهای کاملاً بی‌نقص و بدون باگ می‌شود، با خنده رد کردند.

دایانا کلی تأکید کرد که هوش مصنوعی با داغ کردن پدیده vibe coding عملاً دارد وضعیت امنیت را خراب‌تر هم می‌کند؛ چون به تولید نرم‌افزارهای پر از رخنه و نشتی منجر می‌شود: «اصلاً تا حالا کدهایی را که با روش vibe coding نوشته شده‌اند بررسی کرده‌اید؟ درون این کدها بی‌شمار آسیب‌پذیری امنیتی جا خوش کرده است!»

در پایان، اریک دور با لحنی شوخ‌طبعانه گفت: «واقعاً خیلی خوشحال می‌شدم اگر امنیت شغلی‌ام به خطر می‌افتاد و هوش مصنوعی تمام این دردسرها و باگ‌ها را حل می‌کرد!» اما با توجه به سیل پایان‌ناپذیر نرم‌افزارهای جدید با رخنه‌های تازه و شرکت‌هایی که مدام همان اشتباهات قدیمی را تکرار می‌کنند، به نظر نمی‌رسید او نگران بی‌کار شدنش باشد: «خیالم راحت است که کار و بار ما تا مدت‌ها حسابی سکه خواهد بود!»