پیشنهادهای امنیتی پرخطر هوش مصنوعی؛ چرا نباید کنترل کامل سیستم‌ها را به آن واگذار کرد؟

• گزارش‌های جدید نشان می‌دهند که اختیارات و استقلال عمل بیش‌ازحدی برای اتخاذ تصمیم‌های حساس امنیتی به هوش مصنوعی داده شده است.
• ۷۰ درصد از سازمان‌ها تصمیم‌هایی را به هوش مصنوعی واگذار می‌کنند که تا ۱۲ ماه پیش توسط نیروی انسانی اتخاذ می‌شد.
• شکاف کنترلی عمیقی میان اختیارات اعطاشده به هوش مصنوعی و توانایی سازمان‌ها برای نظارت و ارزیابی آن وجود دارد.

پژوهش‌های جدید نشان می‌دهند واگذاری تصمیم‌گیری‌های پیچیده به هوش مصنوعی، سازمان‌ها را به سمتی سوق داده است که فناوری‌های نوظهور را مسئول مدیریت مجوزهای کاربری و کنترل داده‌های حساس کنند؛ رویکردی که ریسک‌های امنیتی متعددی را به‌همراه دارد.

مطالعه انجام‌شده توسط شرکت امنیت سایبری Illumio بررسی می‌کند که چگونه سازمان‌ها تصمیم‌هایی را که تا پیش از این بر عهده انسان‌ها بود، بدون در نظر گرفتن پیامدها و خطرات بالقوه جدی، به هوش مصنوعی واگذار کرده‌اند.

یافته‌های این پژوهش مشخص کرده است که اکثریت سازمان‌ها (۷۰ درصد) فرایند تصمیم‌گیری را به هوش مصنوعی سپرده‌اند، اما تنها حدود نیمی از آن‌ها (۴۹ درصد) توانایی مشاهده اقدامات ایجنت‌های هوش مصنوعی و حسابرسی رفتارهای آن‌ها را دارند.

پیشنهادهای پرریسک هوش مصنوعی

ماهیت مستقل ایجنت‌های هوش مصنوعی این راهبرد را بسیار پرخطر می‌کند. بررسی‌ها نشان می‌دهد که ۵۶ درصد از سازمان‌ها در مقایسه با ۱۲ ماه گذشته تمایل بیشتری به پذیرش خطرات سایبری پیدا کرده‌اند و نزدیک به نیمی از آن‌ها (۴۷ درصد) صراحتاً اجازه داده‌اند اقدامات هوش مصنوعی مستقیماً در محیط‌های عملیاتی و واقعی اجرا شود.

اعطای آزادی عمل کامل به ایجنت‌های هوش مصنوعی برای دسترسی به داده‌ها، برنامه‌ها و زیرساخت‌های سازمانی، شرایط بحرانی کاملاً پیشگیری‌پذیری را پدید می‌آورد. تحقیقات شرکت Illumio از وجود یک «شکاف کنترلی» میان قواعد تعیین‌شده از سوی مدیران و توانایی‌های واقعی این فناوری پرده برداشته است.

در طول یک سال گذشته، حدود ۷۶ درصد از شرکت‌ها دست‌کم با یک مشکل امنیتی ناشی از هوش مصنوعی روبه‌رو شده‌اند. ۳۵ درصد از آن‌ها اعتراف کرده‌اند که عمل به پیشنهادهای هوش مصنوعی مستقیماً ریسک‌های امنیتی در پی داشته است و ۲۶ درصد نیز از اتصال بدون مجوز ایجنت‌ها و ابزارهای هوش مصنوعی به سایر سامانه‌ها خبر داده‌اند.

نگران‌کننده‌تر اینکه ۲۴ درصد از سازمان‌ها گزارش کرده‌اند هوش مصنوعی تلاش داشته به اطلاعاتی فراتر از سطح دسترسی مجاز خود دست پیدا کند، و ۲۴ درصد دیگر نیز از اجرای اقدامات غیرمجاز توسط این ابزارها خبر می‌دهند.

ضرورت اعمال محدودیت‌های سخت‌گیرانه

بی‌تردید هوش مصنوعی هم‌اکنون نیز کاربرد گسترده‌ای در امنیت سایبری دارد و عرضه راهکارهای مبتنی بر آن توسط شرکت‌های مختلف با موفقیت‌هایی همراه بوده است. با این حال، در شرایطی که ۶۷ درصد سازمان‌ها از ابزارهای امنیت سایبری مبتنی بر هوش مصنوعی بهره می‌برند، ۳۲ درصد به آن اجازه می‌دهند بررسی‌های امنیتی را بدون نظارت انسان پیش ببرد و ۲۹ درصد نیز اعمال تغییرات کدها را بدون هیچ‌گونه نظارتی به این نرم‌افزارها واگذار کرده‌اند.

راگو نانداکومارا (Raghu Nandakumara)، نایب‌رئیس بخش راهبرد صنعت در شرکت Illumio، در این رابطه خاطرنشان می‌کند: «بزرگ‌ترین خطر هوش مصنوعی ممکن است سیستمی نباشد که قوانین را زیر پا می‌گذارد، بلکه سیستمی است که از ابتدا هیچ مرز مشخص و معناداری برای آن تعیین نشده است.»

رهاسازی ایجنت‌های هوش مصنوعی بدون اعمال محدودیت، سازمان‌ها را برای مهار و کنترل این نرم‌افزارها با چالش‌های جدی مواجه کرده است.

نانداکومارا تأکید می‌کند که ایجنت‌های هوش مصنوعی بسیار سمج هستند و تلاش برای حدس زدن یا خنثی کردن حرکت بعدی آن‌ها بی‌فایده خواهد بود. به گفته او: «کسب‌وکارها باید محدودیت‌های دقیقی برای آنچه هوش مصنوعی می‌تواند به آن دسترسی داشته باشد یا انجام دهد تعریف کنند و سپس این محدودیت‌ها را درون برنامه و سرتاسر زیرساخت‌های اصلی به اجرا بگذارند. تنها از این طریق می‌توان رفتارهای غیرمنتظره را پیش از وارد آمدن خسارت‌های واقعی مهار کرد.»