امنیت داده‌ها در عصر هوش مصنوعی؛ چرا روش‌های سنتی دیگر پاسخگوی تهدیدهای تازه نیستند؟

گسترش سریع ابزارهای هوش مصنوعی در کسب‌وکارها، تعریف تازه‌ای از امنیت و اعتماد به داده‌ها ایجاد کرده است. با ورود عامل‌های هوشمند و خودکار تصمیم‌گیر از پروژه‌های آزمایشی به جریان‌های اصلی کاری، سطح حملات سایبری به سازمان‌ها هم‌گام با پذیرش این فناوری گسترش می‌یابد.

موسسه پژوهشی Gartner پیش‌بینی می‌کند که تا پایان سال ۲۰۲۶، حدود ۴۰ درصد از نرم‌افزارهای سازمانی به عامل‌های هوش مصنوعی ویژه برای انجام وظایف خاص مجهز شوند؛ رقمی که در مقایسه با سهم کمتر از ۵ درصدی سال ۲۰۲۵ جهشی چشمگیر به‌شمار می‌رود. پیشنهاد Gartner به رهبران سازمان‌های نرم‌افزاری این است که هرچه سریع‌تر راهبرد عامل‌های هوش مصنوعی (Agentic AI) خود را مشخص کنند، در غیر این صورت خطر عقب ماندن از رقبا را به جان خواهند خرید.

چشم‌انداز امنیت سایبری در حال دگرگونی است. آنچه در گذشته تمرکزی ساده روی رمزنگاری و حفاظت از مرزهای شبکه تلقی می‌شد، امروزه به‌تنهایی کارساز نیست؛ زیرا پیدایش خطرات مرتبط با هوش مصنوعی، امنیت را به چالشی چندوجهی مبتنی بر اعتماد الگوریتمی، یکپارچگی مدل‌ها و خطرات ناشی از داده‌های ترکیبی یا ساختگی بدل کرده است. مرزهای اعتماد در حال جابه‌جایی هستند و بیشتر شرکت‌ها هنوز تجهیزات و آمادگی لازم را برای مواجهه با این شرایط ندارند.

با این حال، ناامنی هوش مصنوعی پیش‌تر توسط سازندگان خود این ابزارها نیز به اثبات رسیده است؛ چنان‌که رخداد نفوذ امنیتی در پلتفرم Hugging Face نشان داد که بروز خطا از سوی یک عامل خودسر هوش مصنوعی عامل اصلی ماجرا بوده است. خطرات ناشناخته رفتارهای غیرقابل پیش‌بینی در عامل‌های هوشمند چالش‌های عظیمی برای پایداری امنیت سازمانی ایجاد می‌کند؛ هرچند این موضوع تنها یکی از صدها تهدید پیش روی مدیران امنیت سایبری است.

در حقیقت، آمارهای مربوط به سرمایه‌گذاری در حوزه امنیت سایبری نشان می‌دهد که کسب‌وکارها برای رویارویی با تهدیدهای نوین به‌هیچ‌وجه آماده نیستند. در شرایطی که برآورد خسارت سالانه جرایم سایبری در جهان حدود ۱۰٫۵ تریلیون دلار است و پیش‌بینی می‌شود این رقم تا سال ۲۰۲۹ به ۱۵٫۶۳ تریلیون دلار برسد، هزینه پیش‌بینی‌شده توسط موسسه Gartner برای امنیت اطلاعات در سال ۲۰۲۶ تنها ۲۴۴ میلیارد دلار برآورد شده که در برابر این خسارت ناچیز به نظر می‌رسد.

تولید داده‌های ماشینی بی‌کیفیت نیز بر اساس قانون شناخته‌شده «ورودی بی‌کیفیت منجر به خروجی بی‌کیفیت می‌شود»، بحران سلامت داده را تشدید کرده است. این وضعیت نیازمند بازطراحی بنیادین معماری‌های مبتنی بر اعتماد و فناوری است تا امنیت سایبری به‌شکل عمیق در تمام چرخه حیات داده‌ها ادغام شود. بنابراین رهبران امنیتی باید سرمایه‌گذاری‌های سنجیده‌ای روی زیرساخت‌های ایمن هوش مصنوعی، شفافیت الگوریتمی و حاکمیت فدرال داده‌ها انجام دهند تا اکوسیستم کسب‌وکار خود را حفظ کنند.

بزرگ‌ترین خطرات امنیتی که در حال حاضر نادیده گرفته می‌شوند

با توجه به اینکه بسیاری از تهدیدهای امروزی توسط خود هوش مصنوعی هدایت می‌شوند، بعید است که سازمانی بتواند به‌تنهایی در برابر تمام این خطرات از دارایی‌هایش محافظت کند؛ به همین دلیل اولویت‌بندی راهکارهای پیشرفته امنیت داده برای مدیران ارشد یک ضرورت اجتناب‌ناپذیر است.

نخست، حملات چندشکلی و تولیدشده توسط هوش مصنوعی با ابعاد و سرعت بسیار بالاتری رخ می‌دهند و مهار آن‌ها از توان پردازش نیروی انسانی خارج است. فناوری جعل عمیق (Deepfake) یکی از همین شیوه‌های مبتنی بر هوش مصنوعی برای سرقت و باج‌گیری به‌شمار می‌رود که در عرض چند دقیقه تولید می‌شود و ساخت ربات مخربی که بتواند به شبکه‌های سازمانی نفوذ کند و باارزش‌ترین دارایی‌های داده‌ای را هدف قرار دهد، ممکن است کمتر از ۱۰۰۰ دلار هزینه داشته باشد.

نفوذگران با بهره‌گیری از این شیوه‌ها می‌توانند به‌جای حمله مستقیم به زیرساخت‌های فناوری اطلاعات، روند تصمیم‌گیری مدل‌های هوش مصنوعی را دستکاری کنند. از سوی دیگر، استفاده کنترل‌نشده کارمندان از هوش مصنوعی (Shadow AI) و قرار گرفتن در معرض داده‌های مصنوعی نیز نگرانی‌ها را دوچندان کرده است؛ چراکه کارکنان برای انجام کارهای روزمره یا تهیه گزارش، به ابزارها و مدل‌های تأییدنشده روی می‌آورند که از فایروال‌های امنیتی شرکت عبور نمی‌کنند.

تهدید دیگر، افزایش چشمگیر به‌کارگیری عامل‌های هوشمند بدون مهار خطرات ناشی از وابستگی به سیستم‌های ثالث است. عامل‌های هوش مصنوعی با برخورداری از توانایی انجام اقدامات مستقل، سطح تهدید را به میزان چشمگیری گسترش داده‌اند. در شتاب فراوان شرکت‌ها برای پیاده‌سازی این ابزارها، دسترسی‌های گسترده‌ای حتی به داده‌های بسیار حساس به عامل‌ها داده می‌شود که این مسئله اغلب سازوکارهای نظارتی سنتی سازمان را دور می‌زند. در این میان، اتصال عامل‌ها به سیستم‌های بیرونی که آسیب‌پذیری‌های امنیتی آن‌ها ارزیابی نشده، نقاط کور متعددی به وجود می‌آورد.

حملات تزریق پرامپت (Prompt Injections) خطر حیاتی دیگری است که درست هم‌سطح تهدید وابستگی به نرم‌افزارهای خارجی قرار دارد. چالش اصلی در اینجا ناتوانی سازمان‌ها در تشخیص داده‌ها و دستورهایی است که عملاً وارد سامانه‌هایشان می‌شوند؛ این درخواست‌ها ممکن است در ابتدا بی‌خطر به نظر برسند، اما در طول زمان به رفتارهایی مخرب تبدیل شوند و زمانی که حمله نهایی شکل بگیرد، شرکت متوجه منشأ آسیب نخواهد شد.

علاوه بر همه این موارد، شمارش معکوس برای «روز موعود کوانتومی» (Q-Day) آغاز شده است؛ روزی که رایانه‌های کوانتومی به قدرتی دست می‌یابند که استانداردهای رمزنگاری متداول امروزی را درهم می‌شکنند. در آن مرحله مهاجمان قادر خواهند بود تقریباً تمامی ارتباطات دیجیتال، تراکنش‌های مالی و سایر داده‌های حفاظت‌شده جهانی را رهگیری و رمزگشایی کنند.

ملاحظات کلیدی برای اتخاذ رویکرد هوش مصنوعی مسئولانه

آنچه در حال حاضر به آن نیاز داریم، تدوین چارچوبی رسمی برای دستیابی به بازدهی سرمایه‌گذاری مبتنی بر اعتماد در عصر هوش مصنوعی است. چنین رویکردی باید بر حفظ اصالت و سلامت منابع داده متمرکز باشد. سازمان‌ها برای اعتمادسازی پیرامون داده‌ها ناگزیرند سازوکارهای متعددی نظیر احراز هویت و پاسخگویی را پیاده‌سازی کنند.

ما باید همواره بدانیم چه عاملی روی داده‌ها دست به اقدام می‌زند و تسلط و بافتار مناسبی برای نظارت در اختیار داشته باشیم. بنابراین مجوزهای دسترسی باید بر اساس بافتار و عملکرد مشخص صادر شوند، نه به‌صورت پیش‌فرض؛ امری که نیازمند اعتبارسنجی پیوسته رفتار و نیت سیستم‌هاست. این اقدامات باید همراه با رعایت دقیق قوانین نظارتی متغیر و حفظ نظارت مستمر انسانی در تمام مراحل پیاده شوند.

پیاده‌سازی هوش مصنوعی مسئولانه مستلزم شکل‌دهی به رویکردی جامع است که اثرات آن را بر کل زنجیره ارزش اکوسیستم در نظر بگیرد. تنها در این صورت می‌توان مطمئن شد که ارزش واقعی به کاربران و افرادی که تحت تأثیر سیستم قرار می‌گیرند منتقل می‌شود. برای پیشبرد این هدف، عناصر اساسی زیر باید رعایت شوند:

افراد مسئولیت‌پذیر و پاسخگو

مفهوم پاسخگویی نقشی حیاتی ایفا می‌کند. این روزها تمایل فراوانی وجود دارد که در صورت بروز هرگونه اختلال یا خسارت، ماشین، الگوریتم یا سیستم‌عامل تقصیر دانسته شوند؛ در حالی که حضور انسان‌های متعهد که بار مسئولیت را بپذیرند الزامی است. هوش مصنوعی پدیده‌ای پایدار است و تأثیراتی در مقیاس نسل‌ها بر جا خواهد گذاشت؛ از این رو اگر این واقعیت را به‌خوبی درک نکنیم و مسئولیت تصمیم‌ها را نپذیریم، به بیراهه خواهیم رفت.

چهار بعد کلیدی هوش مصنوعی مسئولانه

در یک دیدگاه کلان، تمرکز باید روی شفافیت، پاسخگویی، انصاف و حفاظت از داده‌ها باشد. برای ساخت چارچوبی موفق، سازمان‌ها باید به پرسش‌های بنیادی زیر پاسخ دهند:

• چگونه می‌توان شفافیت مدل‌های هوش مصنوعی و شیوه‌های مدیریت داده را تضمین کرد؟
• چه سازوکاری برای پاسخگویی در قبال تصمیم‌های اتخاذشده توسط هوش مصنوعی طراحی شده است؟
• چگونه می‌توان از رعایت عدالت در حق تمام افرادی که با این سامانه‌ها سروکار دارند اطمینان حاصل کرد؟
• امنیت و حفاظت از اطلاعات چگونه در سراسر چرخه حیات داده‌ها تأمین می‌شود؟

ایجاد ارزش افزوده بر پایه اعتماد

در این شرایط پرخطر، اعتماد به یک مزیت رقابتی قابل سنجش برای شرکت‌ها تبدیل شده است. سازمان‌هایی که استراتژی امنیت سایبری خود را به سطحی بالاتر ارتقا می‌دهند و از همین ابتدا روی حاکمیت هوش مصنوعی، به‌روزرسانی رمزنگاری و معماری امنیتی سرمایه‌گذاری می‌کنند، ارزش افزوده‌ای حاصل از اعتماد پایدار به دست می‌آورند. نتایج پژوهش موسسه PwC نیز مؤید همین موضوع است؛ در نظرسنجی از هزاران مدیرعامل در سراسر جهان مشخص شد که اعتماد مشتریان ۳۱ درصد از تغییرات حاشیه سود و ۲۱ درصد از بازده دارایی‌ها را تعیین می‌کند که نشان‌دهنده پیوندی عمیق‌تر از بزرگی اندازه یک شرکت است.

پایداری اعتماد نیازمند رویکردی است که در تمام طول چرخه عمر عملیاتی داده ساخته و نگهداری شود. این چشم‌انداز جامع شامل حفظ سلامت منابع داده، کیفیت سرتاسری اطلاعات، احراز هویت و پاسخگویی، پایش رفتاری و اعتبارسنجی نیت‌ها، انطباق با قوانین و اعمال نظارت مستقیم انسانی در تمام مراحل هوش مصنوعی است.

در پیش گرفتن رویکردی روشمند برای حفاظت از سامانه‌ها

دگرگونی مرزهای امنیت داده نیازمند نگاهی تازه است که ایجاد زیرساخت‌های داده‌ای تاب‌آور و اجرای الگوهای بهینه را برای مهار درجا تهدیدها در بر گیرد. موفقیت آینده امنیت سازمانی به همان اندازه که وابسته به دفاع شبکه‌ای است، به نحوه اداره و نظارت بر سیستم‌های خودکار نیز بستگی خواهد داشت.

راهکار منطقی آن است که مدیران یک گام به عقب بردارند، نگاهی جامع به تصویر کلان داشته باشند، تمامی مؤلفه‌های لازم را ارزیابی کنند و با روشی سنجیده‌تر پیش روند. چنین رویکرد روشمندی هم از کسب‌وکار و مشتریان محافظت می‌کند و هم بستری امن برای پیشرفت جامعه می‌آفریند.

انجام اصولی کارها پیامدهای مثبت متعددی خواهد داشت که از جمله آن‌ها می‌توان به تضمین ارزش برای مشتریان و ماندگاری کسب‌وکار اشاره کرد؛ مواردی که سرچشمه وفاداری و اعتماد متقابل در دنیای فناوری هستند.