سلاح دولبه هوش مصنوعی: خیزش جرایم سایبری خودمختار و آغاز نبرد نوین دفاعی

فناوری هوش مصنوعی ابزاری را در اختیار شبکه‌های مجرمانه قرار داده است که پیش از این هرگز به آن دسترسی نداشتند: مقیاس‌پذیری نامحدود. اکنون پرسش بنیادین این است که آیا مدافعان و نهادهای امنیتی می‌توانند با همین سرعت خود را ارتقا دهند یا خیر.

در کارخانه‌ای در شهر امبرگ آلمان، یک سیستم هوش مصنوعی به مهندسان زیمنس اعلام می‌کند که یک دستگاه دقیقاً ۱۲ تا ۳۶ ساعت پیش از وقوع نقص فنی از کار خواهد افتاد؛ آن هم در خط تولیدی که هر ثانیه یک محصول نهایی تولید می‌کند و نرخ خطای آن یک در صدهزار است.

در ماه مارس، شرکت داروسازی Eli Lilly قراردادی به ارزش حداکثر ۲٫۷۵ میلیارد دلار منعقد کرد تا به ایجنتی دسترسی پیدا کند که تاکنون ۲۸ داروی کاندید را طراحی کرده و تقریباً نیمی از آن‌ها وارد مرحله آزمایش‌های بالینی انسانی شده‌اند. در ماه آوریل نیز یک مطالعه در نشریه JAMA روی پنج مرکز درمانی دانشگاهی نشان داد که سیستم‌های منشی هوش مصنوعی در هر ویزیت بیمار، ۱۶ دقیقه از بار امور دفتری پزشکان می‌کاهند. همچنین تویوتا با در اختیار گذاشتن این ابزارها برای کارگران خط مونتاژ خود، سالانه ۱۰ هزار ساعت در نیروی کار صرفه‌جویی کرده است.

با این حال، تبهکاران و مجرمان سایبری نیز برای ارتقای چشمگیر عملیات‌های خود به هوش مصنوعی روی آورده‌اند. اکنون یک کلاهبردار به‌تنهایی می‌تواند صدها مکالمه هم‌زمان را به ده‌ها زبان مختلف و در تمام ساعات شبانه‌روز هدایت کند. یک حمله باج‌افزاری مبتنی‌بر ایجنت بدون دخالت انسان نفوذ می‌کند، در شبکه پخش می‌شود و تمام داده‌های شرکت را قفل می‌کند، در حالی که مجرمان پشت آن در خواب هستند. از سوی دیگر، یک دولت تحت تحریم می‌تواند متقاضی کاری جعلی با چهره، صدا و رزومه‌ای بی‌نقص بسازد و این هویت خیالی را در دل یک شرکت آمریکایی استخدام کند.

مقیاسی که زمانی به یک سازمان تبهکاری بزرگ و پرجمعیت نیاز داشت، اکنون تنها با پرداخت هزینه اشتراک یک سرویس هوش مصنوعی در دسترس قرار گرفته است.

بر اساس شاخص TRM AI که در ماه اوت منتشر شد، میزان به‌کارگیری هوش مصنوعی در دسته‌های اصلی جرایم مبتنی‌بر رمزارز به ۵۴ از ۱۰۰ رسیده که در مقایسه با امتیاز ۲۸ در سال ۲۰۲۴ جهشی چشمگیر را نشان می‌دهد؛ رقمی که حاکی از رشدی ۴۰ درصدی تنها در یک سال است و به احتمال زیاد تازه آغاز این مسیر محسوب می‌شود.

دیپ‌فیک در مقیاس صنعتی

پلیس ایرلند شمالی دو هفته پیش از پرونده‌ای گزارش داد که در آن یک قربانی مبلغ ۲۵۰ هزار پوند را پس از تماشای ویدیوی دیپ‌فیک یک سلبریتی در حال تبلیغ یک فرصت سرمایه‌گذاری از دست داد. پس از آن ماه‌ها ارسال پیام در واتس‌اپ ادامه یافت، سپس یک واریز آزمایشی کوچک انجام شد که به ظاهر سودده بود، بعد از آن دسترسی از راه دور به رایانه قربانی گرفته شد و در نهایت وامی برای سرمایه‌گذاری بیشتر به او پیشنهاد شد.

در ماه فوریه، نیروهای پلیس هنگ‌کنگ با حمله به دو واحد در یک ساختمان صنعتی در خلیج کولون، ۳۱ نفر از جمله یکی از بازیکنان لیگ برتر فوتبال هنگ‌کنگ را بازداشت کردند. این گروه تبهکار با استفاده از چهره‌های تولیدشده توسط هوش مصنوعی و تماس‌های تصویری دیپ‌فیک، خود را در اپلیکیشن‌های دوست‌یابی به عنوان زنان ثروتمند جا می‌زدند و سپس طعمه‌های خود را به سمت پلتفرم‌های کلاهبرداری رمزارز با وعده ۵۰ درصد سود ظرف شش ماه هدایت می‌کردند. طبق برآورد پلیس، خسارت این پرونده به بیش از ۳۴ میلیون دلار هنگ‌کنگ می‌رسد.

در سال ۲۰۲۴ نیز یکی از کارمندان شرکت مهندسی Arup در یک جلسه ویدیو کنفرانس شرکت کرد که در آن مدیر ارشد مالی و تک‌تک همکاران حاضر در صفحه نمایش همگی دیپ‌فیک بودند؛ او پیش از آنکه کسی برای پیگیری تلفن را بردارد، مبلغ ۲۵٫۶ میلیون دلار را به حساب مهاجمان حواله کرد.

کلاهبرداری‌ها تنها شاخه‌ای از جرایم سایبری هستند که بر اساس این شاخص، کاربرد هوش مصنوعی در آن‌ها به بلوغ کامل رسیده است. گزارش‌های مربوط به کلاهبرداری‌هایی که هوش مصنوعی بخشی از سناریوی آن‌ها بوده، از سال ۲۰۲۲ تاکنون ۱۳ برابر شده است. خسارت‌های ناشی از کلاهبرداری‌های مبتنی‌بر دیپ‌فیک در سال ۲۰۲۶ تاکنون ۲۶۳ درصد از کل سال ۲۰۲۵ فراتر رفته است. در حال حاضر یک فروشنده، مدل چهره سفارشی را با قیمتی در حدود ۵۰۰ دلار و اشتراک یک‌ساله جعل ویدیویی بی‌درنگ را با قیمتی در حدود ۳ هزار دلار بر پایه رمزارز همراه با پشتیبانی به فروش می‌رساند.

باج‌افزارهایی که خودشان را مدیریت می‌کنند

در ماه ژوئیه، پژوهشگران شرکت امنیت ابری Sysdig نخستین پرونده مستند از یک حمله باج‌افزاری را منتشر کردند که یک ایجنت هوش مصنوعی آن را از ابتدا تا انتها به صورت خودمختار اجرا کرده بود. این عملیات که JadePuffer نام‌گذاری شد، از طریق یک آسیب‌پذیری شناخته‌شده در یکی از ابزارهای محبوب توسعه هوش مصنوعی که بدون محافظت به اینترنت متصل بود، نفوذ کرد. از آن نقطه، این ایجنت پایگاه داده قربانی را کپی کرد، رمزهای عبور را به سرقت برد، برنامه‌ریزی منظمی برای بررسی هر ۳۰ دقیقه یک‌بار تنظیم نمود، وارد سرور عملیاتی شد و بیش از ۱۳۰۰ فایل حیاتی برای فعالیت شرکت را رمزگذاری کرد. این ایجنت در پایان یک یادداشت باج‌خواهی همراه با آدرس بیت‌کوین و ایمیل تماس بر جای گذاشت.

در این عملیات، تمامی تصمیم‌ها مستقیماً توسط نرم‌افزار اتخاذ شده بود.

بررسی‌ها نشان می‌دهد آدرس بیت‌کوین اعلام‌شده از یک راهنمای عمومی کپی شده بود؛ به این معنا که سیستم توانسته بود نفوذ کند و همه چیز را قفل نماید، اما هنوز روش مطمئنی برای دریافت باج نداشت. با این حال، این شکاف به‌زودی برطرف خواهد شد. تعداد گروه‌های باج‌افزاری فعال میان سال‌های ۲۰۲۴ و ۲۰۲۵، با اتکا به بسته‌های آماده‌ای که با قیمت ۴۰۰ تا ۱۲۰۰ دلار بدون نیاز به هیچ‌گونه دانش برنامه‌نویسی به فروش می‌رسند، ۲۱ درصد رشد داشته است.

نیروی کار ساختگی کره شمالی

در نیمه نخست سال ۲۰۲۶، تعداد ۲۰۱ مورد هک در حوزه رمزارز رخ داد که دو برابر دوره مشابه سال گذشته بود و حدود ۶۰۰ میلیون دلار از دارایی‌های مسروقه — معادل ۶۱ درصد از کل آن — به کره شمالی نسبت داده می‌شود. دو عملیات در ماه آوریل، یعنی نفوذ به پروتکل Drift و آسیب‌پذیری KelpDAO، روی‌هم‌رفته بیش از نیم میلیارد دلار خسارت به همراه داشتند.

نیروهای این رژیم اکنون با هویت‌های ساختگی و چهره‌های دیپ‌فیک در مصاحبه‌های استخدامی حاضر می‌شوند، موقعیت‌های شغلی دورکاری در حوزه فناوری اطلاعات را در شرکت‌های هدف تصاحب می‌کنند و سرقت‌های خود را با یک دسترسی سازمانی کاملاً قانونی کلید می‌زنند. در این فرایند، هوش مصنوعی رزومه را تنظیم می‌کند، از مراحل مصاحبه ویدیویی عبور می‌کند و ایمیل‌های فیشینگ بعدی را نگارش می‌نماید.

از گویندگان هوش مصنوعی تا موشک‌های هدایت‌پذیر

تنها چند روز پس از حمله تروریستی مارس ۲۰۲۴ به سالن کنسرت کروکوس سیتی هال در حومه مسکو، حامیان داعش ویدیویی منتشر کردند و مسئولیت حمله را بر عهده گرفتند که گوینده‌ای ساخته‌شده با هوش مصنوعی متن آن را می‌خواند.

پس از انفجار خودروی سایبرتراک در ژانویه ۲۰۲۵ مقابل هتل بین‌المللی ترامپ در لاس‌وگاس، کلانتر کوین مک‌مهیل به خبرنگاران گفت که عامل حمله از ChatGPT برای محاسبه مقدار مواد منفجره مورد نیاز استفاده کرده بود؛ نخستین پرونده از این دست که در خاک آمریکا ثبت شد.

پنج ماه بعد، اف‌بی‌آی (FBI) اعلام کرد متهمان بمب‌گذاری در کلینیک باروری پالم اسپرینگز از یک چت‌بات درباره آمونیوم نیترات اطلاعات کسب کرده بودند. سازمان Tech Against Terrorism اکنون بیش از ۳۰ پرونده علنی را مستند کرده که با بیش از ۷۰ مورد تلفات انسانی در ارتباط هستند.

سپس نوبت به یمن رسید. در ۱۱ سپتامبر سال جاری، شرکت Anthropic فاش کرد که یک هسته در مناطق تحت کنترل حوثی‌ها به مدت نه ماه از Claude برای توسعه سلاح‌های هدایت‌پذیر استفاده کرده است؛ از جمله یک موشک بالستیک چندمرحله‌ای با برد بیش از ۲ هزار کیلومتر و پروژه‌ای مرتبط با گلایدر مافوق صوت. این گروه به این مدل دستور داده بود تا نرم‌افزار هدایت، ناوبری و کنترل را توسعه دهد و برای جلوگیری از افشا، پروژه را در نشست‌های جداگانه تقسیم‌بندی کرده بود تا هیچ گفتگوی مستقلی تصویر کلی کار را نمایان نکند؛ آن‌ها همچنین چندین نمونه از هوش مصنوعی را با نقش‌های تعریف‌شده به عنوان برنامه‌نویس، پژوهشگر و بازبین به کار گرفته بودند. پس از کشف این موضوع، Anthropic حساب‌ها را مسدود کرد و نهادهای دولتی را در جریان گذاشت. با این حال، به اذعان این شرکت، این گروه پیش از مسدودسازی «یک آزمایش ناموفق راکت هدایت‌پذیر انجام داده بود» و یک بسته شبیه‌سازی آفلاین ساخته بود که بدون وابستگی به مدل کار می‌کرد.

مسیر این تحولات به کجا ختم می‌شود؟

اگر این روند را چند سال به جلو ببریم، باج‌افزارهایی که خودشان عملیات را مدیریت می‌کنند، می‌توانند به صورت زنجیره‌ای به سیستم‌های بیمارستانی، شبکه‌های برق و زیرساخت‌های آبرسانی نفوذ کنند؛ زیرا ایجنتی که یک شبکه را قفل کرده، می‌تواند پیش از خوانده شدن اولین یادداشت باج‌خواهی به سمت هدف بعدی حرکت کند.

کلاهبرداری‌هایی که اکنون سالانه میلیاردها دلار از حساب‌های بازنشستگی افراد را به یغما می‌برند، زمانی که یک گرداننده بتواند به‌طور هم‌زمان ۱۰ هزار قربانی را فریب دهد، صدها میلیارد دلار خسارت به همراه خواهند داشت. هسته‌ای هم که امسال از یک چت‌بات برای طراحی موشک استفاده کرده، سال آینده می‌تواند از یک ایجنت هوش مصنوعی برای ساخت و شبیه‌سازی آن بهره بگیرد.

این موارد داستان‌های علمی‌تخیلی نیستند؛ هر یک از این پیامدها تنها امتداد رخدادهایی است که هم‌اکنون به وقوع پیوسته‌اند.

تلاش‌ها برای قانون‌گذاری و ایجاد چارچوب

سیاست‌گذاران همواره به دنبال راه‌هایی برای قانون‌گذاری، مهار یا ایجاد محدودیت بر سر راه این فناوری بوده‌اند. در سال ۲۰۲۳، بیش از هزار نفر از متخصصان برجسته حوزه فناوری با امضای نامه‌ای سرگشاده خواستار توقف شش‌ماهه توسعه قدرتمندترین مدل‌ها شدند و ایتالیا نیز برای یک ماه دسترسی به ChatGPT را متوقف کرد.

قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) برخی کاربردها را به‌طور کامل ممنوع کرده است. در ایالات متحده نیز مجالس ایالتی بیش از هزار لایحه درباره هوش مصنوعی ارائه کرده‌اند و کنگره تابستان گذشته بر سر توقف ده‌ساله تمام این لوایح وارد چالش شد، تا اینکه سنا با رأی ۹۹ به ۱ تصویب کرد که ایالت‌ها بتوانند به روند قانون‌گذاری خود ادامه دهند.

با این حال، مهار این ابزارها دیگر کار ساده‌ای نیست؛ مدل‌های متن‌باز هوش مصنوعی که محدودیت‌های ایمنی آن‌ها دور زده شده بود، در یک آزمون بنچمارک که در ماه ژوئیه منتشر شد، به ۸۹ تا ۱۰۰ درصد درخواست‌های مخرب پاسخ دادند. افزون بر این، بررسی‌های مرکز مبارزه با تروریسم وست‌پوینت نشان داد که حذف این لایه‌های ایمنی تنها کمتر از ۲۰۰ دلار هزینه پردازشی در پی دارد.

تحلیل‌گرانی که هنوز به شیوه سنتی کار می‌کنند

امروزه یک تحلیل‌گر در یک بانک یا کارگروه فدرال، ابتدا یک پایگاه داده را باز می‌کند، سپس دومی و بعد سومی را بررسی می‌کند. او گزارش‌های فعالیت‌های مشکوک را تک‌به‌تک می‌خواند، آدرس یک کیف پول را در کاوشگر بلاک‌چین وارد می‌کند، یک شماره تلفن را در ابزاری مجزا بررسی می‌کند و سوابق ثبت شرکت‌ها را در پنجره چهارم می‌کاود. تا زمانی که الگوی تبهکاری روشن شود، وجوه جابه‌جا شده‌اند. درآمدهای نامشروع اکنون ظرف ۲۴ تا ۴۸ ساعت میان چندین کیف پول و شبکه دست‌به‌دست می‌شوند، در حالی که سامانه‌های گزارش‌دهی کنونی برای عصری طراحی شده بودند که تسویه یک حواله بانکی سه روز زمان می‌برد.

سیستمی که نقشه کل شبکه تبهکاری را ترسیم می‌کند

نسخه مبتنی‌بر هوش مصنوعی این فرایند با یک سرنخ منفرد آغاز می‌شود؛ یک آدرس کیف پول، شماره تلفن، نام شرکت یا خطی از گزارش یک فعالیت مشکوک. به محض آنکه تحلیل‌گر این داده را وارد کند، سیستم به صورت هم‌زمان در تمامی منابع مجاز به جستجو می‌پردازد: داده‌های بلاک‌چین، فهرست‌های تحریم، تالارهای گفتگوی دارک‌نت، سامانه‌های ثبت شرکت، اطلاعات تهدیدات سایبری و پرونده‌های داخلی بانک.

این سیستم پیوند میان نتایج را گام‌به‌گام دنبال می‌کند و در حین پیشروی، نقشه کل شبکه را ترسیم می‌نماید: کیف پول‌های مرتبط، صرافی‌هایی که نقد کردن دارایی‌ها از طریق آن‌ها انجام می‌شود، شرکت‌های صوری پشت حساب‌ها، سرورهای مشترک و هویت‌های جعلی. آنچه زمانی برای تیمی از بازرسان در ده‌ها سامانه پراکنده هفته‌ها زمان می‌برد، اکنون ظرف چند دقیقه روی یک صفحه نمایان می‌شود و هر بخش از نقشه، مستقیماً به سند مبدأ خود متصل است.

این سامانه‌ها حتی در زمان استراحت کارشناسان به پایش ادامه می‌دهند. هنگامی که یک شبکه تحت تحریم کیف پول غیرفعالی را فعال می‌کند یا وجوه حاصل از باج‌افزار به یک صرافی تحت نظارت منتقل می‌شود، هشدارها پیش از خروج دارایی‌ها فعال می‌شوند. عملیات Level Up متعلق به FBI هم‌اکنون با همین منطق پیش می‌رود؛ این سامانه با تحلیل الگوها، قربانیان کلاهبرداری را در حین اجرای نقشه شناسایی می‌کند، با آن‌ها تماس می‌گیرد و تراکنش بعدی را متوقف می‌سازد که تاکنون از وقوع حدود ۲۲۵٫۸ میلیون دلار خسارت مالی جلوگیری کرده است.

وزارت خزانه‌داری آمریکا نیز یادگیری ماشین را برای بررسی پرداخت‌های فدرال به کار گرفت و در یک سال مالی موفق به پیشگیری یا بازپس‌گیری بیش از ۴ میلیارد دلار کلاهبرداری شد، رقمی که در مقایسه با ۶۵۲ میلیون دلار سال پیش از آن جهشی بزرگ محسوب می‌شود. بانک‌ها و صرافی‌ها نیز همان‌طور که سازمان FinCEN تاکید کرده است، از همین ابزارها در خط مقدم خود برای شناسایی هویت‌های دیپ‌فیک و گذرنامه‌های جعلی در فرایند احراز هویت بهره می‌برند.

میدان نبردی که از پیش آغاز شده است

ایالات متحده بیش از هر کشور دیگری داده‌های مالی در اختیار دارد، اما تا پیش از این بررسی این حجم از اطلاعات با سرعتی همگام با گردش پول عملاً ناممکن بود. همان فناوری که به یک باند تبهکار در خلیج کولون امکان داد ۱۰۰ هویت جعلی بسازد و به یک هسته در یمن اجازه داد کدهای هدایت موشک بنویسد، اکنون به یک بازرس اجازه می‌دهد کل یک شبکه پول‌شویی را پیش از رسیدن وجوه به صرافی مشاهده و مسدود کند.

باندهای مجرمانه سال‌ها پیش سرمایه‌گذاری روی این حوزه را آغاز کردند. اکنون نهادهای نظارتی، بانک‌ها و صرافی‌ها در حال سرمایه‌گذاری متقابل هستند؛ سرمایه‌گذاری روی کارشناسانی که با ابزارهای نوین آموزش دیده‌اند، سیستم‌های تشخیصی که به عنوان زیرساخت‌های حیاتی تعریف شده‌اند و اختیارات قانونی برای اقدام فوری بر اساس یافته‌های ماشین‌ها.

برای نخستین بار در تاریخ جرایم مالی، پیشرفته‌ترین ابزارهای نبرد به طور هم‌زمان در اختیار هر دو جبهه قرار گرفته است.