مایکروسافت شبکه‌ای از هکرهای مجهز به هوش مصنوعی را متلاشی کرد

بنا بر اعلام شرکت Microsoft، زیرساخت‌های دیجیتال مرتبط با یک پلتفرم قدرتمند جرایم سایبری که در تمام عملیات خود به ابزارهای هوش مصنوعی وابسته بود، مسدود شده است.

اهمیت موضوع: در حالی که صنعت هوش مصنوعی نگران خطرات انقراض در سال‌های آینده است، هکرهای با انگیزه مالی هم‌اکنون از ابزارهای موجود هوش مصنوعی برای تبدیل دسترسی‌های سرقت‌شده از شبکه‌های سازمانی به فرصت‌های کلاهبرداری استفاده می‌کنند.

جزئیات ماجرا: واحد جرایم دیجیتال Microsoft با دریافت مجوز از دادگاه منطقه‌ای ایالات متحده، زیرساخت‌های مرتبط با یک پلتفرم جرایم سایبری مبتنی‌بر هوش مصنوعی به نام EvilTokens را از کار انداخت.

• شرکت Microsoft با همکاری شرکای صنعتی و نهادهای مجری قانون، ۵۰ وب‌سایت مورد استفاده برای اجرای این سرویس را توقیف کرد و بیش از ۱۵۰ دامنه دیگر مرتبط با زیرساخت آن را غیرفعال ساخت.
• پلیس بریتانیا در بیانیه‌ای اعلام کرد که در اوایل ماه جاری میلادی دو مرد ۳۲ و ۳۸ ساله را در ارتباط با پرونده EvilTokens دستگیر کرده است.
• این پلتفرم به هکرها کمک می‌کرد تا با پرداخت هزینه، به صندوق‌های ورودی ایمیل نفوذ کنند و سپس با استفاده از یک چت‌بات هوش مصنوعی، پیام‌های قربانیان را تحلیل کرده، نقش‌های داخلی را ترسیم کنند، روابط قابل اعتماد را شناسایی کرده و به دنبال گفتگوهای مربوط به پرداخت‌های مالی بگردند.
• هوش مصنوعی کاری را که ممکن بود برای هکرها چندین روز زمان ببرد، در عرض چند ساعت خلاصه می‌کرد و به آن‌ها در تشخیص اینکه چه کسی کنترل پول را در اختیار دارد، به چه کسانی اعتماد دارند و هویت چه کسی را باید جعل کنند، کمک می‌کرد.

پیشینه: پلتفرم EvilTokens در ماه فوریه راه‌اندازی شد؛ زمانی که پژوهشگران مشاهده کردند این سرویس فیشینگ از طریق تاکتیکی موسوم به فیشینگ کد دستگاه، حساب‌های کاربری Microsoft را با موفقیت هک می‌کند.

• از آن زمان، پژوهشگران Microsoft و دیگر شرکت‌های امنیت سایبری، روند رشد EvilTokens را در میان مجرمان سایبری ردیابی کرده‌اند.
• سخنگوی Microsoft اعلام کرد که این شرکت از ماه آوریل هشدار عمومی به مشتریان درباره تاکتیک‌های EvilTokens را آغاز کرد و پس از کسب دید عمیق‌تر نسبت به این عملیات، به سرعت وارد عمل شد.
• این سخنگو افزود: «به محض اینکه گستردگی و پیچیدگی این تهدید آشکار شد، ما به سرعت اقدام کردیم. در واقع، این یک عملیات نسبتاً سریع از زمان آغاز تا اجرا بود.»

سطح تهدید: شرکت Microsoft اکنون تخمین می‌زند که EvilTokens به بیش از ۱۲ هزار صندوق ورودی ایمیل در ۱۰ هزار سازمان مختلف نفوذ کرده است؛ از جمله سازمان‌هایی در بخش‌های ساخت‌وساز، خدمات مالی، املاک، آموزش عالی و مراقبت‌های بهداشتی.

• بالاترین میزان فعالیت قربانیان توسط Microsoft در کشورهای ایالات متحده، کانادا، بریتانیا، استرالیا، هند و فرانسه مشاهده شده است.
• شرکت Coinbase به عنوان یکی از همکاران Microsoft در این تحقیقات، حدود ۱.۱ میلیون دلار درآمد این پلتفرم را ردیابی کرده است.

نحوه عملکرد: پلتفرم EvilTokens از یک مدل اشتراکی استفاده می‌کرد و برای دسترسی هکرها، ۱۵۰۰ دلار هزینه اولیه و ۵۰۰ دلار حق اشتراک ماهانه دریافت می‌کرد.

• به کاربران طیف وسیعی از طعمه‌های فیشینگ شخصی‌سازی‌شده برای انتخاب ارائه می‌شد؛ از جمله پیشنهادهای مناقصه ساخت‌وساز، توافق‌نامه‌های مشارکت تجاری، اطلاعیه‌های حقوق و مزایای کارکنان و هشدارهای انقضای رمز عبور.
• هنگامی که هدف روی یک لینک مخرب کلیک می‌کرد، EvilTokens آن‌ها را فریب می‌داد تا کدی را در صفحه ورود قانونی Microsoft وارد کنند که به طور ناخواسته دسترسی به حسابشان را به هکر می‌داد.
• پس از دسترسی، هکرها می‌توانستند با استفاده از ابزارهای هوش مصنوعی EvilTokens، صندوق ورودی قربانی را برای یافتن گفتگوهای مالی بررسی کنند، کارمندان کلیدی را شناسایی کرده و تصمیم بگیرند هویت چه کسی را جعل کنند.
• سپس هکرها می‌توانستند از حساب هک‌شده برای ارسال ایمیل‌های فیشینگ بیشتر به مخاطبان داخلی و خارجی قربانی استفاده کنند و از اطلاعات درون صندوق ورودی برای متقاعدکننده‌تر کردن تلاش‌های کلاهبرداری خود بهره ببرند.

تصویر بزرگ‌تر: پلتفرم EvilTokens جدیدترین نمونه از این موضوع است که چگونه مدل‌های هوش مصنوعی به هکرهای مخرب در مقیاس‌پذیری و تسریع حملاتی که مدت‌هاست انجام می‌دهند کمک می‌کنند، در حالی که موانع ورود هکرهای کم‌تجربه‌تر به این بازی را نیز کاهش می‌دهند.

• شرکت Microsoft همچنین شواهدی یافته است که نشان می‌دهد «بخش‌های بزرگی» از EvilTokens با استفاده از خود ابزارهای هوش مصنوعی توسعه یافته یا به اصطلاح vibe coded شده‌اند؛ موضوعی که نشان می‌دهد چگونه هوش مصنوعی در هر دو طرف این عملیات جرایم سایبری به کار گرفته شده است.
• یکی از مدیران ارشد در واحد جرایم دیجیتال Microsoft در یک پست وبلاگی نوشت: «همان فناوری در حال کاهش موانع در هر دو سوی عملیات بود: کمک به مجرمان برای ساخت سریع‌تر ابزارهای مخرب و کمک به مشتریان آن‌ها برای تبدیل حساب‌های هک‌شده به فرصت‌های عملی برای کلاهبرداری.»

گام بعدی: بنا بر اعلام Microsoft، نهادهای مجری قانون در حال انجام تحقیقات مستقل خود در مورد پرونده EvilTokens هستند.