فریب آسان فیلترهای هوش مصنوعی با ترفندی قدیمی؛ بازگشت شگرد نمک‌پاشی متنی در حملات فیشینگ

اگر در روزهای اخیر متوجه ورود هرزنامه‌ها و پیام‌های فیشینگ بیشتری به صندوق ایمیل سازمانی خود شده‌اید، تنها نیستید. طبق گزارش شرکت امنیت سایبری باراکودا (Barracuda)، مهاجمان برای فریب دادن فیلترهای مجهز به هوش مصنوعی، به‌سراغ تکنیکی قدیمی به نام «نمک‌پاشی متنی» (Text Salting) رفته‌اند؛ ترفندی که با پنهان کردن واژگان به‌ظاهر بی‌ضرر، سامانه‌های هوشمند تشخیص هرزنامه را سردرگم می‌کند.

این شرکت امنیت ایمیل در گزارش جدید خود اعلام کرد که از ماه آوریل تاکنون بیش از ۱ میلیون حمله فیشینگ مرتبط با فروشگاه‌های اینترنتی و خرده‌فروشی را شناسایی کرده است که همگی از این ترفند استفاده کرده‌اند. نمک‌پاشی متنی به‌هیچ‌وجه رویکرد تازه‌ای نیست و سال‌هاست برای دور زدن درگاه‌های امن ایمیل سنتی (SEG) به کار می‌رود؛ اما باراکودا هشدار می‌دهد که این روش روی ابزارهای امنیتی مبتنی بر یادگیری ماشین و مدل‌های زبانی بزرگ (LLM) نیز به‌طرز شگفت‌آوری کارآمد است.

تکنیک نمک‌پاشی متنی شامل تزریق کلمات تصادفی و خنثی لابه‌لای محتوای مخرب ایمیل است؛ اقدامی که سیستم اسکن امنیتی را فریب می‌دهد تا تصور کند ساختار پیام سالم و عادی است و در نتیجه، مانع ارسال آن به صندوق ورودی کاربر نشود.

از آنجا که مشاهده حجم زیادی کلمات بی‌ربط در متن ایمیل می‌تواند توجه کاربر انسانی را جلب کرده و او را مشکوک کند، نفوذگران عموماً از سه ترفند زیرکانه برای پنهان‌سازی این کلمات از دید انسان—در حالی که برای خزنده‌ها و اسکنرهای خودکار همچنان خوانا هستند—استفاده می‌کنند.

این روش‌ها شامل «برش با CSS» (CSS cropping) می‌شود که کادر دیداری را آن‌قدر کوچک می‌کند که واژگان اضافه پنهان بمانند؛ «دستکاری موقعیت متن» که کلمات اضافه را به خارج از کادر صفحه نمایش منتقل می‌کند؛ و «تکنیک فونت صفر» (Zero Font) که در آن، کلمات گمراه‌کننده با اندازه فونت صفر میان عبارات فیشینگ قرار می‌گیرند تا تنها برای ماشین‌ها قابل‌خواندن باشند، نه چشم انسان.

نتیجه نهایی تمامی این راهکارها این است که ایمیل از نگاه سیستم امنیتی، متنی عادی یا بدون خطر به نظر می‌رسد و مدل تصور می‌کند با پیامی بی‌خطر روبه‌رو است؛ در حالی که کاربر هنگام باز کردن ایمیل، تنها پیام مدنظر مهاجم را بدون هیچ واژه اضافه‌ای مشاهده می‌کند.

سامانه‌های امنیتی مدرن ایمیل طی سال‌های اخیر برای مقابله با چنین روش‌هایی تجهیز شده‌اند؛ به‌طوری که ابزارهای پیشرفته کدهای پنهان را حذف کرده تا پیام را دقیقاً همان‌طور که کاربر می‌بیند بررسی کنند و در صورت تشخیص حجم بالایی از محتوای مخفی، هشدار صادر می‌کنند. با این حال، به گفته باراکودا، مدل‌های هوش مصنوعی هنوز به چنین سطحی از بلوغ نرسیده‌اند.

باراکودا در گزارش تحلیلی خود توضیح می‌دهد: «نمک‌پاشی متنی و روش‌های مشابه می‌توانند با پر کردن ایمیل از کلمات تصادفی، موتورهای تحلیل محتوای مبتنی بر هوش مصنوعی را گمراه کرده و این سیستم‌ها را به سوی تصمیم‌گیری نادرست و اشتباه در دسته‌بندی سوق دهند»؛ رویدادی که دقیقاً یادآور آسیب‌پذیری درگاه‌های امنیتی ایمیل در اوایل دهه ۲۰۰۰ میلادی است.

به گفته باراکودا، مدل‌های زبانی بزرگ معمولاً به‌گونه‌ای طراحی شده‌اند که متن ایمیل و کدهای منبع را به‌صورت خام پردازش می‌کنند و درک مستقیمی از اینکه چه بخشی از متن برای کاربر مرئی یا پنهان است ندارند. هرچند می‌توان این مدل‌ها را برای تفکیک چنین ساختارهایی آموزش داد، اما واقعیت این است که در حال حاضر بیشتر ابزارهای امنیتی به‌طور پیش‌فرض چنین قابلیتی ندارند.

حال سازمان‌ها برای مسدود کردن این دست هرزنامه‌ها و پیام‌های فیشینگ چه اقداماتی می‌توانند انجام دهند؟ باراکودا پیشنهاد می‌کند سازمان‌ها به‌جای اتکای صرف به هوش مصنوعی یا تشخیص کلمات کلیدی، از رویکرد امنیت لایه‌بندی‌شده بهره ببرند؛ رویکردی که شامل اعتبارسنجی فرستنده، تحلیل پیوندهای اینترنتی تعبیه‌شده، ارزیابی رندر کدهای HTML و بررسی تفاوت‌های میان محتوای پنهان و بخش مرئی پیام می‌شود.

این یافته‌ها نشان می‌دهد که تکیه صرف به فیلترهای هرزنامه هوش مصنوعی بدون بهره‌گیری از پروتکل‌های سنتی و چندلایه، می‌تواند سازمان‌ها را در برابر ترفندهای قدیمی اما احیاشده به‌شدت آسیب‌پذیر کند.