جولان مجرمان سایبری در شبکه‌های اجتماعی؛ وقتی هوش مصنوعی و دیپ‌فیک کلاهبرداری را باورپذیر می‌کنند!

شبکه‌های اجتماعی به قلب تپنده ارتباط کسب‌وکارها با مشتریان، معرفی برند و اعتمادسازی تبدیل شده‌اند. اما هر چقدر وابستگی شرکت‌ها به این پلتفرم‌ها بیشتر شده، جذابیت آنها برای مجرمان سایبری هم چند برابر شده است.

یافته‌های یک پژوهش جدید نشان می‌دهد که جعل هویت و تخریب برند در شبکه‌های اجتماعی، از جایگاه پنجم سال گذشته جهش کرده و حالا به صدر جدول جدی‌ترین تهدیدهای سایبری پیش‌بینی‌شده برای سه سال آینده رسیده است. آمارهای این گزارش همچنین نشان می‌دهند که جعل هویت کارمندان و مدیران ارشد با فناوری‌های پیشرفته‌ای مثل دیپ‌فیک، برای نخستین بار به جمع پنج خطر امنیتی بزرگ دنیا راه پیدا کرده است.

این گزارش که توسط مدیر ارشد فناوری حفاظت از برند در CSC ارائه شده، بر اهمیت این چالش تازه تأکید می‌کند.

این یافته‌ها از دردسری گسترده‌تر برای تیم‌های امنیت سایبری خبر می‌دهند. هکرها هنوز هم به دنبال هک مستقیم سیستم‌ها و نفوذ به سرورها هستند، اما روزبه‌روز بیشتر از روش‌های جایگزین برای سوءاستفاده از اعتبار و اعتمادی که برندهای معتبر با زحمت به دست آورده‌اند، استفاده می‌کنند. این اعتماد ممکن است در صفحه شخصی یک مدیر ارشد، حضور رسمی یک برند در شبکه‌های اجتماعی، حساب پشتیبانی مشتریان، نام یک دامنه اینترنتی یا وب‌سایتی باشد که در نگاه اول کاملاً واقعی به نظر می‌رسد.

برای مدیران امنیتی، این واقعیت به معنی آن است که دیگر مرزهای دفاعی تنها به زیرساخت‌ها و سرورهایی که مستقیماً تحت کنترل دارند محدود نمی‌شود؛ بلکه کانال‌های عمومی و شبکه‌هایی را هم که مشتریان، کارمندان و شرکای تجاری هر روز در آنها حضور دارند، در بر می‌گیرد.

استراتژی‌های امنیتی مدرن باید دقیقاً با همین واقعیت هماهنگ شوند؛ زیرا تهدید شاید با یک اکانت فیک و جعلی شروع شود، اما به‌ندرت در همان سطح متوقف می‌ماند.

پروفایل‌های جعلی و حساب‌های تقلبی خدمات مشتریان ترفندهای تازه‌ای نیستند، اما امروزه به‌شدت فراگیر شده‌اند و به دروازه ورودی حملات فیشینگ، کلاهبرداری‌های مالی، فروش محصولات تقلبی و سوءاستفاده‌های گسترده از نام تجاری شرکت‌ها تبدیل شده‌اند.

جالب اینجاست که همه این اتفاقات درست در زمانی رخ می‌دهد که تیم‌های امنیت سایبری تحت فشار شدیدی قرار دارند. بر اساس نظرسنجی‌های اخیر، ۷۲ درصد از مدیران ارشد فناوری اعلام کرده‌اند که سطح خطرات سایبری پیش‌روی سازمانشان در سال ۲۰۲۵ «بحرانی» یا «بسیار بحرانی» است.

مجرمان سایبری در شبکه‌های اجتماعی درست همان‌جایی به سراغ طعمه‌هایشان می‌روند که کاربران پیش از این به تعامل با برندها عادت کرده‌اند. آنها از حساب‌های فیک برای انتشار لینک‌های آلوده، تبلیغ ترفندهای کلاهبرداری، پخش اخبار کذب یا جا زدن خود به عنوان کارشناسان رسمی پشتیبانی استفاده می‌کنند.

در مرحله بعد، هکرها قربانیان را به یک «مقصد ثانویه» می‌کشانند؛ مثلاً وب‌سایتی بسیار شبیه به سایت اصلی، یک درگاه ورود فیک یا یک صفحه فیشینگ که در آن کاربران اطلاعات حساب، رمز عبور یا جزییات کارت‌های بانکی خود را با دست خود وارد می‌کنند.

یکی دیگر از خطرات مرتبط با این ماجرا، فروش اجناس تقلبی است. اکانت‌های جعلی با جعل نام برندهای معتبر، کالاهای فیک را تبلیغ می‌کنند و مشتریان را به سایت‌هایی می‌فرستند که این اجناس را به‌عنوان محصول اصل معرفی کرده‌اند. در هر دو حالت، کلاهبرداران روی موج اعتبار و اعتماد یک برند معروف سوار می‌شوند تا مراحل بعدی کلاهبرداری را کاملاً قانونی و موجه جلوه دهند.

پیامدهای این ماجرا تنها به کلاهبرداری مالی و اجناس فیک خلاصه نمی‌شود. جعل هویت و اکانت‌های دروغین می‌توانند ادعاهای ساختگی و توهین‌آمیزی علیه یک شرکت یا کارکنانش منتشر کنند و حتی بدون هیچ‌گونه سرقت مالی، اعتبار برند و اعتماد عمومی را به‌شدت لکه‌دار سازند.

به همین دلیل است که امروزه باید سوءاستفاده در شبکه‌های اجتماعی، دامنه‌های جعلی و جعل هویت را همگی تکه‌های یک پازل تهدید مشترک دانست.

هوش مصنوعی جعل هویت را سریع‌تر و باورپذیرتر کرده است

هوش مصنوعی این توانایی را به مجرمان داده که با سرعتی باورنکردنی جعل هویت کنند. کلاهبرداران با ابزارهای هوش مصنوعی می‌توانند لحن صحبت یک برند را شبیه‌سازی کنند، پیام‌های پشتیبانی کاملاً متقاعدکننده بنویسند، تصاویر واقعی بسازند و در عرض چند ثانیه پروفایل‌های جعلی باورپذیر خلق کنند.

فناوری دیپ‌فیک، صداهای سنتز‌شده هوش مصنوعی و محتواهای تولیدشده توسط مدل‌های زبانی، جعل هویت مدیران یا کارمندان را وارد سطح ترسناکی کرده است؛ به‌ویژه وقتی که با اطلاعات جمع‌آوری‌شده از منابع مختلف ترکیب شوند. به عنوان مثال، یک هکر می‌تواند اکانتی فیک از یک مدیر برجسته بسازد و با پیام‌های تولیدشده توسط هوش مصنوعی که دقیقاً سبک نوشتاری او را تقلید می‌کنند، درخواست‌ها یا لینک‌های مخرب خود را کاملاً معتبر و موجه نشان دهد.

البته هوش مصنوعی فقط بخشی از این پازل خطرناک است. مهاجمان همچنان از تکنیک‌های زیرساختی سنتی هم بهره می‌برند؛ مثلاً الگوریتم‌های تولید دامنه (DGA) می‌توانند حجم عظیمی از آدرس‌های اینترنتی گمراه‌کننده و بسیار مشابه به سایت اصلی را ایجاد کنند. جالب است بدانید با اینکه این الگوریتم‌ها ذاتاً بر پایه هوش مصنوعی نیستند، اما ۸۶ درصد از مدیران امنیتی آنها را یک تهدید بسیار جدی قلمداد می‌کنند.

ترکیب این دامنه‌های گمراه‌کننده با پروفایل‌های جعلی در شبکه‌های اجتماعی، یک هویت دیجیتال بسیار قانع‌کننده می‌سازد. به عنوان مثال، یک حساب فیک از مدیر شرکت به یک لندینگ‌پیج کلاهبرداری لینک می‌دهد یا پست فروش یک محصول تقلبی، کاربران را به دامنه‌ای شبیه به سایت واقعی هدایت می‌کند.

در نتیجه، تشخیص این حملات فقط از روی ظاهر، برای کارمندان و مشتریان روزبه‌روز سخت‌تر می‌شود. نشانه‌های کلاهبرداری آن‌قدر ظریف هستند که تا زمان گزارش یک اکانت فیک، احتمالاً موج کلاهبرداری به صفحه، حساب یا دامنه دیگری منتقل شده است.

کسب‌وکارها به یک رویکرد یکپارچه برای محافظت از اعتماد نیاز دارند

جعل هویت در شبکه‌های اجتماعی نباید صرفاً یک مشکل در حوزه روابط عمومی یا مدیریت برند تلقی شود، بلکه باید بخشی کلیدی از استراتژی جامع امنیت سایبری سازمان باشد. این امر مستلزم هماهنگی دقیق میان تیم‌های حافظ سازمان، کارمندان و مشتریان است.

از آنجا که حملات معمولاً از یک پروفایل فیک شروع شده و به سمت دامنه‌های مشابه، صفحات فیشینگ یا وب‌سایت‌های جعلی هدایت می‌شوند، شرکت‌ها باید دیدی یکپارچه نسبت به کل مسیر تهدید داشته باشند. ممکن است تیم شبکه‌های اجتماعی یک هشدار را ببیند، تیم امنیت مورد دیگری را کشف کند و تیم حقوقی مسئول پیگیری و حذف محتوا باشد. همکاری یکپارچه این بخش‌ها کلید پاسخگویی مؤثر به این بحران است.

علاوه بر این، شرکت‌ها به پایش مستمر شبکه‌های اجتماعی، دامنه‌ها و دارایی‌های دیجیتال عمومی نیاز دارند تا پیش از گسترش بحران، هرگونه سوءاستفاده را کشف کنند. کنار هم قرار دادن این سرنخ‌ها به تیم‌ها کمک می‌کند بفهمند آیا فعالیت‌های مشکوک در پلتفرم‌های مختلف بخشی از یک کمپین سازمان‌یافته است یا خیر.

تعیین روندهای شفاف برای بررسی، اولویت‌بندی و حذف اکانت‌های متخلف نقشی حیاتی دارد؛ به‌ویژه در دورانی که هوش مصنوعی به این کمپین‌ها اجازه می‌دهد با سرعت برق‌آسا پخش شوند و شکل عوض کنند. سازمان‌ها باید دقیقاً بدانند چه کسی مسئول پاسخگویی است، چه مدارکی برای بستن صفحات جعلی لازم است و با چه سرعتی می‌توان اقدام کرد.

فناوری نیز در این مسیر به کمک سازمان‌ها می‌آید. بیش از ۵۷ درصد از مدیران شرکت‌کننده در این نظرسنجی تأیید کرده‌اند که از راهکارهای پایش مبتنی بر هوش مصنوعی استفاده می‌کنند و ۴۴ درصد نیز از سیستم‌های هوش مصنوعی برای شناسایی تهدیدات و پیشگیری از تقلب بهره می‌برند. با توجه به فعالیت شبانه‌روزی اینترنت و سرعت خیره‌کننده ساخت صفحات مخرب، استفاده از سیستم‌های پایش خودکار برای مقابله در مقیاس وسیع ضروری است.

البته این ابزارها به‌تنهایی معجزه نمی‌کنند؛ شرکت‌ها به ساختار مدیریتی مناسب، مسئولیت‌پذیری مشخص و هماهنگی تنگاتنگ میان تیم‌های امنیت، حقوقی، مارکتینگ و دیجیتال نیاز دارند.

هدف نهایی این است که جعل هویت، پیش از آنکه دستش به مشتریان، همکاران یا شرکای تجاری برسد و آسیبی وارد کند، شناسایی و مهار شود.

نگاهی به آینده

شبکه‌های اجتماعی دیگر فقط یک بستر ارتباطی ساده خارج از دیوارهای سنتی امنیت سایبری نیستند. این پلتفرم‌ها امروزه به یکی از اصلی‌ترین محیط‌هایی بدل شده‌اند که مجرمان سایبری در آن اعتماد مردم را هدف قرار داده، هویت افراد معتبر را جعل کرده و کاربران را در دام کلاهبرداری گرفتار می‌کنند.

با ورود هوش مصنوعی و سریع‌تر و فریبنده‌تر شدن این دست حملات، کسب‌وکارها چاره‌ای ندارند جز اینکه امنیت شبکه‌های اجتماعی را با استراتژی کلی حفاظت از هویت و دارایی‌های دیجیتال خود پیوند بزنند. این یعنی رصد مداوم کل مسیر آنلاین مخاطبان، تبادل داده میان تیم‌ها و مهار حملات قبل از آنکه فرصت گسترش پیدا کنند.

در این میان، موفق‌ترین شرکت‌ها آنهایی خواهند بود که به موقع درک کنند «اعتماد مخاطبان» اصلی‌ترین هدف مهاجمان است و کانال‌های اعتمادسازی را به خط مقدم دفاع سایبری خود تبدیل کنند.