کلاهبرداری میلیاردی با هوش مصنوعی؛ هجوم دیپ‌فیک‌ها و اینفلوئنسرهای تقلبی برای شکار سلبریتی‌ها و برندها!

دیپ‌فیک‌ها اعتبار را به آتش می‌کشند. در اکوسیستم دیجیتال امروز، «اعتماد» دیگر یک مفهوم اخلاقی یا ارزش انتزاعی نیست، بلکه زیرساخت عملیاتی کل این فضاست. وقتی مردم دیگر نتوانند به آنچه با چشم می‌بینند و با گوش می‌شنوند اعتماد کنند—به‌ویژه چهره و صدای سلبریتی‌ها، اینفلوئنسرها، ورزشکاران و سازمان‌های حامی آن‌ها—پایه‌های کسب‌وکار، بازاریابی و ارزش برندهای شخصی شروع به فروپاشی می‌کند. این تهدید بزرگ حالا به لطف پیشرفت هوش مصنوعی مولد به واقعیتی روزمره تبدیل شده است.

بیش‌تر آژانس‌های تبلیغاتی و مدیریت چهره‌ها در برابر تبلیغات جعلی دیپ‌فیک، حساب‌های شبیه‌سازی‌شده در شبکه‌های اجتماعی و «اینفلوئنسرهای تقلبی» که تماماً توسط هوش مصنوعی ساخته شده‌اند، کاملاً دست‌بسته و بی‌دفاع هستند؛ خطراتی که بی‌سر‌و‌صدا دارند به مجرایی پرسود و جدی برای کلاهبرداری از برندها و چهره‌های سرشناس تبدیل می‌شوند.

تام هنکس (Tom Hanks)، ستاره نام‌آشنای هالیوود، مستقیماً در حساب اینستاگرام خود به هوادارانش هشدار داد که ویدیویی جعلی از چهره او با هوش مصنوعی در حال تبلیغ یک طرح دندانپزشکی ساختگی است: «حواستان را جمع کنید! نسخه‌ای از من که توسط هوش مصنوعی ساخته شده در ویدیویی حضور دارد که یک طرح دندانپزشکی را تبلیغ می‌کند. من هیچ ارتباطی با آن ندارم.»

گزارش شبکه LBC از هشدار تام هنکس درباره ویدیوی تبلیغاتی دیپ‌فیک دندانپزشکی در اینستاگرام

جیمی دونالدسون، همان یوتیوبر مشهور ملقب به مستربیست (MrBeast)، کلاهبرداری بزرگی را برملا کرد که در آن با استفاده از دیپ‌فیک چهره او، وعده اهدای رایگان آیفون در شبکه‌های اجتماعی دست‌به‌دست می‌شد. او رسماً پلتفرم ایکس (توییتر سابق) و سایر شبکه‌ها را به باد انتقاد گرفت و پرسید چرا برای جلوگیری از پخش این کلاهبرداری‌ها عملکرد بهتری نشان نمی‌دهند.

بررسی موردی کلاهبرداری اهدای آیفون مستربیست: دیپ‌فیک چگونه هزاران نفر را فریب داد

این‌ها فقط نمونه‌های آشکار و پر سر‌و‌صدایی هستند که همه دیده‌اند؛ اما همین ترفندها در سکوت خبری علیه ورزشکاران کالجی (قراردادهای تجاری NIL)، تولیدکنندگان محتوای متوسط و آژانس‌هایی پیاده می‌شوند که قراردادهای تبلیغاتی چند صدهزار دلاری و چند میلیون دلاری می‌بندند.

میدان آسیب‌پذیری و سطح حملات به شدت گسترش پیدا کرده است. با ابزار‌های هوش مصنوعی مولد که حالا در دسترس عموم قرار دارند، می‌توان تنها با چند ثانیه فایل صوتی عمومی، یک شبیه‌ساز صدای فوق‌العاده دقیق ساخت و با ابزار‌های تعویض چهره (Face-swap)، همگام‌سازی لب (Lip-sync) و کاراکترهای مجازی کار را تکمیل کرد. کلاهبرداران داده‌های آموزشی موردنیازشان را از پادکست‌ها، ریلزهای اینستاگرام، پست‌های لینکدین، سخنرانی‌های همایش‌ها و ویدیوهای تیک‌تاک استخراج می‌کنند. نتیجه این فرایند، مهندسی اجتماعی در مقیاسی صنعتی است که مستقیماً اقتصاد تولیدکنندگان محتوا و بازاریابی ورزشی را هدف گرفته است، نه فقط شیطنت‌های پراکنده با چهره‌های سرشناس.

ترکیب محتوای دیپ‌فیک با سرقت و نفوذ به حساب‌های کاربری (Account Takeover)، معجونی ویرانگر می‌سازد: یک کانال یا صفحه رسمی هک‌شده می‌تواند معرفی محصولات دروغین، مسابقات اهدای جوایز جعلی یا تاییدیه‌های ساختگی را بازتاب دهد که هم برای دنبال‌کنندگان و هم برای شرکای تجاری کاملاً موثق و واقعی به نظر می‌رسند.

برای درک بهتر ابعاد تهدیدات دیپ‌فیک، جسیکا بارتلت (Jessica Bartlett)، بنیان‌گذار و مدیرعامل Verge Agency که یک آژانس مدیریت استعداد مستقر در لس‌آنجلس و فعال در حوزه اینفلوئنسرها و ورزشکاران است، دیدگاه‌های تخصصی خود را به اشتراک گذاشته است.

درباره آژانس مدیریت استعداد Verge Agency

او می‌گوید آژانس متبوعش دستورالعمل‌های سفت‌وسختی را برای امنیت حساب‌های کاربری تدوین کرده تا از قراردادهای تجاری موکلان خود محافظت کند. بارتلت توصیه می‌کند که آژانس‌ها حداقل باید الزاماتی جدی برای احراز هویت، دسترسی کنترل‌شده به حساب‌ها، رویه‌های مستندسازی‌شده برای بازیابی حساب، پایش مداوم برای شناسایی جعل هویت و حساب‌های شبیه‌سازی‌شده، و فرآیندی شفاف برای پیگیری فوری هنگام انتشار محتوای مشکوک داشته باشند. با گسترش صدا، تصویر و ویدیوهای تولیدشده با هوش مصنوعی، اعتبارسنجی باید فراتر از شناخت ساده چهره یا صدای افراد برود.

او خاطرنشان می‌کند: «این صنعت در نهایت به یک استاندارد امنیتی مشترک نیاز دارد، نه مجموعه‌ای از توصیه‌های غیررسمی. پیش‌بینی می‌کنم این انتظارات به شکل فزاینده‌ای وارد قراردادهای آژانس‌ها، توافق‌نامه‌های برندها، شروط بیمه‌ای و بررسی‌های موشکافانه حقوقی شود. وقتی هویت دیجیتال یک اینفلوئنسر می‌تواند میلیون‌ها دلار ارزش داشته باشد، محافظت از یکپارچگی حساب‌های کاربری دیگر یک گزینه اختیاری نیست، بلکه یک ضرورت حیاتی است.»

این سناریو یک تهدید مقطعی یا منحصربه‌فرد نیست. دیپ‌فیک‌ها از پروژه‌های تحقیقاتی خاص در دانشگاه‌ها فراتر رفته و به خطراتی همه‌گیر بدل شده‌اند. تخمین زده می‌شود که نرخ تولید دیپ‌فیک‌ها ماهانه به نزدیک یک میلیون مورد رسیده و این رقم با شتاب در حال افزایش است.

آمار و گزارش تحلیل دیپ‌فیک‌ها در سال ۲۰۲۶ در وبسایت wasitaigenerated

تاکنون موارد مستندی از انتقال حواله‌های بانکی چند میلیون دلاری ثبت شده که کارمندان پس از حضور در جلسات ویدیویی با مدیران دیپ‌فیک‌شده آن‌ها را تایید کرده بودند؛ درست مثل جعل هویت‌های پیچیده چهره‌های سرشناس دولتی و خصوصی. دنیای بازاریابی و تبلیغات چهره‌ها هم اکنون با همان ابزار‌هایی هدف حمله قرار گرفته که برای جعل هویت مدیران ارشد و نفوذ به ایمیل‌های سازمانی به کار می‌رود: ویدیوهای دیپ‌فیک از تولیدکنندگان واقعی محتوا که در حال تبلیغ کالاها یا طرح‌های سرمایه‌گذاری کلاهبردارانه‌ای هستند که روحشان هم از آن خبر ندارد، حساب‌های کلون‌شده که تبلیغات دروغین منتشر می‌کنند، و چهره‌های اینفلوئنسری خیالی که اصلاً در دنیای واقعی وجود خارجی ندارند.

پیامدهای این ماجرا برای سلبریتی‌ها و برندها آنی و روزبه‌روز وخیم‌تر است. تبلیغات کلاهبردارانه می‌تواند اعتماد مخاطبان را از بین ببرد، اختلافات حقوقی و قراردادی به بار آورد، آبروی چندین ساله را بر باد دهد و چهره‌ها را با مسئولیت‌های قانونی سنگین روبرو کند. یک حساب هک‌شده یا یک کمپین دیپ‌فیک ناشناخته می‌تواند بخش عظیمی از درآمد آژانس‌های حامی اینفلوئنسرها و ورزشکاران را به باد دهد. با این حال، بیش‌تر آژانس‌ها هنوز امنیت حساب‌های کاربری را یک موضوع دم‌دستی و ساده می‌دانند، نه یک سازوکار کنترلی و زیرساختی حیاتی. این صنعت هنوز دستورالعمل‌های استانداردی برای احراز هویت چندمرحله‌ای، پروتکل‌های بازیابی، رصد رسانه‌های جعلی تولیدشده با هوش مصنوعی و مسیرهای مشخص پیگیری محتوای مشکوک ندارد.

دیگر دیدن با چشم برای باور کردن کافی نیست؛ استاندارد جدید، «اعتبارسنجی موشکافانه» است.

اقدامات پیشنهادی برای در امان ماندن از خطرات دیپ‌فیک

اقدامات کاربردی که بر پایه اصل معروف «اعتماد کن، اما اعتبارسنجی کن» بنا شده‌اند، در سه حوزه افراد، رویه‌ها و فناوری اهمیت حیاتی پیدا می‌کنند:

• تایید هویت از کانال‌های مستقل: پیش از پاسخ دادن به درخواست‌ها یا محتواهای حساس و پرریسک، هویت فرد را از کانالی مجزا تایید کنید. هرگز فقط به یک پیام صوتی، ویدیو یا پست در شبکه‌های اجتماعی اکتفا نکنید.
• دیدگاه تردیدآمیز به تعاملات مشکوک: ارتباطات دیجیتال جدید یا غیرمعمول و هرگونه تغییر ناگهانی در رفتار یا سبک پست‌گذاری را مصنوعی و جعلی فرض کنید، مگر اینکه خلاف آن ثابت شود.
• پیاده‌سازی تدابیر امنیتی قدرتمند: از احراز هویت چندمرحله‌ای (ترجیحاً مقاوم در برابر فیشینگ)، کلیدهای عبور (Passkeys) یا اطلاعات ورود اختصاصی، دسترسی محدود ادمین‌ها، مانیتورینگ مداوم و برنامه‌های اقدام سریع برای بازیابی حساب استفاده کنید.
• به‌کارگیری اصول «اعتماد صفر» (Zero Trust): اصول اعتماد صفر را علاوه بر شبکه‌ها، در تعاملات انسانی و حوزه مدیریت استعداد نیز پیاده کنید. تیم‌های کاری را برای شناسایی نشانه‌های دیپ‌فیک (رفتارهای غیرطبیعی، لحن گفتار تصنعی، نورپردازی ناسازگار و تاخیر در پاسخگویی) آموزش دهید؛ هرچند باید به یاد داشت که با پیشرفت مدل‌ها این نشانه‌ها روزبه‌روز کم‌رنگ‌تر می‌شوند.
• مطالبه مسئولیت‌پذیری از پلتفرم‌ها: از پلتفرم‌های اجتماعی بخواهید برای حذف سریع محتوای جعلی اقدام کنند و ردپا و برچسب‌های اصالت‌سنجی محتوا را شفاف‌تر به نمایش بگذارند.
• سرمایه‌گذاری روی ابزار‌های تشخیص: برای اینکه قدرت دفاعی شما همگام با ابزار‌های هجومی مهاجمان پیش برود، روی ابزار‌های تشخیص محتوای مصنوعی، تحلیل رفتار و حکمرانی مسئولانه هوش مصنوعی سرمایه‌گذاری کنید.

این روز‌ها امنیت سایبری دیگر فقط یک وظیفه فنی یا پشت‌صحنه‌ای نیست، بلکه یک ریسک تجاری در سطح هیئت‌مدیره و رهبران آژانس‌ها، برندها و تولیدکنندگان محتوا محسوب می‌شود. اگر کسب‌وکارها «اعتماد دیجیتال» را به چشم یک زیرساخت بنیادین ببینند و همانند کنترل‌های مالی و حقوق مالکیت فکری با وسواس از آن محافظت کنند، برای فعالیت در عصر رسانه‌های مصنوعی فراگیر بسیار مجهزتر خواهند بود.

دیپ‌فیک‌ها تهدیدی واقعی هستند که از تمایل طبیعی انسان‌ها به باور کردن آنچه می‌بینند و می‌شنوند سوءاستفاده می‌کنند. این ابزار‌ها هم از نظر کیفیت و هم از نظر سهولت دسترسی روزبه‌روز پیشرفته‌تر خواهند شد. واکنش‌های انفعالی دیگر جواب نمی‌دهد؛ همکاری نزدیک میان آژانس‌های مدیریت استعداد، برندها، پلتفرم‌ها و کارشناسان امنیتی ضرورتی انکارناپذیر است، درست مثل تطبیق مداوم، پروتکل‌های اعتبارسنجی قدرتمند، فرآیندهای انعطاف‌پذیر و افزایش آگاهی نیروهای انسانی.

جسیکا بارتلت نیز بر همین واقعیت تاکید دارد. او معتقد است: «تولیدکنندگان محتوا به آژانسی نیاز دارند که منابع لازم برای تشخیص سریع این چالش‌ها، پیگیری مستقیم با پلتفرم‌ها، جمع‌آوری و حفظ ادله، هماهنگی با شرکای تجاری، و در صورت لزوم، ورود فوری وکلای مجرب حقوقی را داشته باشد. در این زمینه، سرعت عمل نقشی حیاتی دارد؛ چرا که هر چه محتوای جعلی بیش‌تر در فضای آنلاین باقی بماند، خسارت‌های مالی و حیثیتی آن سنگین‌تر خواهد بود.»

در آژانس Verge، او بر این باور است که رویکرد حفاظتی باید در سطح کل سبد موکلان پیاده شود؛ به این معنا که یک آژانس پیش از وقوع هرگونه حادثه، باید حساب‌های رسمی، جریان‌های درآمدی، قراردادهای تجاری و نقاط ضعف احتمالی هر یک از چهره‌های تحت قرارداد خود را بشناسد.

بارتلت تاکید می‌کند که آژانس‌ها باید امنیت حساب، اعتبارسنجی، رصد جعل هویت، پاسخ حقوقی و رویه‌های بازیابی را در اولویت قرار دهند و آن‌ها را به بخشی از زیرساخت‌های اصلی عملیاتی خود تبدیل کنند، نه وظایفی که تازه بعد از بروز فاجعه به یادشان بیفتند.

به گفته او، این شرایط جدید انتظارات تولیدکنندگان محتوا از نمایندگان و آژانس‌هایشان را هم دستخوش تغییر می‌کند. با پیچیده‌تر شدن این صنعت، انتخاب یک آژانس دیگر فقط به این معنا نیست که چه کسی می‌تواند قراردادهای بهتری ببندد یا درآمد بیشتری تولید کند، بلکه این موضوع اهمیت می‌یابد که چه کسی زیرساخت‌های لازم برای محافظت از کسب‌وکار ساخته‌شده را در اختیار دارد. این موضوع شامل منابع عملیاتی اختصاصی، ارتباطات قدرتمند با پلتفرم‌ها، وکلای حقوقی باسابقه، فرآیندهای شفاف پیگیری بحران، و توانایی پاسخگویی فوری در زمان به سرقت رفتن یا شبیه‌سازی جعلی هویت و حساب‌های یک چهره است.

همان‌طور که شیوه‌های کلاهبرداری پیچیده‌تر و هوشمندانه‌تر شده‌اند، ابزار‌های حمایتی برای محافظت از استعدادها نیز باید تکامل پیدا کنند. همگرایی هوش مصنوعی با سایر فناوری‌های پیشرفته در این عصر شتابان، مفاهیمی چون حریم خصوصی، امنیت و اعتماد را دگرگون خواهد کرد. حساب‌های شبیه‌سازی‌شده اینفلوئنسرها و تاییدهای جعلی دیپ‌فیک، قدرت حیرت‌انگیز و در عین حال خطرات سهمگین این فناوری را به تصویر می‌کشند. چهره‌های سرشناس و برندها تنها در صورتی ارزش و اعتبار خود را حفظ خواهند کرد که اعتبارسنجی مداوم را به یک رویه استاندارد بدل کنند؛ وگرنه کسانی که غفلت کنند، زمانی متوجه واقعیت می‌شوند—که اغلب خیلی دیر شده—و می‌بینند حتی باورپذیرترین چهره روی صفحه نمایش هم می‌تواند کاملاً ساختگی و دروغین باشد!