کلاهبرداری ترسناک با جعل صدای پدربزرگ؛ دختر جوانی که به جنگ دیپ‌فیک‌های صوتی رفت!

وقتی گوشی پدربزرگ تارینی پادمانابونی زنگ خورد، او حتی یک لحظه هم شک نکرد که صدای پشت خط، صدای برادرش نیست. فرد تماس‌گیرنده با همان لحن و صدا مدعی شد که برادرش دزدیده شده و تنها راه نجاتش پرداخت فوری باج است. پدربزرگ پول را واریز کرد، اما کمی بعد متوجه شد برادرش در جایی کاملاً امن بوده و اصلاً روحش هم از ماجرا خبر ندارد! صدایی که با او صحبت کرده بود، در واقع یک دیپ‌فیک بسیار ماهرانه بود؛ یک شبیه‌سازی دقیق و جعلی از صدای برادرش با کمک هوش مصنوعی.

پادمانابونی درباره این حادثه تلخ می‌گوید: «چیزی که گوشه ذهنم موند و رهایم نکرد، پول از دست رفته نبود؛ درد واقعی اینجا بود که پدربزرگم هیچ راهی برای تشخیص واقعی یا جعلی بودن آن صدا نداشت.»

حالا حدود دو سال از آن ماجرای کلاهبرداری گذشته و او استارتاپی به نام DetectifAI را در سان‌فرانسیسکو راه‌اندازی کرده تا مطمئن شود دیگر هیچ خانواده‌ای این‌طور ساده‌لوحانه فریب دیپ‌فیک‌های صوتی را نمی‌خورد.

این خطر روزبه‌روز دارد بزرگ‌تر می‌شود و بازار این کلاهبرداری‌ها حسابی داغ است. طبق آمار رسمی اف‌بی‌آی (FBI)، آمریکایی‌ها در سال گذشته نزدیک به ۹۰۰ میلیون دلار به خاطر کلاهبرداری‌های مبتنی بر هوش مصنوعی از دست داده‌اند که رشدی ۲۴ درصدی را نشان می‌دهد. جالب اینجاست که افراد بالای ۶۰ سال دو برابر بیشتر از افراد ۵۰ تا ۵۹ سال هدف این شیادی‌های مدرن قرار گرفته و متضرر شده‌اند.

البته حوزه تشخیص دیپ‌فیک صوتی بی‌رقیب نیست و نام‌های بزرگی مثل Reality Defender، Pindrop، Resemble AI و سرویس‌های امنیت محتوای مایکروسافت آژور و Nuance در آن فعال هستند. با این حال، پادمانابونی معتقد است که ابزارهای فعلی همگی وابسته به پردازش ابری روی سرورهای راه دور هستند؛ به همین دلیل سازندگان موبایل نمی‌توانند آن‌ها را مستقیماً داخل سخت‌افزار یا سیستم‌عامل تعبیه کنند و کاربر در لحظه وقوع تماس، عملاً بدون هیچ دفاعی در برابر کلاهبردار تنها می‌ماند.

برخلاف برخی شرکت‌ها که تلاش می‌کنند مدل‌های غول‌پیکر ابری را با فشرده‌سازی روی گوشی جا بدهند، DetectifAI از همان پایه مدل‌های هوش مصنوعی کامپکت و فوق‌العاده سبکی طراحی کرده که توانایی اجرا مستقیم در سیستم‌عامل گوشی‌های هوشمند را دارند. هدف نهایی این است که در حین مکالمات تلفنی، گوش دادن به ویس‌ها و سایر فایل‌های صوتی، بدون اینکه صدای کاربر از گوشی خارج شود یا به اینترنت متکی باشد، وضعیت جعلی یا واقعی بودن صدا در همان لحظه مشخص شود.

استارتاپ DetectifAI در گام نخست به سراغ سازندگان گوشی‌های هوشمند رفته تا لایسنس نرم‌افزار خود را واگذار کند و این قابلیت به شکل یک ویژگی پیش‌فرض و توکار وارد سیستم‌عامل شود. پادمانابونی این استراتژی را با توافق انحصاری و تاریخی اپراتور AT&T هنگام عرضه اولین نسل آیفون مقایسه می‌کند؛ او معتقد است اولین سازنده‌ای که فناوری DetectifAI را به گوشی‌هایش بیاورد، دست بالا را در برابر رقبا خواهد داشت و به مرور زمان تشخیص دیپ‌فیک هم مثل کیفیت دوربین به یک مشخصه استاندارد و ضروری در تمام گوشی‌ها تبدیل خواهد شد.

هسته اصلی این محصول یک کیت توسعه نرم‌افزاری (SDK) است؛ یعنی بسته‌ای نرم‌افزاری که شرکت‌ها می‌توانند آن را مستقیماً درون محصولات خود ادغام کنند. بنیان‌گذار استارتاپ می‌گوید منبع درآمد بعدی آن‌ها، واگذاری لایسنس این فناوری به کسب‌وکارها و شرکت‌های تخصصی فعال در حوزه مبارزه با جعل و کلاهبرداری خواهد بود.

این استارتاپ همین حالا هم به درآمدزایی اولیه رسیده و به گفته پادمانابونی، ماهانه بیش از ۱۰۰ هزار تماس را برای مؤسسات مالی در هند پردازش می‌کند. در این فرایند، ایجنت‌های صوتی هوش مصنوعی که مسئول پیگیری مطالبات و پرونده‌های وام هستند، حین هر تماس به بررسی دیپ‌فیک و تأیید هویت صوتی فرد تماس‌گیرنده می‌پردازند. البته او به دلیل توافق‌نامه‌های محرمانگی، نام مشتریان تجاری خود را فاش نکرد.

پادمانابونی یادگیری ماشین را از ۱۲ سالگی آغاز کرده و بعدها در دانشگاه مانیپال هند رشته سیستم‌های سایبر-فیزیکی (فناوری پیونددهنده نرم‌افزار با ماشین‌آلات فیزیکی) خوانده است؛ جایی که به گفته خودش به عنوان جوان‌ترین لیدر تیم در بخش ماشین‌های مسابقه‌ای خودران در مسابقات بین‌المللی Formula Student حضور داشته است.

وقتی از او درباره دلگرم‌کننده‌ترین لحظه فعالیت استارتاپش پرسیدند، به یک آزمایش آزمایشی و محدود در واتس‌اپ اشاره کرد؛ جایی که کاربران پیام‌های صوتی مشکوک را فوروارد می‌کردند و وضعیت اصالت آن‌ها را تحویل می‌گرفتند. یکی از شرکت‌کنندگان این آزمون که بستگانش قبلاً قربانی کلاهبرداری شده بودند، تماس گرفت و گفت حاضر است بدون هیچ معطلی برای چنین قابلیتی پول بپردازد. پادمانابونی می‌گوید: «پدربزرگ من چنین ابزاری نداشت تا از خودش محافظت کند.»

استارتاپ DetectifAI تاکنون موفق به جذب سرمایه اولیه از سرمایه‌گذارانی نظیر جاش کنستین و مانوهار کامات (از مدیران ارشد شرکت مشاوره KM Growth) شده است. همچنین این مجموعه جزو تیم‌های منتخب برای حضور در یکی از معتبرترین رویدادهای رقابتی استارتاپ‌ها در سان‌فرانسیسکو برگزیده شده است.