آواتارهای هوش مصنوعی به تماس‌های تصویری رسیدند؛ شبیه‌سازی ترسناک و مو به تن سیخ‌کن انسان!

تا همین چند وقت پیش، مچ‌گیری از تماس‌های تصویری فیک و هوش مصنوعی خیلی راحت بود؛ تصویر گیر می‌کرد و لَگ داشت، با چرخاندن سر صورت طرف کج‌وموج می‌شد یا اگر کسی سه تا انگشتش را جلوی صورتش می‌گرفت، فیلترها ناپدید می‌شدند. اما با سرعت سرسام‌آور پیشرفت هوش مصنوعی، اوضاع به سرعت در حال تغییر است؛ نسل جدید فناوری‌ها حالا خیلی بهتر رفتار انسان را تقلید می‌کنند و آواتاری که با آن صحبت می‌کنید، طبیعی‌تر و زنده‌تر از همیشه به نظر می‌رسد.

حالا ابزار جدیدی به نام Griffin از استارتاپ هوش مصنوعی Tavus، حسابی در شبکه‌های اجتماعی سروصدا به پا کرده است. این شرکت ویدیویی آزمایشی منتشر کرده که در آن دو همکار در حال هم‌فکری برای ناهار یک جشن تولد هستند؛ با این تفاوت که یکی از آن‌ها به نام «ونسا» کاملاً با هوش مصنوعی ساخته شده است! توانایی عجیب ونسا در شبیه‌سازی مکالمه انسانی، خیلی‌ها را شوکه کرده و نگرانی‌های جدی درباره سوءاستفاده کلاهبرداران و سوءاستفاده در فضای مجازی به وجود آورده است.

این توییت در حال حاضر در دسترس نیست. ممکن است هنوز بارگذاری نشده یا حذف شده باشد.

آواتار گریفین وقتی حرفش را قطع می‌کنید کاملاً طبیعی واکنش نشان می‌دهد، یاد گرفته چه زمانی هم‌پای شما بخندد، به موقع پلک می‌زند، موقع صحبت احساساتش را در چهره بروز می‌دهد و حتی زبان بدنش را تغییر می‌دهد یا وقتی کسی وارد کادر دوربین می‌شود، برایش دست تکان می‌دهد!

در این ویدیوی یک‌ونیم‌دقیقه‌ای که در شبکه‌های اجتماعی دست‌به‌دست می‌شود، نفس کشیدن ونسا هنوز کمی ناهماهنگ است و گه‌گاه حرکات غیرعادی در چشم‌ها و دهانش دیده می‌شود، اما در کل این فناوری با مهارتی باورنکردنی رفتار یک فرد معمولی را در تماس ویدیویی تقلید می‌کند.

ونسا روی صندلی‌اش تکان می‌خورد، به پریدن میان حرف‌هایش واکنشی روان نشان می‌دهد و حتی در جواب‌هایش تکیه‌کلام‌هایی مثل «امم» و «آها» به کار می‌برد. این هوش مصنوعی جزییات تقویم متولد را هم بررسی کرده و با بیانی کاملاً طبیعی می‌گوید: «بیاین بریم همون رستوران تایلندی، چون ایتالیاییه وقت ناهار همیشه غلغله‌ست؛ بعدشم ما چند نفریم؟ ۱۲ نفر؟ البته با مارکوس می‌شیم ۱۳ نفر، اون هفته مرخصیش تموم می‌شه و برمی‌گرده.»

این کلیپ یکی از طبیعی‌ترین و زنده‌ترین نمونه‌هایی است که تا امروز از مدل‌های هوش مصنوعی دیده‌ایم و اگر محصول نهایی هم همین‌قدر بدون نقص باشد، گریفین یک فناوری فوق‌پیشرفته و به شکلی دلهره‌آور واقعی خواهد بود.

استارتاپ Tavus ادعا می‌کند گریفین در آزمونی که خودش آن را «آزمون تورینگ ویدیویی» نامیده برنده شده است؛ به گفته آن‌ها در ۵۴ تماس تستی، حدود ۴۸ درصد افراد تصور کردند با یک انسان واقعی صحبت می‌کنند. البته این نتیجه هنوز توسط نهادهای مستقل تأیید نشده و از طرفی تماس‌ها هم فقط یک دقیقه طول کشیده‌اند؛ یعنی به شرکت‌کنندگان فرصت زیادی داده نشده بود تا متوجه شوند طرف مقابل یک هوش مصنوعی است (حتی این ادعا در شبکه اجتماعی ایکس برچسب یادداشت کاربران یا همان Community Note دریافت کرد).

مدیران Tavus می‌گویند این فناوری را برای حوزه‌هایی ساخته‌اند که دسترسی به نیرو در آن‌ها کم یا هزینه‌ها بسیار بالاست، مثل آموزش یا سلامت و درمان. مثلاً یک معلم خصوصی هوشمند که خود را با شیوه یادگیری دانش‌آموز وفق می‌دهد، یا یک کارشناس سلامت که نحوه مصرف داروها را توضیح می‌دهد و چهره انسانی‌اش می‌تواند حس همدلی خیلی بیشتری نسبت به یک چت متنی ساده با ChatGPT منتقل کند.

«این فناوری باید غیرقانونی اعلام شود!»

در بخش نظرات ویدیوی یوتیوب معرفی گریفین، کاربران حسابی نسبت به پیامدهای این ابزار ابراز نگرانی کرده‌اند. یکی از کاربران نوشته: «فقط یک سال دیگه مونده تا همه چیز تموم بشه بچه‌ها!» کاربر دیگری هم اضافه کرده: «آن‌قدر درگیر این بودیم که زودتر از بقیه بسازیمش که یادمان رفت اول از خودمان بپرسیم آیا اصلاً باید چنین چیزی ساخته می‌شد یا نه؟»

واکنش‌ها در کوت‌توییت‌های این ویدیو هم پر از ترس و هشدار بود. تام مالینوفسکی، نماینده سابق کنگره آمریکا، در واکنش به آن نوشت: «باید خیلی صریح و ساده غیرقانونی شود که هر هوش مصنوعی بدون هشدار واضح و مشخص مبنی بر اینکه واقعاً هوش مصنوعی است، خودش را جای انسان جا بزند.»

بهراد سخن‌سنج، پژوهشگر ارشد در مؤسسه حقوق و هوش مصنوعی، می‌گوید: «این فقط نظر شخصی من است، اما این شاهکار وحشتناک نمونه‌ای از فرهنگ بی‌ملاحظه‌ای است که در دنیای فناوری همه‌گیر شده؛ فرهنگی که هیچ ارزشی برای انسان‌ها قائل نیست. امیدوارم اگر این ابزار پابرجا بماند، فقط تا زمانی باشد که قربانیان کلاهبرداری‌های آن، شرکت سازنده‌اش را با شکایت‌های حقوقی به خاک سیاه بنشانند.»

پل نووساد، استاد اقتصاد دانشگاه دارتموث نیز تأکید کرد: «تلاش برای پنهان کردن ماهیت هوش مصنوعی باید غیراخلاقی دانسته شود. این کار به هیچ‌کس کمکی نمی‌کند.»

«مردم همیشه می‌فهمند با هوش مصنوعی طرف هستند»

حسن رضا، مدیرعامل شرکت Tavus، در شبکه اجتماعی ایکس (توییتر سابق) به میدان آمد تا به انتقادها و نگرانی‌ها درباره سوءاستفاده خلافکاران پاسخ دهد. او نوشت: «ما در حال همکاری با شرکای خود روی تدابیر امنیتی و سیستم‌های شفاف‌سازی هستیم و از گفتگو با مسئولان درباره قانون‌گذاری گسترده‌تر و استفاده ایمن استقبال می‌کنیم. مردم همیشه متوجه خواهند شد که با هوش مصنوعی در تعامل هستند، در حالی که این ابزار واسطه‌ای فراهم می‌کند تا دیگر نیازی به زبان خشک کامپیوتری نداشته باشیم.»

اما اگر این سپرهای امنیتی شکست بخورند چه اتفاقی می‌افتد؟ این دست ابزار‌ها به شدت مستعد سوءاستفاده در کلاهبرداری‌های مالی هستند. خلافکاران همین حالا هم از صداهای شبیه‌سازی‌شده هوش مصنوعی در کلاهبرداری‌های تلفنی استفاده می‌کنند و اگر چنین ویدیوی واقعی بتواند افراد ساده‌لوح را فریب دهد تا پول یا اطلاعات‌شان را دودستی تقدیم کنند، مقاومت در برابر آن غیرممکن خواهد بود. یکی از کاربران ایکس به شوخی نوشته بود: «پدرت همین روزهاست که تمام ارث‌ومیراث خانوادگی‌ات را به باد بدهد!»

شرکت امنیتی Resemble AI که ابزار‌هایی برای تشخیص دیپ‌فیک و سوءاستفاده از مدل‌ها می‌سازد، به این موضوع پرداخته است. زوهایب احمد، مدیرعامل این شرکت، درباره جهش فنی این فناوری می‌گوید: «گریفین ما را از سیستم‌های تکه‌تکه و نوبتی قبلی به یک معماری دوطرفه و هم‌زمان ویدیو به ویدیو می‌رساند. دیپ‌فیک‌های زنده سنتی معمولاً در جزئیات ریز لو می‌رفتند؛ چیز‌هایی مثل تأخیر در هماهنگی لب و صدا، مکث‌های غیرطبیعی یا حرکات خشکی که با دنیای واقعی همخوانی نداشتند. اما این مدل‌ها با ساخت کل صحنه به‌صورت آنی و پردازش روان گفتگو، ردپاهای بصری که قبلاً ویدیوهای ساختگی را لو می‌دادند کاملاً پاک می‌کنند.»

احمد در ادامه خاطرنشان می‌کند: «کلاهبرداران همیشه راه‌هایی برای سوءاستفاده پیدا می‌کنند، اما همین الان هم کلاهبرداری در جلسات آنلاین بدون این فناوری در حال رخ دادن است و متأسفانه جواب هم می‌دهد. این یک جهش بزرگ رو به جلو است، اما راه‌حل اصلی در ایجاد تدابیر امنیتی پیشگیرانه نهفته است، نه صرفاً مقصر دانستن خود ابزار.»

او اعتراف می‌کند که چنین ابزار‌هایی قطعاً آمار و شانس موفقیت کلاهبرداری‌های ویدیویی را بالا می‌برند، اما معتقد است کلاهبرداران به احتمال زیاد سراغ گزینه‌های ارزان‌تر و غیرحرفه‌ای‌تر می‌روند: «ما دقیقاً همین الگو را در شبیه‌سازی هم‌زمان صدا در تماس‌های تلفنی دیدیم؛ خطرناک‌ترین مجرمان معمولاً از ابزار‌های متن‌باز استفاده می‌کنند نه محصولات پولی و تجاری.» به گفته او، ابزار‌هایی مثل گریفین برای استفاده مسئولانه به شفافیت، برچسب‌گذاری و شرکای امنیتی مطمئن نیاز دارند.

چطور در برابر این ترفندها از خودمان محافظت کنیم؟

شرکت Tavus دسترسی به این ابزار را فعلاً به گروه منتخبی از آزمایش‌کنندگان اولیه که نسخه Griffin-Lite را تست می‌کنند محدود کرده است. آن‌ها وعده داده‌اند که «نسخه قدرتمندتر به زودی عرضه عمومی خواهد شد». این یعنی قرار نیست فردا صبح با موجی از تماس‌های ویدیویی فیک روبه‌رو شوید، اما دیر یا زود این اتفاق می‌افتد و بهتر است از همین حالا آماده باشید.

مهم‌ترین توصیه احمد این است که همیشه به افرادی که تا به حال از نزدیک ندیده‌اید شک کنید: «دیگر نمی‌شود فقط به قضاوت چشمی انسان اعتماد کرد. خطاهایی مثل سوتی‌های نورپردازی یا تأخیر صدا به سرعت در حال رفع شدن هستند.» (کافی است از شرکت‌هایی بپرسید که چند وقت پیش ندانسته کارمندانی از کره شمالی استخدام کرده بودند!)

برای کسب‌وکارهایی که برای بستن قراردادها و ارتباط با شرکا به تماس تصویری وابسته‌اند، شرکت Resemble AI مدل‌های سازمانی ویژه‌ای برای تشخیص فیک‌های ماهرانه توسعه داده است. با این حال این ابزار‌ها به درد کاربران عادی نمی‌خورد. بهترین توصیه برای زمان حال این است که هرگز پیش از تأیید هویت فرد از کانال‌های ارتباطی دیگر، هیچ کار پرریسکی (مثل انتقال پول یا ارسال مدارک) انجام ندهید. برای صحبت‌های واقعاً حساس هم شاید بد نباشد به همان روش‌های سنتی یعنی قرار حضوری برگردید!

احمد همچنین پیشنهاد می‌کند با پرسیدن «سؤالات غیرمنتظره و بی‌ربط» که نیاز به اطلاعات شخصی دارد، هوش مصنوعی احتمالی را به چالش بکشید؛ مثلاً ناگهانی از او درباره حیوان خانگی موردعلاقه‌اش بپرسید. اگر طرف مقابل یک هوش مصنوعی باشد، پردازش و پاسخ دادن به چنین سؤالی معمولاً بیش‌تر طول می‌کشد و دستش رو می‌شود.

در این میان، به نظر می‌رسد استارتاپ Tavus باید هر چه سریع‌تر تیم حقوقی و سیاست‌گذاری خود را تقویت کند. همان‌طور که کریس مورفی، سناتور آمریکایی در شبکه اجتماعی ایکس نوشت: «اشتیاق این شرکت برای پرتاب کردن ما بدون هیچ دفاع و آمادگی به دنیایی پادآرمان‌شهری که در آن ماشین‌ها مو به مو رفتار انسان را تقلید می‌کنند و هیچ‌کس متوجه تفاوت‌شان نمی‌شود، واقعاً وحشتناک است.»