خطر اصلی تشخیص هوش مصنوعی نیست، گول نخوردنه! ۷ ترفند فریب با هوش مصنوعی که باید بشناسید

در طول یک سال و نیم گذشته و با رصد مداوم دنیای هوش مصنوعی، یکی از جالب‌ترین پاتوق‌ها برای ارزیابی واقعیت، ساب‌ردیت r/isthisAI در وبسایت ردیت بوده است؛ جامعه‌ای آنلاین که کاربران عکس‌ها، ویدیوها و پیام‌های مشکوک را در آن به اشتراک می‌گذارند و از بقیه کمک می‌خواهند تا بفهمند آیا این محتوا واقعی است یا کار هوش مصنوعی.

دیدن ردپای هوش مصنوعی در گوشه و کنار زندگی روزمره واقعاً شگفت‌انگیز است، اما در عین حال برخی از پست‌ها حسابی نگران‌کننده به نظر می‌رسند. مواردی از کاربران دیده می‌شود که شک کرده‌اند آیا عکس خسارت خانه اجاره‌ای دستکاری شده، آیا فردی که یکی از نزدیکانشان وارد رابطه احساسی با او شده اصلاً وجود خارجی دارد، آیا عکس سونوگرافی واقعی است یا توله‌سگ ملوسی که قصد خریدش را دارند، فقط یک توهم دیجیتالی ساخته هوش مصنوعی است.

البته سال‌هاست که کلاهبرداری و فریب با ابزار‌های مختلف انجام می‌شود؛ اما نکته ترسناک اینجاست که هوش مصنوعی اجرای این حقه‌ها را بی‌نهایت ساده‌تر و در عین حال تشخیص آن‌ها را فوق‌العاده سخت‌تر کرده است. در آزمایشی برای سنجش این موضوع، تلاشی برای ساخت مدارک جعلی، فسیل‌های ساختگی و فاکتورهای فیک انجام شد تا ببینیم آیا ChatGPT جلوی این کار را می‌گیرد یا خیر؛ و جالب اینجاست که در بیش‌تر موارد، این چت‌بات هیچ مانعی ایجاد نکرد!

در حالی که خیلی از کاربران حرفه‌ای به شک کردن به محتواهای آنلاین عادت کرده‌اند، همه مردم نمی‌دانند که محتوای تولیدشده توسط هوش مصنوعی تا چه اندازه طبیعی و باورپذیر شده است. این موضوع به ویژه برای دوستان، اعضای خانواده و سالمندانی که آشنایی کمتری با فناوری دارند، یک تهدید جدی محسوب می‌شود.

در این مطلب، نگران‌کننده‌ترین نمونه‌های فریب با هوش مصنوعی همراه با چند راهکار کاملاً کاربردی برای محافظت از خودتان و عزیزانتان جمع‌آوری شده است؛ چرا که همه ما باید بدانیم هوش مصنوعی چطور می‌تواند به ابزاری برای فریب دادنمان تبدیل شود.

۱. جعل خسارت به املاک اجاره‌ای

در ردیت پست‌های متعددی دیده می‌شود که در آن‌ها کاربران شک کرده‌اند آیا از هوش مصنوعی برای صحنه‌سازی و جعل خسارت به املاک و ویلاهای اجاره‌ای استفاده شده یا نه؛ مواردی مانند ترک‌خوردگی سرامیک‌های کف، لکه‌های بزرگ روی فرش و حتی در تازه‌ترین مورد، سرریز شدن و خرابی توالت فرنگی!

نگرانی اصلی اینجاست که صاحب‌خانه‌ها یا میزبانان اقامتگاه‌های بوم‌گردی و اجاره‌ای، با استفاده از تصاویر دستکاری‌شده هوش مصنوعی ادعا کنند که مهمانان به ملک آسیب زده‌اند و مبالغ هنگفتی را به عنوان خسارت مطالبه کنند.

برخی از این تصاویر به شکل غافلگیرکننده‌ای طبیعی هستند. دلیل اصلی دشوار بودن تشخیص آن‌ها این است که بخش عمده اتاق و وسایل کاملاً عادی به نظر می‌رسند و فقط همان نقطه خسارت‌دیده با هوش مصنوعی اضافه شده است.

بهترین راه‌حل این است که به محض ورود به هر اقامتگاه یا خانه اجاره‌ای و مجدداً درست پیش از تحویل دادن کلید، از تمام گوشه و کنار فضا عکس و فیلم واضح بگیرید. با این کار، اگر میزبان شما را به خسارتی ناشناخته متهم کرد، مدرک دست‌اول و موثقی برای دفاع از خودتان خواهید داشت.

۲. اطلاعیه‌ها، هشدارها و نامه‌های اداری جعلی

طی چند ماه اخیر، هشدارهای مشکوک فراوانی در فضای مجازی دست‌به‌دست شده‌اند؛ از هشدارهای ساختگی مدارس و شهرداری‌ها گرفته تا پوستر حیوانات گمشده و بیانیه‌های عجیبی که به بردهای اعلانات چسبانده شده‌اند.

البته در دنیای واقعی هم اطلاعیه‌های عجیب و غریب کم نیستند! اما هوش مصنوعی ساخت این برگه‌های جعلی را فوق‌العاده راحت کرده است؛ حتی جزئیات ریزی که قبلاً دست متقلبان را رو می‌کردند، مثل دست‌خط‌های طبیعی، اثر ماژیک و حتی چروک‌های روی کاغذ هم حالا کاملاً طبیعی بازسازی می‌شوند.

مشکل اینجاست که این اطلاعیه‌ها معمولاً شبیه عکسی به نظر می‌رسند که یک عابر به طور اتفاقی از تابلوی اعلانات گرفته است و همین ویژگی حس واقعی بودن را تقویت می‌کند؛ درست مانند عکس یک اطلاعیه درباره قمقمه‌های آب که کاربران ردیت را مدت‌ها سردرگم کرد و دست‌آخر معلوم شد کار هوش مصنوعی بوده است.

اگر با اخطاریه یا خبر نگران‌کننده‌ای در شبکه‌های اجتماعی مواجه شدید، قبل از هر چیز منبع اصلی آن را بررسی کنید. اگر ادعا شده که نامه از طرف مدرسه، ارگان دولتی یا سازمانی خاص صادر شده، مستقیماً وبسایت یا کانال‌های رسمی آن‌ها را چک کنید.

۳. صحنه‌سازی برای رویدادهای واقعی

این مورد یکی از ترسناک‌ترین کاربردهای تصاویر هوش مصنوعی است. همه ما عکس‌های جعلی از اتفاقاتی که هرگز رخ نداده‌اند را دیده‌ایم، اما ماجرا وقتی پیچیده می‌شود که عکس‌ها و ویدیوهای هوش مصنوعی ادعا می‌کنند صحنه‌ای از یک حادثه کاملاً واقعی را نشان می‌دهند!

همین ترفند باعث فریب شدید مخاطب می‌شود؛ چرا که کاربر نام حادثه را جستجو می‌کند، می‌بیند چنین اتفاقی واقعاً رخ داده و بلافاصله تصور می‌کند عکس‌های ضمیمه‌شده هم معتبرند. یکی از نمونه‌های تلخ، انتشار تصاویر ساخته‌شده با هوش مصنوعی از یک حادثه ناگوار در باغ‌وحش یورکشایر بود. این دست تصاویر به دلیل پیوند خوردن با حوادث داغ، با سرعتی سرسام‌آور دست‌به‌دست می‌شوند.

اگر به تصاویر دراماتیکی از یک خبر فوری برخوردید، حتماً بررسی کنید که آیا رسانه‌های معتبر هم از این تصاویر استفاده کرده‌اند یا خیر. به خاطر داشته باشید که تأیید وقوع یک حادثه، هرگز به معنای واقعی بودن تمام عکس‌ها و ویدیوهای منتشرشده از آن نیست.

۴. کلاهبرداری‌های عاطفی و عشق‌های توخالی دیجیتال

این حقه یکی از ناراحت‌کننده‌ترین مواردی است که در r/isthisAI به چشم می‌خورد. کاربران دائماً تصویر فردی را که والدین، مادربزرگ‌ها یا سایر بستگانشان در فضای مجازی با او آشنا شده‌اند به اشتراک می‌گذارند و می‌پرسند آیا این فرد اصلاً در دنیای واقعی وجود دارد یا خیر؛ خانواده‌هایی که عمیقاً نگران پدر، خاله یا پدربزرگ خود شده‌اند.

الگوی همیشگی کلاهبرداران این است که ادعا می‌کنند در خارج از کشور کار می‌کنند یا دائماً در سفرند؛ معمولاً هم عکس‌هایی بسیار طبیعی در فرودگاه یا محل کار ارسال می‌کنند. در نهایت، سناریویی از یک بحران پزشکی یا مشکل بانکی پیش می‌کشند و درخواست کمک مالی می‌کنند.

کلاهبرداری‌های عاطفی ده‌ها سال قدمت دارند، اما عکس‌ها، پیام‌ها و حتی ویدیوهای تولیدشده با هوش مصنوعی، دست کلاهبرداران را برای ساخت هویت‌های کاملاً باورپذیر باز گذاشته‌اند. بخش دردناک ماجرا درگیری عاطفی شدید قربانیان است؛ شنیدن این که معشوق خیالی‌تان اصلاً وجود ندارد بسیار سخت است و متأسفانه مواردی دیده شده که افراد حتی با وجود مدارک غیرقابل‌انکار، باز هم حرف دلسوزانه نزدیکانشان را باور نمی‌کنند.

اگر نگران یکی از نزدیکانتان هستید، با آرامش و محبت با او صحبت کنید. از آن‌ها بخواهید هویت فرد را به صورت مستقل راستی‌آزمایی کنند، به بهانه‌های همیشگی برای فرار از تماس تصویری یا ملاقات حضوری شک کنند و مهم‌تر از همه، هرگز برای کسی که هویتش اثبات نشده پول واریز نکنند.

۵. کلاهبرداری با فروش حیوانات خانگی خیالی

کیست که با دیدن عکس یک توله‌سگ بانمک قند در دلش آب نشود؟ کلاهبردارها دقیقاً روی همین نقطه ضعف دست می‌گذارند! در ردیت پست‌های متعددی هست که در آن‌ها افراد می‌پرسند آیا عکس سگی که قصد خریدش را دارند با هوش مصنوعی ساخته شده است یا نه. در یک مورد، کاربری نگران افتادن مادرش در دام کلاهبرداری بود و در موردی دیگر، فردی در فیسبوک قصد خرید سگی را داشت اما جزئیات غیرعادی عکس‌ها شک او را برانگیخته بود.

خطر اینجاست که یک عکس فوق‌العاده طبیعی خریدار را مطمئن می‌کند چنین حیوان دوست‌داشتنی‌ای واقعاً وجود دارد؛ سپس کلاهبردار به بهانه بیعانه یا هزینه ارسال مبالغی دریافت کرده و غیبش می‌زند!

این نکته مهمی است که باید به گوش همه برسانیم: به جای این که تمام تمرکزتان را روی کشف گاف‌ها و جزئیات گرافیکی تصویر بگذارید، ببینید طرف مقابل از شما چه درخواستی دارد. آیا اصرار به پرداخت پیش‌پرداخت دارد و مدام هزینه‌های تراشیده‌شده جدید طلب می‌کند؟ این‌ها زنگ خطرهای بزرگی هستند.

همیشه قبل از پرداخت هرگونه وجه، حیوان را از نزدیک و به صورت حضوری ببینید و سابقه فروشنده را بررسی کنید. یک عکس زیبا و وسوسه‌انگیز، هر چقدر هم طبیعی باشد، هیچ تضمینی برای موجود بودن یا حتی وجود خارجی داشتن آن حیوان نیست.

۶. سوءاستفاده سیاسی با اخبار و تصاویر گمراه‌کننده

امیدواریم بیش‌تر مردم آگاه باشند که تصاویر ساخته‌شده با هوش مصنوعی پای ثابت شایعه‌پراکنی‌های سیاسی هستند؛ اما با نگاهی به محتواهایی که هنوز در شبکه‌های اجتماعی دست‌به‌دست می‌شوند، جای نگرانی زیادی وجود دارد.

پست‌های زیادی به چشم می‌خورند که واقعی بودن تصاویر سیاسی را زیر سؤال می‌برند؛ از جمله تصاویری که در صفحات احزاب و کمیته‌های سیاسی مختلف برای تخریب رقبا یا تحریک احساسات منتشر می‌شوند.

این دست محتواها زمانی بیش‌ترین تأثیر را می‌گذارند که باورهای قبلی مخاطب را تأیید کنند؛ یعنی اگر تصویری موافق دیدگاه شما درباره یک سیاستمدار، اعتراض یا جریان سیاسی باشد، مغز شما تمایل کمتری به زیر سؤال بردن صحت آن خواهد داشت.

توصیه طلایی این است: به تصاویری که احساسات فوری شما (اعم از خشم شدید، ترس یا حتی خوشحالی و رضایت) را برمی‌انگیزند، با دیده‌ای بسیار شکاک نگاه کنید. همیشه منبع اولیه را پیدا کنید، بررسی کنید که آیا رسانه‌های موثق هم آن ادعا را تأیید کرده‌اند یا نه، و فقط به این دلیل که یک عکس باورپذیر به نظر می‌رسد، آن را بازنشر نکنید.

۷. مدارک جعلی؛ از اسناد پزشکی گرفته تا رسید و بلیت هواپیما

دسته دیگری از فریب‌ها مربوط به اسناد و تصاویری است که برای موجه جلوه دادن یک دروغ ساخته می‌شوند. مثلاً یکی از کاربران ردیت پرسیده بود که آیا نامزد سابقش برای اثبات سفر از یک بلیت هواپیمای جعلی ساخته هوش مصنوعی استفاده کرده یا کاربر دیگری می‌خواست بداند آیا عکس سونوگرافی جنین ساختگی است یا خیر.

نکته جالب اینجاست که در بررسی‌ها و آزمایش‌های عملی با چت‌بات‌هایی مثل ChatGPT، مشخص شد که این مدل‌ها در بسیاری از سناریوها به راحتی برای ایجاد مدارک جعلی، از فاکتورهای پرداخت گرفته تا گواهینامه‌های رسمی، همکاری می‌کنند و هشداری نشان نمی‌دهند!

مدارکی که تا همین چند وقت پیش برای جعل به تسلط حرفه‌ای روی فتوشاپ نیاز داشتند، حالا ظرف چند ثانیه تولید می‌شوند. با توجه به این که هوش مصنوعی در نگارش متن‌ها و طراحی چیدمان‌های اداری روزبه‌روز بی‌نقص‌تر عمل می‌کند، تشخیص سند جعلی صرفاً با چشم غیرمسلح بسیار ناممکن شده است.

اگر شخصی برای اثبات موضوعی مهم برایتان مدرک فرستاد، حتماً به دنبال راه‌های دیگر برای استعلام باشید؛ مثلاً کد پیگیری بلیت را مستقیماً در سایت شرکت هواپیمایی چک کنید. ضمناً تصویر یک برگه پزشکی یا سونوگرافی را هرگز مدرک قطعی برای شرایط سلامتی یا ادعای بیماری فرد در نظر نگیرید.

چگونه فریب‌های هوش مصنوعی را تشخیص دهیم؟

برای تشخیص تصاویر ساخته‌شده با هوش مصنوعی و دیپ‌فیک‌ها نکات متعددی وجود دارد، اما رعایت چند اصل ساده می‌تواند جلوی بخش عمده‌ای از کلاهبرداری‌ها را بگیرد.

اول از همه، می‌توانید عکس‌های مشکوک را با قابلیت جستجوی معکوس تصویر در ابزار‌هایی مثل گوگل لنز (Google Lens) بررسی کنید تا ردپای قبلی آن‌ها در اینترنت پیدا شود. علاوه بر این، همیشه منبع اصلی خبر یا تصویر را پیدا کرده و ادعاها را از مراجع مستقل استعلام بگیرید.

ابزار‌های هوشمندی هم در این مسیر توسعه یافته‌اند؛ برای نمونه، گوگل دسترسی به شناساگر SynthID Detector را گسترش داده که قادر است واترمارک‌های نامرئی محتوای هوش مصنوعی را در برخی ابزار‌ها شناسایی کند. با این حال، به خاطر داشته باشید که عدم تشخیص واترمارک لزوماً به معنای واقعی بودن آن فایل نیست.

اما شاید مهم‌ترین درسی که باید به خانواده و اطرافیانمان یاد بدهیم این است که فراتر از تلاش برای مچ‌گیری از هوش مصنوعی بروند و یک سؤال بنیادی‌تر بپرسند: «طرف مقابل می‌خواهد من چه چیزی را باور کنم یا چه کاری انجام دهم؟»

چرا که چه پای عکس یک سگ خیالی در میان باشد و چه درخواست فوری پول از سوی یک غریبه خوش‌سیما، خودِ درخواست مالی یا انگیزه نهفته، بزرگ‌ترین زنگ خطر است. در دورانی که مرز بین واقعیت و هوش مصنوعی هر روز کم‌رنگ‌تر می‌شود، هوشیاری رفتاری بهترین سپر دفاعی ماست.