کلاهبرداری ۱۷۰۰ دلاری با عکس ساختگی هوش مصنوعی؛ دست میزبان ایربی‌ان‌بی با واترمارک پنهان گوگل رو شد!

با پیشرفت خیره‌کننده ابزار‌های تولید تصویر هوش مصنوعی و ساخت تصاویر فوق‌العاده واقعی از خسارت‌های ساختگی در خانه‌های اجاره‌ای، مسافران حالا تنها ۲۴ ساعت مهلت دارند تا ثابت کنند بی‌گناهند و ادعای خسارت میزبان واقعیت ندارد.

ماجرا از این قرار است که یکی از کاربران شبکه ردیت با نام کاربری FurinaDeFontaine، از ادعای خسارت ۱۷۰۰ دلاری (دلار استرالیا) یک میزبان در پلتفرم ایربی‌ان‌بی (Airbnb) شکایت کرد. این میزبان تصویری از سرویس بهداشتی ارسال کرده بود که ظاهراً سرریز شدن کاسه توالت فرنگی و پخش شدن آب روی کف حمام را نشان می‌داد.

اما مسافر زیر بار این ادعا نرفت و اعلام کرد در طول اقامتش اصلاً از دستمال توالت استفاده نکرده و اساساً هیچ خسارت یا مشکلی در اقامتگاه رخ نداده است.

وقتی پای کاربران کنجکاو ردیت به ماجرا باز شد، تصویر ارسالی را زیر ذره‌بین گذاشتند و متوجه یک نکته شوکه‌کننده شدند: عکس دارای واترمارک SynthID بود! این نشانگر نامرئی را شرکت گوگل توسعه داده و به طور خودکار در دل محتواهایی که توسط مدل‌های هوش مصنوعی مثل جمینای (Gemini) و ایمجن (Imagen) ساخته یا ویرایش می‌شوند، تزریق می‌کند.

به گزارش رسانه‌های پی‌سی گیمر (PC Gamer) و کوتاکو (Kotaku)، ایربی‌ان‌بی در نهایت این درخواست دریافت خسارت را رد کرده است؛ هرچند این پلتفرم رسماً و به طور مستقل این نتیجه را تایید یا تکذیب نکرده است.

البته این ادعا که میزبان عمداً و با آگاهی دست به جعل این تصویر زده، هنوز از نظر حقوقی و قانونی به اثبات نرسیده است.

سیستم تشخیص SynthID گوگل چه چیز‌هایی را اثبات می‌کند و چه چیز‌هایی را نه؟

مستندات فنی خود گوگل مرز مشخص و دقیقی بین مسائلی که یک واترمارک تایید می‌کند و ابهاماتی که بی‌پاسخ می‌گذارد ترسیم کرده است.

مثبت بودن نتیجه بررسی SynthID صرفاً به این معناست که کل تصویر یا بخشی از آن توسط یکی از مدل‌های هوش مصنوعی گوگل ساخته یا ویرایش شده است. با این حال، راهنماهای پشتیبانی گوگل شفاف‌سازی کرده‌اند که این ابزار چه چیز‌هایی را نمی‌تواند ثابت کند:

• این ابزار مشخص نمی‌کند چه کسی تصویر را تولید کرده یا عکس دقیقاً در چه زمانی ساخته شده است.
• این فناوری وجود یا عدم وجود هرگونه مشکل واقعی در لوله‌کشی و تاسیسات را تایید یا رد نمی‌کند.
• نبود واترمارک SynthID هم به معنی واقعی بودن عکس نیست؛ زیرا سایر مدل‌ها و ابزار‌های هوش مصنوعی چنین ردی از خود به جا نمی‌گذارند.
• شواهد تکمیلی در حل اختلاف جامع می‌تواند شامل متادیتای اصلی فایل، فاکتورهای رسمی تعمیرات و پیام‌های دارای مهر زمانی باشد.

در واقع SynthID سرنخ فوق‌العاده باارزشی برای پیگیری ماجرا است، اما به تنهایی نمی‌تواند حکم نهایی یک پرونده باشد.

چرا این ماجرا باید زنگ خطر را برای همه مسافران به صدا درآورد؟

مهلتی که ایربی‌ان‌بی برای پاسخ به ادعای خسارت در اختیار مهمانان می‌گذارد، بسیار فشرده‌تر از آن چیزی است که فکرش را می‌کنید.

بخش مرکز حل اختلاف (Resolution Center) در ایربی‌ان‌بی فقط و فقط ۲۴ ساعت به مهمان فرصت می‌دهد تا به درخواست خسارت میزبان پاسخ دهد. پس از پایان این مهلت کوتاه، تیم پشتیبانی ایربی‌ان‌بی خودش دست‌به‌کار می‌شود و درباره مقصر بودن فرد و منصفانه بودن مبلغ خسارت تصمیم‌گیری می‌کند.

وقتی تمام مدرک علیه شما فقط یک قطعه عکس است، ۲۴ ساعت فرصت واقعاً مهلت بسیار کمی برای جمع‌آوری شواهد و دفاع از خودتان محسوب می‌شود.

ابزار‌های هوش مصنوعی مولد امروز به راحتی تصاویری فوق‌العاده باورپذیر از نم‌زدگی، نشتی آب، وسایل شکسته یا مبلمان نابودشده خلق می‌کنند، در حالی که اصلاً چنین خسارتی در واقعیت رخ نداده است. پلتفرم‌هایی که قضاوت‌های خود را صرفاً بر پایه مستندات تصویری می‌گذارند، حالا بسیار آسیب‌پذیرتر از آن هستند که قوانین سنتی‌شان بتواند جوابگو باشد.

پیش از این، شبکه‌های اجتماعی هم با فراگیر شدن دیپ‌فیک (Deepfake) با چالش مشابهی دست‌وپنجه نرم کردند؛ جایی که سوءاستفاده‌ها بسیار سریع‌تر از قوانین پیش می‌رفت و آن‌ها مجبور شدند زیرساخت‌های تشخیص جعل را توسعه دهند. حالا به نظر می‌رسد پلتفرم‌های اجاره مسکن و فروشگاه‌های آنلاین به همان نقطه عطف رسیده‌اند.

مستندات گوگل درباره فناوری SynthID تصریح می‌کند شناسایی این واترمارک یعنی تصویر «توسط هوش مصنوعی گوگل تولید یا ویرایش شده است». هنگامی که یک عکس مدرک اصلی دعوا است، پیدا شدن چنین ردی اعتبار تصویر را به عنوان یک سند دست‌نخورده به شدت زیر سوال می‌برد؛ هرچند این موضوع ثابت نمی‌کند در دنیای واقعی آسیبی رخ داده یا مقصر اصلی چه کسی بوده است.

از همه‌چیز مدرک تهیه کنید؛ همین حالا!

اگر بدون ثبت عکس و فیلم از وضعیت خانه از یک اقامتگاه خارج شوید، عملاً برگ برنده بزرگی به طرف مقابل داده‌اید.

اگر ادعای خسارتی دریافت کردید که تنها مدرکش یک عکس تکی است، هرگز آن را مدرک قطعی تلقی نکنید. ظرف همان بازه طلایی ۲۴ ساعته اعتراض خود را ثبت کنید و تناقضات را مستقیماً به تیم پشتیبانی ایربی‌ان‌بی گزارش دهید.

مراقبت از خودتان را از لحظه ورود شروع کنید، نه بعد از تحویل کلید! هنگام ورود و دوباره موقع تخلیه اقامتگاه، از تمام اتاق‌ها عکس‌ها و ویدیوهای دارای زمان و تاریخ دقیق بگیرید؛ چراکه در زمان داوری پلتفرم‌ها بین دو روایت متناقض، وجود مستندات محکم و غیرقابل‌انکار از سمت شما نقشی سرنوشت‌ساز خواهد داشت.