محدودیت جدی واترمارک هوش مصنوعی آیفون؛ ابزار Gemini شاید ویرایش‌های اپل را تشخیص ندهد

به‌روزرسانی جدید iOS 27.2 اپل اکنون برخی از عکس‌های ویرایش‌شده با هوش مصنوعی را به‌صورت خودکار با واترمارک‌های نامرئی نشانه‌گذاری می‌کند تا کاربران راحت‌تر بتوانند تصاویر دستکاری‌شده یا تولیدشده توسط هوش مصنوعی را تشخیص دهند.

اپل برای پیاده‌سازی این قابلیت از فناوری SynthID گوگل کمک گرفته است؛ قابلیتی که پیش‌تر روی گوشی‌های پیکسل نیز نقشی مشابه داشت و حالا به برنامه‌های پیش‌فرض iOS اضافه شده است.

اپل تازه‌ترین شرکتی است که به جمع شرکای همکار یعنی OpenAI، انویدیا و Kakao در کنار گوگل پیوسته است؛ شرکت‌هایی که همگی اکنون واترمارک SynthID را روی محتوای تولیدشده یا ویرایش‌شده در محصولات مصرفی هوش مصنوعی مولد تعبیه می‌کنند.

در ادامه نحوه استفاده از این واترمارک‌ها برای شناسایی محتوای ادیت‌شده با ابزارهای گوگل، محدودیت‌های آن برای تصاویر آیفون، اطلاعات ذخیره‌شده توسط گوگل هنگام بررسی تصاویر و هم‌چنین برنامه‌هایی از آیفون که از این فناوری استفاده می‌کنند را مرور می‌کنیم.

طبق گزارش اولیه وب‌سایت MacRumors، تمام تصاویری که با برنامه Image Playground اپل تولید می‌شوند این واترمارک را دریافت می‌کنند، اما در اپلیکیشن Photos تعبیه واترمارک SynthID به ابزار خاص مورد استفاده بستگی دارد؛ برای نمونه، ابزارهای Extend و Spatial Reframing از این واترمارک استفاده می‌کنند، اما ابزار Clean Up تنها برای ویرایش‌های بزرگ‌تر آن را روی تصاویر اعمال می‌کند.

موضوع مهم دیگر این است که بسیاری از انواع ویرایش تصاویر که در گذشته پنهان می‌ماندند، اکنون شاید به‌صورت خودکار توسط سرویس‌های آنلاین شناسایی شوند. بر اساس گزارش The Verge، تصاویری که با ابزارهای هوش مصنوعی اپل ویرایش می‌شوند ممکن است در پلتفرم‌هایی مانند اینستاگرام برچسب ویرایش با هوش مصنوعی دریافت کنند. با این حال هنوز مشخص نیست اینستاگرام چگونه این تغییرات را شناسایی کرده است، زیرا تصاویر هوش مصنوعی را می‌توان از طریق متادیتاهایی نظیر برچسب‌های C2PA و IPTC نیز مشخص کرد و در مستندات متا اشاره‌ای به استفاده از SynthID برای این منظور نشده است.

کدام ابزارهای گوگل واترمارک هوش مصنوعی اپل را تشخیص می‌دهند؟

در حال حاضر متأسفانه امکان بررسی مستقیم واترمارک SynthID از طریق iOS یا برنامه‌های خود اپل وجود ندارد. اگر قصد دارید رسانه‌های تولیدشده یا ویرایش‌شده در آیفون را ارزیابی کنید، بهترین روش بارگذاری فایل در وب‌سایت رسمی تشخیص SynthID برای تحلیل است. مرورگر گوگل کروم و بخش جستجوی گوگل (شامل لنز، هوش مصنوعی جستجو و Circle to Search) نیز توانایی تشخیص واترمارک‌های SynthID را دارند و دستیار هوش مصنوعی Gemini گوگل نیز از این قابلیت پشتیبانی می‌کند. با این حال طبق اعلام گوگل، مدل Gemini در حال حاضر فقط محتوای ساخته‌شده توسط هوش مصنوعی گوگل را شناسایی می‌کند، در حالی که چنین محدودیتی برای سایر ابزارهای این شرکت ذکر نشده است.

آیا بارگذاری عکس‌های شخصی در ابزار تشخیص SynthID یا Gemini امن است؟

گوگل ادعا می‌کند عکس‌هایی که در سامانه تشخیص SynthID بارگذاری می‌شوند به‌صورت آنی پردازش شده و پس از نمایش نتیجه حذف خواهند شد، اما برای اعمال محدودیت مصرف روزانه و مقابله با حملات خودکار، یک «امضای دیجیتال» از فایل شما را تا ۲۴ ساعت نگه می‌دارد.

گوگل سقف دقیق بررسی‌ها را اعلام نکرده است، اما در صفحه راهنمای Gemini اشاره شده که کاربران این برنامه در هر بازه ۲۴ ساعته امکان بررسی حدود ۱۰ تصویر، ۱۰ ویدیو و ۱۰ فایل صوتی را دارند.

امکان بارگذاری ناشناس تصاویر در این وب‌سایت وجود ندارد، چراکه برای استفاده از سامانه تشخیص باید وارد حساب کاربری گوگل، اپل یا ChatGPT شوید. در صورت ورود با حساب شخص ثالث مانند اپل، گوگل مشخصات پایه‌ای حساب شامل نشانی ایمیل، شناسه کاربری و اطلاعات ارائه‌دهنده ورود را ذخیره می‌کند و هیچ بازه زمانی مشخصی برای مدت نگهداری این اطلاعات شخصی اعلام نشده است.

شاید بخواهید تصاویر حساس یا شخصی را برای بررسی وجود واترمارک SynthID امتحان کنید، اما بهتر است از بارگذاری آنلاین چنین تصاویری خودداری کرده و روش‌های دیگری را برای اعتبارسنجی در پیش بگیرید. این هشدار هنگام اعتبارسنجی تصاویر در برنامه Gemini اهمیت دوچندانی پیدا می‌کند، زیرا این سرویس با تصاویر آپلودشده مشابه سایر فایل‌های بخش گفتگو برخورد می‌کند؛ فایل‌هایی که بسته به تنظیمات حریم خصوصی شما ممکن است ذخیره شوند یا حتی توسط ناظران انسانی مورد بازبینی قرار گیرند.

آنچه ابزار SynthID به شما نمی‌گوید

شاید حیاتی‌ترین نکته این باشد که SynthID ذاتاً تولید یا ویرایش تصویر توسط هوش مصنوعی را تشخیص نمی‌دهد.

این ابزار صرفاً واترمارک‌هایی را بازخوانی می‌کند که در زمان ساخت یا ویرایش به‌طور عمدی درون فایل تعبیه شده‌اند. اگر واترمارکی در تصویر ثبت نشده باشد، SynthID برای یافتن نشانه‌های هوش مصنوعی مولد پیکسل‌های تصویر را تحلیل نخواهد کرد؛ بنابراین محتوای ساخته‌شده با ابزارهایی مانند Gemini یا ChatGPT باید شناسایی شوند، اما بسیاری از ابزارها نظیر ComfyUI می‌توانند تصاویر هوش مصنوعی را بدون هیچ واترمارکی تولید کنند و این تصاویر از دید سامانه تشخیص SynthID پنهان می‌مانند.