سایت اختصاصی گوگل برای تشخیص محتوای هوش مصنوعی در دسترس عموم قرار گرفت؛ مچ‌گیری از تصاویر و ویدیوهای فیک با SynthID

ابزار SynthID Detector قرار است محتواهای ساخته‌شده با ابزار‌های هوش مصنوعی شرکت‌های OpenAI، گوگل، اپل و سایر غول‌های فناوری را علامت‌گذاری و شناسایی کند.

گوگل ابزار تحت وب SynthID Detector را که برای شناسایی محتواهای تولیدشده یا ویرایش‌شده با هوش مصنوعی طراحی شده، به‌صورت عمومی در دسترس همگان قرار داده است. این ابزار آنلاین می‌تواند تصاویر، ویدیوها و کلیپ‌های صوتی ساخته‌شده با ابزار‌های هوش مصنوعی گوگل، OpenAI، انویدیا و کاکائو (Kakao) را شناسایی کند. استفاده از این ابزار کاملاً رایگان است، اما برای کار با آن باید با حساب کاربری گوگل، OpenAI یا اپل خود وارد سایت شوید.

این وب‌سایت همچنین قرار است یکی از اولین ابزار‌های تشخیص هوش مصنوعی باشد که تصاویر تولیدشده با قابلیت‌های هوش مصنوعی اپل، مانند ابزار Image Playground، را شناسایی می‌کند. به گفته گوگل، پشتیبانی از تصاویر ساخته‌شده یا ویرایش‌شده با هوش مصنوعی اپل (Apple Intelligence) «به‌زودی» به این پلتفرم اضافه خواهد شد.

گوگل بیش از یک سال است که روی توسعه SynthID Detector کار می‌کند و پیش از این، نسخه‌های اولیه‌اش را در اختیار خبرنگاران و متخصصان رسانه قرار داده بود. حالا دیگر هر کاربری می‌تواند مستقیماً به آدرس synthid.com سر بزند و بررسی کند که آیا یک محتوا واترمارک SynthID دارد یا خیر. البته گوگل روش‌های دیگری هم برای تشخیص واترمارک‌های SynthID و اعتبارسنجی استانداردهای C2PA دارد—از جمله قابلیت محبوب «Circle to Search» و خود اپلیکیشن جمینای (Gemini). با این حال، راه‌اندازی یک وب‌سایت مستقل باعث شده دسترسی به این امکانات برای همه، به‌ویژه کسانی که کاربر دائمی ابزار‌های هوش مصنوعی گوگل نیستند، بسیار ساده‌تر شود.

البته مثل تمام ابزار‌های تشخیص هوش مصنوعی، اینجا هم محدودیت‌هایی وجود دارد. SynthID Detector نمی‌تواند تمام محتواهای ساخته‌شده با هوش مصنوعی را پیدا کند، چون شرکت‌های مختلف از استانداردهای متفاوتی برای واترمارک‌گذاری استفاده می‌کنند. علاوه بر این، در برخی شرایط ممکن است واترمارک‌ها از روی فایل حذف شوند. از طرف دیگر، وب‌سایت گوگل تفاوتی بین محتوایی که صفر تا صد آن با هوش مصنوعی ساخته شده با محتوایی که فقط کمی با ابزار‌های هوش مصنوعی ویرایش شده قائل نمی‌شود؛ بنابراین جزئیات دقیقی درباره نحوه ساخت یا اینکه دقیقاً کدام بخش‌های محتوا مصنوعی هستند، به شما ارائه نمی‌دهد.

هرچند راه‌اندازی SynthID Detector حرکتی روبه‌جلو و مثبت است، اما اعتبارسنجی محتوای ساخته‌شده با هوش مصنوعی هنوز تا بی‌نقص بودن فاصله زیادی دارد. ابزار‌های تشخیص هوش مصنوعی مثل SynthID به مجموعه‌ای پراکنده از استانداردهای گوناگون وابسته‌اند و عملاً چیزی به نام «تست‌کننده جامع و همه‌کاره» در این حوزه وجود ندارد. برای مثال، شرکت متا هم در حال آزمایش ابزار تحت وب اختصاصی خودش بوده که فقط می‌تواند تصاویر ایجادشده یا ویرایش‌شده با جدید‌ترین مدل‌های تصویرساز Muse خودش را شناسایی کند، اما هیچ سررشته‌ای از مدل‌های شرکت‌های دیگر یا حتی نسخه‌های قبلی مدل‌های خود متا ندارد!

با این همه، به نظر می‌رسد گوگل به‌مرور شرکت‌های بیشتری را با استاندارد SynthID همراه خواهد کرد. این شرکت پیش‌تر اعلام کرده بود که استارتاپ ElevenLabs متعهد شده پشتیبانی از این واترمارک‌ها را به سرویس‌های خود اضافه کند. گوگل در وب‌سایت خود تأکید کرده که «به‌طور مداوم در حال گسترش همکاری‌های تجاری خود هستیم تا امکان تشخیص طیف وسیع‌تری از رسانه‌های تولیدشده را فراهم کنیم».