چگونه با وب‌سایت جدید SynthID گوگل، محتوای ساخته‌شده با هوش مصنوعی را تشخیص دهیم؟

این ابزار روشی ساده برای بررسی اصالت تصاویر و تشخیص دستکاری یا ساخت آن‌ها است، هرچند با محدودیت‌ها و ملاحظاتی نیز همراه خواهد بود.

با گسترش سرسام‌آور ابزارهای هوش مصنوعی مولد که در سال‌های اخیر سیل عظیمی از تصاویر، ویدیوها و حتی قطعات موسیقی را روانه وب کرده‌اند، گشت‌وگذار در فضای آنلاین بدون شک کردن به واقعی بودن آنچه می‌بینیم یا می‌شنویم، تقریباً غیرممکن شده است. حال گوگل که خود یکی از بزرگ‌ترین بازیگران هوش مصنوعی مولد به شمار می‌رود، تشخیص خروجی‌های این فناوری را ساده‌تر کرده است. با ابزار جدید SynthID Detector، هر کاربری می‌تواند تصاویر، ویدیوها یا فایل‌های صوتی را برای پی بردن به ردپای هوش مصنوعی بررسی کند؛ هرچند این سرویس با چند محدودیت اساسی همراه است.

گوگل نخستین بار در سال ۲۰۲۳ از فناوری SynthID رونمایی کرد؛ سیستمی که برچسبی نامرئی را روی محتوای تولیدشده با هوش مصنوعی حک می‌کند، اما تا پیش از این هیچ راهی برای کاربران عادی جهت بررسی وجود چنین برچسبی ارائه نشده بود. این شرکت در سال ۲۰۲۵ نسخه محدودی از SynthID Detector را در دسترس پژوهشگران و روزنامه‌نگاران قرار داد و اکنون آن را برای تمام کاربران عرضه کرده است. با اینکه این خبر برای علاقه‌مندان به راستی‌آزمایی محتوا امیدوارکننده به نظر می‌رسد، اما این سیستم هنوز تا بی‌نقص بودن فاصله زیادی دارد.

ابزار SynthID Detector چگونه کار می‌کند؟

از زمان راه‌اندازی فناوری SynthID، مدل هوش مصنوعی جمنای (Gemini) گوگل تمام خروجی‌های خود را با یک واترمارک اختصاصی نشانه‌گذاری می‌کند. سازوکار ابزار SynthID Detector نیز بر پایه اسکن همین واترمارک بنا شده است و پاسخی ساده و قطعی مبنی‌بر وجود یا عدم وجود آن به کاربر ارائه می‌دهد. برای استفاده از این ابزار تازه کافی است وارد وب‌سایت SynthID.com شوید، فایل تصویر، ویدیو یا صدای مدنظر خود را بارگذاری کنید و چند ثانیه منتظر بمانید تا نتیجه بررسی توسط گوگل اعلام شود.

این سازوکار پیشرفت چشمگیری نسبت به رویکرد قبلی گوگل به حساب می‌آید. پیش از این، کاربران ناچار بودند مستقیماً از خود جمنای بپرسند که آیا یک محتوا با هوش مصنوعی ساخته شده است یا خیر. اما برای افرادی که به هوش مصنوعی مولد اعتماد ندارند، باور کردن حرف‌های جمنای دشوار بود و کسانی هم که قصد داشتند کلاً از این فناوری دوری کنند، از آن بهره‌ای نمی‌بردند. علاوه بر این، SynthID Detector به کاربران امکان می‌دهد واترمارک‌های تعبیه‌شده در محتوای شرکای پروژه SynthID را نیز اسکن کنند؛ قابلیتی که پیش‌تر ممکن نبود. این یعنی ابزار جدید می‌تواند علاوه‌بر جمنای، ساخته شدن فایل‌ها با مدل‌های هوش مصنوعی OpenAI، انویدیا و Kakao را نیز شناسایی کند. اپل نیز در طرح SynthID مشارکت دارد، اما قابلیت تشخیص محتوای ساخته‌شده با سیستم‌های این شرکت همچنان در دست توسعه است.

ابزار SynthID Detector تا چه اندازه قابل اعتماد است؟

از آنجا که SynthID Detector صرفاً به دنبال واترمارک می‌گردد و محتوا را برای یافتن الگوهای بصری استفاده از هوش مصنوعی تجزیه‌وتحلیل نمی‌کند، احتمال بروز خطای مثبت کاذب عملاً حذف می‌شود. با این حال، همین سادگی محدودیت‌های خاص خود را ایجاد می‌کند. بارزترین محدودیت این است که ابزار مذکور توانایی شناسایی محتوای تولیدشده توسط مدل‌هایی را که از پروتکل SynthID استفاده نمی‌کنند (مانند ابزارهای متا)، ندارد. همچنین SynthID Detector تنها مشخص می‌کند که آیا برچسبی در فایل آپلودشده پیدا شده است یا خیر، و هیچ اطلاعاتی درباره اینکه کدام بخش‌های فایل با هوش مصنوعی ساخته شده‌اند، در اختیار کاربر نمی‌گذارد.

گوگل تأکید دارد که امضاهای دیجیتال SynthID حتی در صورت ویرایش بعدی محتوا، همچنان در فایل حفظ می‌شوند. هرچند هیچ تضمینی وجود ندارد که جاعلان باانگیزه در نهایت راهی برای دور زدن آن نیابند، اما به نظر می‌رسد این شرکت گام‌هایی را برای جلوگیری از این مسئله برداشته است. بر اساس گزارش‌ها، سخنگوی گوگل اعلام کرده است که کاربران به حدود ۱۰ بررسی در روز محدود شده‌اند تا نتوانند از خروجی‌های این آشکارساز برای یافتن روش‌های حذف SynthID استفاده کنند. علاوه بر این، کاربران برای استفاده از SynthID Detector حتماً باید وارد حساب کاربری گوگل، OpenAI یا اپل خود شوند.

مقایسه SynthID Detector با سایر ابزارهای تشخیص هوش مصنوعی

هرچند SynthID Detector تنها ابزار تشخیص هوش مصنوعی مولد در بازار نیست، اما با وجود تمام کاستی‌هایش، احتمالاً یکی از مطمئن‌ترین گزینه‌ها به شمار می‌رود. شرکت OpenAI که از شرکای SynthID است، ابزار تشخیص اختصاصی خود را اداره می‌کند که علاوه‌بر واترمارک‌های SynthID، می‌تواند متاداده‌های نشان‌دهنده هوش مصنوعی را نیز شناسایی کند. از سوی دیگر، متا واترمارک اختصاصی خود موسوم به Content Seal را در آثار هوش مصنوعی تعبیه می‌کند و یک ابزار تشخیص تحت وب نیز ارائه داده است؛ هرچند گزارشی در سال ۲۰۲۶ نشان داد که این ابزار در شناسایی دقیق نشانه‌ها گاهی دچار خطا می‌شود. شرکت‌هایی مانند آنتروپیک و مایکروسافت نیز واترمارک‌گذاری محتوای هوش مصنوعی را آغاز کرده‌اند، اما در حال حاضر ابزار عمومی برای تشخیص آن‌ها در اختیار کاربران نگذاشته‌اند.

نقطه ضعف مشترک تمام این ابزارها این است که صرفاً برای تشخیص یک نشانگر هوش مصنوعی خاص طراحی شده‌اند و هیچ ابزار مطمئنی وجود ندارد که بتواند انواع محتوای هوش مصنوعی مولد را به‌صورت فراگیر تشخیص دهد. پژوهشگران زیادی ابزارهای اختصاصی برای شناسایی هوش مصنوعی توسعه داده‌اند، اما این برنامه‌ها در دسترس عموم قرار ندارند. درباره ابزارهای تشخیص عمومی که به‌صورت آزاد در وب ارائه شده‌اند نیز باید گفت نتایج آن‌ها غیرقابل‌اعتماد است و در بسیاری از موارد، آثار دست‌ساز انسان را به اشتباه به‌عنوان محتوای هوش مصنوعی شناسایی می‌کنند.