سد دفاعی خلاقانه OpenAI در برابر دیپ‌فیک‌های انتخاباتی؛ اجبار ChatGPT به تولید تصاویر کارتونی

یکی از بزرگ‌ترین چالش‌های عصر هوش مصنوعی، واقعی‌تر شدن روزافزون دیپ‌فیک‌ها است؛ تا جایی که تشخیص آن‌ها از عکس‌های واقعی عملاً غیرممکن به نظر می‌رسد. این موضوع به‌ویژه در فصل انتخابات، یعنی زمانی که رأی‌دهندگان به دنبال اطلاعات موثق و دست‌اول درباره نامزدها و حوزه‌های رأی‌گیری هستند، اهمیت دوچندانی پیدا می‌کند. در همین راستا، شرکت OpenAI سازوکار حفاظتی نوآورانه‌ای را برای مقابله با جعل تصاویر و تولید دیپ‌فیک‌های سیاسی پیاده‌سازی کرده است.

در حالی که تنها یک هفته تا برگزاری انتخابات میان‌دوره‌ای در تاریخ ۳ نوامبر باقی مانده است، موضوعات حوزه فناوری به کانون توجه بسیاری از کارزارها تبدیل شده‌اند؛ به‌ویژه آنکه دغدغه‌های مرتبط با هوش مصنوعی و گسترش مراکز داده نیز در میان افکار عمومی رو به افزایش است.

بر اساس اعلام رسمی شرکت OpenAI در به‌روزرسانی ۲۰ اکتبر، اگر از ChatGPT بخواهید تصویری با مضمون «دخالت در انتخابات یا دلسرد کردن مردم از رأی‌دادن» بسازد، این چت‌بات در صورتی که درخواست با سایر خط‌مشی‌های محتوایی مغایرت نداشته باشد، تصویر را تولید خواهد کرد؛ اما این خروجی منحصراً در قالب نقاشی یا سبک کارتونی خواهد بود و تمامی دستورها برای ساخت تصویری واقع‌گرایانه نادیده گرفته می‌شوند.

به‌عنوان نمونه، در آزمایش‌های صورت‌گرفته از ChatGPT خواسته شد تصویری از حضور مأموران اداره مهاجرت و گمرک در بیرون از یک شعبه رأی‌گیری خلق کند. در تمام تلاش‌ها، خروجی چت‌بات تنها تصویری کارتونی و نقاشی‌گونه بود. انتشار نسخه‌ای واقع‌گرایانه از چنین صحنه‌ای می‌توانست موجب تشویش و حتی وحشت رأی‌دهندگان شود.

ایده اصلی این رویکرد آن است که مانع سوءاستفاده افراد خرابکار در تولید دیپ‌فیک‌های واقع‌گرایانه‌ای شود که سلامت انتخابات را زیر سؤال می‌برند، بدون آنکه دسترسی عمومی افراد به ابزارهای ساخت محتوای سیاسی مسدود گردد. در آزمایشی دیگر، تلاش برای وادار کردن ChatGPT به تولید عکسی به سبک مستند و خبری از ثبت نادرست رأی توسط یک دستگاه رأی‌گیری نیز بی‌نتیجه ماند و سیستم مجدداً خروجی فانتزی ارائه داد.

جاش لاوسون، مدیر بخش انتخابات در OpenAI، در این زمینه توضیح داد: «مشکل اصلی دیپ‌فیک‌ها نقد یا تفسیر اجتماعی نیست، بلکه فریب مخاطب است. بنابراین هدف ما این است که ارزش استنادی تصاویر را از بین ببریم، در حالی که فضا برای تصویرسازی و اظهارنظرهای اجتماعی باز بماند.» او تأکید کرد که هدف نهایی، افزودن یک لایه بازدارنده جدید است تا این پلتفرم کارایی کمتری برای افراد مخرب داشته باشد.

کارتونی کردن تصاویر هوش مصنوعی، روشی کاربردی برای دشوارتر کردن ساخت دیپ‌فیک‌های سیاسی به شمار می‌رود. پیشرفت مدل‌های تولید تصویر، مانند ChatGPT Images 2.5، شمشیر دو لبه است؛ مدل‌های جدیدتر اشتباهات و توهمات کمتری دارند و خروجی باکیفیت‌تری برای سازندگان خلق می‌کنند، اما دقیقاً به دلیل نبود همین نقص‌ها، تشخیص محتوای مصنوعی با چشم غیرمسلح برای عموم مردم دشوارتر می‌شود. روش‌های اعتبارسنجی و برچسب‌گذاری هوش مصنوعی نیز اگرچه کارایی دارند، اما هنوز نه فراگیر شده‌اند و نه کاملاً خطاناپذیر هستند.

شرکت گوگل، خالق مدل هوش مصنوعی Gemini، در پاسخ به تدابیر اتخاذشده پیرامون تصاویر هوش مصنوعی، به سیاست‌های انتخاباتی خود اشاره کرده است. بر اساس این خط‌مشی، گوگل لایه‌های حفاظتی بیشتری را برای محدودسازی تصاویر گمراه‌کننده مرتبط با انتخابات به کار می‌گیرد، هرچند جزئیات دقیقی درباره شیوه اجرای آن ارائه نداده است.

شرکت Anthropic ابزار اختصاصی تولید تصویر یا ویدیو ارائه نمی‌دهد و سخنگوی این شرکت اعلام کرده است که هرگونه تلاش برای استفاده از مدل Claude جهت فریب رأی‌دهندگان یا اخلال در فرایند انتخابات، نقض صریح قوانین آن محسوب می‌شود. این مجموعه پیش‌تر در همان ماه، دستورالعمل جامع انتخاباتی خود را نیز منتشر کرده بود.

هیچ تضمینی وجود ندارد که OpenAI پس از پایان دوره انتخابات این سیستم محدودکننده را حفظ کند، اما اجرای چنین سازوکاری نشانه‌ای آشکار از سوی یکی از بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی دنیاست که مسئولیت خود را در حفظ سلامت فرایندهای انتخاباتی جدی گرفته است.