گاف جنجالی ChatGPT: جعل امضای کارتونیست‌های سرشناس نیویورکر پای تصاویر فیک هوش مصنوعی!

سیستم هوش مصنوعی ChatGPT امضا و نام مستعار کارتونیست‌های واقعی را پای تصاویر ساختگی درج کرده و بیش از ۱۵ هنرمند مجله نام‌آشنای «نیویورکر» (The New Yorker) را در معرض خطر افتادن اعتبار حرفه‌ای قرار داده است.

بر اساس تحقیقات می‌دانی رسانه نیمن لب (Nieman Lab) درباره سیستم ساخت تصویر ChatGPT، امضا یا نام هنری بیش از ۱۵ کارتونیست مجله نیویورکر—از جمله هری بلیس، امیلی فلیک، جو دیتور و جیسون آدام کاتزنشتاین—پای تصاویر تولیدشده با هوش مصنوعی ظاهر شده؛ آثاری که این هنرمندان روحشان هم از آن‌ها بی‌خبر بوده است!

برای نمونه، نام مستعار برندان لوپر، کارتونیست سرشناس، یعنی «BLOPER» پای کارتونی ظاهر شد که توسط چت‌جی‌پی‌تی ساخته شده بود و ورود دالی پارتن همراه با تیم کوری به بهشت را به تصویر می‌کشید. لوپر اعلام کرد که هرگز چنین طرحی نکشیده، اما مخاطبان با تصور اینکه این کارتون واقعاً اثر اوست، مستقیماً با او تماس گرفتند! این تصویر پیش از آنکه اصل ماجرا برملا شود، دست‌به‌دست در شبکه‌های اجتماعی چرخیده بود.

امضا فقط یک جزئیات گرافیکی نیست؛ پای هویت در میان است!

انتساب دروغین اثری به یک هنرمند، آسیبی کاملاً متفاوت با تقلید از سبک بصری است و خروجی هوش مصنوعی را به محتوایی تبدیل می‌کند که گویی ادعای خلق توسط یک انسان واقعی را دارد.

شبیه‌سازی سبک بصری به‌خودی‌خود چالش‌های حقوقی و اخلاقی متعددی به همراه دارد، اما ثبت امضای جعلی دردسر تازه‌ای ایجاد می‌کند. در دنیای هنر، امضاها حکم شناسنامه و سند اصالت اثر را دارند؛ مخاطبان وجود امضا را تأییدی بر این می‌دانند که هنرمندی مشخص آن اثر را خلق کرده، نه اینکه آن را خط‌خطی‌هایی تزیینی بدانند که برحسب تصادف شبیه دست‌خط یک انسان واقعی از آب درآمده باشد.

برای کارتونیست‌هایی که نامشان در این تحقیق آمده، این اشتباه می‌تواند خطر جدی برای اعتبار حرفه‌ای آن‌ها به بار آورد؛ چراکه آثاری که هرگز خلق نکرده‌اند با نام و نشان آن‌ها در اینترنت دست‌به‌دست می‌شود و می‌تواند قضاوت مخاطبان، سردبیران نشریات و مشتریان آینده را درباره کیفیت کارشان تحت تأثیر قرار دهد.

قراردادی که شامل کارتون‌ها نمی‌شد!

آزمایش‌های اختصاصی نیمن لب نشان داد که ChatGPT با یک پرامپت ساده به‌راحتی کارتون‌هایی به سبک نیویورکر تولید می‌کند و هشدارهای سیستم هم نتوانسته جلوی درج امضاهای جعلی را بگیرد.

بر اساس گزارش‌ها، پس از اینکه نیمن لب با شرکت OpenAI تماس گرفت، این سیستم ظاهراً هشداری درباره شباهت خروجی به محتوای شخص ثالث نمایش داد؛ اما طبق یافته‌های این بررسی، تصاویر تولیدی هوش مصنوعی همچنان نام و امضای کارتونیست‌های واقعی را یدک می‌کشیدند.

سخنگوی مجله نیویورکر به نیمن لب اعلام کرد که شرکت کوندی ناست (Condé Nast)، مالک این نشریه، به هیچ‌یک از توسعه‌دهندگان مدل‌های بزرگ زبانی مجوز آموزش روی کارتون‌های این مجله را نداده است. گزارش‌های موجود حاکی از آن است که قرارداد لایسنس محتوای سال ۲۰۲۴ میان کوندی ناست و اوپن‌ای‌آی نیز به‌هیچ‌وجه شامل آموزش هوش مصنوعی روی کارتون‌ها و طرح‌های نیویورکر نمی‌شده است.

شرکت OpenAI هنوز به نیمن لب توضیحی نداده که مدل‌هایش چطور امضای شخصی هنرمندان را بازتولید می‌کنند. این موضوع که آیا فیلترهای امنیتی فعلی تنها جلوی درخواست‌های صریح برای تقلید سبک را می‌گیرند یا مانع جعل نشانه‌های هویتی مانند نام مستعار یک کارتونیست خاص هم می‌شوند، سؤالی اساسی است که پلتفرم‌ها و توسعه‌دهندگان هوش مصنوعی باید هرچه سریع‌تر به آن پاسخ دهند.