خبرنگارانی که وجود خارجی ندارند! نفوذ مقاله‌های ساختگی با چت‌جی‌پی‌تی به رسانه‌های واقعی

پیش از آنکه اوپن‌ای‌آی در اکتبر ۲۰۲۶ این حساب‌ها را مسدود کند، هفت شخصیت ساختگی در قامت خبرنگار موفق شده بودند نزدیک به ۱۰۰ مقاله تولیدشده با هوش مصنوعی را در رسانه‌های واقعی منتشر کنند.

تصور کنید مقاله‌ای با نام نویسنده در یک نشریه واقعی منتشر می‌شود؛ نویسنده‌ای با نام غربی و معتبر، حوزه تخصصی مشخص و رزومه‌ای کاملاً باورپذیر. اما نکته عجیب اینجاست: چنین خبرنگاری اصلاً در دنیای واقعی وجود خارجی ندارد!

این فقط یک فرضیه خیالی نیست. شرکت OpenAI دقیقاً همین ماجرا را در گزارش رسمی خود درباره عملیات «نام‌های جعلی» (Bogus Bylines) در تاریخ ۸ اکتبر ۲۰۲۶ مستند کرد: هفت هویت خبرنگار ساختگی، نزدیک به ۱۰۰ مقاله منتشرشده در حدود دوازده رسانه، و یک جریان کاری کامل که از چت‌جی‌پی‌تی (ChatGPT) برای پیشبرد تمام مراحل—از پرداخت پیش‌نویس‌ها گرفته تا ساخت کامنت‌های فیک در شبکه‌های اجتماعی—بهره می‌برد. این اتفاق نشان می‌دهد عوامل منتسب به ایران علاقه روزافزونی به عملیات‌های متکی به هوش مصنوعی پیدا کرده‌اند که بسیار فراتر از حملات سایبری سنتی عمل می‌کنند.

این عملیات در عمل چطور کار می‌کرد؟

هوش مصنوعی فقط در نوشتن مقاله‌ها کمک نمی‌کرد؛ بلکه کل زنجیره عملیات را پیش می‌برد.

گردانندگان این کمپین از چت‌جی‌پی‌تی به هر دو زبان فارسی و انگلیسی استفاده می‌کردند تا پیش‌نویس‌های مفصل را ویرایش کرده و پیشنهاد‌های مقاله (Pitch) را دقیقاً بر اساس خط‌مشی و سلیقه تحریریه هر نشریه تنظیم کنند. جالب‌تر اینکه ChatGPT ایمیل‌های ارتباط با سردبیران را هم آماده می‌کرد و بسته‌هایی از دیدگاه‌های شبکه‌های اجتماعی می‌ساخت تا شبیه واکنش‌های طبیعی مخاطبان مستقل به نظر برسند. پیام‌های این مقالات یک خط ژئوپلیتیک مشخص را دنبال می‌کرد: آمریکا به عنوان متجاوز، اسرائیل به عنوان متحد غیرقابل‌اعتماد واشنگتن، و ایران به عنوان کشوری سرسخت و تسلیم‌ناپذیر. بر اساس گزارش اوپن‌ای‌آی، فعالیت‌های انتشاراتی پس از آغاز تنش‌های ایران و آمریکا در سال ۲۰۲۶ اوج گرفته بود.

این ماجرا شبیه به «مزرعه‌های محتوا» نبود که انبوهی از متن‌های بی‌کیفیت و آبکی تولید می‌کنند؛ بلکه با یک لایه عملیاتی حساب‌شده روبه‌رو بودیم که به گروهی کوچک اجازه می‌داد هویت خبرنگاران قلابی را در نشریات مختلف جا بیندازند؛ در حالی که هوش مصنوعی شخصی‌سازی محتوا برای تحریریه‌ها و شبیه‌سازی بازخورد مخاطبان را مو‌به‌مو مدیریت می‌کرد.

این محتواها سر از کجا درآوردند؟

رسانه‌های واقعی با مخاطبان واقعی، مقاله‌هایی با نام افرادی منتشر کردند که اصلاً وجود نداشتند.

اوپن‌ای‌آی تأیید کرده که این مقالات در حدود دوازده رسانه آنلاین در سراسر جهان منتشر یا بازنشر شده‌اند. گزارش شبکه سی‌ان‌ان (CNN) نشریه «ال‌ای پروگرسیو» (LA Progressive) را یکی از این رسانه‌ها معرفی کرد و اشاره کرد که مقاله‌های شناسایی‌شده موضوعاتی مانند جرد کوشنر و سیاست خارجی ایالات متحده را پوشش می‌دادند. به گزارش CNN، رسانه‌های هدف غول‌های خبری بزرگ نبودند، اما برخی از آن‌ها مخاطبان آنلاین پرشماری داشتند. نماینده نشریه «میدل ایست مانیتور» (Middle East Monitor) نیز به CNN گفت که مقاله‌های مشکوک را حذف کرده و در حال بازنگری در فرایند پذیرش مطالب است.

این نکته بسیار حائز اهمیت است: یک پیام برای اثرگذاری لزوماً نیازی ندارد سر از صفحه اول بزرگ‌ترین روزنامه‌های جهان درآورد. جا دادن محتوا در یک رسانه معتبر با مخاطب واقعی، راه را برای گردش گسترده‌تر پیام باز می‌کند؛ و این دقیقاً همان مهارتی است که اوپن‌ای‌آی آن را توانمندی اصلی به اثبات‌رسیده در این کارزار توصیف کرده است.

محدودیت‌های آنچه اوپن‌ای‌آی کشف کرده است

مسدود کردن حساب‌ها فقط یک شاخه شناسایی‌شده را متوقف کرد، اما به معنای نابودی کامل شبکه نیست.

اوپن‌ای‌آی این عملیات انتشار مقاله را در مقیاس شش‌سطحی عملیات‌های نفوذ خود در سطح ۴ (Category 4) رتبه‌بندی کرده است؛ رتبه‌ای که نشان‌دهنده توانایی کمپین برای نفوذ به فراتر از کانال‌های اختصاصی خود و ورود مستقیم به رسانه‌های واقعی است. با این حال، شرکت اعلام کرده که نتوانسته عامل دقیق پشت این عملیات را شناسایی کند یا ارتباط مستقیم با دولت ایران را به اثبات برساند. ارزیابی اوپن‌ای‌آی حاکی از آن است که این اقدام احتمالاً یک کمپین تجاری و سفارشی بوده تا یک اقدام مستقیم دولتی؛ شبیه ساختارهای مبهمی که حتی مجریان برنامه‌های نفوذ دیجیتال آمریکا نیز برای پنهان کردن ردپای خود از آن استفاده می‌کنند.

مسدودسازی حساب‌های کاربری چت‌جی‌پی‌تی تنها همان بخشی را مختل کرد که برای اوپن‌ای‌آی قابل مشاهده بود. این کار ثابت نمی‌کند که کل عملیات متوقف شده یا همه محتواهای وابسته کشف شده‌اند. شناسایی در سطح حساب کاربری ابزار مفیدی است، اما هرگز تصویر کاملی از کل ماجرا به دست نمی‌دهد.

به گزارش CNN، جسیکا برانت (Jessica Brandt)، که بین سال‌های ۲۰۲۳ تا ۲۰۲۵ ریاست مرکز مقابله با نفوذ بدخیم خارجی در دفتر مدیریت اطلاعات ملی آمریکا را بر عهده داشت، معتقد است این عملیات نشان داد چگونه هوش مصنوعی به عوامل خارجی کمک می‌کند نقش خود را مخفی نگه دارند و پیام‌هایشان را از کانال‌های موثق و دست‌اول به گوش مخاطبان برسانند.

صنعت رسانه باید چه چیزی را اصلاح کند؟

چاپ شدن یک مقاله دیگر مدرکی بر واقعی بودن نویسنده‌اش نیست، و زیرساخت‌های احراز اصالت نیز تقریباً وجود ندارند.

رسانه‌ها و ناشران اکنون بیش از هر زمان دیگری به سازوکارهای قوی‌تر برای احراز هویت نویسندگان همکار نیاز دارند: از هویت‌های تأییدشده و ثبت سابقه پیشنهاد مقالات گرفته تا بررسی دقیق نام‌هایی که در بازه‌های زمانی کوتاه در چندین رسانه مختلف ظاهر می‌شوند. اگر مدیر یک رسانه هستید، احراز هویت نویسندگان دیگر نباید صرفاً یک تشریفات ساده اداری باشد؛ زیرا بررسی سبک نگارش در دوره‌ای که هوش مصنوعی می‌تواند متنی از نظر گرامری بی‌نقص و کاملاً متناسب با لحن نشریه تولید کند، اصلاً پاسخگو نیست.

شرکت‌های هوش مصنوعی نیز با فشار مضاعفی روبه‌رو هستند تا پایش سوءاستفاده‌ها را گسترش دهند، سیستم‌های شناسایی خوشه‌های حسابی هماهنگ را تقویت کنند و یافته‌هایشان را با پژوهشگران و نهادهای ذی‌ربط به اشتراک بگذارند. این ماجراها نشان می‌دهد صنعت هوش مصنوعی به شفافیت بسیار بیشتری نیاز دارد. این فرض قدیمی که حضور مقاله در یک رسانه واقعی تضمین‌کننده واقعی بودن نویسنده آن است، حالا به یک نقطه‌ضعف امنیتی بزرگ تبدیل شده که باید آن را کاملاً جدی گرفت.