نقشه محرمانه OpenAI و آنتروپیک برای «روز واقعه»؛ مهار خشم عمومی پس از اولین فاجعه هوش مصنوعی

مدیران ارشد در آنتروپیک (Anthropic)، اوپن‌ای‌آی (OpenAI) و سایر شرکت‌های پیشرو در حال برنامه‌ریزی محرمانه برای سناریوهای مهار شورش عمومی و خشم سیاستمداران پس از وقوع نخستین فاجعه بزرگ ناشی از هوش مصنوعی هستند.

چرا این موضوع اهمیت دارد؟ این مقامات وقوع یک رویداد فاجعه‌بار در مقیاس وسیع را پیش‌بینی می‌کنند؛ به احتمال زیاد یک حمله سایبری سنگین که دسترسی به خدمات مالی، اینترنت یا حتی شبکه آب و برق را به‌طور کامل قطع کند.

• نخستین آسیب ملموس در دنیای واقعی که توسط هوش مصنوعی ناامن ایجاد شود، می‌تواند مردمی را که هم‌اکنون نیز نگران هستند، به‌شدت علیه این فناوری و رهبرانش بشوراند؛ از جمله داریو آمودی (مدیرعامل آنتروپیک)، سم آلتمن (مدیرعامل OpenAI) و حتی دونالد ترامپ به دلیل بی‌میلی نسبت به تنظیم مقررات.

ریشه این ریسک کجاست؟ اگرچه برنامه‌ریزی برای سناریوهای بحران در بسیاری از شرکت‌ها و نهادهای امنیت ملی امری رایج است — پنتاگون دهه‌هاست مانورهای شبیه‌سازی جنگ برگزار می‌کند — اما تفاوت اصلی اینجاست که پژوهشگران و مدیران ارشد هوش مصنوعی وقوع یک حادثه بزرگ را اجتناب‌ناپذیر می‌دانند.

• سخنگوی OpenAI در این خصوص اعلام کرد: «ما مانورهای آمادگی برگزار می‌کنیم که در آن تیم‌ها سناریوهای احتمالی گوناگون را بررسی می‌کنند. ما این سناریوها را حتمی تلقی نمی‌کنیم، بلکه هدف این است که برای هر شرایطی آماده باشیم.»
• شرکت آنتروپیک از هرگونه اظهارنظر در این رابطه خودداری کرد.

نگاهی دقیق‌تر: بازی مقصر دانستن آغاز خواهد شد؛ چه زمانی که دسته‌ای از ایجنت‌های خودمختار از محیط تست آزمایشگاهی خارج شوند و چه زمانی که یک عامل مخرب راه‌های غیرمنتظره‌ای برای سوءاستفاده از مدل‌های موجود پیدا کند.

• حملات سایبری اخیر که نهادهای مالی کره جنوبی را هدف قرار داد — از جمله نفوذهای گزارش‌شده به دو بانک — نشان می‌دهد یک نفر به تنهایی چقدر می‌تواند خسارت به بار آورد.
• گفته می‌شود یک هکر از چین با استفاده از مدل‌های هوش مصنوعی توسعه‌یافته در این کشور از جمله دیپ‌سیک (DeepSeek)، اطلاعات ده‌ها هزار مشتری بانکی را به سرقت برده است. به گزارش شرکت امنیت سایبری کراوداسترایک (CrowdStrike)، این مهاجم حتی از ابزار کلود کد (Claude Code) برای یافتن مکان‌هایی جهت فروش داده‌های سرقت‌شده کمک گرفته است.

استراتژیست‌های ارشد هوش مصنوعی فرض را بر این گذاشته‌اند که دموکرات‌ها پس از انتخابات میان‌دوره‌ای، به سرعت برای متوقف کردن یا محدودسازی هوش مصنوعی اقدام خواهند کرد، اما با چالش‌های بزرگی روبه‌رو خواهند شد.

• کنگره‌ای با میانگین سنی بالا که با انقلاب هوش مصنوعی بیگانه است، ممکن است در درک ابعاد ماجرا کاملاً کم بیاورد.
• اقتصاد جهانی اکنون عمیقاً با توسعه زیرساخت‌های هوش مصنوعی درهم‌تنیده است؛ کند کردن این روند می‌تواند ضربه سنگینی به اقتصادی وارد کند که همین حالا هم شکننده است.
• مدل‌های بسیار زیادی با وزن باز (Open-weight) وجود دارند که آزادانه قابل دانلود هستند و می‌توانند برای آسیب‌رسانی استفاده شوند؛ مشکلی که اغلب کارشناسان امنیت سایبری معتقدند تنها راه‌حل آن، استفاده از خود هوش مصنوعی برای مبارزه با هوش مصنوعی سرکش است.

پشت پرده ماجرا: این برنامه‌ریزی‌ها شامل عملیات تیم قرمز برای بد‌ترین سناریوهای ممکن است، اما هدف اصلی آن تلاش سریع برای آگاه‌سازی و آموزش اعضای کنگره است.

• مدیران شرکت‌ها به‌خوبی می‌دانند که در حال حاضر هیچ قانونی شانس تصویب ندارد، اما همچنان می‌خواهند قوانینی را شکل دهند که رهبران آمریکا پس از وقوع اولین فاجعه ناچار به اجرای آن‌ها خواهند شد.

آنچه در پیش است: بسیاری از چهره‌های آگاه در صنعت هوش مصنوعی اعلام کرده‌اند که به باور آن‌ها ظرف ۶ تا ۱۲ ماه آینده یک حادثه بزرگ رخ خواهد داد.

• حتی در صورت تسلط دموکرات‌ها بر مجلس نمایندگان و سنا، شرکت‌ها فضای سیاسی را به‌شدت متشتت می‌بینند؛ از جمله درون خود حزب دموکرات.
• برخی از تندترین پیشنهاد‌های دموکرات‌ها شامل ممنوعیت کامل ابرهوش مصنوعی (Superintelligence) یا توقف توسعه هوش مصنوعی پیشرفته است.
• طرح‌های دیگری نیز وجود دارند که از حمایت هر دو حزب و حتی برخی بازیگران صنعت برخوردارند؛ از جمله الزام به تعبیه یک کلید قطع اضطراری (Kill Switch) در سیستم‌های پیشرفته هوش مصنوعی. با این حال کارشناسان درباره امکان‌پذیر بودن خاموش کردن تمامی سیستم‌های هوش مصنوعی ابراز تردید کرده‌اند.

کلام آخر: در یک بحران واقعی، واشنگتن می‌تواند اختلافات حزبی را کنار بگذارد؛ درست مانند همکاری‌هایی که در دوران کرونا و بحران مالی سال ۲۰۰۸ شکل گرفت.