چگونه توهم یک چت‌بات هوش مصنوعی جهان را تا آستانه جنگ جهانی پیش برد

بسته به دیدگاه شما، برخی از فیلم‌های علمی‌تخیلی قدیمی بیشتر از آنکه صرفاً یک اثر فانتزی باشند، هشدارهایی درباره آینده بوده‌اند. برای نمونه، فیلم «WarGames» داستان هکری را روایت می‌کند که پس از فعال‌کردن ناخواسته یک هوش مصنوعی و ارائه اطلاعات نادرست به ارتش آمریکا، جهان را تا آستانه جنگ جهانی سوم پیش می‌برد. این فیلم نه‌تنها الهام‌بخش سیاست‌های امنیت سایبری رونالد ریگان بود، بلکه حالا به نظر می‌رسد یک رویداد واقعی را نیز مو به مو پیش‌بینی کرده است.

بر اساس گزارش منتشرشده توسط CNN در ۱۸ سپتامبر، جهان به‌تازگی از یک سناریوی آخرالزمانی جان سالم به در برده است. طبق این گزارش، ارتش آمریکا یک گزارش اطلاعاتی دریافت کرد که نشان می‌داد یک کشتی چینی در خاورمیانه در حال حمل مخفیانه قطعات سلاح‌های هسته‌ای است. ارتش فوراً وارد عمل شد و نیروها آماده ورود به کشتی شدند. هواپیماها برای رهگیری در مسیر بودند، اما ناگهان دستور لغو عملیات صادر شد. مقامات پس از بررسی‌های دقیق‌تر متوجه شدند که کل این ماموریت بر اساس اطلاعاتی کاملاً اشتباه بنا شده است. در واقع، ادعای حمل مواد هسته‌ای توسط این کشتی، صرفاً نتیجه توهم یک چت‌بات هوش مصنوعی بود. محموله واقعی این کشتی مشخص نیست، اما قطعاً هیچ ارتباطی با بمب هسته‌ای نداشته است.

یکی از منابع نزدیک به این رویداد در مصاحبه با CNN اعلام کرد که اگر نیروهای آمریکایی وارد این کشتی می‌شدند، این اتفاق می‌توانست «آغازگر یک جنگ» باشد. به گزارش CNN، تحلیلگران نظامی همواره از این موضوع هراس داشته‌اند که ارائه «داده‌های ضعیف یا مخدوش» توسط هوش مصنوعی منجر به «اشتباهات محاسباتی فاجعه‌بار» شود. این اتفاق خطرناک ثابت می‌کند که نگرانی‌های آن‌ها کاملاً بجا بوده است. به نظر می‌رسد دیالوگ هوش مصنوعی در پایان فیلم «WarGames» درباره جنگ هسته‌ای کاملاً صادق است: «تنها حرکت برنده، بازی‌نکردن است.»

چگونه تا آستانه جنگ جهانی سوم پیش رفتیم؟

پیش‌تر گزارش‌ها و مقالاتی منتشر شده بود که هشدار می‌دادند مشکل توهم هوش مصنوعی در آینده وخیم‌تر خواهد شد. اما نزدیک‌شدن به جنگ جهانی سوم صرفاً به دلیل اشتباه یک چت‌بات در تشخیص محموله یک کشتی چینی، نشان می‌دهد که حتی آن هشدارها نیز عمق فاجعه احتمالی را دست‌کم گرفته بودند. اکنون این پرسش مطرح می‌شود که چگونه یک مدل هوش مصنوعی توانست جهان را تا لبه پرتگاه یک درگیری مسلحانه غیرضروری دیگر بکشاند.

مهم‌ترین عامل این است که مقامات ارتش و بخش‌های اطلاعاتی آمریکا در تلاش‌اند تا هوش مصنوعی را در تمامی سطوح، از جمله بررسی و ارزیابی داده‌ها، پیاده‌سازی کنند. در این مورد خاص، یک تحلیلگر ناشناس با استفاده از یک چت‌بات، «اطلاعات منابع باز را با اطلاعات محرمانه سیگنالی موجود در پایگاه‌های دولتی» ترکیب کرد تا یک گزارش اطلاعاتی تدوین کند؛ گزارشی که به اشتباه ادعا می‌کرد کشتی چینی در حال جابه‌جایی مواد هسته‌ای است.

بسیاری بر این باورند که هوش مصنوعی در حال تبدیل‌شدن به ابزاری ضروری برای مشاغل مختلف است و دولت آمریکا نیز از این قاعده مستثنی نیست. مقامات معتقدند با توجه به حجم روزافزون داده‌ها، ارتش برای تصمیم‌گیری درباره اهداف و حملات نظامی به هوش مصنوعی نیاز دارد. با این حال، روند پذیرش هوش مصنوعی در این نهادها «غیرمتمرکز» است و هیچ استاندارد مشترکی برای راستی‌آزمایی اطلاعات تولیدشده توسط آن وجود ندارد. بخش‌های مختلف دولت از ابزارهای متفاوتی استفاده می‌کنند که همین امر نتایج را غیرقابل‌اعتماد می‌سازد. به گفته یک مقام ارشد سابق آمریکایی، چت‌بات‌هایی که تحلیلگران دولتی استفاده می‌کنند، «تنها نسخه‌هایی بزک‌کرده از مدل‌های تجاری موجود» هستند. بدتر از همه اینکه توهمی که اخیراً جهان را تا آستانه جنگ جهانی سوم پیش برد، یک اتفاق نادر نبوده است؛ منابع CNN ادعا می‌کنند که ابزارهای هوش مصنوعی از زمان ورود به جعبه‌ابزار تحلیلگران دولتی، بارها نتیجه‌گیری‌های نادرستی ارائه داده‌اند. شاید دفعه بعد به این اندازه خوش‌شانس نباشیم.