ادعای دروغین هوش مصنوعی درباره کشتی چینی تا آستانه درگیری نظامی آمریکا پیش رفت

یک ارزیابی اشتباه توسط هوش مصنوعی در فرماندهی عملیات ویژه ارتش آمریکا در اقیانوس آرام، پیش از کشف خطا توسط افسران، تا آستانه صدور فرمان توقیف یک کشتی چینی پیش رفت.

نیروهای مسلح آماده ورود به یک کشتی چینی در خاورمیانه بودند و جنگنده‌های نظامی نیز برای پشتیبانی از عملیات رهگیری به پرواز درآمده بودند؛ عملیاتی که بر اساس یک گزارش اطلاعاتی مبنی بر حمل قطعات برنامه تسلیحات هسته‌ای توسط این کشتی برنامه‌ریزی شده بود.

اما این گزارش کاملاً دروغین بود. در واقع یک چت‌بات هوش مصنوعی این ارزیابی را تولید کرده بود.

چگونه فهرست محموله یک کشتی به تهدید هسته‌ای تبدیل شد؟

پرس‌وجوی یک تحلیلگر درباره فهرست محموله کشتی کافی بود تا زنجیره‌ای از آماده‌سازی‌های نظامی به جریان بیفتد.

تحلیلگری در فرماندهی عملیات ویژه ارتش آمریکا در اقیانوس آرام با استفاده از یک چت‌بات، اطلاعات مربوط به فهرست محموله کشتی را بررسی کرد. چت‌بات با ترکیب اطلاعات منابع باز و داده‌های طبقه‌بندی‌شده سیگنالی، به این نتیجه رسید که کشتی در حال حمل مواد مرتبط با تسلیحات هسته‌ای است.

این نتیجه‌گیری اشتباه بود. بر اساس گزارش‌های CNN، هنوز مشخص نیست که کشتی دقیقاً چه محموله‌ای حمل می‌کرده است.

سپس، تحلیلگر برای بار دوم از هوش مصنوعی استفاده کرد تا یافته‌ها را در قالب یک گزارش اطلاعاتی رسمی و استاندارد تدوین کند. این قالب در کانال‌های نظامی با اعتبار یک تحلیل تاییدشده دست‌به‌دست می‌شود؛ اعتباری که خروجی این ابزار اصلاً مستحق آن نبود.

مقامات تنها پس از بررسی دقیق‌تر سند و درست مدت کوتاهی قبل از آغاز عملیات توقیف، متوجه این اشتباه شدند. یکی از منابع در گفتگو با CNN این گزارش را «کاملاً دروغین» توصیف کرد و افزود که این اتفاق «تقریباً به شروع یک جنگ منجر شد.»

هرگونه عملیات آمریکا علیه یک کشتی چینی در چنین شرایطی، خطر جدی تشدید تنش بین دو قدرت هسته‌ای را به همراه داشت. فرماندهی عملیات ویژه ارتش و پنتاگون از اظهارنظر در این باره خودداری کرده‌اند.

یک مقام ارشد سابق آمریکایی مشکل اساسی را برای CNN به سادگی توضیح داد: بسیاری از ابزارهای داخلی هوش مصنوعی دولت، صرفاً «نسخه‌های بزک‌کرده محصولات تجاری» هستند؛ به این معنا که این ابزارها همان مدل‌های تجاری هوش مصنوعی مولد با تغییرات جزئی‌اند، نه پلتفرم‌های اطلاعاتی مستحکم که برای تحلیل‌های حساس و حیاتی ساخته شده باشند.

سرعت عمل بدون تور ایمنی

فشارهای سیاست‌گذاری گسترده‌تری نیز در پس این حادثه وجود دارد که به جای کند کردن روند پذیرش هوش مصنوعی، سرعت آن را افزایش می‌دهد.

پیت هگست، وزیر جنگ آمریکا، یک استراتژی شتاب‌دهی هوش مصنوعی را با هدف تبدیل ارتش آمریکا به یک نیروی جنگی مبتنی بر هوش مصنوعی راه‌اندازی کرده است. گزارش‌های مستقل رسانه DefenseOne این استراتژی را سومین برنامه هوش مصنوعی این وزارتخانه در چهار سال گذشته و تهاجمی‌ترین آن‌ها می‌داند که چارچوب‌های اخلاقی پیشین را به نفع سرعت عمل کنار گذاشته است.

هدف اعلام‌شده این برنامه، قرار دادن «مدل‌های پیشرو هوش مصنوعی آمریکا مستقیماً در اختیار سه میلیون پرسنل غیرنظامی و نظامی در تمام سطوح طبقه‌بندی‌شده» است. ابزار هوش مصنوعی Grok متعلق به ایلان ماسک نیز به سبد محصولات هوش مصنوعی پنتاگون برای استفاده دولتی اضافه شده است. پلتفرم GenAI.mil وزارت جنگ همچنین ChatGPT از شرکت OpenAI را به ابزارهای خود افزوده است. هفت پروژه پیشگام نیز برای ورود هوش مصنوعی به عملکردهای جنگی، اطلاعاتی و سازمانی در عرض چند ماه طراحی شده‌اند.

به گفته منابع آشنا با سیاست‌های نظامی کنونی، آنچه این استراتژی نتوانسته ایجاد کند، یک چارچوب یکپارچه برای تایید اطلاعات تولیدشده توسط هوش مصنوعی پیش از رسیدن به دست تصمیم‌گیرندگان است. یکی از منابع به CNN گفت: «استفاده از هوش مصنوعی در هدف‌گیری به وضوح در حال افزایش است و هیچ دستورالعمل واقعی برای اینکه چگونه حضور انسان در این چرخه می‌تواند از تلفات غیرنظامیان یا آتش خودی جلوگیری کند، وجود ندارد.»

منبع دیگری که با استفاده نظامی از هوش مصنوعی آشناست، خلاصه برنده‌تری ارائه داد: «هوش مصنوعی به شما اجازه می‌دهد سریع‌تر به یک ایده بد برسید.»

خطری که پیشاپیش در کمین است

آنچه این حادثه برملا می‌کند، یک داستان علمی‌تخیلی نیست؛ بلکه شکافی در سیستم مدیریت است که در شرایط جنگی خود را نشان می‌دهد.

هیچ بخشی از این ماجرا مربوط به یک سیستم سرکش نبود که خودسرانه عمل کند. صرفاً یک تحلیلگر به ابزاری اعتماد کرد و گزارشی که ظاهر معتبری داشت در سلسله‌مراتب فرماندهی بالا رفت و پیش از آنکه کسی صحت فرضیات را تایید کند، روند تصمیم‌گیری‌ها سرعت گرفت.

بر اساس گزارش‌های منتشرشده، با گسترش این ابزارها، توهم هوش مصنوعی مشابهی در بخش‌های دیگر جامعه اطلاعاتی نیز رخ داده است. بدون وجود یک مسیر تایید استاندارد و با ادامه گسترش استفاده از هوش مصنوعی در هدف‌گیری، شرایطی که تقریباً نیروهای مسلح را برای توقیف یک کشتی چینی بر اساس اطلاعات ساختگی اعزام کرد، همچنان تا حد زیادی به قوت خود باقی است.