گزارش گمراه‌کننده هوش مصنوعی، آمریکا را تا آستانه درگیری نظامی با چین پیش برد

اگر پیش‌تر از هوش مصنوعی استفاده کرده باشید، می‌دانید که این فناوری گاهی اشتباه می‌کند و توهمات هوش مصنوعی به سادگی رخ می‌دهند. اما اگرچه پیشنهاد یک مدل زبانی بزرگ برای ریختن چسب روی پیتزا ممکن است فقط باعث خنده شود، تمام کاربردهای هوش مصنوعی تا این حد کم‌خطر نیستند.

بر اساس گزارش‌های منتشرشده، ارتش ایالات متحده اخیراً قصد داشت یک کشتی چینی را که تصور می‌کرد در حال انتقال مواد مربوط به برنامه هسته‌ای به ایران است، رهگیری کند. اما یک مشکل بزرگ وجود داشت: اطلاعات آمریکا بر اساس داده‌های نادرست یک مدل هوش مصنوعی شکل گرفته بود و این اشتباه به گزارش رسانه‌ها «تقریباً به شروع یک جنگ انجامید.»

گفته می‌شود این گزارش نادرست توسط یک تحلیلگر فرماندهی عملیات ویژه و با استفاده از هوش مصنوعی تهیه شده بود. به گفته چهار منبع آگاه، ارتش آمریکا اندکی پیش از آغاز عملیات برنامه‌ریزی‌شده متوجه این خطا شد. دو منبع دیگر ادعا کردند که افسران نظامی در حال آماده‌شدن برای ورود به کشتی بودند و منبع دیگری نیز اظهار داشت که نیروها «در هوا» و در مسیر عملیات قرار داشتند.

این خبر در شرایطی منتشر می‌شود که دولت ترامپ در حال انجام اقداماتی برای ادغام بیشتر هوش مصنوعی در بخش‌های مختلف ارتش است. در ماه ژانویه، وزارت دفاع آمریکا «استراتژی شتاب‌دهی هوش مصنوعی» را منتشر کرد که برنامه‌های ارتش را برای «تبدیل‌شدن به یک نیروی جنگی با اولویت هوش مصنوعی (AI-first) در تمام عرصه‌ها» از طریق گسترش آزمایش‌ها و حذف «موانع بوروکراتیک» تشریح می‌کرد.

بسیاری از تحلیلگران در داخل ارتش نسبت به خطرات این رویکرد نگران هستند. یک منبع آگاه در این باره گفته است: «هیچ دستورالعمل واقعی برای اینکه چگونه حضور انسان در این چرخه می‌تواند از تلفات غیرنظامی یا خطاهای مرگبار جلوگیری کند، وجود ندارد.» منبع دیگری نیز تاکید کرد: «هوش مصنوعی تنها باعث می‌شود که سریع‌تر به یک ایده بد و خطرناک برسید.»

استفاده از هوش مصنوعی در جنگ پیش از این نیز توسط برخی پژوهش‌ها زیر سؤال رفته است. در فوریه ۲۰۲۴، مطالعه‌ای مشترک توسط موسسه فناوری جورجیا، دانشگاه استنفورد، دانشگاه نورث‌ایسترن و ابتکار شبیه‌سازی بحران و بازی جنگی هوور، شبیه‌سازی‌های جنگی را با پنج مورد از رایج‌ترین مدل‌های زبانی بزرگ انجام داد. محققان دریافتند که LLMها تهاجمی‌تر از انسان‌ها عمل می‌کنند و «پویایی‌های مسابقه تسلیحاتی بیشتری ایجاد می‌کنند که به درگیری‌های بزرگ‌تر و در موارد نادر، حتی به استفاده از سلاح‌های هسته‌ای منجر می‌شود.»