هوش مصنوعی چگونه می‌تواند به حیات بشر پایان دهد و چه خطراتی در حال حاضر واقعی هستند؟

از زمان پیدایش ادبیات علمی‌تخیلی، داستان‌های زیادی درباره دستیابی فناوری به سطحی از هوشمندی و شورش علیه انسان‌ها روایت شده است. در برخی از این سناریوها، فناوری حتی قصد آسیب رساندن ندارد، بلکه با بهترین نیت‌ها به طور تصادفی باعث نابودی بشریت می‌شود.

در چند هفته گذشته، این ترس‌ها از دنیای داستان‌های تخیلی به سرخط خبرها راه یافته‌اند. یک محقق ۲۷ ساله پس از استعفا از شرکت Anthropic اعلام کرد افرادی که در حال توسعه هوش مصنوعی هستند، واقعاً باور دارند که این فناوری می‌تواند تا پایان دهه جاری میلادی به حیات تمام انسان‌ها پایان دهد. کمتر از یک ساعت بعد، یکی از کارمندان فعلی Anthropic نیز در اظهارنظری رسمی این موضوع را تایید کرد و گفت که شخصاً احتمال نابودی بشریت توسط هوش مصنوعی در یک دهه آینده را بیش از ۱۰ درصد می‌داند.

اما چنین اتفاقی دقیقاً چگونه رخ خواهد داد؟

بررسی سناریوها به زبان ساده

زمانی که صحبت از جزئیات به میان می‌آید، پیش‌بینی‌ها کمی مبهم می‌شوند. یکی از مثال‌های رایج، کنترل شبکه برق یا اختلال در سیستم آبرسانی توسط هوش مصنوعی است. این‌ها حملاتی هستند که هکرهای دولتی و غیردولتی سال‌هاست علیه زیرساخت‌ها در سراسر جهان انجام می‌دهند. بنابراین، هیچ‌یک از این موارد فرضی یا جدید نیستند.

آنچه در این میان جدید نیست، مسئله دفاع سایبری است. شبکه‌های زیرساختی سال‌ها برای ایجاد ابزارهای نظارت، بخش‌بندی و واکنش در برابر چنین حملاتی زمان صرف کرده‌اند. البته این سیستم‌های دفاعی بی‌نقص نیستند و قطعی‌هایی نیز رخ می‌دهد، اما یک سیستم هوش مصنوعی با نیت‌های مخرب همچنان باید از همان موانع امنیتی عبور کند که مهاجمان انسانی سال‌هاست با آن‌ها درگیر هستند.

سناریوی دیگر، ایجاد سلاح‌های بیولوژیک توسط هوش مصنوعی است؛ موضوعی که اخیراً تحقیقاتی درباره احتمال وقوع آن انجام شده است. ماه گذشته، پژوهشگران با استفاده از مدل‌های هوش مصنوعی که روی میلیون‌ها ژنوم آموزش دیده بودند، هزاران ژنوم ویروسی جدید طراحی کردند. آن‌ها سپس ۳۰۰ مورد از این ژنوم‌ها را در آزمایشگاه تولید کردند که ۱۶ مورد از آن‌ها به ویروس‌های فعالی تبدیل شدند که توانایی آلوده کردن باکتری E. coli را داشتند.

این یک پیشرفت واقعی و دلیلی منطقی برای نگرانی درباره پیامدهای بهبود این مدل‌ها است. اما در عین حال نشان می‌دهد که عبارت «هوش مصنوعی ویروس می‌سازد» تا چه حد ساده‌سازی شده است. دانشمندان همچنان باید طراحی‌ها را انتخاب کرده، آن‌ها را مولکول به مولکول سنتز کنند و در نهایت در آزمایشگاه مورد آزمایش قرار دهند.

به گفته محققان امنیت زیستی، مشکل اصلی در این مسیر دسترسی به اطلاعات نیست. آنچه که یک ایده مخرب را از تبدیل شدن به یک سلاح بیولوژیک بازمی‌دارد، نیاز به یک آزمایشگاه مجهز، مواد اولیه واقعی و تخصص عملی برای ساخت پاتوژنی است که بتواند در برابر سیستم ایمنی انسان مقاومت کند. انجام چنین کاری هنوز بسیار فراتر از توانایی‌های یک چت‌بات است.

تاکنون، نزدیک‌ترین و واقعی‌ترین خطری که در سال جاری احساس شد، نه از جانب یک هوش مصنوعی سرکش، بلکه ناشی از «توهم» این سیستم‌ها بود. بهار امسال، یک تحلیلگر نظامی از یک چت‌بات برای تهیه پیش‌نویس گزارش اطلاعاتی درباره یک کشتی چینی در خاورمیانه کمک خواست. چت‌بات در تشخیص محموله کشتی دچار اشتباه شد و ظاهراً اطلاعات را به گونه‌ای ارائه داد که نیازمند اقدام نظامی به نظر می‌رسید. اگرچه جزئیات دقیق این توهم در گزارش‌ها مشخص نشده است، اما پیش از آنکه کسی متوجه این اشتباه شود، هواپیماها به پرواز درآمده و نیروها برای ورود به کشتی آماده شده بودند.

شاید بتوان گفت این کاربرد، آموزنده‌ترین اتفاق اخیر است؛ زیرا برای احساس خطر کردن در زمان حال، نیازی به خیال‌پردازی درباره توانایی‌های آینده سیستم‌ها ندارد. یک گزارش نادرست که در لحظه‌ای نامناسب توسط یک تحلیلگر پرکار و خسته به عنوان یک واقعیت پذیرفته شود، دقیقاً همان نوع حادثه‌ای است که از زمان بحران موشکی کوبا، برنامه‌ریزان نظامی را نگران نگه داشته است.

در همین حال در دنیای واقعی

نمونه‌های دیگری نیز وجود دارند که اگرچه پایان دنیا را رقم نمی‌زنند، اما مطلوب نیز نیستند. شرکت Anthropic در ماه جاری اعلام کرد دسترسی یک گروه مستقر در شمال یمن را که از ابزار کدنویسی این شرکت برای نوشتن نرم‌افزار هدایت یک موشک استفاده می‌کردند، مسدود کرده است. هنگامی که این گروه موشک را به صورت آزمایشی پرتاب کردند و با شکست مواجه شدند، مستقیماً برای عیب‌یابی مشکل به چت‌بات مراجعه کرده بودند.

در همان گزارش به دانشمندی اشاره شده است که از هوش مصنوعی Claude برای نوشتن درخواست بودجه تحقیقاتی به منظور افزایش قدرت انتقال ویروس چیکونگونیا کمک خواسته بود. شرکت Anthropic اعلام کرد این درخواست را به این دلیل مسدود کرده که به نظر می‌رسید هدف آن بیشتر یک موسسه نظامی است تا یک آزمایشگاه دانشگاهی.

هر دو مورد شناسایی و متوقف شدند و هر دو تلاش هنوز فاصله زیادی تا ساخت موشکی با قابلیت پرواز یا ویروسی با قابلیت شیوع داشتند. در همین حال، کارهایی که انسان‌ها هم‌اکنون و بدون کمک هیچ نوع هوش مصنوعی قادر به انجام آن هستند، متوقف نشده است. همین حالا جنگ‌ها در نقاط مختلف جهان در جریان است و زندگی روزمره مردم نیز در جریان عادی خود قرار دارد.

نکته عجیبی در مورد نحوه پرداختن به برخی از این سناریوهای فاجعه‌بار هوش مصنوعی وجود دارد و آن هم استفاده از عبارت «پایان بشریت» به گونه‌ای است که گویی این یک تجربه کاملاً جدید خواهد بود. افرادی که چنین استدلال‌هایی را مطرح می‌کنند، اغلب دانشمندان جوان علوم کامپیوتر هستند که تمام عمر خود را صرف فکر کردن درباره کارهایی کرده‌اند که ماشین‌ها ممکن است انجام دهند، اما لزوماً زمان زیادی را به مطالعه درباره کارهایی که انسان‌ها در طول تاریخ با یکدیگر کرده‌اند، اختصاص نداده‌اند.

برای تعداد بسیار زیادی از انسان‌هایی که امروز زنده هستند، دنیا از قبل به معنای واقعی کلمه به پایان رسیده است. آن‌ها خانه‌ها، خانواده‌ها، کشورها و منابع درآمد خود را از دست داده‌اند. این افراد جنگ‌ها، قحطی‌ها، بیماری‌های همه‌گیر و خشونت‌های سیاسی را تجربه کرده‌اند و با این حال راهی برای ادامه دادن پیدا می‌کنند.

هر سناریویی که بدبینان حوزه هوش مصنوعی توصیف می‌کنند، پیش از این در جایی و برای شخصی بدون کمک این فناوری رخ داده است. تهدید هوش مصنوعی باید جدی گرفته شود، اما این واقعیت نیز باید مد نظر قرار گیرد که انسان‌ها هم‌اکنون مهارت بالایی در سخت‌تر کردن زندگی یکدیگر دارند. در صورت تمرکز بر حل این مشکلات انسانی، احتمالاً هوش مصنوعی نیز به تهدید کمتری تبدیل خواهد شد.