هوش مصنوعی خدای دیجیتال نیست؛ چرا خطر واقعی، ناامیدی بزرگ است؟

هوش مصنوعی (AI) تا حدودی به این دلیل که فناوری جدیدی است و تا حدودی به خاطر آشنایی دلهره‌آورش، ما را می‌ترساند. ماشین‌هایی اختراع شده‌اند که با روانی و تسلطی عجیب گفت‌وگو می‌کنند، تملق می‌گویند، استدلال می‌آورند و بداهه‌پردازی می‌کنند. در مواجهه با این بازتاب مصنوعی، رفتار ما شبیه انسان‌های اولیه‌ای است که برای اولین بار آینه را می‌بینند: ما آگاهی را در پشت این شیشه تصور می‌کنیم و سپس آن را با رفتارها، احساسات، امیدها و کابوس‌های مورد انتظار خود پر می‌کنیم. به عبارت دیگر، ما خودمان را می‌ترسانیم.

مدل‌های پیشگام امروزی در نوشتن، کدنویسی و ریاضیات بسیار توانمند هستند. با این حال، آن‌ها هنوز در عناصر سازنده هوش مصنوعی جامع (AGI) — سیستمی که با توانمندی‌های انسانی مانند استدلال منسجم، برنامه‌ریزی بلندمدت، ثبات در بیان حقایق و عملکرد قابل‌اتکا خارج از دامنه «تجربه» (داده‌های آموزشی) برابری کند یا از آن‌ها فراتر رود — ناکام مانده‌اند. نگرانی درباره خطرات نظری ابر هوش مصنوعی (ASI) کاملاً منطقی است؛ زیرا این خطر وجود دارد که چنین سیستمی از خالقان انسانی خود پیشی بگیرد و اهدافش را، احتمالاً به قیمت نابودی ما، دنبال کند. اگرچه برخی از مدیران هوش مصنوعی ادعا کرده‌اند که به AGI دست یافته‌ایم، اما این ادعاها بحث‌برانگیز هستند و با تعاریف دقیق‌تر AGI همخوانی ندارند.

ترس از چنین فناوری پیشرفته‌ای آسان است، اما سناریوهای اغراق‌آمیز و بدبینانه، خطرات فوری‌تر و مهم‌تر را پنهان می‌کنند. محتمل‌ترین خطر، بیداری یک خدای دیجیتال و آغاز جنگی هالیوودی علیه بشریت نیست. به هر حال، هوش مصنوعی به برق، سیستم‌های خنک‌کننده، دیتاسنترها، تراشه‌های تخصصی، شبکه‌ها، تکنسین‌ها و زنجیره‌های تأمین گسترده وابسته است که همگی کمیاب و اغلب آسیب‌پذیر هستند. با قطع برق، محدود کردن واحدهای پردازش گرافیکی (GPU) مورد استفاده برای آموزش، از کار انداختن سیستم خنک‌کننده یا قطع شبکه، در بیشتر سناریوها، ماشین ظاهراً قادر مطلقی که قصد نابودی بشریت را دارد، متوقف می‌شود.

تجربه نویسنده این مقاله بیش از ۳۰ سال در صنعت، دولت و دانشگاه را در بر می‌گیرد. او که در ابتدا فیزیکدانی در آزمایشگاه رادرفورد اپلتون بود، در اوج شکوفایی اولیه هوش مصنوعی در اوایل دهه ۹۰ میلادی به Logica پیوست و پس از آن سمت‌های سطح بالایی در Esys، Qinetiq و CGI UK داشت و همچنین مأموریتی در دفتر کابینه بریتانیا انجام داد. وی بعداً به عنوان رئیس بخش تحقیق و توسعه به Roke Manor Research پیوست و برای کمک به راه‌اندازی مؤسسه هوش مصنوعی انسان‌محور دانشگاه ساری (Surrey) به فضای آکادمیک بازگشت.

یک ASI واقعی ممکن است این را به عنوان یک حقیقت بدیهی بپذیرد؛ اینکه حداقل در آینده قابل‌پیش‌بینی، با بشریت وابستگی متقابل دارد. یک هوش واقعی که قادر به درک جهان بهتر از انسان‌ها باشد، احتمالاً می‌داند که نابود کردن سیستم پشتیبانی صنعتیِ خود، اقدامی خودویرانگر خواهد بود.

یک هوش واقعی همچنین ممکن است درک کند که شناختش از دنیای فیزیکی محدود و دست‌دوم است و تنها از طریق متن‌ها، ویدیوها و فیدهای صوتی قابل‌دسترس برای آن، به دست می‌آید. این سیستم فاقد آن عنصر حیاتیِ تجسم یافتن در جهان است — درک اینکه گرانش چگونه عمل می‌کند، آب‌وهوا چه حسی دارد، اشیاء چگونه تعامل می‌کنند و موارد مشابه. یک هوش واقعی ممکن است این موضوع را درک کرده، محدودیت‌های تجربه خود را ببیند و در نتیجه با احتیاط قدم بردارد. چنین هوشی ممکن است کاملاً با هوش انسانی متفاوت باشد و نقاط قوت، ضعف‌ها، رویکردها و حتی اخلاقیات دیگری داشته باشد. برای مثال، می‌توان در نظر گرفت که یک هوش مصنوعی می‌تواند خود را کپی کند، به عنوان نمونه‌های بی‌شماری اجرا شود و به عنوان یک «ذهن کندویی» ارتباط برقرار کند — که نوع بسیار متفاوتی از هوش است. البته این‌ها صرفاً گمانه‌زنی‌های تحلیل‌گران است.

آنچه می‌توان با قطعیت گفت این است که سیستم‌هایی که باید بیش از همه ما را نگران کنند، لزوماً باهوش‌ترین‌ها نیستند، بلکه هوش‌های ناقصی هستند که روی اهداف محدود عمل می‌کنند، قابلیت ایجنت بودن به آن‌ها داده شده و دسترسی به زیرساخت‌های حیاتی برایشان فراهم شده است. این سیستم‌ها ممکن است صرفاً به دلیل نداشتن درک بهتر، به‌طور تصادفی به انسان‌ها آسیب برسانند. به عنوان مثال، یک آزمایش فکری ایجاد شده توسط نیک باستروم (Nick Bostrom) با عنوان «مسئله گیره کاغذ» وجود دارد؛ جایی که یک هوش مصنوعی هدف خود را برای ساختن هرچه بیشتر گیره کاغذ دنبال می‌کند، اما سپس به این هدف به قیمت نابودی زمین و بشریت دست می‌یابد که در پی اهداف محدود هوش مصنوعی، همگی به گیره کاغذ تبدیل می‌شوند.

سوال حیاتی در اینجا این است که ما کنترل چه چیزهایی را به چنین سیستم‌هایی می‌دهیم. این انتخاب ماست و باید با دقت انجام شود. در کوتاه‌مدت، دو خطر در اولویت قرار دارند: اختلالات سایبری و تحولات اقتصادی بلندمدت.

حملات سایبری مبتنی بر هوش مصنوعی می‌توانند اقتصادهای پیشرفته را به شدت مختل کنند، زیرا بیمارستان‌ها، بانک‌ها، شبکه‌های انرژی، شرکت‌های لجستیک و دولت‌ها به سیستم‌های دیجیتالِ به‌هم‌پیوسته وابسته‌اند. نمونه‌های اخیر از هک شدن سازمان‌ها توسط سیستم‌های پیشگام هوش مصنوعی، مانند حادثه OpenAI و Hugging Face، به این ترس دامن زده‌اند. چنین حملاتی می‌توانند خسارات مالی فوق‌العاده‌ای به بار آورند، بدون اینکه تهدیدی موجودیتی باشند. بخش‌های بزرگی از جهان همچنان ارتباط ضعیفی با مدل‌های پیشگام هوش مصنوعی — یا حتی اینترنت — دارند و صرفاً به دلیل خرابی سرورها در کشورهای ثروتمند از بین نخواهند رفت.

محتمل‌ترین مسیری که هوش مصنوعی پیشرفته می‌تواند از طریق آن اعمال کنترل کند، ربات‌های قاتل نیستند، بلکه نفوذ و تاثیرگذاری است — گمراه کردن مردم، دستکاری نهادها و تغییر مسیر تلاش‌های انسانی. با این حال، انسان‌ها در حال حاضر مهارت فوق‌العاده‌ای در انتشار اطلاعات نادرست، خودفریبی و هماهنگی‌های مخرب نشان می‌دهند. هوش مصنوعی ممکن است این نقاط ضعف را صنعتی و مقیاس‌پذیر کند؛ در واقع، انسان‌ها از هوش مصنوعی برای صنعتی کردن این محدودیت‌ها استفاده می‌کنند، اما هوش مصنوعی مخترع آن‌ها نبوده است.

از نظر اقتصادی، خطر این است که شرکت‌ها مدت‌ها قبل از اینکه هوش مصنوعی توانایی جایگزینی نیروی کار را ثابت کند، کارمندان را اخراج کرده و خیلی زود به دنبال نقد کردن «سود سهام هوش مصنوعی» باشند. مدیرانی که فریب دموها را می‌خورند، ممکن است خروجیِ زبانیِ روان را با نیروی کار قابل‌اتکا اشتباه بگیرند و دانش سازمانی را برای دستیابی به بهره‌وری‌های نظری از بین ببرند. چشم‌انداز فریبنده «یونیکورن یک‌نفره» (استارتاپ میلیارد دلاری تک‌نفره)، جایی که یک فرد یا گروهی کوچک با استفاده از هوش مصنوعی به عنوان نیروی کار خود یک کسب‌وکار میلیارد دلاری می‌سازد، از نظر فنی، اقتصادی و اجتماعی جای تردید دارد، حتی اگر تعداد انگشت‌شماری از نمونه‌های اولیه در حال شکل‌گیری باشند. سازمان‌ها صرفاً مجموعه‌ای از وظایف نیستند. آن‌ها شامل پاسخگویی، روابط، دانش ضمنی و اعتماد هستند و بخشی از یک جامعه محلی و ملی را تشکیل می‌دهند که به دلیل تنوع مهارت‌ها و ایده‌هایشان، انعطاف‌پذیر و مقاوم‌اند.

گمانه‌زنی‌ها حاکی از آن است که نقطه عطف سیاسی چیزی شبیه به حمله باج‌افزار WannaCry در سال ۲۰۱۷ خواهد بود؛ جایی که بدافزاری با عناصر هسته‌ای طراحی‌شده توسط آژانس امنیت ملی آمریکا به شدت از کنترل خارج شد و صدها هزار رایانه را در سراسر جهان آلوده کرد و به طرز بدنامی سرویس سلامت ملی بریتانیا را مختل ساخت. یک عملیات سایبریِ تقویت‌شده توسط مدل‌های پیشگام هوش مصنوعی بدتر از این خواهد بود. سرویس‌ها از کار می‌افتند، پرونده‌های قضایی چندبرابر می‌شوند، شرکت‌ها ممکن است سقوط کنند و سرمایه‌گذاران عقب‌نشینی خواهند کرد. دولت‌ها خواستار توقف توسعه خواهند شد — یا آزمایشگاه‌ها را مجبور می‌کنند تا منابع خود را به سمت کنترل، حسابرسی و ایمنی هدایت کنند، و شرکت‌ها نیز حداقل برای محدود کردن مسئولیت‌های قانونیِ ناشی از شکایت‌های دسته‌جمعی، از این دستورات تبعیت خواهند کرد.

پس از فروکش کردن وحشت اولیه، ممکن است افکار عمومی بپرسند که چرا اجازه دادیم چنین اتفاقی بیفتد. در حال حاضر نیز تلاش‌های متعددی برای اعمال توقف، پایان دادن یا ایجاد «کلید مرگ» در توسعه هوش مصنوعی صورت گرفته است. این احتمال وجود دارد که وارد یک زمستان هوش مصنوعی دیگر شویم — دورانی که بودجه‌ها قطع شده و تحقیقات متوقف می‌شوند — مشابه رکودهای قبلی در دهه ۱۹۷۰ و اوایل دهه ۱۹۹۰ میلادی.

همچنین احتمال ناخوشایندی وجود دارد که خودِ آزمایشگاه‌های هوش مصنوعی در حال تشدید ترس و عدم‌قطعیت باشند. معرفی یک محصول به عنوان عاملی که به‌طور بالقوه می‌تواند پایان جهان را رقم بزند، نشان‌دهنده قدرتی بی‌سابقه است. چنین روایت‌هایی صرفاً جنبه بازاریابی دارند؛ آن‌ها ممکن است به حفظ سرمایه‌گذاری، دفاع از ارزش سهام و آماده‌سازی برای عرضه‌های اولیه عمومی (IPO) آتی کمک کنند، حتی زمانی که مدل‌های کسب‌وکار نامشخص باقی مانده‌اند. گمانه‌زنی درباره انگیزه‌های یک شرکت دشوار است، اما انگیزه‌های آشکاری وجود دارد، بنابراین رفتارهای آن‌ها شایسته بررسی و موشکافی است.

نتیجه پیش‌پاافتاده‌تر ممکن است همان «ناامیدی بزرگ» باشد. هوش مصنوعی پیشرفته می‌تواند آن‌قدر گران و به اندازه کافی ناکارآمد ثابت شود که ادامه مسیر فعلی آن غیرممکن گردد.

آموزش و اجرای مدل‌های پیشگام، مقادیر عظیمی از زمان پردازش، برق، آب، سرمایه، سخت‌افزار و تلاش انسانی را مصرف می‌کند. مگر اینکه این هزینه‌ها به کسری از سطوح امروزی کاهش یابد، در غیر این صورت اقتصاد «هوش مصنوعی بزرگ» ممکن است ناپایدار باشد. در همین حال، مشکلات مهم و حل‌نشده در هوش مصنوعی — مانند قابلیت اتکا، تفسیرپذیری و یادگیری مستمر — زیر سایه رقابت برای ساخت مدل‌های اندکی بهتر که هر کدام برای کسب جایگاه برتر در شاخص‌های مختلف عملکرد هوش مصنوعی تلاش می‌کنند، پنهان مانده‌اند.

در عوض، قوی‌ترین استدلال برای هوش مصنوعی ممکن است در هوش مصنوعی تخصصی نهفته باشد: سیستم‌هایی مانند AlphaFold2 که ساختار پروتئین‌ها را پیش‌بینی می‌کند، یا WeatherNext 3 که یک مدل پیشرفته پیش‌بینی آب‌وهوای جهانی است. این سیستم‌ها برای حوزه‌هایی طراحی شده‌اند که عملکرد در آن‌ها قابل اندازه‌گیری است و مزایا، هزینه‌ها را توجیه می‌کنند. مشخص است که هوش مصنوعی زمانی واقعاً مفید است که موضوعاتی مانند کشف دارو، تشخیص بیماری، علم مواد، بهینه‌سازی شبکه برق و مدل‌سازی تغییرات آب‌وهوایی را هدف قرار دهد — نه چت‌بات‌های مقلد انسانی که ایمیل، تبلیغات و سرگرمی‌های مصنوعی تولید می‌کنند.

فاجعه بزرگ و احتمالاً بزرگ‌ترین خطر این خواهد بود که به هدایت منابع ارزشمند به سمت ایجاد شبیه‌سازهای انسانیِ نه‌چندان عالی ادامه دهیم، از هوش مصنوعی خسته یا وحشت‌زده شویم و این حوزه را دقیقاً زمانی که می‌تواند بیشترین فایده را داشته باشد، رها کنیم. ترس زمانی مناسب است که مهندسی و حکمرانی را تقویت کند؛ اما وقتی درک و اولویت‌ها را مخدوش سازد، خطرناک می‌شود.

بعید است که هوش مصنوعی به این زودی‌ها به فاتح بشریت تبدیل شود. در عوض، احتمالاً به یک ناامیدی پرهزینه بدل خواهد شد. اما اگر واکنش‌های منفی، سرعت کارهایی را که می‌توانند به درمان سرطان یا مقابله با تغییرات اقلیمی کمک کنند کاهش دهند، این شکست متعلق به ماشین‌ها نخواهد بود، بلکه شکست ماست.