غول‌های هوش مصنوعی در یک‌قدمی فاجعه؛ چرا شرکت‌های فناوری باید از صنعت هسته‌ای درس بگیرند؟

بزرگ‌ترین شرکت‌های فعال در حوزه هوش مصنوعی بیش از پیش دریافته‌اند که سرنوشت آن‌ها به یکدیگر گره خورده و به نوعی گروگان تصمیمات هم هستند. اگر یکی از این شرکت‌ها بی‌مهابا و بدون احتیاط به جلو حرکت کند، سایر رقبا نیز برای عقب نماندن احساس فشار می‌کنند و به دنبال او می‌روند. همچنین اگر یکی از آن‌ها مدلی پرخطر را بدون تمهیدات ایمنی کافی عرضه کند، بقیه ممکن است آن را چراغ سبزی برای تکرار همان اشتباه در نظر بگیرند.

تاکنون محور اصلی مناقشات پیرامون هوش مصنوعی این بوده است که دولت‌ها برای قانون‌گذاری و مهار این فناوری پیشرفته چه اقداماتی باید انجام دهند. هرچند دخالت دولت‌ها همچنان حیاتی است، اما پرسشی فوری‌تر مطرح می‌شود: آیا شرکت‌های توسعه‌دهنده این سیستم‌های قدرتمند می‌توانند پیش از نابودی اعتبار خود و مواجهه با پیامدهای سنگین حقوقی، به‌طور مستقل دست به کار شوند و خود را تنظیم کنند؟

این پرسش دیگر صرفاً جنبه تئوریک ندارد و اکنون چالشی فوری به شمار می‌رود. پیش از این شاهد مواردی از دست رفتن کنترل مدل‌ها بوده‌ایم؛ برای نمونه در استرالیا، یک سامانه هوش مصنوعی سرکش توانست یک وب‌سایت دولتی حوزه سلامت را هدف نفوذ قرار دهد. اگر مراقبت‌های لازم انجام نشود، فقط مسئله زمان مطرح است تا حادثه‌ای مشابه خساراتی گسترده در دنیای واقعی به بار آورد؛ فجایعی نظیر قطع شبکه سراسری برق، اختلال در سامانه آب شهری یا تشخیص اشتباه پزشکی در مقیاس وسیع در نظام درمان. اگر این روند مهار نشود، اعتبار کل صنعت هوش مصنوعی خدشه‌دار خواهد شد.

با این حال، برای خودتنظیم‌گری در صنعتی پرخطر یک نقشه راه تاریخی وجود دارد: صنعت انرژی هسته‌ای که طی دهه‌ها موفق شد لایه‌های متعددی از نظارت، کنترل و خودبازرسی دقیق را پایه‌گذاری کند.

شاید هوش مصنوعی پیشرو نیز به ساختاری مشابه نیاز داشته باشد: نوعی خودتنظیم‌گری درون‌صنعتی میان رقبایی که به یکدیگر اعتماد کامل ندارند، اما منفعتی مشترک در پیشگیری از پیامدهایی دارند که می‌تواند همه آن‌ها را به نابودی بکشاند. این تدابیر متکی به انگیزه‌های اخلاقی و پاک‌نیتی انسان‌ها نیست؛ بلکه سازوکاری برخاسته از غریزه بقا برای حفظ خود این صنعت به شمار می‌آید.

برای چنین سازوکاری سابقه‌ای تاریخی وجود دارد. بخش هسته‌ای به این دلیل ایمن نشد که فعالان آن ناگهان خیرخواه و متعهد به اخلاق شدند؛ بلکه این حوزه از طریق سامانه‌ای لایه‌بندی‌شده متشکل از ارزیابی همتایان، استانداردهای فنی، اشتراک‌گذاری داده‌ها و نظارت خارجی توانست ایمنی بسیار بالاتری کسب کند. سازمان‌های بین‌المللی مانند آژانس بین‌المللی انرژی اتمی (IAEA) که در سال ۱۹۵۷ تاسیس شد، برای هماهنگی نظارت و راستی‌آزمایی به وجود آمدند؛ در حالی که نهادهای قانون‌گذار ملی و تشکل‌های صنعتی نیز به‌مرور زمان هنجارهایی حرفه‌ای پیرامون خطرات فاجعه‌بار تدوین کردند.

البته نتیجه این اقدامات دستیابی به ایمنی مطلق نبود، همان‌طور که فاجعه چرنوبیل در سال ۱۹۸۶ به وضوح بر آن گواهی می‌دهد. با این حال، معماری حاکمیت هسته‌ای بر پایه این درک بنا شده است که در سیستم‌های فناورانه پرخطر، شکست یک بازیگر می‌تواند به مشکلی فراگیر برای همه تبدیل شود. پس از چرنوبیل نیز شاهد همین روند بودیم: ایمنی جهانی هسته‌ای با اصلاح طراحی رآکتورها، آموزش‌های ارتقایافته و شبکه‌های نظارت بین‌المللی به‌شکل چشمگیری افزایش پیدا کرد.

حرکت به سمت خودتنظیم‌گری در بخش هسته‌ای ایالات متحده نیز پس از حادثه هسته‌ای تری‌مایل‌آیلند در نزدیکی هریسبورگ پنسیلوانیا در سال ۱۹۷۹ رخ داد. در این حادثه، به دنبال نقصی به‌نسبت جزئی در سیستم خنک‌کننده، رآکتور دچار ذوب جزئی هسته شد. تحقیقات بعدی نشان داد که نقص طراحی در ابزارها و هشدارهای رآکتور، در کنار آموزش ناکافی نیروها برای واکنش به شرایط اضطراری، ریشه اصلی وقوع این بحران بوده است.

این رویداد صنعت انرژی هسته‌ای آمریکا را تا آستانه فروپاشی کشاند و سبب شد حمایت عمومی از بالاترین سطح خود یعنی ۶۹ درصد در سال ۱۹۷۷، به ۴۶ درصد در سال ۱۹۷۹ سقوط کند. در واقع کل صنعت به خاطر خطای یک نیروگاه مجازات شد. در واکنش به این بحران، صنعت هسته‌ای ایالات متحده در دسامبر ۱۹۷۹ موسسه عملیات نیروگاه‌های هسته‌ای (INPO) را بنیان نهاد تا ایمنی عملیاتی را ارتقا بخشد.

البته در مقایسه هوش مصنوعی با انرژی هسته‌ای نباید زیاده‌روی کرد. شمارش مواد رادیواکتیو بسیار آسان‌تر از ردیابی الگوریتم‌هاست و پنهان‌سازی تاسیسات هسته‌ای در مقایسه با وزن‌های یک مدل هوش مصنوعی کار به‌مراتب دشوارتری است. همچنین پیامدهای یک خطای فاجعه‌بار هوش مصنوعی شاید در حالت عادی کمتر جنبه تهدید بقا داشته باشد؛ گرچه استفاده از آن در سامانه‌های تسلیحاتی خالی از ریسک نیست. برای نمونه در ماه سپتامبر، توهم یک مدل هوش مصنوعی نزدیک بود سبب شود نیروهای آمریکایی یک کشتی چینی را توقیف کنند که به ظن حمل مواد هسته‌ای به مقصد ایران در حال حرکت بود.

با این وجود، این مقایسه همچنان ارزشمند است؛ زیرا چالش اصلی در هر دو حوزه ساختاری یکسان دارد. در هر دو زمینه، رقبا در فضایی فعالیت می‌کنند که خطرات و هزینه‌های رقابت مهارنشده به دوش جامعه تحمیل می‌شود، در حالی که سود سرشار آن به جیب این شرکت‌ها می‌رود. چالش اساسی ایجاد نهادهایی است که خودداری و پایبندی به اصول را به گزینه‌ای منطقی و پیش‌فرض تبدیل کنند؛ حتی در شرایطی که هیچ بازیگری به دیگری اعتماد ندارد و سازوکارهای داخلی این صنعت برای ناظران بیرونی شفاف نیست.

در دنیای هوش مصنوعی، این رویکرد می‌تواند شامل ارزیابی متقابل مدل‌های پیشرو قبل از عرضه عمومی، سازوکارهای امن برای تبادل اطلاعات ایمنی، تعیین خطوط قرمز مشترک پیرامون برخی قابلیت‌ها و اعطای اختیار به مراجع ثالث مستقل برای بازرسی و ارزیابی انطباق باشد. چنین ابزارهایی جایگزین قوانین دولتی نخواهند شد، بلکه به‌عنوان لایه‌ای میانی عمل می‌کنند؛ لایه‌ای که از بیانیه‌های اخلاقی داوطلبانه بسیار محکمتر است و نسبت به قوانین دولتی که معمولاً در حوزه‌های پرسرعت فناوری عقب می‌مانند، انعطاف‌پذیری و آگاهی فنی بالاتری دارد. در این سناریو، دولت به‌عنوان ضامن اجرایی نهایی در پس‌زمینه حضور خواهد داشت.

مدیران ارشد هوش مصنوعی نیز ظاهراً تمایل خود را برای یافتن راه‌حل نشان داده‌اند؛ چنان‌که ایلان ماسک اخیراً پیشنهاد ایجاد یک سیستم داوری همتا (Peer Review) را پیش از انتشار مدل‌های پیشرفته مطرح کرد و دمیس هاسابیس، هم‌بنیان‌گذار و مدیر Google DeepMind، چارچوبی برای یک نهاد استانداردهای هوش مصنوعی پیشنهاد داد که مشابه سازمان نظارت بر صنعت مالی عمل خواهد کرد.

منتقدان با دلایل موجهی هشدار می‌دهند که خودتنظیم‌گری هدایت‌شده توسط خود شرکت‌ها می‌تواند به تشکیل کارتل یا نمایشی تبلیغاتی بدل شود. شرکت‌ها ممکن است از واژگان و شعارهای «ایمنی» برای تثبیت انحصار خود، ایجاد مانع بر سر راه رقبا یا فرار از قوانین الزام‌آور سوءاستفاده کنند. این نگرانی‌ها کاملاً واقعی هستند. درس تاریخ هسته‌ای این نیست که هماهنگی خصوصی خودبه‌خود اثربخش است؛ بلکه این هماهنگی تنها زمانی کارایی دارد که درون چارچوبی وسیع‌تر از شفافیت، راستی‌آزمایی و نظارت نهادهای قانونی عمومی جای گیرد. بدون این ارکان، خودتنظیم‌گری چیزی فراتر از وعده‌های توخالی نخواهد بود.

با این حال، نادیده گرفتن کامل نقش خودتنظیم‌گری اشتباه بزرگی خواهد بود. دولت‌ها هنوز از دانش فنی، سرعت عمل یا هماهنگی بین‌المللی کافی برای نظارت مستقیم و انفرادی بر هوش مصنوعی پیشرو برخوردار نیستند. حال اگر آزمایشگاه‌های پیشگام به این نتیجه رسیده‌اند که سرنوشت آن‌ها در مواجهه با خطرات فاجعه‌بار مشترک است، همین درک می‌تواند پایه و اساسی برای طراحی نهادهای جدید شود. اکنون پرسش اصلی این است که چگونه می‌توان این ترس مشترک را به قوانینی پایدار تبدیل کرد.

در همین نقطه است که شباهت صنعت هوش مصنوعی با تجربه هسته‌ای بیشترین اهمیت را پیدا می‌کند. این تاریخچه به ما یادآوری می‌کند صنایعی که با خطرات مرگبار و حیاتی مواجه‌اند، برای همکاری نیازی به اعتمادی ایده‌آل و بی‌نقص ندارند؛ بلکه به سازوکارهایی محتاجند که همکاری را به گزینه‌ای سودمندتر از نقض عهد و خودسری تبدیل کند. در عمل، این به معنای بازرسی‌های فنی، ارزیابی همتایان، گزارش‌دهی شفاف حوادث، هنجارهای حرفه‌ای و یک چتر حمایتی قانونی از سوی دولت است. مباحث مربوط به حاکمیت هوش مصنوعی اغلب به گونه‌ای مطرح می‌شوند که گویی تنها دو راه وجود دارد: نوآوری رهاشده و بی‌قیدوشرط یا کنترل شدید و خفقان‌آور دولتی. اما تاریخ راه سومی را پیش روی ما می‌گذارد: هماهنگی سازمان‌یافته درون‌صنعتی در سایه اقتدار قانون.

فرصت واقعی پیش رو، خوش‌بینی زودهنگام به محافظه‌کاریِ به‌ظاهر تازه مدیران فناوری نیست؛ بلکه درک حقیقت نهفته در اظهارات آن‌هاست. وقتی حتی سرسخت‌ترین رقبا از ضرورت نظارت متقابل سخن می‌گویند، در واقع اعتراف می‌کنند که منطق بازار و رقابت کورکورانه به‌تنهایی قادر به هدایت و مهار مرزهای این فناوری نیست. این اعتراف نباید مایه آرامش خاطر تلقی شود، بلکه هشداری آشکار است مبنی بر اینکه خطرات هوش مصنوعی اکنون جنبه‌ای جمعی و فراگیر پیدا کرده‌اند.

وظیفه سیاست‌گذاران در حال حاضر پایه‌گذاری نهادهایی متناسب با این واقعیت است. دولت‌ها باید بر الزام به گزارش‌دهی شفاف، ارزیابی‌های مستقل و ضمانت‌های اجرایی قانونی پافشاری کنند. در عین حال، باید شکل‌های الزام‌آوری از نظارت متقابل میان معدود شرکت‌هایی که مسیر آینده این فناوری را تعیین می‌کنند تشویق شود. هوش مصنوعی پیشرفته در حال تبدیل شدن به حوزه‌ای است که بازیگران اصلی آن همگی گروگان یکدیگرند. عصر هسته‌ای نشان داد که در چنین وضعیتی می‌توان حاکمیت و نظارتی پایدار پدید آورد؛ امید می‌رود شرکت‌های هوش مصنوعی این درس تاریخی را پیش از آنکه تاوان سنگین بی‌توجهی به آن به جامعه تحمیل شود، به کار گیرند.