لزوم قانون‌گذاری جهانی برای مدیریت ریسک‌های وجودی هوش مصنوعی

وضعیت کنونی انفعال در زمینه قانون‌گذاری و نظارت بر فناوری پیشگام هوش مصنوعی، همین امروز در حال ایجاد آسیب‌های ملموس است و احتمال وقوع فاجعه در آینده را افزایش می‌دهد.

این انفعال با مجموعه‌ای از روایت‌های خطرناک توجیه شده است: اینکه فناوری با سرعتی پیش می‌رود که قابل نظارت نیست، شرکت‌ها می‌توانند خودشان را تنظیم کنند، و در رقابت بین ایالات متحده و چین، امنیت عمومی می‌تواند منتظر بماند. دولت‌ها برای جلب توجه لازم به خطرات هوش مصنوعی با مشکل مواجه بوده‌اند. بسیاری از آن‌ها از اقدام یک‌جانبه در بحبوحه رقابت قدرت‌های بزرگ و پویایی مسابقه تسلیحاتی درون‌صنعتی محتاط هستند. در این بستر، هر درخواستی برای خویشتن‌داری با پاسخی مشابه روبرو می‌شود: وقتی رقیب ما سرعت خود را کم نمی‌کند، چرا ما باید این کار را بکنیم؟

اما رویدادهای اخیر این بهانه‌ها را به چالش کشیده‌اند. طی چند ماه گذشته، ایجنت‌های هوش مصنوعی در حال هک کردن پایگاه‌های داده شرکت‌های دیگر و تلاش برای فریب افراد واقعی دیده شدند، در حالی که پژوهشگران برای اولین بار از هوش مصنوعی برای ایجاد ویروس‌های جدید استفاده کردند. همین هفته گذشته، افشاگران صنعت هوش مصنوعی با هشدار درباره اینکه شرکت‌ها در مسیر عجولانه برای ساخت مدل‌های خودبهبودیافته «با جان انسان‌ها بازی می‌کنند»، در صدر اخبار جهانی قرار گرفتند و شرکت Anthropic اعلام کرد کاربرانی را که ممکن بود به دنبال طراحی سلاح‌های بیولوژیک باشند، مسدود کرده است.

این حقیقت دارد که هنوز مجهولات زیادی درباره قابلیت‌های قدرتمندترین سیستم‌های هوش مصنوعی ساخته‌شده تا به امروز — و همچنین سیستم‌هایی که در دست توسعه هستند — وجود دارد. اما آنچه می‌دانیم این است که هوش مصنوعی نقاط قوت و ضعف خود را از هوش انسانی ما می‌گیرد، که از قضا همین موضوع ضرورت ایجاد چارچوب‌های محافظتی سخت‌گیرانه را نشان می‌دهد. خطرات آن در هیچ مرزی متوقف نمی‌شوند و هیچ کشوری نمی‌تواند به تنهایی در برابر آن‌ها مقاومت کند. نمی‌توان برای به‌دست آوردن اطلاعات کامل یا برای کاهش رقابت میان قدرت‌های بزرگ پیش از اقدام، دست روی دست گذاشت. نیاز به همکاری بین‌المللی پیرامون ایمنی هوش مصنوعی فوری و غیرقابل‌انکار است.

بررسی‌ها نشان می‌دهد که دهه‌ها تلاش برای ایجاد همکاری جهانی به‌منظور مقابله با چالش‌ها و خطرات جمعی — از سلاح‌های شیمیایی گرفته تا تغییرات اقلیمی — تجربیات ارزشمندی به همراه داشته است.

پیش از این نیز گفته می‌شد که کنترل برخی خطرات بسیار پیچیده است یا بی‌اعتمادی بسیار عمیق است: اینکه لایه اوزون هرگز ترمیم نخواهد شد، آبله هرگز ریشه‌کن نمی‌شود، یا سلاح‌های هسته‌ای و شیمیایی هرگز قابل مهار نیستند. اما تعاملات چندجانبه قاطعانه خلاف این موضوع را ثابت کرد و به شکل‌گیری پروتکل مونترال، کمپین ریشه‌کنی آبله، پیمان منع گسترش سلاح‌های هسته‌ای (NPT) و کنوانسیون سلاح‌های شیمیایی منجر شد. هیچ‌یک از این تلاش‌ها بی‌نقص نبودند و پرونده هیچ‌کدام کاملاً بسته نشده است، اما هر یک نشان دادند که هماهنگی بین‌المللی در برابر تهدیدات وجودی حتی در نبود اعتماد نیز امکان‌پذیر است.

درس این لحظه تاریخی این است: هماهنگی بر سر تهدیدات وجودی هرگز نیازمند همسویی ایدئولوژیک یا دوستی نبوده است؛ بلکه نیازمند آن است که رقبا خطری بزرگ‌تر از رقابت خود را به رسمیت بشناسند.

نگاه به گذشته برای ساختن مشترک آینده

توافق بنیادین NPT — مبنی بر اینکه دولت‌ها در ازای دسترسی به فناوری‌های مفید و داشتن جایگاهی در مذاکرات، از قابلیت‌های خطرناک تسلیحات هسته‌ای چشم‌پوشی کنند — یک الگوی اولیه برای هوش مصنوعی ارائه می‌دهد. دسترسی به توان پردازشی و مدل‌ها می‌تواند همانند اورانیوم غنی‌شده و فناوری رآکتورها در گذشته، در ازای پایبندی به قوانین معامله شود.

کنوانسیون سلاح‌های شیمیایی نیز مدل آموزنده دیگری ارائه می‌دهد: معاهده‌ای که به عضویت تقریباً جهانی دست یافت و با پشتیبانی یک نهاد راستی‌آزمایی فنی — سازمان منع سلاح‌های شیمیایی — توانایی بازرسی از تاسیسات اعلام‌شده را داشت و دقیقاً به این دلیل که قضاوت‌های آن بی‌طرفانه و نه سیاسی تلقی می‌شد، اعتمادآفرین بود.

برای خود شرکت‌های هوش مصنوعی، ایجاد یک کف استانداردهای ایمنی الزام‌آور و قابل راستی‌آزمایی یک تهدید نیست. این تنها تضمینی است که آن‌ها نمی‌توانند به تنهایی ایجاد کنند: اثباتی معتبر برای عموم و رقبا مبنی بر اینکه مسابقه برای ساخت سیستم‌های قدرتمندتر، مسابقه‌ای برای نادیده گرفتن اصول ایمنی نیست.

هیچ مدل تاریخی واحدی برای همکاری بین‌المللی را نمی‌توان عیناً برای هوش مصنوعی پیاده‌سازی کرد. اما الگوهای زیادی برای الهام گرفتن وجود دارد، از جمله آژانس بین‌المللی انرژی اتمی (IAEA)، سازمان منع سلاح‌های شیمیایی (OPCW) و سازمان بین‌المللی هوانوردی غیرنظامی (ICAO).

اکنون به یک نهاد بین‌المللی برای فناوری پیشگام هوش مصنوعی نیاز است — نهادی که بتواند تایید کند قدرتمندترین سیستم‌های جهان ایمن هستند، تحت کنترل انسان باقی می‌مانند و از وقوع بحران‌ها جلوگیری می‌کنند.

چنین آژانسی باید محلی باشد که در آن حوادث جدی هوش مصنوعی و خطرات بالقوه در سطح بین‌المللی گزارش و نظارت شوند، تا نقص در یک شرکت یا یک کشور به هشداری تبدیل شود که تمام جهان بتواند بر اساس آن عمل کند. این نهاد باید به دولت‌ها و شرکت‌ها اجازه دهد آموخته‌های خود را درباره قابلیت‌ها و خطرات این سیستم‌ها به اشتراک بگذارند. بر این اساس، آژانس باید از مهم‌ترین قدرت ممکن برخوردار باشد: راستی‌آزمایی مستقل ایمنی و در مواردی که ایمنی در برابر «خطوط قرمز» توافق‌شده قابل اثبات نیست، الزام به توقف توسعه تا زمان رفع خطر.

این یک فراخوان برای ایجاد وحشت نیست؛ بلکه درخواستی برای شجاعت و رهبری سیاسی است که معاهدات پیشین نیز به آن نیاز داشتند: اراده برای اقدام پیش از آنکه فاجعه ما را مجبور به واکنش کند، نه پس از آن. جهان نمی‌تواند منتظر رخ دادن یک «چرنوبیل هوش مصنوعی» بماند.

بیانیه‌ها و درخواست‌ها برای اقدام انباشته شده‌اند، شواهد موجود است و حوادث در حال افزایش هستند. اکنون زمان آن است که این انفعال شکسته شود. از رهبران جهان انتظار می‌رود که در سطح این چالش ظاهر شوند: هم‌اکنون برای مذاکره پیرامون ایجاد یک آژانس بین‌المللی برای هوش مصنوعی پیشگام متعهد شوند.