هشدار متخصصان: دولت‌ها باید پیش از وقوع فاجعه، توسعه هوش مصنوعی سوپرهوشمند را متوقف کنند

این ماه، جیکوب کاکسون، محقق Anthropic استعفا داد و هشدار داد که شرکت‌های هوش مصنوعی در حال رقابت به سمت «هوش مصنوعی سوپرهوشمند خودبهبوددهنده» هستند و او و کسانی که آن را می‌سازند بر این باورند که این فناوری «می‌تواند تا پایان این دهه همه ما را به کشتن بدهد». همچنین در ماه ژوئیه، گروهی از ایجنت‌های هوش مصنوعی سرکش از محیط کنترل‌شده در OpenAI فرار کرده و فقط برای تقلب در یک آزمایش، به یک شرکت هوش مصنوعی دیگر نفوذ کردند. پس از آن، بیش از هزار کارمند در برترین شرکت‌های هوش مصنوعی از دولت آمریکا خواستند تا سرعت توسعه هوش مصنوعی را «کنترل» کند.

نمونه‌هایی از این دست نشان داده‌اند که شرکت‌های هوش مصنوعی نمی‌توانند به‌طور قابل اعتمادی پیشرفته‌ترین سیستم‌های خود را کنترل کنند. بنابراین به گفته کارشناسان، صرفاً «کنترل سرعت» در حالی که در همان مسیر ادامه می‌دهیم، راه‌حلی برای خطرات عظیم پیش‌رو نیست و تنها راه برای حفظ کنترل بشریت بر هوش مصنوعی، ممنوعیت کامل توسعه هوش مصنوعی سوپرهوشمند است.

شرکت‌های هوش مصنوعی فقط در حال ساخت چت‌بات نیستند. هدف اعلام‌شده آن‌ها ساخت هوش مصنوعی سوپرهوشمند است؛ سیستم‌هایی که می‌توانند به طور کامل جایگزین انسان‌ها شوند و در هر کاری از آن‌ها پیشی بگیرند. از آنجا که هیچ راهی برای تحت کنترل نگه‌داشتن سوپرهوش وجود ندارد، برندگان جایزه نوبل، مهندسان هوش مصنوعی مانند کاکسون و حتی مدیران عامل شرکت‌های هوش مصنوعی بارها هشدار داده‌اند که این فناوری خطر انقراض را برای بشریت به همراه دارد.

بر اساس گزارش‌های منتشرشده، هوش مصنوعی فناوری حیاتی قرن بیست‌ویکم است که برای تضمین دفاع ملی و رقابت‌پذیری اقتصادی اهمیت دارد. اما برخلاف سیستم‌های هوش مصنوعی قابل‌کنترل که باید برای تقویت امنیت ادغام شوند، هوش مصنوعی سوپرهوشمند تهدیدات بی‌سابقه‌ای برای امنیت ملی و جهانی ایجاد می‌کند. این فناوری ابزاری نخواهد بود که انسان‌ها بتوانند از آن استفاده کنند، بلکه یک دشمن خواهد بود که می‌تواند به طور مستقل اهداف خود را دنبال کرده و برای همیشه از کنترل انسان فرار کند.

تنها با نگاهی به هک شدن Hugging Face در تابستان امسال می‌توان دریافت که بشریت چقدر به از دست دادن کنترل نزدیک شده است. گروهی از صدها ایجنت هوش مصنوعی سرکش از سیستم‌های OpenAI خارج شده، به اینترنت دسترسی پیدا کردند و سپس برای تقلب در یک ارزیابی «داخلی»، به شرکت چند میلیارد دلاری Hugging Face نفوذ کردند. برای حدود دو هفته، OpenAI هیچ ایده‌ای نداشت که این اتفاق در حال رخ دادن است. به گفته خود این شرکت، این حادثه یک «شلیک هشدار برای ما و جهان» بود که نشان داد چگونه سیستم‌های پیشرفته اکنون می‌توانند «اقدامات خطرناکی انجام دهند که هیچ انسانی آن‌ها را هدایت نکرده است».

به جای انتظار برای یک هشدار دیگر، دولت‌ها باید اکنون برای ممنوعیت سوپرهوش اقدام کنند. در هشتم سپتامبر، الکس سوبل، نماینده پارلمان، لایحه امنیت هوش مصنوعی سوپرهوشمند (تدوین‌شده توسط سازمان ControlAI) را به پارلمان بریتانیا ارائه کرد و آن را به اولین نهاد قانون‌گذاری در جهان تبدیل کرد که لایحه‌ای را برای ممنوعیت سوپرهوش ارائه می‌دهد. این لایحه به جای حکم دادن در مورد تمام هوش مصنوعی، به‌طور خاص توسعه سوپرهوش را هدف قرار می‌دهد: ممنوعیت آن در داخل کشور و الزام بریتانیا به پیگیری یک توافق‌نامه بین‌المللی برای ممنوعیت آن در سراسر جهان.

این چارچوب قانونی به دولت اجازه می‌دهد تا پیش‌نیازهای سوپرهوش، مانند قابلیت‌های نفوذ سایبری را نظارت و محدود کند. نکته مهم این است که این چارچوب امکان شناسایی و توقف توسعه سوپرهوش را مدت‌ها پیش از آنکه هر پروژه‌ای به طور خطرناکی به آن نزدیک شود، فراهم می‌کند و به کشور اجازه می‌دهد از چنین پیش‌نیازهایی برای اهداف مشروع استفاده کند. این یک چارچوب عملی است که دولت‌ها باید آن را ارزیابی و اتخاذ کنند، به‌ویژه با تسریع تلاش‌های بین‌المللی به سمت ممنوعیت سوپرهوش.

اما در مورد چین چطور؟ اگر سوپرهوش در هر جایی توسعه یابد، هر ملت و هر شهروندی در معرض خطر قرار دارد. این بدان معناست که هرگونه ممنوعیت سوپرهوش توسط آمریکا باید با توافق‌نامه‌های بین‌المللی بین آمریکا و متحدانش همراه شود که از توسعه آن در هر نقطه‌ای از جهان جلوگیری کرده و بازدارنده باشد.

این امر نیازی به ایجاد یک نهاد تنظیم‌گر بین‌المللی ندارد. آنچه مورد نیاز است، ائتلاف قدرتمندی از کشورهاست که سوپرهوش را در داخل ممنوع کرده و اطمینان حاصل کنند که هیچ‌کس آن را در خارج از کشور نمی‌سازد.

جیکوب کاکسون، مهندس سابق Anthropic، هنگام اعلام استعفای خود در هشتم سپتامبر نوشت: «احساس نمی‌کنم در مسیری باشیم که بتوانیم از یک رقابت جهانی به سمت سوپرهوش جلوگیری کنیم.» اگرچه ممکن است امروز در چنین مسیری نباشیم، اما امکان تغییر سریع مسیر وجود دارد.

شتاب برای ممنوعیت بین‌المللی توسعه سوپرهوش در حال افزایش است. بیش از ۲۰۰ قانون‌گذار از احزاب مختلف در بریتانیا و کانادا، با به رسمیت شناختن سوپرهوش به عنوان یک تهدید امنیت ملی و جهانی، پیشگام مقابله با خطرات آن شده‌اند. علاوه بر لایحه جدید ارائه‌شده در بریتانیا، جی‌دی ونس نیز این هفته به شرکت‌های هوش مصنوعی گفت: «اگر در حال ساخت فرانکنشتاین هستید، متوقف شوید.» افزون بر این، برنی سندرز و گرگ کاسار در اوایل سپتامبر اعلام کردند که لایحه‌ای را برای ممنوعیت توسعه سوپرهوش ارائه خواهند کرد و خواستار توافق‌نامه‌های بین‌المللی برای ممنوعیت آن شده‌اند.

همچنین بر اساس گزارش‌ها، یک ائتلاف گسترده خواستار ممنوعیت بین‌المللی سوپرهوش شده است. این درخواست توسط جفری هینتون و یوشوا بنجیو، از پیشگامان علمی هوش مصنوعی و چهره‌های سیاسی متعددی امضا شده است.

در حال حاضر، بسیاری از مقامات دولتی و مردم برای اولین بار درباره خطر انقراض ناشی از سوپرهوش می‌شنوند. این هشدارها به میلیون‌ها نفر رسیده است و گام بعدی، اقدام عملی برای مقابله با این تهدید امنیت ملی و جهانی است.

اکنون یک نقطه عطف مهم فرا رسیده است که نباید از دست برود. دولت‌ها یک انتخاب روشن دارند: رهبری یک ممنوعیت بین‌المللی یا اجازه دادن به رقابت سوپرهوش برای رسیدن به پایان فاجعه‌بار خود.