خطر نابودی بشر شوخی نیست؛ طرح جنجالی کنگره برای ممنوعیت هوش مصنوعی خود‌اصلاح‌گر!

رو خانا، نماینده دموکرات کالیفرنیا، پس از پایان آخرین جلسه رأی‌گیری هفتگی در کنگره آمریکا ساختمان کاپیتول را ترک می‌کند.

عکس: تام ویلیامز | گتی ایمیجز

رو خانا، نماینده دموکرات سیلیکون‌ولی، به‌زودی طرح قانونی جدیدی برای قانون‌گذاری هوش مصنوعی به کنگره می‌برد؛ طرحی که شامل استانداردهای سخت‌گیرانه مسئولیت‌پذیری و ممنوعیت کامل هوش مصنوعی «بازگشتی» یا خود‌اصلاح‌گر است، تا زمانی که دولت چارچوب‌های ایمنی لازم را ایجاد کند.

این لایحه درست در روزهایی مطرح می‌شود که فشارها روی واشنگتن برای مهار هوش مصنوعی بالا گرفته؛ چرا که خود مدیران ارشد این حوزه هم هشدار داده‌اند این فناوری ممکن است روزی از کنترلشان خارج شود. تا امروز، کنگره آمریکا عملاً اقدام خاصی برای قانون‌گذاری این فناوری نکرده؛ فناوری قدرتمندی که ستون فقرات اقتصاد آینده را می‌سازد، اما در صورت بروز خطا می‌تواند خساراتی جبران‌ناپذیر و فاجعه‌بار به بار بیاورد.

خانا در گفت‌وگویی تأکید کرد: «واقعیت این است که خطر نابودی تمدن بشری کاملاً جدی است. از یک طرف خطر ایمنی و از دست رفتن مهار سیستم‌ها وجود دارد و از طرف دیگر خطر سوءاستفاده‌های خطرناک؛ ما باید هر دوی این تهدیدها را با نهایت جدیت پیگیری کنیم.»

طرح خانا که نام «قانون کنترل انسان بر هوش مصنوعی» (Human Control Over AI Act) را بر خود دارد، هر مدلی را که به صورت بازگشتی خودش را ارتقا می‌دهد یا اهداف بنیادی، سیستم‌های کنترلی و سازوکارهای خاموشی اضطراری خود را دستکاری می‌کند، تا زمان ایجاد تدابیر فدرال و تأیید رسمی توسط نهادهای مربوطه ممنوع خواهد کرد.

این لایحه همچنین به دنبال تأسیس یک آژانس فدرال جدید است؛ نهادی که مأموریت اصلی‌اش تمرکز روی مدل‌های پیشرفته توسعه‌یافته در مراکزی مثل اوپن‌ای‌آی (OpenAI)، آنتروپیک (Anthropic)، گوگل دیپ‌مایند (Google DeepMind) و xAI خواهد بود، آن هم درست در شرایطی که نگرانی‌ها درباره ایمنی محصولات این شرکت‌ها به اوج رسیده است.

وظایف این آژانس شامل تدوین مقررات ایمنی، راه‌اندازی سازوکار صدور مجوز برای آموزش و عرضه مدل‌ها، بازرسی مدل‌های پیشرو (Frontier AI) و تعریف استانداردهای امنیتی برای آزمایش‌های مداوم و تضمین کنترل موثر انسانی خواهد بود.

همچنین بازرسان مستقل باید در تمامی آزمایشگاه‌های پیشرو مستقر شوند و گزارش‌های خود را مستقیماً به این آژانس بفرستند. این نهاد استانداردهایی را برای محیط‌های آزمایشی ایزوله (Sandbox)، جداسازی فیزیکی از اینترنت (Air gap)، کلیدهای قطع اضطراری (Kill switch) و سازوکارهای ممانعت از فرار مدل‌ها به اینترنت عمومی تدوین می‌کند. نظارت بر تراشه‌های پیشرفته‌ای که در این آزمایشگاه‌ها استفاده می‌شود و کنترل دسترسی به آن‌ها نیز بر عهده همین آژانس خواهد بود.

طرح پیشنهادی برای هوش مصنوعی مهارنشده مجازات‌های حقوقی سختی هم در نظر گرفته است.

طبق این لایحه، عرضه مدل‌هایی که منجر به نابودی جمعیت‌های غیرنظامی شود، معادل «جنایت علیه بشریت» تلقی خواهد شد. علاوه بر این، کارمندان شرکت‌های هوش مصنوعی که عمداً پادمان‌های ایمنی، کلیدهای قطع اضطراری، سیستم‌های ثبت وقایع یا مهار را غیرفعال کنند، یا آگاهانه مدلی بدون مجوز را عرضه نمایند، با مجازات‌های کیفری روبه‌رو می‌شوند.

شرکت‌های هوش مصنوعی همچنین برای انتشار عمومی مدل‌های خود موظف به خرید بیمه‌های مسئولیت مدنی سنگین و گسترده خواهند بود.

در این لایحه از دولت خواسته شده تا با توافق‌های اجرایی و کنترل‌های صادراتی هدفمند، مانع توسعه سیستم‌های هوش مصنوعی خطرناک توسط چین و سایر رقبای خارجی شود.

خانا این طرح را «جامع‌ترین قانون ایمنی هوش مصنوعی» نامیده که تاکنون پیشنهاد شده است. او می‌گوید این لایحه بر اساس همفکری با سازمان‌های ایمنی هوش مصنوعی مانند مؤسسات غیرانتفاعی و مستقل ارزیابی مدل و پژوهش تهدیدات (METR)، مؤسسه پژوهش هوش ماشین (MIRI) و پالیسید ریسرچ (Palisade Research) تدوین شده، نه بر اساس خواسته‌ها و لابی مدیران غول‌های هوش مصنوعی.

خانا تصریح کرد: «می‌خواهم این طرح تریبونی برای جامعه ایمنی هوش مصنوعی باشد. به نظرم تا الان با ناعادلانه‌ترین شکل این هشدارها را به داستان‌های علمی‌تخیلی تقلیل داده‌اند و جدی‌شان نگرفته‌اند... در این مباحثات، این پژوهشگران حوزه ایمنی هستند که باید خط‌مشی تعیین کنند، نه مدیران شرکت‌های تجاری پیشگام.»

این طرح حالا در کنار چند لایحه ایمنی دیگر مانند طرح دوحزبی «FRONTIER» قرار می‌گیرد که توسط جی اوبرنولتی و لوری تراهان مطرح شده بود و خواستار استقرار بازرسان مستقل در آزمایشگاه‌ها و حق توقف مدل‌های پرخطر توسط دولت است.

با این حال، پیش‌بینی نمی‌شود تا پیش از انتخابات میان‌دوره‌ای لایحه‌ای در مجلس نمایندگان به رأی گذاشته شود و اعضای سنا نیز پس از پایان این هفته تا زمان انتخابات واشنگتن را ترک خواهند کرد.