فرمان اجرایی ایالت کالیفرنیا؛ لزوم تعبیه «کلید توقف اضطراری» در مدل‌های پیشرفته هوش مصنوعی

گوین نیوسام، فرماندار ایالت کالیفرنیا، روز جمعه فرمان اجرایی جدیدی صادر کرد که بر اساس آن، یک کارگروه متخصص موظف شده است تا پیشنهادهای خود را برای تقویت قوانین امنیت و ایمنی هوش مصنوعی در این ایالت تدوین کند. یکی از الزامات احتمالی در این بررسی‌ها، الزام شرکت‌ها به تعبیه نوعی «کلید توقف اضطراری» (Kill Switch) برای خاموش کردن مدل‌های پیشرفته هوش مصنوعی در شرایط بحرانی است.

بنا بر اعلام دفتر فرماندار کالیفرنیا، این کارگروه دو ماه فرصت دارد تا راهنمایی جامع از تدابیر قابل‌اتخاذ توسط ایالت را ارائه دهد. تدابیر احتمالی شامل الزام اشخاص ثالث و مستقل به تدوین برنامه‌های ایمنی، و همچنین الزام توسعه‌دهندگان هوش مصنوعی به حفظ توانایی غیرفعال کردن کامل سیستم‌هایشان در صورت نیاز است.

نیوسام در بیانیه‌ای اعلام کرد: «ما برای اقدام منتظر نمی‌مانیم؛ بلکه قصد داریم پیش از آنکه دیر شود، روند نظارت اساسی و مسئولانه بر هوش مصنوعی را سرعت ببخشیم. ما این کار را با دقت اما با سرعتی بالا انجام خواهیم داد؛ چرا که خطرات آن‌قدر بالاست که جای هیچ‌گونه درنگ یا تاخیری وجود ندارد.»

بر اساس گزارش بلومبرگ، این فرمان اجرایی همچنین از مقامات ایالتی می‌خواهد تا اجرای دو قانون مرتبط با هوش مصنوعی را که سال جاری در مجلس ایالتی تصویب شده‌اند، تسریع کنند. این فرمان در بحبوحه بالا گرفتن بحث‌ها بر سر قانون‌گذاری فدرال هوش مصنوعی صادر شده است؛ جایی که نیوسام از کنگره و همچنین دونالد ترامپ، رئیس‌جمهور، به دلیل انفعال در این زمینه انتقاد کرده است. ترامپ پیش‌تر ترس از خطرات هوش مصنوعی را یک «فریب» خوانده بود.

نیوسام در ادامه بیانیه خود تاکید کرد: «شکست مطلق دولت فدرال در ایجاد هرگونه چارچوب نظارتی معنادار یا پاسخگویی در حوزه هوش مصنوعی باید مایه نگرانی تمام شهروندان آمریکایی باشد، به‌ویژه زمانی که خود مدیران عامل شرکت‌های هوش مصنوعی برای وضع قوانین التماس می‌کنند.»

اوایل ماه جاری میلادی، نیوسام با امضای دو لایحه، اولین چارچوب قانونی در ایالات متحده برای الزام سیستم‌های هوش مصنوعی به انجام ارزیابی و ممیزی توسط اشخاص ثالث را به قانون تبدیل کرد. لایحه شماره ۸۱۳ سنا، چارچوبی برای سازمان‌های اعتبارسنجی مستقل ایجاد کرد تا انطباق سیستم‌های هوش مصنوعی با قوانین ایالتی را بسنجند؛ در حالی که لایحه ۱۴۰۵ مجلس، یک ثبت‌نام ایالتی برای ممیزان هوش مصنوعی تاسیس کرد و استانداردهایی برای استقلال و شفافیت آن‌ها در نظر گرفت. شرکت‌های OpenAI و Anthropic نیز از این قوانین حمایت کرده‌اند.

ایده اجباری شدن تعبیه کلید توقف اضطراری در کنگره آمریکا نیز توجهاتی را به خود جلب کرده است. تد لیو و ناتانیل موران، دو نماینده کنگره، اخیراً «قانون کلید توقف اضطراری هوش مصنوعی» را معرفی کردند؛ یک لایحه دوحزبی که توسعه‌دهندگان سیستم‌های قدرتمند هوش مصنوعی را ملزم می‌کند تا قابلیت محدودسازی، تعلیق یا خاموش کردن کامل مدل‌های خود را حفظ کنند. بر اساس این لایحه، وزارت امنیت داخلی نیز اختیار خواهد داشت تا علیه سیستم‌هایی که پتانسیل ایجاد آسیب‌های فاجعه‌بار دارند، وارد عمل قلم شود.

فرمان اجرایی نیوسام در شرایطی صادر می‌شود که چندین نامزد احتمالی حزب دموکرات برای انتخابات ریاست‌جمهوری ۲۰۲۸ در حال موضع‌گیری درباره قوانین هوش مصنوعی هستند. طبق گزارش بلومبرگ، جاش شاپیرو، فرماندار پنسیلوانیا نیز اخیراً در نشستی در پیتسبورگ بر لزوم اتخاذ تدابیر نظارتی سخت‌گیرانه‌تر تاکید کرد. نیوسام که دوره فرمانداری‌اش در ماه ژانویه به پایان می‌رسد، پیش‌تر گفته بود که در حال بررسی نامزدی برای انتخابات ریاست‌جمهوری است، اما هنوز رسماً آن را اعلام نکرده است.

در ویدیویی که روز جمعه منتشر شد، نیوسام از مایک جانسون، رئیس مجلس نمایندگان خواست تا نمایندگان کنگره را از تعطیلات فرا بخواند و قانون فدرال ایمنی هوش مصنوعی را به تصویب برساند و این اقدام را «حداقل کاری که از او و همکارانش انتظار می‌رود» توصیف کرد.