دیده‌بان مالی بریتانیا: شرکت‌ها باید شکست‌ها و خطاهای نزدیک به فاجعه هوش مصنوعی را گزارش دهند

نهاد ناظر بر رفتارهای مالی بریتانیا اعلام کرده است که گزارش‌دهی حوادث توسط شرکت‌ها باید مواردی نظیر شکست‌های چشمگیر و خطاهای نزدیک به فاجعه (near-misses) هوش مصنوعی را نیز در بر بگیرد؛ چراکه گسترش سیستم‌های خودمختار، خطرات و ریسک‌های تازه‌ای به‌همراه آورده است.

جسیکا روسو، مدیر ارشد داده، اطلاعات و هوش در سازمان نظارت بر امور مالی بریتانیا (FCA)، در جریان سخنرانی خود در نشست سیاست‌گذاری بلومبرگ اعلام کرد این نهاد قانون‌گذار در پی آن است که بریتانیا پرچم‌دار پذیرش امن و مسئولانه هوش مصنوعی در خدمات مالی باشد؛ با این حال، افزایش سطح خودمختاری این ابزارها مستلزم مسئولیت‌پذیری کاملاً شفاف است.

او در ادامه تأکید کرد: «سیستم‌های هوش مصنوعی بدون نظارت و راهبری مناسب می‌توانند با سرعت و مقیاسی به‌مراتب بزرگ‌تر، خسارت‌های جدی به مصرف‌کنندگان وارد کنند و آسیب‌پذیری‌های سایبری یا اختلالات عملیاتی گسترده‌ای رقم بزنند.»

او همچنین افزود: «مقررات فعلی ما شرکت‌ها را موظف به گزارش حوادث بزرگ می‌کند و این الزام باید شکست‌های جدی و خطاهای مهارشده هوش مصنوعی را نیز پوشش دهد. همان‌طور که وزیر هوش مصنوعی کشور نیز اشاره کرده، ثبت و گزارش حوادث نزدیک به بحران در هوش مصنوعی مبتنی بر ایجنت (Agentic AI) به یک اولویت امنیت ملی تبدیل شده و برای نهادهای ناظر نیز در بالاترین درجه اهمیت قرار دارد.»

بریتانیا در حوزه خدمات مالی جایگاهی فراتر از اندازه خود در بازارهای جهانی دارد؛ به‌طوری که بر اساس داده‌های رسمی، این بخش در سال ۲۰۲۵ بالغ بر ۲۲۳٫۶ میلیارد پوند به اقتصاد بریتانیا کمک کرده است که معادل ۸ درصد از کل تولید ناخالص ملی به‌شمار می‌رود. این سهم اقتصادی، چهارمین جایگاه برتر را در میان کشورهای عضو سازمان همکاری و توسعه اقتصادی (OECD) به خود اختصاص داده است.

هفته گذشته، کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، اعلام کرد دولت قصد دارد با همکاری پارلمان و کارشناسان فنی سازوکاری برای ارزیابی و تقویت قوانین ایجاد کند تا کشور به‌شکل مؤثرتری در برابر تهدیدهای سایبری هوش مصنوعی و خطرات از دست رفتن کنترل بر سیستم‌ها محافظت شود.

نارایان در این زمینه تصریح کرد: «این برنامه شامل شناسایی و گزارش حوادث وخیم و خطاهای مهارشده، کاهش ریسک‌های ناشی از هوش مصنوعی در خدمات حیاتی کشور و تضمین امکان بازبینی و تحلیل دقیق حوادث جدی هوش مصنوعی است.»

استیون آدلر، هم‌بنیان‌گذار و دانشمند ارشد مؤسسه غیرانتفاعی «استانداردهای هوش مصنوعی گایدلایت» (Guidelight AI Standards) نیز هفته گذشته در برابر نمایندگان پارلمان خاطرنشان کرد که حوزه نظارت بر هوش مصنوعی می‌تواند از صنعت هوانوردی الگوبرداری کند؛ صنعتی که در آن، گزارش حوادث و خطاهای مهارشده در بیشتر نظام‌های حقوقی دنیا اجباری است.

او توضیح داد: «سازوکار هوانوردی این‌گونه است که کارشناسان صرفاً منتظر سقوط‌های مرگبار نمی‌مانند تا از آن درس بگیرند؛ بلکه خطاهای نزدیک به فاجعه را به‌دقت بررسی می‌کنند تا با شناسایی الگوهای خطر، از وقوع حوادث غیرقابل‌جبران در آینده پیشگیری کنند.»

با این حال، دولت بریتانیا هنوز به گنجاندن بندهای اختصاصی هوش مصنوعی در لایحه «امنیت سایبری و تاب‌آوری سیستم‌های شبکه و اطلاعات» متعهد نشده است. الکساندرا جونز، مدیرکل بخش رشد، علوم و امور بین‌الملل در وزارت علوم، نوآوری و فناوری این کشور، به قانون‌گذاران اعلام کرد که اصلاحیه‌های مربوطه همچنان در دست بررسی هستند.

در ماه ژانویه نیز کمیته خزانه‌داری مجلس عوام بریتانیا از نهادهای ناظر مالی خواست تا «آزمون‌های تنش» (Stress Tests) ویژه‌ای برگزار کنند تا از آمادگی کسب‌وکارها در برابر شوک‌های احتمالی ناشی از هوش مصنوعی در بازار اطمینان حاصل شود. این کمیته تأکید کرد هنگام بروز خروجی‌های زیان‌بار یا ناعادلانه از سوی سیستم‌های هوش مصنوعی، مرزهای شفاف و مشخصی برای پاسخگویی و مسئولیت‌پذیری وجود داشته باشد.