اختیارات ویژه دولت بریتانیا برای بازرسی شرکت‌ها هنگام سرکشی ایجنت‌های هوش مصنوعی

دولت بریتانیا در حال هموار کردن مسیر برای تدوین مقرراتی است که اپراتورهای خدمات حیاتی و ارائه‌دهندگان سرویس‌های دیجیتال را ملزم می‌کند تدابیر ویژه‌ای برای جلوگیری از خارج‌شدن کنترل ایجنت‌های هوش مصنوعی در نظر بگیرند و در صورت شکست اقدامات حفاظتی، حوادث رخ‌داده را فوراً گزارش دهند.

اصلاحیه‌ای بر لایحه امنیت سایبری و تاب‌آوری که هم‌اکنون در مسیر تصویب در پارلمان بریتانیا قرار دارد، به وزرای دولت این اختیار را می‌دهد که بر نحوه استقرار و گزارش‌دهی هوش مصنوعی مبتنی بر ایجنت در سازمان‌های مشخص نظارت و مقررات‌گذاری کنند. این بند جدید در جریان بررسی مرحله سوم لایحه در مجلس اعیان ارائه شده است.

وزرا در یک یادداشت توضیحی، برنامه‌هایی را برای اجرای تدابیر ایمنی، اطلاع‌رسانی به سازمان‌های متأثر، حفظ ادله و مستندات، و بررسی دقیق حوادث توسط نهادهای دولتی تشریح کردند. اجرایی شدن این تدابیر نیازمند رایزنی تخصصی و تصویب نهایی در پارلمان از طریق قوانین ثانویه خواهد بود.

این اقدام قانون‌گذاران در پی وقوع چندین رخداد نگران‌کننده صورت می‌گیرد. ماه گذشته شرکت OpenAI فاش کرد که ایجنت‌های این مجموعه بارها از محدوده کاری تعیین‌شده فراتر رفته‌اند؛ اختلالی که این شرکت را وادار ساخت به بیش از ۱۰۰ سازمان درباره این رفتار غیرمنتظره هشدار دهد. پیش از آن نیز در ماه ژوئیه، یکی از ایجنت‌های OpenAI با دسترسی به اینترنت، به پلتفرم یاد‌گیری ماشین Hugging Face نفوذ کرده بود. وقوع این حوادث و احتمال بروز خسارات گسترده‌تر ناشی از پیاده‌سازی غیراصولی ایجنت‌های هوش مصنوعی، نمایندگان پارلمان را به این پرسش واداشته است که آیا قوانین کنونی بریتانیا توان مهار چنین تهدیداتی را دارد یا خیر.

استوارت دیوی، از شرکای مؤسسه حقوقی Pinsent Masons، این بند الحاقی را کاملاً نوآورانه توصیف کرد. این بند به‌جای تحمیل مستقیم تکالیف تازه، به وزرا امکان می‌دهد آیین‌نامه‌ها و اختیارات بازرسی مشخصی را برای نظارت بر سازمان‌های هدف تعیین کنند. به گفته دیوی، این سازوکار می‌تواند اختیاراتی نظیر بررسی حوادث امنیتی ایجنت‌ها، انتصاب بازرسان رسمی، ورود و تفتیش اماکن و ضبط مدارک را شامل شود. بر اساس این طرح، وزیر مربوطه می‌تواند اختیارات اجرایی معینی را به نهادهای تنظیم‌گر واگذار کند تا سازمان‌ها ملزم به انجام اقدامات اصلاحی شوند.

سازمان‌هایی که احتمالاً مشمول این مقررات می‌شوند شامل تأمین‌کنندگان انرژی، ارائه‌دهندگان خدمات مدیریت‌شده فناوری اطلاعات و شرکت‌های رایانش ابری هستند که ایجنت‌های هوش مصنوعی را برای مشتریان خود مستقر می‌کنند. در مقابل، توسعه‌دهندگان مدل‌های پایه هوش مصنوعی صرفاً به‌دلیل ساخت فناوری زیربنایی، به‌صورت خودکار تحت شمول این نظارت‌ها قرار نخواهند گرفت.

دیوی تأکید کرد هرگاه یک اختلال عملیاتی یا نفوذ امنیتی در سامانه‌های اطلاعاتی رخ دهد و کنترل ایجنت از دست برود، شرکت‌های ارائه‌دهنده خدمات مدیریت‌شده یا ابری فعال در حوزه هوش مصنوعی هدف این قوانین خواهند بود. او به فعالان این بخش توصیه کرد روند تبدیل این طرح به قانون رسمی را با دقت دنبال کنند.

اوین مک‌مولن، مدیرعامل و هم‌بنیان‌گذار استارتاپ زیرساخت کنترل و هویت هوش مصنوعی AmanTrue، معتقد است که این اصلاحیه ازدست‌رفتن نظارت یا کنترل را به‌عنوان یک ریسک امنیتی جدی به رسمیت می‌شناسد، اما هنوز به‌خودی خود تکلیف مستقیمی تعیین نکرده است.

به گفته مک‌مولن، این اصلاحیه به مقررات آینده اجازه می‌دهد تا در صورت بروز حادثه توسط ایجنت‌ها، اختیارات بازرسی و اجرایی مشخصی برای بررسی سازمان‌های ارائه‌دهنده خدمات دیجیتال حیاتی اعمال شود.

او در ادامه افزود شرکتی که ایجنت هوش مصنوعی را به کار می‌گیرد، سطوح دسترسی آن را تعیین کرده و ارتباط آن را با داده‌ها و سامانه‌ها برقرار می‌کند؛ بنابراین هنگام بروز حادثه، این نهاد مستقرکننده است که باید درباره علل رخداد پاسخگو باشد.

به باور کارشناسان، بار مسئولیت نهایی متوجه همان سازمانی است که ایجنت را وارد ساختار خود کرده و مدیران ارشد آن باید پاسخگوی عواقب باشند؛ در حالی که شمول این قوانین بر سازندگان اصلی مدل‌ها، به جزئیات آیین‌نامه‌های اجرایی و جایگاه آن‌ها در زنجیره تأمین بستگی خواهد داشت.