احتمال تحقیق نهاد نظارتی بریتانیا درباره استفاده وزارت کشور از ابزارهای هوش مصنوعی OpenAI

یک نهاد نظارتی در دولت بریتانیا در حال بررسی آغاز تحقیقاتی رسمی پیرامون استفاده وزارت کشور از ابزارهای هوش مصنوعی مولد برای پردازش پروندههای پناهندگی است. این پیگیری احتمالی پس از آن صورت می‌گیرد که قانونگذاران و پژوهشگران، دقت این ابزارها و پنهانکاری دولت درباره شیوه استقرار آنها را آشکارا زیر سؤال بردند.

«بازرس ارشد مستقل مرزها و مهاجرت بریتانیا» (ICIBI) که مدیریت مرزها، مهاجرت و گمرک توسط وزارت کشور را ارزیابی میکند، از سازمان غیرانتفاعی «گروه حقوق باز» (Open Rights Group یا ORG) خواسته است همزمان با تدوین اولویتهای بازرسی سال آینده، اطلاعات بیشتری درباره این ابزارها ارائه دهد. یافتههای این نهاد مدنی حاصل شش ماه بررسی متمرکز بر سیستم‌های مذکور است؛ فرآیندی که شامل ۱۱ سؤال پارلمانی، ۲ نامه به وزرا و ۱۰ درخواست دسترسی به سوابق عمومی میشد تا جزئیاتی از وزارت کشور دریافت شود؛ نهادی که تاکنون از افشای اطلاعات فنی این ابزارها خودداری کرده است.

نهاد ICIBI اعلام کرده است که پیش از انتشار رسمی اولویتهای بازرسی سالانه نمی‌تواند موضوعات تحت بررسی را تأیید کند، اما بر آگاهی خود از نگرانیهای موجود پیرامون استفاده از ابزارهای هوش مصنوعی تأکید ورزید. این نهاد همچنین به یافتههای سال گذشته خود اشاره کرد که نشان میداد کارایی و قابلیت اطمینان یکی از این ابزارها یکدست نبوده و نوسان داشته است.

سخنگوی وزارت کشور بریتانیا در این رابطه توضیح داد: «تصمیمگیری درباره پروندههای پناهندگی توسط کارشناسان آموزشدیده انجام می‌شود و ابزارهای هوش مصنوعی صرفاً برای کمک به‌مرور سوابق مصاحبهها و اطلاعات خطمشیها به کار میروند. این سیستم‌ها بهصورت مستقل استفاده نمی‌شوند و هیچ تصمیمی درباره ادعاها نمی‌گیرند. ما بهطور منظم عملکرد این ابزارها را در کنار روندهای جاری تضمین کیفیت بررسی می‌کنیم و متعهد شدهایم ارزیابیهای بهروزشدهای از استقرار آنها منتشر سازیم.»

طبق اسناد بهدستآمده توسط ORG، وزارت کشور بریتانیا از دو ابزار به نامهای ACS (خلاصهسازی پروندههای پناهندگی) و APS (جستجوی خطمشی پناهندگی) بهره میبرد. این سامانهها بر پایه مدل زبانی بزرگ GPT-4 شرکت OpenAI (نسخه سال ۲۰۲۳) و بستر Microsoft Foundry توسعه یافتهاند تا متن مصاحبه با پناهجویان و اطلاعات کشورهای مبدأ آنها را خلاصه کنند. این نهاد مهاجرتی آزمایش اولیه ابزارها را در اواخر سال ۲۰۲۴ و در راستای تلاش دولت حزب کارگر برای پاکسازی تراکم حدود ۱۰۰ هزار پرونده معوقه پناهندگی آغاز کرد؛ در حالی که سالانه دهها هزار درخواست جدید نیز ثبت می‌شود. هرچند این وزارتخانه پیشرفت قابلتوجهی داشته و آمار افراد در انتظار تصمیم اولیه را ظرف یک سال تا ژوئن به نصف رسانده است، اما در مقابل، شمار درخواستهای تجدیدنظر علیه تصمیمات اتخاذشده بهشدت افزایش یافته است.

پژوهشگران بهشدت نگران دقت این ابزارهای هوش مصنوعی هستند، بهویژه وقتی پای تصمیمی بسیار حیاتی و پرخطر در میان باشد؛ تصمیمی نظیر بازگرداندن اجباری یک فرد به کشوری که در آن با خطر شکنجه و آزار روبهرو است. سازمان ORG دریافت که درصد خلاصههای تولیدشده توسط ابزار ACS که غیرقابل استفاده تشخیص داده شدهاند (غالباً بهدلیل خطاهای واقعی یا تحریف واقعیتها)، بسیار بالاتر از نرخ خطای رسمی ۹ درصدی است که در ارزیابی اولیه آزمایشی اعلام شده بود. این بررسی همچنین مشخص کرد که هیچگونه فرآیند کنترل کیفیتی برای خلاصههای ایجادشده توسط ابزار APS وجود ندارد.

مسئولان بررسی پروندهها از این ابزارها برای صرفهجویی در زمان استفاده میکنند؛ طبق برآوردهای دولتی، اجرای آزمایشی نشان داد که ترکیب این دو سامانه می‌تواند حدود یک ساعت زمان رسیدگی به هر پرونده را کاهش دهد. پروندهداران از ابزار ACS برای سرعت بخشیدن به خواندن رونوشت مصاحبههایی بهره میبرند که در آنها پناهجویان علت شکنجه یا ترس خود از بازگشت را شرح دادهاند. آنها همچنین از ابزار APS بهعنوان دستیار جستجو برای یافتن و خلاصهسازی سیاستهای کشوری استفاده می‌کنند تا بسنجند آیا متقاضی در کشورش با خطر واقعی مواجه است یا خیر. با این حال، خطرات چنین رویهای پیشتر آشکار شده است؛ بهگونهای که در ماه ژوئیه، یک قاضی بریتانیایی وزارت کشور را متهم کرد که برای رد درخواست پناهندگی یک زن مراکشی و فرزندش، به سندی ساختگی و حاصل «توهم هوش مصنوعی» استناد کرده است؛ سندی که به اشتباه ادعا میکرد کشور مبدأ برای بازگشت آنها امن است.

بل ریبیرو ادی (Bell Ribeiro-Addy)، نماینده پارلمان بریتانیا از حزب کارگر، در این زمینه تأکید کرد: «ما با جان انسان‌ها سروکار داریم. ما درباره افرادی صحبت می‌کنیم که سختترین شرایط را تجربه کردهاند و قرار است تصمیمات ما بر اساس واقعیات محکم و درک آسیبهای وارده باشد. من ابداً مناسب نمی‌دانم که ماشینها عهدهدار چنین وظیفهای شوند.»

در پاسخ به این انتقادات، سخنگوی وزارت کشور عنوان کرد: «استفاده از هوش مصنوعی تنها یکی از ابزارهای در اختیار ما برای محافظت از مرزها است و به هیچ وجه جایگزین نقش تصمیمگیرندگان انسانی نمی‌شود و آن را خودکار نمی‌کند.»

این نماینده پارلمان به‌همراه الشریف و پژوهشگران نهاد حقوقی Public Law Project که بهطور مستقل مشغول تحقیق روی این ابزارها بودهاند، نگران هستند که «سوگیری فرهنگی» اثباتشده در مدل‌های GPT به موانع زبانی و از بین رفتن ظرافتهای فرهنگی در خلاصهها بینجامد؛ موضوعی که در نهایت می‌تواند تصمیماتی تبعیضآمیز به‌همراه داشته باشد. در همین حال، سخنگوی OpenAI با اشاره به تلاشهای مستمر این شرکت برای ارتقای دقت مدل‌ها اعلام کرد که این مجموعه در ماه ژانویه مدل GPT-4 را بازنشسته خواهد کرد.

در شرایط فقدان قوانین جامع، دستورالعمل ملی هوش مصنوعی بریتانیا موسوم به «کتابچه راهنمای هوش مصنوعی» وزارتخانهها را ملزم می‌کند در قبال ابزارهای الگوریتمی مورداستفاده در فرآیندهای تصمیمگیری شفاف باشند و اطلاعات آنها را در دسترس عموم قرار دهند؛ از جمله اینکه نام این ابزارها را در یک مخزن عمومی شفافیت ثبت کنند. با این حال، ابزارهای خلاصهسازی پرونده و جستجوی خطمشی وزارت کشور در این فهرست ثبت نشدهاند.

نکته مهم دیگر این است که به خود پناهجویان نیز اطلاع داده نمی‌شود چه زمانی پرونده آنها با هوش مصنوعی بررسی شده است. الشریف که سرپرستی برنامه عدالت دیجیتال مهاجران در ORG را بر عهده دارد، می‌گوید سازمانهای حمایت از مهاجران و وکلای حقوقی عملاً اطلاع چندانی از کاربرد این سیستم‌ها ندارند، در حالی که آگاهی از سازوکار آنها برای امکان اعتراض قانونی ضروری است. وکلای مؤسسه حقوقی Cloisters در یک نظریه حقوقی مستقل که به سفارش ORG تهیه شده، متذکر شدهاند ناتوانی پناهجویان در به چالش کشیدن خلاصههای نادرست تولیدشده توسط هوش مصنوعی از اطلاعات شخصیشان، ممکن است نقض قوانین حقوق داده در بریتانیا باشد. این در حالی است که وزارت کشور صرفاً در اطلاعیه حریم خصوصی خود به این نکته بسنده کرده که بخش‌هایی از فرآیند تصمیمگیری ممکن است بهصورت خودکار انجام گیرد.

هر دو نهاد نتایج بررسیهای خود را به نهاد ناظر بر داده‌های بریتانیا، یعنی کمیسیون اطلاعات، ارسال کردهاند؛ نهادی که بهترتیب در حال تحقیق درباره امتناع وزارت کشور از ارائه اطلاعات پیرامون نحوه استفاده کارکنان و نحوه آموزش آنها برای کار با این دو ابزار هوش مصنوعی است.

کارولین سلمن (Caroline Selman)، پژوهشگر ارشد در Public Law Project، نیز یادآور می‌شود که دو ابزار ACS و APS تنها دو نمونه از ۱۱ سامانه پرخطر هوش مصنوعی هستند که تیم او دریافته است در بدنه دولت استفاده می‌شوند اما در مخزن عمومی ثبت نشدهاند. او ابراز نگرانی می‌کند که ممکن است سیستم‌های بیشتری در سراسر دولت مستقر شده باشند که حتی پژوهشگران، چه برسد به افرادی که این سیستم‌ها رویشان اعمال میشود، از وجود آنها کلاً بیاناطلاع هستند.

سلمن در جمعبندی تأکید می‌کند: «ابزارهای دیگری در حال استفاده هستند که هیچ اطلاعرَسانی درباره آنها انجام نشده است؛ و وقتی از وجود چیزی بیخبرید، حتی نمی‌توانید پرسشگری درباره آن را آغاز کنید.»