رسوایی هوش مصنوعی در وزارت کشور بریتانیا: از هر ۵ خلاصه پرونده پناهندگی، یکی غلط از آب درآمد!

تازه‌ترین تلاش وزارت کشور بریتانیا (هوم آفیس) برای سرعت بخشیدن به روند تصمیم‌گیری درباره پرونده‌های پناهندگی با هوش مصنوعی، حسابی به بن‌بست خورده است. بر اساس یک گزارش تازه، بیش از یک‌پنجم خلاصه‌های تهیه‌شده از مصاحبه‌ها که توسط کارشناسان بررسی شده‌اند، در آزمون‌های صحت و دقت نمره قبولی نگرفته‌اند و مردود شده‌اند.

یک گزارش تحقیقاتی ۲۰ صفحه‌ای که توسط گروه «اوپن رایتس گروپ» (ORG) منتشر شده، فاش می‌کند که این وزارتخانه علیرغم تمام نگرانی‌ها پیرامون دقت پایین، نبود نظارت کافی و عدم تحقق وعده‌های افزایش سرعت، همچنان با اصرار عجیبی در حال پیشبرد این ابزار‌های هوش مصنوعی است.

این یافته‌ها که از طریق درخواست‌های دسترسی آزاد به اطلاعات و مکاتبات رسمی با وزرا به دست آمده‌اند، روی دو سیستم متمرکزند که کارمندان این وزارتخانه از آن‌ها استفاده می‌کنند: سیستم «خلاصه‌سازی پرونده‌های پناهندگی» (ACS) که وظیفه خلاصه‌کردن مصاحبه‌ها را بر عهده دارد، و ابزار «جستجوی سیاست‌های پناهندگی» (APS) که یک چت‌بات برای کمک به مأموران جهت جستجوی سیاست‌های کشور‌های مختلف است. نکته قابل توجه اینجاست که هر دو سیستم بر پایه مدل پرچمدار GPT-4o شرکت اوپن‌ای‌آی (OpenAI) و از طریق سرویس Azure AI Foundry مایکروسافت اجرا می‌شوند.

اگرچه دولت تأکید دارد که تصمیم‌گیری نهایی درباره پناهندگی همچنان بر عهده انسان‌هاست، اما گروه ORG این سؤال جدی را مطرح کرده که کارمندان تا چه حد واقعاً قادرند گاف‌ها و اطلاعات نادرست تولیدشده توسط هوش مصنوعی را در لابه‌لای این متن‌ها تشخیص دهند.

آمار‌های به دست آمده نشان می‌دهد پس از راه‌اندازی رسمی این سیستم در آوریل ۲۰۲۶، از میان ۲۰۳ خلاصه مصاحبه‌ای که توسط هوش مصنوعی تولید شده بود، ۴۵ مورد در نخستین دور بررسی کارشناسان مردود شدند؛ یعنی نرخ خطای ۲۲ درصدی! این در حالی است که در مرحله آزمایش اولیه (پایلوت)، نرخ رد شدن تنها ۹ درصد گزارش شده بود.

علاوه بر این، ۱۹ خلاصه پرونده دیگر هم برای بازبینی بیش‌تر علامت‌گذاری شدند. در مرحله دوم بازبینی‌ها نیز از میان ۵۶ خلاصه ارزیابی‌شده، ۳۰ مورد نتوانستند استانداردهای لازم را کسب کنند.

خطاهای ثبت‌شده شامل مغایرت‌های آشکار با واقعیت و تحریف گفته‌های پناهجویان در طول مصاحبه بوده است. نکته عجیب‌تر اینکه طبق یافته‌های ORG، خلاصه‌ها حتی اگر جزئیات بسیار حیاتی و کلیدی پرونده را جا می‌انداختند، باز هم از فیلتر ارزیابی عبور می‌کردند؛ فقط به این دلیل که بخش‌های باقی‌مانده به‌ظاهر دقیق بودند!

با وجود چنین نتایج نگران‌کننده‌ای، تعداد خلاصه‌های بررسی‌شده در مقایسه با حجم کار بسیار ناچیز بوده است. طبق برآورد ORG، با توجه به حجم ورودی ماهانه حدود ۱۷٬۵۱۵ پرونده، کارشناسان وزارت کشور بین ماه‌های آوریل تا ژوئیه تنها ۰.۳ درصد از خلاصه‌ها را مورد بازبینی قرار داده‌اند.

گروه ORG همچنین ادعای صرفه‌جویی در وقت را زیر سؤال برده است. بر اساس گزارش‌ها، میانگین ماهانه تصمیم‌گیری‌های اولیه در پرونده‌های پناهندگی از آوریل ۲۰۲۶ تاکنون نسبت به مدت مشابه در سال ۲۰۲۵ حدود ۴۲ درصد کاهش یافته و میانگین زمان لازم از لحظه انجام مصاحبه تا اتخاذ تصمیم نهایی نیز ۲۹ درصد بیش‌تر شده است!

گرچه این آمار لزوماً ثابت نمی‌کند که هوش مصنوعی مقصر اصلی این کندی بوده، اما هیچ نشانه‌ای هم از افزایش بهره‌وری که وزرا وعده داده بودند به چشم نمی‌خورد.

نظارت بر ابزار دوم، یعنی «جستجوی سیاست‌های پناهندگی»، وضعیت به مراتب نامشخص‌تری دارد. وزارت کشور در ماه اوت تأیید کرد که آزمایش‌های کارشناسی متوقف شده است؛ این در حالی بود که پیش‌تر به نمایندگان پارلمان گفته بودند این بررسی‌ها همچنان ادامه دارد. طبق گفته ORG، حتی یک گزارش خلاصه از نتایج این آزمایش‌ها هم ارائه نشده است.

در همین حال، به پناهجویان اصلاً اعلام نمی‌شود که آیا در روند بررسی پرونده‌شان از هوش مصنوعی استفاده شده یا خیر، و آن‌ها هیچ دسترسی یا اختیاری برای مشاهده و اصلاح خلاصه‌های تهیه‌شده از مصاحبه‌های خود ندارند.

این نهاد حقوق بشری ادعای دولت مبنی بر نظارت انسانی را هم به چالش کشیده است. در ارزیابی حفاظت از داده‌های خود وزارت کشور آمده که سیستم ACS در واقع کاری را خودکارسازی می‌کند که قبلاً توسط کارشناسان فنی مجرب انجام می‌شد؛ کارشناسانی که پیش از ارسال پرونده‌ها به مأموران تصمیم‌گیرنده، آن‌ها را به دقت می‌خواندند و خلاصه می‌کردند. فعالان هشدار می‌دهند که این سیستم به جای صرفه‌جویی در زمان کارکنان، عملاً یک لایه نظارتی باتجربه و حیاتی را از چرخه حذف کرده است.

این گروه خواستار تعلیق فوری هر دو ابزار و حسابرسی مستقل آن‌ها شده و تأکید دارد تمهیدات فعلی برای تصمیماتی که مستقیماً حق اقامت و سرنوشت یک انسان در بریتانیا را مشخص می‌کند، به هیچ وجه کافی و ایمن نیست.

این نخستین باری نیست که برنامه‌های فناورانه وزارت کشور بریتانیا با انتقادهای تند مواجه می‌شود. در ماه ژوئن نیز بیش از ۶۰ نهاد حقوق بشری از مقامات خواستند برنامه‌های تخمین سن کودکان پناهجو با هوش مصنوعی را کنار بگذارند؛ زیرا این فناوری در بازه سنی حساس ۱۶ تا ۱۸ سال به شدت غیرقابل‌اعتماد است.

کمی بعد در همان ماه، یک بازرسی رسمی نشان داد سیستم مهاجرتی اطلس (Atlas) که مدت‌ها عرضه آن به تعویق افتاده بود، در ارسال بازخوردهای مربوط به تجدیدنظر پرونده‌ها ناکام مانده و کارمندان را مجبور کرده به روش‌های جایگزین و دستی متوسل شوند.

وزارت کشور بریتانیا تا زمان انتشار این گزارش، پاسخی به پرسش‌های مطرح‌شده پیرامون این موضوع نداده است.