خطای سیستم‌های تشخیص چهره هوش مصنوعی؛ متهم شدن اشتباهی مشتریان بی‌گناه به سرقت از فروشگاه‌ها

خریداران بی‌گناه در بریتانیا که به اشتباه توسط سامانه Facewatch علامت‌گذاری شده‌اند، برای پاک کردن نام خود از فهرست سیاه مشترک میان فروشگاه‌ها وارد نبردی حقوقی و داده‌ای می‌شوند که ماه‌ها به طول می‌انجامد.

مردی به‌همراه همسرش برای خرید مکمل‌های دارویی وارد یکی از شعب فروشگاه Home Bargains شد، اما در نهایت با اتهام سرقت مواجه شد و مأموران او را از فروشگاه بیرون کردند. این برخورد چنان او را آشفته کرد که بعداً گفت: «از قدم گذاشتن به داخل هر فروشگاهی وحشت داشتم.»

این جمله جای تأمل زیادی دارد؛ ترس از قربانی دزدی شدن نیست، بلکه ترس از رد شدن ساده از درگاه یک فروشگاه است.

فناوری Facewatch با نقشه‌برداری از هندسه چهره خریداران و مقایسه آن با فهرستی از مظنونان به اقدامات مجرمانه کار می‌کند. بر اساس تحقیقات گروه نظارتی Big Brother Watch، فروشگاه‌های زنجیره‌ای متعددی از جمله Home Bargains، B&M، Budgens، Costcutter و Sports Direct از این سیستم استفاده کرده‌اند. ایجاد چنین زیرساخت‌های نظارتی، پرسش‌های بسیار جدی و نگران‌کننده‌ای را درباره شیوه گردآوری و استفاده از داده‌های بیومتریک شهروندان برانگیخته است.

زمانی که این سیستم یک تطابق احتمالی را شناسایی می‌کند، به پرسنل فروشگاه هشدار می‌دهد. یک تشابه احتمالی به‌خودی خود هیچ چیزی را اثبات نمی‌کند، اما در پرونده‌های مستندشده، همین هشدار ساده بهانه‌ای برای درگیری کلامی با مشتریان، بازرسی وسایل شخصی، اخراج از فروشگاه و ممنوع‌الورود کردن افراد شده است.

یک تشخیص اشتباه و ثبت داده‌های بیومتریک شما در تمام فروشگاه‌ها

گروه حامی حقوق مدنی Big Brother Watch موارد متعددی را ثبت کرده است که در آن‌ها مشتریان کاملاً بی‌گناه هدف اتهام قرار گرفته و اطلاعات هویتی آن‌ها میان فروشگاه‌های مختلف به اشتراک گذاشته شده است.

گزارش Big Brother Watch ماجرای دانیل هوران را شرح می‌دهد که به اشتباه در فهرست تحت‌نظر Facewatch ثبت و به‌عنوان سارق برچسب‌گذاری شد. او با وجود بی‌گناهی کامل، دو بار مورد اتهام قرار گرفت و از فروشگاه‌ها اخراج شد، در حالی که خرده‌فروشان همکار داده‌های بیومتریک او را میان خود به اشتراک گذاشته بودند؛ رویه‌ای که دفتر کمیسر اطلاعات بریتانیا (ICO) تأیید کرده است بخشی از سازوکار فهرست نظارتی ملی Facewatch به‌شمار می‌رود.

سامانه Facewatch هم‌چنین در فروشگاه Home Bargains نوجوانی را که در این پرونده سارا نامیده شده، علامت‌گذاری کرد. کیف این نوجوان تفتیش شد و به او اعلام کردند که ورودش ممنوع است و حق ندارد به سایر فروشگاه‌های مجهز به این نرم‌افزار نیز وارد شود. طبق مستندات Big Brother Watch، شرکت Facewatch بعداً اعتراف کرد که هم فناوری هوش مصنوعی و هم ناظر انسانی موسوم به «تشخیص‌دهنده برتر»، او را به اشتباه با فرد دیگری اشتباه گرفته بودند.

در شعبه‌ای از فروشگاه Budgens نیز زنی به سرقت مقادیر زیادی گوشت متهم شد، در حالی که این زوج می‌گفتند ماه‌ها بود اصلاً به آن فروشگاه پا نگذاشته بودند. به گفته شاهدان، همسر این زن از شدت فشار روانی و تحقیر، از سر تا پا می‌لرزید.

مسئولیت متناقض میان ارائه‌دهنده فناوری و مالکان فروشگاه‌ها

تقسیم نامشخص مسئولیت‌ها میان سازنده فناوری و صاحبان فروشگاه‌ها سبب شده است تا قربانیان این خطای هویتی میان دو طرف گرفتار شوند، در حالی که هر یک دیگری را مقصر می‌داند.

مدیران Facewatch مدعی هستند که مسئولیت فناوری و فرآیندهای فنی را بر عهده می‌گیرند، اما رفتار کارکنان با مشتریان بر عهده خود فروشگاه‌ها است. این مرزبندی شاید روی کاغذ منظم به نظر برسد، اما در عمل وقتی یک خرده‌فروشی بر پایه یک هشدار نادرست اقدام به محرومیت فرد کرده و این تصمیم را به فروشگاه‌های همکار تعمیم می‌دهد، خسارت روحی و اجتماعی واردشده متوجه هر دو طرف ماجرا است.

گزارش‌ها نشان می‌دهد فروشگاه‌های زنجیره‌ای Sainsbury’s پس از اخراج اشتباه یک مشتری بی‌گناه، ارسال هشدارهای سیستم تشخیص چهره را موقتاً متوقف کردند، اما مدتی بعد استفاده زنده از آن را دوباره از سر گرفتند. این مجموعه از ارائه هرگونه توضیح بیشتر خودداری کرده و سؤالات مربوط به حریم خصوصی داده‌ها را به شرکت Facewatch ارجاع داده است.

راهکار قانونی که تنها روی کاغذ مؤثر است

قوانین حفاظت از داده در بریتانیا مسیری رسمی برای اعتراض خریداران آسیب‌دیده پیش‌بینی کرده است، اما حامیان آزادی‌های مدنی تأکید دارند که این روند باری ناعادلانه را بر دوش افرادی می‌گذارد که قرار بوده قانون حامی آن‌ها باشد.

قوانین بریتانیا به افراد این حق را می‌دهد که از طریق درخواست دسترسی موضوعی (Subject Access Request) از سازمان‌ها بخواهند مشخص کنند چه اطلاعات شخصی درباره آن‌ها ذخیره کرده‌اند. دفتر کمیسر اطلاعات اعلام کرده است که سازمان‌ها معمولاً یک ماه فرصت دارند تا به این درخواست‌ها پاسخ دهند، هرچند در پرونده‌های پیچیده ممکن است مهلت بیشتری درخواست شود یا نیاز به احراز هویت‌های متعدد باشد.

گروه Big Brother Watch این فرایند را یک مصیبت بوروکراتیک تمام‌عیار توصیف می‌کند. شهروندان برای اینکه متوجه شوند چرا نامشان در فهرست سیاه قرار گرفته، اغلب مجبور می‌شوند اطلاعات هویتی و مدارک بیشتری را به همان شرکتی بدهند که آن‌ها را متهم کرده است. نهاد ناظر ICO گزارش‌های خریداران متضرر را «بسیار تکان‌دهنده» دانسته است؛ مواردی که بازتابی از نگرانی‌های گسترده‌تر پیرامون ردیابی مخفیانه شهروندان بدون رضایت یا سازوکار شفاف جبران خسارت به‌شمار می‌رود. با این وجود، ICO اعلام کرده که اقدام بازدارنده فوری علیه Facewatch لازم نیست و صرفاً به ارائه توصیه‌هایی برای ممیزی مداوم، بازبینی سیاست‌های حریم خصوصی و ارزیابی ریسک بسنده کرده است.

ضرورت ارزیابی مستقل و شفافیت در اشتراک‌گذاری داده‌ها

تا زمانی که خرده‌فروشان داده‌های واقعی عملکرد این سامانه‌ها را منتشر نکنند و ممیزی‌های بی‌طرفانه دقت آن را در شرایط مختلف نسنجند، جامعه هیچ راهی برای ارزیابی ضریب خطای واقعی این ابزارها نخواهد داشت.

مدیران Facewatch ادعا می‌کنند که سامانه‌های آن‌ها در هزاران فروشگاه با موفقیت در حال فعالیت است و نباید اشتباهات ثبت‌شده را به کل سامانه تعمیم داد. با این حال، چنین پاسخی نیازمند ارائه آمارهای قابل راستی‌آزمایی است. فروشگاه‌ها دقیقاً چه تعداد هشدار دریافت می‌کنند و چند درصد از این هشدارها به کشف واقعیت و شناسایی قطعی سارقان منجر می‌شود؟

در بررسی‌های انجام‌شده هیچ آزمون ارزیابی مستقلی که عملکرد این سیستم‌ها را بر پایه سن، نژاد، جنسیت و شرایط مختلف نوری و زاویه دوربین‌ها سنجیده باشد و در دسترس عموم قرار گیرد، یافت نشد. فروشگاه‌ها موظف هستند حجم هشدارهای صادرشده و نرخ خطای تطابق را به‌صورت شفاف منتشر کنند. هم‌چنین اشتراک‌گذاری فهرست‌های سیاه میان فروشگاه‌ها باید دارای چارچوب و محدودیت‌های قانونی مشخص باشد. افزایش مخالفت‌های عمومی نسبت به شبکه‌های نظارت خودکار در فضاهای عمومی نشان می‌دهد که جوامع بیش از هر زمان دیگری خواستار پاسخگویی و شفافیت در این حوزه هستند.

مهم‌تر از هر چیز، کارکنان فروشگاه‌ها به دستورالعمل‌های کاملاً شفافی نیاز دارند: یک هشدار الگوریتمی صرفاً دعوتی برای بررسی بااحتیاط است، نه سندی قطعی برای متهم کردن یک فرد. فناوری شاید با گذر زمان بهبود یابد، اما سازوکار پاسخگویی و قانون‌گذاری باید با سرعتی به‌مراتب بالاتر اصلاح شود.