زندان‌های میشیگان برای پیش‌بینی احتمال خشونت زندانیان، از هوش مصنوعی استفاده می‌کنند

اداره امور زندان‌های ایالت میشیگان قصد دارد در دسامبر ۲۰۲۶ یک طرح آزمایشی مبتنی بر هوش مصنوعی را برای رده‌بندی امنیتی زندانیان راه‌اندازی کند؛ با این حال، هنوز منابع داده، نرخ خطای سیستم یا سازوکارهای جلوگیری از تبعیض جمعیتی اعلام نشده است.

تعیین سطح امنیت و رده‌بندی افراد در زندان صرفاً یک تشریفات اداری ساده نیست، بلکه مستقیماً مشخص می‌کند زندانیان در کدام بند نگهداری شوند، چقدر آزادی حرکت داشته باشند و آیا به برنامه‌های آموزشی و بازپروری برای بازگشت به جامعه دسترسی پیدا کنند یا خیر.

اکنون اداره امور زندان‌های میشیگان (MDOC) شیوه اتخاذ این تصمیمات حساس را بازطراحی می‌کند. بر اساس اعلام رسمی، از تاریخ ۱ دسامبر ۲۰۲۶، این اداره ابزاری را که با همکاری سازمان غیرانتفاعی Recidiviz توسعه داده است، در چند ندامتگاه مردانه به مرحله آزمایش می‌گذارد. این سیستم هوشمند، پرونده‌هایی را که نیازمند بازنگری در رده‌بندی امنیتی هستند شناسایی کرده و آن‌ها را برای بررسی به کارکنان زندان پیشنهاد می‌دهد.

مجموعه Recidiviz سازمانی غیرانتفاعی در زمینه فناوری‌های عدالت کیفری است. این ابزار قرار نیست به‌طور کاملاً خودکار تصمیم‌گیری کندجنی ریل، سخنگوی اداره امور زندان‌های میشیگان، در گفتگو با رسانه دیترویت فری پرس تأکید کرد که پیش از هرگونه تغییر در سطح امنیتی، پرسنل زندان امتیاز ارزیابی‌شده توسط سیستم را بازبینی خواهند کرد.

مسئولان این اداره پیش‌بینی می‌کنند که سامانه جدید، توانایی پیش‌بینی احتمال خشونت در میان زندانیان را تا حدود ۳۰ درصد افزایش دهد. البته این آمار صرفاً بر اساس بیانیه خود این نهاد مطرح شده و هیچ مبنای مقایسه‌ای مشخص، نمونه آماری ارزیابی‌شده، روش محاسباتی یا دامنه اطمینانی برای اثبات آن ارائه نشده است؛ بنابراین باید آن را به‌عنوان یک هدف‌گذاری خوش‌بینانه دید، نه یک دستاورد تجربی اثبات‌شده.

«طبقه‌بندی زندانیان در سطحی امنیتی که با رفتارها و نیازهای فعلی آن‌ها همخوانی داشته باشد، امنیت همه را ارتقا می‌دهد؛ از خود فرد گرفته تا سایر هم‌بندی‌ها و پرسنل زندان.» این جمله‌ای است که هایدی ای. واشینگتن، مدیر اداره امور زندان‌های میشیگان، در بیانیه خود بیان کرده است.

مدیر این نهاد، ابزار یادشده را سامانه‌ای «پویا و عینی» توصیف کرده و امیدوار است امنیت ندامتگاه‌ها را تقویت کند. با این حال، دقیقاً بر سر واژه «عینی» است که بحث‌ها و نقدهای کارشناسی آغاز می‌شود. مدل یاد‌گیری ماشینی که بر اساس سوابق تاریخی زندان‌ها آموزش می‌بیند، ناگزیر تمام الگوهای موجود در همان سوابق را به ارث می‌برد؛ الگوهایی که ممکن است بازتاب‌دهنده اعمال سلیقه‌ای قانون، خلأهای مستند‌سازی و تبعیض‌های ساختاری علیه گروه‌های جمعیتی خاص باشند.

ادعای وجود نظارت انسانی نیز نیازمند موشکافی است؛ زیرا وقتی نرم‌افزاری پرونده‌ای را نشانه‌گذاری می‌کند، در عمل تعیین خواهد کرد چه کسانی در کانون توجه بازرسان قرار گیرند، کدام شواهد برجسته‌تر به نظر برسند و فرد با چه سرعتی به سطحی سخت‌گیرانه‌تر منتقل شود. سامانه‌های پشتیبان تصمیم‌گیری، حتی اگر تصمیم‌گیر نهایی نباشند، جهت‌گیری تصمیم‌ها را عمیقاً هدایت می‌کنند.

اداره زندان‌های میشیگان از چهار سطح امنیتی عمومی استفاده می‌کند: سطح یک، سطح دو، سطح چهار و سطح پنج. سطوح پایین‌تر به معنای آزادی عمل بیشتر در تردد و دسترسی به برنامه‌های بازپروری است، در حالی که سطوح بالاتر محدودیت‌های به مراتب شدیدتری اعمال می‌کنند. ارزیابی مجدد و پویای وضعیت می‌تواند به نفع زندانی تمام شود و در صورت بهبود واقعی رفتار، سریع‌تر به کاهش سطح امنیتی بینجامد؛ اما از سوی دیگر، در صورتی که یک خطای تایپی یا پرونده‌ای ناقص باعث صدور هشدار اشتباه شود، روند انتقال زندانی به شرایط بسیار سخت‌گیرانه‌تر را نیز شتاب خواهد بخشید.

در بیانیه اولیه این پروژه، مشخص نشده است که الگوریتم از چه فیلدهای داده‌ای استفاده می‌کند یا رفتارهای اخیر زندانیان را در مقایسه با سوابق انضباطی و محکومیت‌های گذشته با چه ضریبی می‌سنجد. علاوه بر این، هیچ اشاره‌ای نشده است که آیا عملکرد سیستم به تفکیک گروه‌های نژادی، قومی، سنی یا افراد دارای معلولیت ارزیابی می‌شود یا خیر. هم‌چنین در گزارش‌ها سازوکاری پیش‌بینی نشده است تا زندانیان یا وکلای آن‌ها بتوانند به سوابق نادرستی که موجب افزایش ناعادلانه امتیاز خطر شده، اعتراض کنند.

پاسخگویی معتبر و قابل اتکا مستلزم انتشار داده‌های شفاف پس از اجرای آزمایشی است؛ معیارهایی مانند نرخ خطا، نرخ مثبت کاذب و منفی کاذب، تعداد دفعاتی که کارکنان تصمیم مدل را وتو کرده‌اند و تفکیک عملکرد بر اساس داده‌های جمعیتی. هم‌چنین این نهاد باید فرآیندی شفاف و عمومی برای تصحیح داده‌های نادرست ایجاد کند. کارکنان نیز نیازمند آموزش‌هایی هستند تا این امتیاز را صرفاً یک توصیه آماری بدانند، نه حکمی قطعی؛ افزوده بر این، محدوده طرح باید مشخص بماند و تنها به طبقه‌بندی محل نگهداری و نظارت محدود شود، نه تصمیم‌گیری درباره آزادی مشروط یا عفو زندانیان.

پیاده‌سازی اصولی چنین فناوری حساسی در گرو انتشار نتایج واقعی و ثبت ناکامی‌ها و خطاهای آن است، نه اکتفا به پیش‌بینی‌های امیدوارکننده. انتشار یک بیانیه مطبوعاتی و تعیین تاریخ رونمایی، به‌تنهایی به معنای شفافیت نخواهد بود.