وقتی مقتول با هوش مصنوعی در دادگاه حرف زد؛ لغو حکم ۱۰ سال زندان با یک ویدیوی دیپ‌فیک!

مردی که به اتهام قتل غیرعمد به یک دهه زندان محکوم شده بود، حالا باید دوباره محاکمه شود؛ دادگاه تجدیدنظر ایالت آریزونا اعلام کرده بیانیه ویدیویی که توسط نسخه بازسازی‌شده مقتول با هوش مصنوعی در دادگاه پخش شده، به هیچ وجه قابل اعتماد و استناد نیست. این تصمیم جنجالی، آتش بحث‌ها بر سر این‌که هوش مصنوعی چه زمانی و چطور اجازه دارد وارد پرونده‌های قضایی شود را حسابی تند کرده است.

ماجرا از این قرار است که گابریل پل هورکاسیتاس ۵۵ ساله، در پی تیراندازی مرگبار سال ۲۰۲۱ به کریستوفر پلکی در جریان یک نزاع خیابانی در فینیکس محکوم شد. در مه ۲۰۲۵، قاضی پرونده پس از بررسی ده‌ها بیانیه از سوی خانواده و دوستان مقتول درباره تأثیر این جنایت بر زندگی‌شان، هورکاسیتاس را به ۱۰.۵ سال حبس محکوم کرد. اما یکی از این بیانیه‌ها که گفته می‌شود اولین نمونه در تاریخ دادگاه‌های ایالات متحده است، در قالب یک ویدیوی ساخته‌شده با هوش مصنوعی از خود مقتول به دادگاه ارائه شد؛ ویدیویی که چهره و صدای او را به شکل دیجیتالی بازسازی کرده بود.

این ویدیو که در جلسه تعیین مجازات به نمایش درآمد، تصاویری واقعی از پلکی (کهنه‌سرباز ارتش آمریکا که هنگام حادثه ۳۷ سال داشت) را نشان می‌داد که از دوران خدمتش در عراق و افغانستان و ایمانش به خدا می‌گفت. اما بخش ساخته‌شده با هوش مصنوعی که قبل و بعد از این فیلم واقعی قرار گرفته بود، مقتول را در حالی نشان می‌داد که مستقیماً با قاتل خود صحبت می‌کرد.

او در این بخش بازسازی‌شده می‌گفت: «واقعاً مایه تأسف است که آن روز و در آن شرایط سر راه هم قرار گرفتیم. در یک زندگی دیگر، شاید می‌توانستیم با هم دوست باشیم. من به بخشش و خدایی که می‌بخشد ایمان دارم؛ همیشه باور داشته‌ام و هنوز هم باور دارم.»

تاد لنگ، قاضی دادگاه عالی شهرستان ماریکوپا که سال گذشته ریاست جلسه صدور حکم را بر عهده داشت، مشخص نکرد که آیا این بیانیه ساخته‌شده با هوش مصنوعی در تصمیم نهایی‌اش تأثیر داشته یا نه. با این حال، او از خانواده مقتول تشکر کرد و گفت باور دارد حرف‌های داخل ویدیو «از صمیم قلب» بیان شده و با شناختی که از شخصیت پلکی از زبان خانواده و دوستانش پیدا کرده، کاملاً همخوانی دارد.

اما پس از بررسی درخواست تجدیدنظر وکیل هورکاسیتاس، دادگاه تجدیدنظر آریزونا اعلام کرد که این ویدیوی ساخته‌شده با هوش مصنوعی نشان‌دهنده سخنان مستقیم خود مقتول نیست. طبق اسناد دادگاه، وکیل متهم استدلال کرده بود که موکلش از روند دادرسی عادلانه محروم شده، چرا که قاضی دادگاه بدوی «ویدیویی تولیدشده با هوش مصنوعی را که ظاهر و صدای مقتول را بازسازی کرده بود، دیده و صراحتاً به آن استناد کرده است».

هیئت سه نفره قضات در رأی خود که ضمن تأیید اصل محکومیت، حکم مجازات را باطل کرد، نوشت: «این ویدیوی هوش مصنوعی به جای این‌که یک رویداد واقعی یا لحظه‌ای خاص را مستند کند، تصویری از مقتول و افکار او را به نمایش می‌گذارد که از تصورات و ذهنیات خواهرش شکل گرفته است. این کار فاصله تفسیری میان برداشت خانواده از آن‌چه مقتول ممکن بود بگوید و صدا و دیدگاه‌های واقعی خود مقتول را از بین می‌برد.»

وقتی مردگان در دادگاه به حرف می‌آیند

استیسی ولز، خواهر مقتول که در رأی دادگاه به او اشاره شده، می‌گوید خانواده‌شان هوش مصنوعی را به عنوان تأثیرگذارترین و کارآمدترین راه برای زنده کردن یاد کریستوفر و دادن حق سخن به او انتخاب کرده بودند و کلمات را با وسواس طوری چیده بودند که مطمئن بودند از زبان خود او بیرون می‌آمد.

ولز در گفت‌وگویی تأکید کرد: «اگر این ویدیو را همان‌طور که واقعاً ادعا شده قضاوت کنیم — یعنی یک اثر تلفیقی هنری که درک واقعی خانواده ما از روحیه کریستوفر را بازگو می‌کرد — کاملاً معتبر و قابل اعتماد بود.» به گفته او، تمام کسانی که برادرش را می‌شناختند و ویدیو را دیدند، «با قاطعیت تأیید کردند که پیام موجود در ویدیوی هوش مصنوعی دقیقاً همان باوری است که کریس داشت و مطمئن بودند او در دنیای واقعی هم همین جملات را بر زبان می‌آورد.»

او در ادامه گفت: «کریس آدمی با نظرات بسیار محکم و نگاهی کاملاً صفر و یکی بود. همه می‌دانستند او در هر موضوعی کجای ماجرا ایستاده است؛ بنابراین کاملاً مشخص و شفاف بود که درباره این اتفاق چه فکر می‌کرد.»

«مرزبندی سلیقه‌ای میان قالب‌های رسانه‌ای»

ولز معتقد است که دادگاه تجدیدنظر در رأی خود دچار اشتباه شده است. او تأکید دارد که طبق منشور حقوق قربانیان آریزونا، این حق قانونی به او داده شده که هرچه می‌خواهد و به هر شکلی که مایل است داغ و احساساتش را بیان کند.

او گفت: «دادگاه تجدیدنظر یک مرز کاملاً سلیقه‌ای و ناعادلانه بین انواع قالب‌های رسانه‌ای کشیده است. خانواده‌ها در دادگاه‌ها مرتباً اسلایدشو پخش می‌کنند، کلاژ عکس نشان می‌دهند، مکالمات فرضی نقل می‌کنند یا شعر می‌خوانند تا داغ و اندوه خود را منتقل کنند. این‌که بگویند استفاده از ابزار‌های دیجیتال مدرن برای انتقال همان پیام اصل دادرسی عادلانه را نقض می‌کند، محدود کردن بی‌مورد حق قانونی خانواده قربانیان برای شنیده شدن صدایشان است.»

بر اساس پرونده قضایی، این جنایت زمانی رخ داد که هورکاسیتاس در یک تقاطع شلوغ پشت خودروی پلکی توقف کرد و برایش بوق زد. وقتی پلکی از وانت خود پیاده شد و با فریاد و تکان دادن دست به سمت خودروی هورکاسیتاس رفت، هورکاسیتاس ظرف چند ثانیه به او شلیک کرد و جانش را گرفت. هیئت منصفه ادعای متهم مبنی بر دفاع مشروع را رد کرده بود.

دستگاه قضایی هم درست مثل هر حوزه دیگری این روز‌ها دست به گریبان چالش چگونگی و زمان مجاز استفاده از هوش مصنوعی پرشتاب است. ارائه ویدیوی ساخته‌شده از پلکی با هوش مصنوعی در دادگاه و سپس رد شدن آن توسط دادگاه تجدیدنظر به دلیل غیرقابل اعتماد بودن، تردیدهای عمیقی را درباره کاربرد هوش مصنوعی فراتر از یک ابزار ساده برای پژوهش‌های حقوقی — به‌ویژه زمانی که فناوری برای بازسازی چهره افراد یا وقایع به کار می‌رود — پررنگ کرده است.

منتقدان شواهد مبتنی بر هوش مصنوعی می‌گویند این فناوری ممکن است سوگیرانه، گمراه‌کننده و نادقیق باشد. جالب این‌جاست که سال گذشته نیز یک قاضی در ایالت اوهایو مدارک به‌دست‌آمده از نرم‌افزارهای تشخیص چهره مبتنی بر هوش مصنوعی را از پرونده کنار گذاشت و فاقد اعتبار دانست.

گری مارچنت، استاد حقوق دانشگاه ایالتی آریزونا که در کمیته بررسی الگوهای استاندارد استفاده از هوش مصنوعی در دادگاه‌ها عضویت دارد، تصمیم دادگاه تجدیدنظر را «هوشمندانه و محتاطانه» ارزیابی کرد.

او در مصاحبه‌ای توضیح داد: «به نظر من دادگاه‌ها باید یک قانون سفت‌وسخت و خدشه‌ناپذیر وضع کنند که بر اساس آن ورود هرگونه مدرک ساختگی تولیدشده با هوش مصنوعی به صحن دادگاه ممنوع شود؛ وگرنه درها به روی هر نوع دست‌کاری و فریبکاری باز خواهد شد.»

در عصر هوش مصنوعی چه چیزی مدرک به حساب می‌آید؟

با این حال، ولز اصرار دارد که ویدیوی ساخته‌شده از برادرش با هوش مصنوعی اصلاً به عنوان مدرک جرم ارائه نشده بود.

او گفت: «بیانیه‌های تأثیر جرم در جلسه صدور حکم صرفاً ابراز احساسات فردی هستند، نه مدارک اثبات جرم. هیچ هیئت منصفه‌ای این ویدیو را ندیده و به عنوان مدرک در جریان محاکمه مطرح نشده است.»

اما مارچنت معتقد است حتی یک بیانیه تولیدشده با هوش مصنوعی مانند نمونه‌ای که در جلسه صدور حکم هورکاسیتاس پخش شد، می‌تواند «مرزهای پیش‌داوری مغرضانه را رد کند، زیرا در واقع حدس و گمان دیگران درباره سخنان احتمالی مقتول است».

با گره خوردن روزافزون هوش مصنوعی با تاروپود زندگی روزمره، کم‌تر فناوری دیگری توانسته تا این حد درباره نحوه به‌کارگیری و تعیین مرزهای اخلاقی‌اش بحث و جدل به پا کند.

این بحث‌ها و جدل‌ها همچنان ادامه خواهد داشت، اما برای خانواده کریستوفر پلکی، درد و رنج این ماجرا تمام‌شدنی نیست.

ولز با بغض می‌گوید: «این‌که به خاطر پیچ‌وخم‌های اداری و دادرسی مجبور شوی دوباره به دادگاه برگردی و بد‌ترین تروما و عذاب زندگی‌ات را از نو تجربه کنی، مثل نمک پاشیدن روی یک فاجعه بزرگ است. اما اگر چاره‌ای جز این نباشد، ما هر بار به خاطر برادرمان در دادگاه حاضر می‌شویم، چون خودش دیگر توان دفاع از خود را ندارد.»