ابزار جدید CiteProof ارجاعات جعلی و توهمات هوش مصنوعی را در لوایح حقوقی شناسایی می‌کند

برای وکلایی که شیفته استفاده از هوش مصنوعی برای نگارش لوایح قضایی هستند، فقط یک مشکل اساسی وجود دارد: ربات‌ها دچار توهم می‌شوند و اطلاعات ساختگی سرهم می‌کنند. خوشبختانه ابزار تازه‌ای به نام CiteProof متولد شده است که وعده می‌دهد با بررسی موشکافانه لوایح و دادخواست‌ها، ارجاعات ساختگی به پرونده‌های پیشین و نقل‌قول‌های نادرست از آرای قضایی را پیش از آنکه به جریمه‌های سنگین، توبیخ یا سرزنش تحقیرآمیز از سوی قاضی منجر شوند، به دام بیندازد.

این ماجرا به‌هیچ‌وجه دردسر تازه‌ای نیست؛ چند سالی می‌شود که برخی وکلا برای انجام وظایف خود به هوش مصنوعی تکیه می‌کنند و همان‌طور که انتظار می‌رفت، نتایج فاجعه‌باری هم به بار آورده‌اند. حتی اگر مدل GPT-4 در سال ۲۰۲۳ موفق شده باشد آزمون وکالت را با موفقیت پشت سر بگذارد، این دستاورد اصلاً به معنای توقف توهم‌های آن در جعل پرونده‌ها و سوابق حقوقی نبوده است.

مدل‌های شرکت اوپن‌ای‌آی نیز در به دردسر انداختن وکلا تنها نیستند؛ جالب است بدانید سال گذشته حتی وکلای اختصاصی شرکت آنتروپیک هنگام دفاع از این شرکت در پرونده شکایت ناشران موسیقی بر سر نقض کپی‌رایت، تقصیر را به گردن مدل کلود انداختند. در آن پرونده، اظهارنامه رسمی یکی از دانشمندان داده آنتروپیک شامل دو ارجاع با فرمت خروجی کلود بود که به سوابق و پرونده‌های نادرست اشاره می‌کرد و وکلای پرونده هنگام بازبینی متوجه این خطا نشدند؛ در نتیجه وکلا کلود را مقصر اصلی این اتفاق دانستند.

این روزها گزارش‌های متعددی از ورود توهمات هوش مصنوعی به لوایح قضایی شنیده می‌شود و پیامدهای این اشتباهات فراتر از توبیخ‌های ساده حرفه‌ای رفته است؛ تا جایی که سال گذشته، حکم یک دادگاه در ایالت جورجیا پس از آنکه مشخص شد در متن دستور قضایی آن از ارجاعات ساختگی استفاده شده، به‌طور کامل باطل شد.

به بیان کوتاه، هوش مصنوعی و دنیای حقوق که بالاترین سطح از دقت و وسواس را می‌طلبد، همیشه ترکیب ایده‌آلی از آب درنمی‌آیند. در چنین شرایطی، وجود یک سیستم راستی‌آزمایی که بتواند بهتر از بازبین‌های انسانیِ به‌ظاهر حواس‌پرت عمل کند، کاملاً ضروری است؛ و CiteProof قصد دارد دقیقاً همین نقش را بر عهده بگیرد.

کاربران نسخه رایگان می‌توانند استعلام‌های تکی را در CiteProof برای ارزیابی ارجاعات یا مواد قانونی انجام دهند، در حالی که مشترکان پلن پولی به اسکن‌های عمیق‌تری دسترسی دارند که شامل گزارش‌های تفصیلی راستی‌آزمایی، اعتبارسنجی نقل‌قول‌ها، اسکن دسته‌جمعی اسناد و امکاناتی از این قبیل می‌شود.

سازندگان CiteProof اذعان کرده‌اند که به دلیل تیم کوچکشان، در توسعه اولیه این پلتفرم از متدولوژی vibe coding استفاده شده است، اما تأکید دارند که در فرآیند بررسی لوایح و شناسایی ردپای هوش مصنوعی، هیچ مدل هوش مصنوعی دیگری به کار گرفته نمی‌شود.

سخنگوی CiteProof در این زمینه توضیح می‌دهد: «شما نمی‌توانید توهمات هوش مصنوعی را با حدس و گمان‌های بیشترِ یک مدل هوش مصنوعی دیگر به‌شکل مطمئن مهار کنید؛ این اصل اساسی و بنیادین CiteProof است.»

بر اساس توضیحات ارائه شده، زیر کاپوت CiteProof از هیچ مدل بزرگ زبانی یا مدل‌های احتمالات خبری نیست؛ بلکه استعلام‌ها مستقیماً با جستجوی قطعی در سوابق عمومی دادگاه‌ها انجام می‌شوند تا مشخص شود آیا ارجاعاتی که هوش مصنوعی برای وکلا ارائه کرده، واقعیت دارند یا کاملاً ساختگی هستند.

البته ناگفته نماند که این ابزار قرار نیست به شما بگوید استدلال حقوقی مطرح‌شده چقدر قوی است؛ هدف CiteProof صرفاً آزاد کردن وقت دستیاران حقوقی است تا به‌جای صرف ساعت‌ها برای چک کردن ارجاعات، وقت خود را به کارهای مفیدتر و اثربخش‌تری اختصاص دهند.

به گفته این شرکت، تنها داده‌ای که از سرورهای CiteProof خارج می‌شود، رشته‌های متنی استخراج‌شده از ارجاعات است که برای سنجش واقعی بودن، به پایگاه داده CourtListener ارسال می‌شود. تمامی پردازش‌ها در خاک ایالات متحده انجام می‌گیرد و به تأکید سازندگان، در هیچ مرحله‌ای داده‌ها ذخیره نشده یا به هیچ مدل زبانی بزرگی فرستاده نمی‌شوند.

اما چرا وقتی هوش مصنوعی ابزاری چندان قابل‌اعتماد برای این حوزه نیست، باید وکلا را به استفاده بیشتر از آن ترغیب کرد؟ سازندگان CiteProof در پاسخ می‌گویند که غول دیگر از چراغ جادو بیرون آمده است؛ حتی اگر غول بی‌نظمی باشد که مدام اطلاعات جعلی سرهم می‌کند.

نماینده این شرکت توضیح می‌دهد: «وکلا و دستیاران حقوقی همین حالا هم برای تسریع پژوهش‌ها و پیش‌نویس لوایح از هوش مصنوعی استفاده می‌کنند و این موج پذیرش متوقف نخواهد شد. CiteProof قصد ندارد پذیرش کورکورانه هوش مصنوعی را تشویق کند، بلکه مانند یک حصار ایمنی عینی و مستقل عمل می‌کند تا اطمینان حاصل شود که در صورت استفاده از ابزارهای مولد، استنادهای جعلی پیش از ثبت رسمی در پرونده‌های دادگاه شناسایی و مهار می‌شوند.»

استفاده از چنین راهکاری مسلماً از دست روی دست گذاشتن بهتر است، حتی اگر چندان ارزان تمام نشود: اگر از سهمیه محدود پلن رایگان صرف‌نظر کنید، بررسی هر لایحه ۴۹ دلار هزینه دارد. علاوه بر این، بسته‌های تخفیفی چندتایی نیز ارائه شده است (۱۹۹ دلار برای یک بسته ۵ تایی) و برای مؤسسات حقوقی بزرگی که نمی‌توانند از تکیه بر هوش مصنوعی دست بکشند، اشتراک ماهانه‌ای به قیمت ۴۹۹ دلار برای بررسی ۲۰۰ لایحه در نظر گرفته شده است.