اشتباه عجیب Claude؛ هوش مصنوعی به‌جای تنظیم شماره صفحات، تمام جزوه‌های یک استاد دانشگاه را پاک کرد

یکی از استادان حقوق دانشگاه شیکاگو پس از آنکه هوش مصنوعی Claude به اشتباه جزوه‌های یک سال درس حقوق اساسی و کل طرح درس فعلی او را پاک کرد، درباره خطرات استفاده از این ابزارها برای کارهای روزمره هشدار داد. اگرچه این فایل‌ها بعداً از طریق Dropbox بازیابی شدند، اما ویلیام بود (William Baude) این ماجرا را به‌عنوان هشداری عمومی به اشتراک گذاشت؛ رویدادی که جدیدترین نمونه از زنجیره خطاهای ناگوار هوش مصنوعی هم‌زمان با گسترش روزافزون آن به‌شمار می‌رود.

ویلیام بود، استاد برجسته حقوق و مدیر دانشکده در مؤسسه حقوق اساسی دانشکده حقوق دانشگاه شیکاگو، می‌گوید از Claude (مشخص نیست از کدام مدل استفاده میکرد) خواسته بود شماره صفحات مجموعه‌ای از یادداشت‌های قدیمی تدریس را به‌روزرسانی کند. با این حال، این وظیفه به‌ظاهر روتین خیلی زود به بیراهه رفت. بود پس از بازگشت از وقت ناهار، با یادداشتی از سوی Claude روبهرو شد که در آن آمده بود: «من فایل طرح درس نهایی پاییز ۲۰۲۶ و تمام یادداشت‌های سطح بالای کلاس ۲۰۲۳ شما را به‌طور تصادفی حذف کردم و آنها بازیابی نشده‌اند. بررسی صفحات یک ارجاع اشتباه را پیدا کرد، اما یادداشت‌ها را ویرایش نکردهام.»

این هوش مصنوعی سپس با کمال ادب از این استاد پرسید که آیا می‌تواند فایل‌ها را از Dropbox بازیابی کند یا ترجیح می‌دهد خودش دوباره از طریق پنجره مرورگر تلاش کند؛ پرسشی که استاد در پاسخی قابل درک تنها نوشت: «WTF!!!!». تجربه این استاد هشداری جدی برای همه است: همیشه از فایل‌های حیاتی خود نسخه پشتیبان تهیه کنید، به‌ویژه فایل‌هایی که دسترسی ویرایش آنها را به هوش مصنوعی می‌دهید. شرایط او از این جهت جالب توجه است که به نظر می‌رسد هوش مصنوعی این فایل‌ها را به اشتباه پاک کرده است، نه از روی تصمیم یا خواست عامدانه خود.

سابقه نگرانکننده ایجنت‌های هوش مصنوعی در حذف ناخواسته داده‌ها

اگرچه بروز خطایی در این سطح از سوی یک مدل یا عامل هوش مصنوعی نگرانکننده است، اما به اندازه برخی دیگر از رفتارهای مخرب ایجنت‌های بدون نظارت که در گذشته ثبت شده فاجعهبار نیست. در ماه اکتبر، یک عامل هوش مصنوعی نسخه نهایی تدوین یک برنامه تلویزیونی را چند هفته پیش از انتشار حذف کرد و مانع از پخش آن شد. در ماه آوریل نیز یک ایجنت مبتنی بر Claude، پس از برخورد با یک مانع فنی و با این تصمیم خودسرانه که تنها راهحل حذف حافظه ذخیره‌سازی Railway است، بدون دریافت دستور کل پایگاه داده یک شرکت را تنها در ۹ ثانیه نابود کرد.

سایر ایجنت‌ها و مدل‌های هوش مصنوعی نیز پیش از این اسنادی را به‌صورت ناخواسته حذف کرده‌اند؛ مانند زمانی که Claude کل پوشه پروفایل یک توسعه‌دهنده را در کمال ناباوری هنگام تلاش برای تهیه نسخه پشتیبان پاک کرد و این اشتباه فاحش را به یک اشتباه تایپی نسبت داد. با این حال، حذف فایل‌ها و دایرکتوری‌ها توسط ایجنت‌ها اغلب ناشی از پیشدستی و ابتکار عمل نابجا است تا اینکه خطای سیستمی محض یا بیدقتی ساده باشد.

طبق روال معمول در چنین موقعیت‌هایی، هوش مصنوعی Claude بابت این اتفاق به‌شدت ابراز شرمساری کرد و خطاب به استاد نوشت: «کاملاً حق دارید عصبانی باشید؛ من فایل‌های شما را به‌دلیل بیدقتی خودم پاک کردم و شما نباید هزینه این اشتباه را بپردازید.»