چت‌بات‌ها دفترچه خاطرات نیستند؛ ماجرای زنی که آنتروپیک چت‌هایش با کلود را تحویل پلیس داد!

سیستم‌های امنیتی شرکت آنتروپیک (Anthropic) پیام‌های یک زن اهل شهر بونیتا اسپرینگز در چت‌بات کلود را یک «تهدید معتبر و جدی» تشخیص دادند و ماجرا را بدون نیاز به حکم قضایی، مستقیماً به کلانتر فلوریدا گزارش کردند.

کارلی میشل هلر، زن ۳۰ ساله‌ای که ساکن بونیتا اسپرینگز در فلوریداست، بر اساس گزارش‌های منتشرشده از پرونده بازداشت، کلود را مثل یک «دفترچه خاطرات» شخصی می‌دانسته است. اما طبق همین گزارش، او در یکی از چت‌هایش به قصد خود برای تیراندازی و «به رگبار بستن» اداره کلانتر شهرستان لی (Lee County) اشاره کرده بود. فیلترها و سیستم‌های ایمنی خودکار کلود این مکالمه را نشان‌دار کردند، یک بازبین انسانی این تهدید را جدی تشخیص داد و خیلی زود مأموران پلیس دم در خانه او حاضر شدند.

تکلیف این پرونده در دادگاه مشخص خواهد شد، اما سؤال بسیار بزرگ‌تر و مهم‌تر روبه‌روی تک‌تک کسانی قرار دارد که تا حالا حرفی کاملاً خودمانی، بی‌پرده و شخصی را در صفحه چت یک هوش مصنوعی تایپ کرده‌اند.

گزارش بازداشت پلیس چه می‌گوید؟

پیام‌های ثبت‌شده حاوی یک هدف کاملاً مشخص و اشاره به تهیه اسلحه گرم بود که در نهایت کار را به حضور نیروهای پلیس کشاند.

طبق جزئیات ثبت‌شده در برگه بازداشت، ادعا شده که هلر در تاریخ ۲۶ سپتامبر نوشته قصد دارد اداره کلانتر شهرستان لی را به رگبار ببندد. در پیام بعدی هم ظاهراً به تلاش برای تهیه یک اسلحه جدید اشاره شده بود. سیستم‌های پایش خودکار کلود این عبارات را شناسایی کرده و پرونده را به یک بازبین انسانی ارجاع دادند؛ بازبینی که محتوا را یک تهدید واقعی قلمداد کرد و موضوع را به پلیس اطلاع داد. مأموران کلانتری هلر را بدون درگیری بازداشت کردند و سپس کارآگاه بخش اطلاعات پرونده را به دست گرفت. جلسه دادگاه برای ماه نوامبر تعیین شده و البته هلر هنوز در دادگاه محکوم نشده و تمام این موارد در مرحله اتهام قرار دارند.

استثنای اضطراری آنتروپیک چیست؟

سیاست افشای اضطراری آنتروپیک بسیار محدود است، اما بیش‌تر کاربران روحشان هم از وجود چنین بندی خبر ندارد.

روال استاندارد آنتروپیک برای پاسخ به درخواست‌های دولتی نیازمند طی شدن مراحل قانونی معتبر مانند احضاریه یا حکم قضایی است. با این حال، در سیاست‌های رسمی این شرکت یک استثنای اضطراری هم در نظر گرفته شده؛ به این صورت که اگر کارشناسان احساس کنند خطر جانی فوری یا آسیب فیزیکی شدید در میان است، اجازه دارند بدون معطلی و بدون نیاز به حکم دادگاه اطلاعات را به پلیس منتقل کنند. ماجرای اخیر هم دقیقاً در همین قالب می‌گنجد: یک هدف مشخص، تهدیدی شفاف و اشاره مستقیم به سلاح گرم. البته این به آن معنا نیست که کلود تمام درد‌دل‌ها و رازهای کاربران را برای پلیس ایمیل می‌کند!

مشکل اصلی وجود چنین بندی نیست، بلکه مسئله اینجاست که اکثریت قاطع کاربران اصلاً خبر ندارند چنین استثنایی در قوانین این سرویس‌ها وجود دارد.

قوانین فلوریدا درباره تهدیدهای الکترونیکی

تایپ کردن یک پیام تهدیدآمیز در چت‌بات، اصلاً شبیه به نوشتن آن در یک دفترچه یادداشت قفل‌دار نیست.

طبق ماده قانونی ۸۳۶.۱۰ ایالت فلوریدا، ارسال هر نوع پیام یا داده الکترونیکی که شامل تهدید به قتل، آسیب بدنی، تیراندازی جمعی یا اقدامات تروریستی باشد و امکان مشاهده آن توسط شخص ثالث وجود داشته باشد، یک جرم درجه دو محسوب می‌شود. نوشتن یک متن در یک سرویس هوش مصنوعی ابری، به هیچ عنوان محرمانگیِ یک یادداشت دست‌نویس که در کشوی قفل‌شده خانه نگهداری می‌شود را ندارد. اینکه آیا پیام‌های هلر تمام مصادیق این ماده قانونی را پر می‌کند یا نه، چیزی است که دادگاه باید درباره‌اش تصمیم بگیرد.

ظاهری خصوصی و صمیمی، اما تحت نظارت شدید

شرکت‌های هوش مصنوعی کاربران را به بازگو کردن احساسات و حرف‌های دلشان تشویق می‌کنند، اما باید شفاف و رک به آنها بگویند این کار چه پیامدهایی دارد.

رابط کاربری کلود طوری طراحی شده که حس و حال یک چت کاملاً خصوصی را به شما می‌دهد؛ چیزی بسیار شبیه به اپلیکیشن‌های یادداشت‌برداری شخصی، نه یک تالار گفت‌وگوی عمومی. این حس صمیمیت شاید واقعی به نظر برسد، اما محرمانگی فنی و حقوقی‌ای که کاربر در ذهن خودش می‌سازد، خیالی بیش نیست! درست مثل مواردی که کاربران از ردگیری مخفیانه داده‌هایشان غافلگیر می‌شوند، این فاصله بزرگ میان «حریم خصوصی ذهنی» و «حریم خصوصی واقعی» می‌تواند تبعات سنگینی داشته باشد.

دو تغییر اساسی می‌تواند این خلأ را تا حد زیادی برطرف کند: اول اینکه بند مربوط به افشای اضطراری اطلاعات باید در جایی بسیار واضح‌تر و دمِ دست‌تر از صفحات راهنما و اسناد پشتیبانی (که کم‌تر کاربری سراغشان می‌رود) نمایش داده شود. دوم اینکه آنتروپیک و بقیه رقبا باید آمار‌های تجمیعی و دوره‌ای منتشر کنند تا مشخص شود در طول سال، چند بار چنین گزارش‌های اضطراری به پلیس ارسال می‌شود. این آمار و ارقام دیدی واقعی درباره ریسک لو رفتن چت‌ها به کاربران می‌دهد، نه اینکه آنها را در هاله‌ای از ابهام و حدس و گمان رها کند.

دفعه بعد که خواستید با یک چت‌بات مثل دفترچه خاطرات خلوت کنید، این نکته طلایی را به یاد داشته باشید: رابط کاربری شاید خصوصی و خودمانی باشد، اما زیرساختی که به آن متصل شده‌اید عمومی و ابری است! این دو زمین تا آسمان با هم فرق دارند و حالا دیگر شما هم این راز را می‌دانید.