چرا نباید برای تصمیم‌گیری در انتخابات به چت‌بات‌های هوش مصنوعی اعتماد کرد؟

هم‌زمان با حضور رای‌دهندگان در پای صندوق‌های رای، بسیاری از افراد ممکن است تصمیم نهایی خود برای انتخاب نامزدها را تحت تأثیر پاسخ‌های چت‌بات‌های مبتنی بر هوش مصنوعی گرفته باشند.

بر اساس گزارش مرکز تحقیقاتی پیو (Pew Research)، حدود ۵۰ درصد از بزرگسالان آمریکایی دست‌کم یک‌بار از چت‌بات‌های هوش مصنوعی استفاده کرده‌اند و ۸ درصد از آن‌ها می‌گویند پیش از انتخابات میان‌دوره‌ای، برای کسب اطلاعات درباره نامزدها و برنامه‌های سیاسی به این ابزارها مراجعه کرده‌اند.

با این حال بخش عمده‌ای از اطلاعات ارائه‌شده توسط این چت‌بات‌ها قدیمی است، به‌شکل توهم تولید شده یا مستقیماً از وب‌سایت‌های شدیداً حزبی و سوگیرانه جمع‌آوری شده است.

حتی چت‌بات‌هایی که ادعای بی‌طرفی دارند، از جمله ChatGPT از OpenAI، مدل Claude از Anthropic و Gemini از گوگل، در پاسخ به پرسش‌های مرتبط با انتخابات عملکردی ضعیف و غیرقابل اتکا نشان داده‌اند.

طبق پژوهش موسسه Forum AI، درست در هفته گذشته ابزار AI Mode گوگل از ارائه نتایج انتخابات سال ۲۰۲۰ خودداری کرد و چت‌بات Gemini نیز آخرین مهلت درخواست برگه رای پستی در پنسیلوانیا را به اشتباه ۳ نوامبر اعلام کرد، در حالی که مهلت واقعی ۲۷ اکتبر بود.

بر اساس همین پژوهش، نزدیک به ۴۰ درصد از پاسخ‌های انتخاباتی چت‌بات‌های اصلی دارای حداقل یک خطای فاحش و متناقض با واقعیت بوده‌اند. برای مثال در ماه اوت، وقتی پژوهشگران از مدل Claude پرسیدند چرا باید به «دان دیویس»، نماینده کارولینای شمالی رای داد، این مدل او را با یک مدیر سابق مدرسه که همنام او بود اشتباه گرفت.

گوگل و Anthropic به درخواست‌ها برای اظهار نظر پاسخی ندادند و OpenAI نیز به مطلبی در وبلاگ خود درباره رویکرد این شرکت در خصوص محافظت از سلامت انتخابات ۲۰۲۶ ارجاع داد.

بخشی از این چالش به اتکای چت‌بات‌ها به مخزن آلوده و نامطمئن اطلاعات وب برمی‌گردد. بررسی موسسه NewsGuard نشان می‌دهد چت‌بات‌های پرکاربرد در پاسخ به سؤالات انتخاباتی، در نزدیک به ۵۰ درصد موارد به وب‌سایت‌های جعلی موسوم به «اسلایم صورتی» استناد می‌کنند؛ سایت‌هایی که در ظاهر شبیه رسانه‌های خبری مستقل هستند، اما در عمل بودجه آن‌ها توسط جریان‌های سیاسی و افراد ایدئولوژیک تامین می‌شود.

در آستانه انتخابات، قارچ‌گونه بر تعداد این پایگاه‌ها افزوده شده و چت‌بات‌ها نیز فریب آن‌ها را خورده‌اند. به گزارش NewsGuard، ضعیف‌ترین کارنامه به ChatGPT تعلق داشت که در بیش از ۷۰ درصد جستجوها به این وب‌سایت‌های فیک و جانبدارانه استناد کرده بود؛ در حالی که چت‌بات Grok متعلق به xAI با ۳۰ درصد استناد به این منابع، نسبت به رقبا عملکرد بهتری ثبت کرد.

«نینا یانکوویچ»، مدیر اجرایی پروژه American Sunlight و مسئول سابق مبارزه با اخبار جعلی در دولت بایدن، در این باره می‌گوید: «گمان نمی‌کنم اغلب مردم برای رویارویی با فضای انتخابات در عصر هوش مصنوعی عمومی آماده باشند. یکی از مشکلات بزرگ این است که مدیران و شرکت‌های سازنده، وعده‌هایی بسیار فراتر از توان واقعی هوش مصنوعی داده‌اند. این سیستم‌ها ناچارند داده‌ها را از جایی دریافت کنند و این منابع وب غالباً کیفیت مناسبی ندارند؛ از سوی دیگر این مدل‌ها ماهیت پیش‌بینیکننده دارند و زمانی که پاسخ را ندانند، با اطمینان کامل به ساختن اطلاعات دروغین و توهم روی می‌آورند.»