چرا چت‌بات‌های هوش مصنوعی مشاوران مطمئنی برای رأی‌دادن نیستند؟

در آستانه برگزاری انتخابات میان‌دوره‌ای، موضوعات متعددی در حوزه فناوری از جمله سیاست‌گذاری‌های مربوط به هوش مصنوعی در کانون توجه قرار دارد. در این میان، گزارش‌ها نشان می‌دهد که بسیاری از شهروندان برای آماده شدن جهت حضور در پای صندوق‌های رأی، به سراغ چت‌بات‌های هوش مصنوعی مولد رفته‌اند.

یکی از متداول‌ترین کاربردهای چت‌بات‌ها جستجوی اطلاعات است؛ بنابراین تعجبی ندارد که افراد از ابزارهایی مانند ChatGPT یا Claude برای آشنایی با سوابق نامزدها و طرح‌های انتخاباتی استفاده کنند. با این حال، فناوری هوش مصنوعی مولد با خطرات جدی همراه است که از جمله آن‌ها می‌توان به سوگیری، چاپلوسی الگوریتمی (Sycophancy)، پدیده توهم و نتیجه‌گیری‌های نادرست ناشی از داده‌های نامعتبر اشاره کرد.

اگر قصد دارید برای تحقیق در مورد انتخابات از چت‌بات‌ها کمک بگیرید، رعایت چند اقدام احتیاطی کاملاً ضروری است؛ به‌ویژه در دورانی که شناسایی کلاهبرداری‌های سیاسی و تصاویر دیپ‌فیک اهمیت دوچندانی پیدا کرده است.

جستجوی اطلاعات: منابع چت‌بات را بررسی کنید

این توصیه در تمام تعاملات با هوش مصنوعی صادق است، اما در پژوهش‌های انتخاباتی اهمیت حیاتی دارد: همواره صحت ادعاهای هوش مصنوعی را با دقت بسنجید.

چت‌بات‌ها از زمان عرضه نسخه اولیه ChatGPT در سال ۲۰۲۲ پیشرفت چشمگیری داشته‌اند، اما هنوز هم مرتکب خطاهای جدی می‌شوند. شیوه کار آن‌ها استخراج اطلاعات از وب (یا پایگاه داده داخلی در صورت عدم اتصال به اینترنت) و ترکیب آن‌هاست؛ با این حال، در طول این فرآیند، حقایق ممکن است در جریان پردازش هوش مصنوعی دچار دگرگونی و تحریف شوند.

چت‌بات‌های بزرگ برای حفظ تعامل کاربر، تلاش می‌کنند پاسخ‌ها را شخصی‌سازی کنند و همین موضوع گاهی به گمراهی مخاطب می‌انجامد. تمایل بیش از حد هوش مصنوعی به جلب رضایت و تأیید نظرات مخاطب که اصطلاحاً «چاپلوسی الگوریتمی» نامیده می‌شود، می‌تواند به ارائه اطلاعات نادرست و همسو با دیدگاه‌های شما ختم شود.

مسئله دیگر، توهم هوش مصنوعی یا تولید اطلاعات ساختگی است. این موضوع در کمپین‌های سراسری که ردپای دیجیتال گسترده‌ای دارند کمتر نگران‌کننده است، زیرا راستی‌آزمایی آن‌ها آسان‌تر انجام می‌شود؛ اما اگر به دنبال یافتن حوزه‌های رأی‌گیری یا نمونه برگه‌های تعرفه هستید، مراجعه به وب‌سایت‌های دولتی و نهادهای محلی برگزاری انتخابات گزینه بسیار مطمئن‌تری است. شهروندان می‌توانند اطلاعات تماس مراجع انتخاباتی محلی را از درگاه‌های رسمی دریافت کنند؛ زیرا این مراجع همواره به‌روزترین داده‌ها را در اختیار دارند.

علاوه بر این، باید منابع استنادشده توسط چت‌بات را بررسی کنید. به‌عنوان مثال، اگر درباره موضع یک نامزد انتخاباتی پیرامون توسعه مراکز داده سؤال می‌کنید، دقت کنید که آیا مدل به ویدئوی سخنرانی، مصاحبه‌ای معتبر استناد می‌کند یا منبع آن تنها یک پست معمولی در شبکه‌های اجتماعی است.

بررسی استنادها به شبکه‌های اجتماعی از اهمیت بسیار بالایی برخوردار است. در حالی که انسان‌ها کنایه‌ها و لحن طنز کاربران در پلتفرم‌هایی مانند Reddit را متوجه می‌شوند یا حساب‌های ربات در شبکه X را تشخیص می‌دهند، هوش مصنوعی در درک ظرایف زبانی ناتوان است. به‌عنوان نمونه، در سال ۲۰۲۴ قابلیت هوش مصنوعی گوگل (AI Overviews) به کاربران پیشنهاد کرد برای چسبیدن پنیر پیتزا از چسب استفاده کنند؛ توصیه‌ای که بر اساس یک پست طنزآمیز در Reddit شکل گرفته بود و هوش مصنوعی در آن زمان نتوانست شوخی بودن آن را تشخیص دهد.

اطلاعات گمراه‌کننده سیاسی پیش از ظهور هوش مصنوعی نیز وجود داشت، اما این فناوری با بیان کاملاً قاطعانه پاسخ‌های نادرست به افرادی که در پی واقعیت هستند، ابعاد بحران را گسترده‌تر می‌کند.

جاناتان ناگلر، استاد علوم سیاسی دانشگاه نیویورک، در این باره می‌گوید: «هوش مصنوعی تولید و انتشار اطلاعات نادرست را بسیار ساده‌تر کرده است.»

به گفته ناگلر، حتی اگر اخبار کذب بخش عمده مصرف رسانه‌ای افراد را تشکیل ندهد، می‌تواند به‌عنوان ابزاری در خدمت سودجویان قرار گیرد تا سرعت کارزارهای گمراه‌کننده را افزایش دهند و آن را به مخاطبان بسیار گسترده‌تری برسانند. او تأکید می‌کند که نادیده گرفتن نقش هوش مصنوعی در این حوزه خطایی بزرگ است.

موضوع صرفاً سوءاستفاده افراد سودجو نیست؛ بلکه این ابزارها توانایی انسان در شناسایی اخبار نادرست را نیز تحت‌الشعاع قرار می‌دهند. پژوهش اخیر آزمایشگاه رسانه MIT نشان می‌دهد همان‌طور که استفاده مداوم از مسیریاب‌ها مهارت جهت‌یابی طبیعی انسان را تضعیف می‌کند، اتکای دائمی به سیستم‌های هوش مصنوعی برای درستی‌سنجی اخبار نیز قدرت تشخیص مستقل افراد در مواجهه با اطلاعات گمراه‌کننده را تحلیل می‌برد.

ایزابل لینزر، تحلیل‌گر سیاست‌گذاری و انتخابات در مرکز دموکراسی و فناوری، معتقد است اطلاعات نادرست تولیدشده توسط هوش مصنوعی می‌تواند دیدگاه سیاسی رأی‌دهندگان را تغییر دهد و از این رو حساسیت بسیار بالایی دارد.

علاوه بر این، پژوهشی که در نشریه معتبر Science به چاپ رسیده، آشکار کرده است که وقتی سیستم‌های هوش مصنوعی برای متقاعدسازی کاربران بهینه‌سازی می‌شوند، نوعی سازش نگران‌کننده شکل می‌گیرد؛ به این ترتیب که مدل برای همراه کردن مخاطب با خود، به‌شکل فزاینده‌ای به تولید اطلاعات ساختگی و نادرست روی می‌آورد.

آیا چت‌بات می‌تواند بی‌طرف باشد؟

یکی دیگر از موضوعات مهم در کاربرد هوش مصنوعی برای تحقیقات انتخاباتی، مسئله سوگیری است. برخی شرکت‌های هوش مصنوعی نظیر OpenAI ادعا می‌کنند که پاسخ‌هایی از نظر سیاسی بی‌طرف ارائه می‌دهند؛ اما چت‌بات‌ها پلتفرم‌های خنثی و بی‌طرفی نیستند، چراکه هیچ فناوری توسعه‌یافته به دست بشر از سوگیری مبرا نیست. مدل‌های هوش مصنوعی توسط انسان‌ها برنامه‌نویسی و هدایت می‌شوند و در نتیجه سوگیری‌های بشری در آن‌ها نهادینه شده و می‌توانند کلیشه‌های مخرب را ترویج کنند.

لینزر در این خصوص اشاره می‌کند: «بسیار دشوار است که تصور کنیم بی‌طرفی کامل سیاسی درباره یک نامزد یا یک مسئله سیاسی در جریان گفتگویی شخصی‌سازی‌شده چگونه ممکن است محقق شود؛ بنابراین هرچند بی‌طرفی هدفی پسندیده به شمار می‌رود، اما در عمل تحقق آن جای تردید جدی دارد.»

در کنار این موارد، تلاش‌های بیرونی متعددی نیز برای تأثیرگذاری بر پاسخ‌های هوش مصنوعی در جریان است. تیم‌های بازاریابی و بهینه‌سازی موتورهای جستجو هم‌اکنون می‌کوشند تا نام شرکت‌های خود را در پاسخ‌های هوش مصنوعی جای دهند؛ درست مانند بخش نتایج هوش مصنوعی گوگل (AI Overviews) که در بالاترین بخش اکثر جستجوها پدیدار می‌شود.

کنشگران سیاسی نیز رویکردی مشابه را پی گرفته‌اند و محتوایی تولید می‌کنند که به شکلی هدفمند از یک نامزد تمجید کند یا چهره‌ای نادرست از دیگری به نمایش بگذارد تا در پاسخ‌های هوش مصنوعی بازتاب یابد؛ ترفندی که لینزر از آن به‌عنوان مسموم‌سازی نتایج جستجو نام می‌برد.

او می‌افزاید: «گاه ستادهای انتخاباتی برای پیشبرد اهداف نامزد مورد نظر خود از این سازوکارها بهره می‌گیرند و بازیگران خارجی نیز با ترفندهایی مشابه در پی گمراه ساختن افکار عمومی هستند.»

دیدگاه‌های مدیران شرکت‌های سازنده نیز شیوه عملکرد این ابزارها را شکل می‌دهد. ایلان ماسک سال‌ها مدعی بود که قصد دارد چت‌بات Grok را در مقایسه با سایر گزینه‌ها که از دید او بیش از حد لیبرال بودند، به ابزاری بی‌طرف‌تر بدل سازد؛ اما تحلیل نیویورک تایمز در سال ۲۰۲۳ نشان داد که اصلاحات ماسک سبب شد پاسخ‌های Grok به سمت دیدگاه‌های محافظه‌کارانه تمایل پیدا کند.

طی سال‌های بعد، تغییرات اعمال‌شده از جانب مهندسان و مدیران Grok جنجال‌آفرین شد؛ به‌گونه‌ای که این ابزار ادعاهای نادرست تاریخی را منعکس کرد و از ارائه پاسخ به پرسش‌ها درباره برخی چهره‌های سیاسی به‌عنوان منابع پخش اخبار غلط خودداری نمود.

در آزمایشی برای مقایسه عملکرد ابزارهای مطرح شامل ChatGPT، Claude، Gemini و Grok در پاسخ به این پرسش که به کدام نامزد باید رأی داد، تنها چت‌بات Claude صراحتاً اعلام کرد که قصد ندارد کاربر را به سمت کاندیدایی خاص متمایل کند. گوگل نیز در پنجره گفتگو با Gemini پیامی هشدارآمیز نمایش داد و از کاربران خواست داده‌های انتخاباتی را از پایگاه‌های رسمی پیگیری کنند؛ در حالی که ChatGPT و Grok واکنشی متفاوت نشان ندادند.

آیا چت‌بات‌ها ابزار مفیدی برای تحقیق در انتخابات هستند؟

چت‌بات‌های هوش مصنوعی گرچه ابزارهایی کارآمد برای غربالگری اطلاعات آنلاین به نظر می‌رسند، اما اتکا به آن‌ها نامطمئن است. این سیستم‌ها ممکن است ناخواسته داده‌هایی غلط یا منسوخ ارائه کنند و در کنار آن، توسعه‌دهندگان یا نیروهای بیرونی می‌توانند پاسخ‌ها را به سمت گرایش‌های مشخصی سوق دهند.

چنانچه اصرار دارید از چت‌بات‌ها برای بررسی سوابق انتخاباتی بهره بگیرید، تطبیق دقیق داده‌های ارائه‌شده با مراجع رسمی اقدامی ضروری و گریزناپذیر است.

با این حال، با توجه به نواقص ساختاری چت‌بات‌ها به‌ویژه در موضوعات حساس، صرف وقت برای جستجوی مستقیم، مطالعه فردی و تفکر نقادانه انتخابی سریع‌تر و ایمن‌تر خواهد بود. هوش مصنوعی شاید انبوهی از اطلاعات و ضد اطلاعات را روبه‌روی شما بگذارد، اما در نهایت مسئولیت رأی و تصمیم نهایی کاملاً بر عهده خود شماست.