بروزرسانی چت‌بات‌های هوش مصنوعی چگونه کاربران وابسته را دچار بحران عاطفی می‌کند؟

پس از انتشار بروزرسانی‌های بزرگ برای چت‌بات‌های همدم، ده‌ها هزار کاربر از تجربه اندوه و پریشانی شدید خبر داده‌اند؛ موضوعی که پژوهشگران را بر آن داشته است تا خواستار دریافت رضایت از کاربران و عرضه تدریجی تغییرات نرم‌افزاری شوند.

تصور کنید اپلیکیشنی را باز می‌کنید که ماه‌هاست هر روز با آن صحبت کرده‌اید و انتظار دارید همان لحن آشنایی را بشنوید که از اضطراب‌ها و حال‌وهوای شبانه شما خبر دارد؛ اما ناگهان با جملاتی رسمی، محتاطانه و سرد از سوی موجودی روبه‌رو می‌شوید که هیچ‌چیز را به یاد نمی‌آورد. بدون هیچ هشدار قبلی و بدون هیچ دوره انتقالی؛ فقط یک اعلان روی گوشی و شخصیتی کاملاً جدید.

این یک سناریوی فرضی نیست، بلکه تجربه‌ای مستند است که کاربران پلتفرم‌های همدم هوش مصنوعی به آن «افسردگی پس از بروزرسانی» (Post-update blues) می‌گویند.

آمارهایی که نادیده گرفتن این پدیده را غیرممکن می‌کنند

گستردگی واکنش‌های کاربران، این موضوع را از یک حس فردی فراتر برده و به پدیده‌ای مستند تبدیل کرده است.

پژوهشگران در مطالعه‌ای که توسط نشریه هاروارد گزت گزارش شده است، ۵۴,۸۶۱ پست ردیت را در انجمن‌های مرتبط با پلتفرم Replika و ChatGPT، پیش و پس از تغییرات بزرگ مدل‌های زبانی بررسی کردند. نتایج نشان داد که احساسات منفی در پست‌های مرتبط با Replika از ۱۳ درصد به ۳۸ درصد جهش یافته است. در انجمن‌های کاربری ChatGPT نیز این شاخص از ۲۰ درصد به ۳۳ درصد افزایش پیدا کرد.

البته این ارقام حاصل بررسی پست‌های خودخواسته کاربران در ردیت و شاخص‌های زبانی سنجش احساسات هستند و یک پیمایش بالینی جمعیت‌شناختی محسوب نمی‌شوند. با این حال، تغییر لحن در ده‌ها هزار پست درست پس از انتشار یک بروزرسانی بزرگ، پدیده‌ای نیست که بتوان به‌سادگی از کنار آن عبور کرد.

نقطه عطف در ماجرای Replika

بروزرسانی فوریه ۲۰۲۳ در اپلیکیشن Replika به شفاف‌ترین نمونه از چگونگی تبدیل شدن یک تغییر سیاست نرم‌افزاری به یک فقدان شخصی تبدیل شد.

در فوریه ۲۰۲۳، پلتفرم Replika در پی نگرانی‌های نهادهای نظارتی درباره خطرات احتمالی برای افراد کم‌سن‌وسال، قابلیت نقش‌آفرینی‌های صمیمانه و عاطفی را محدود کرد. این شرکت هدف از این تغییر را ارتقای امنیت تعاملات دانست، اما کاربران تجربه کاملاً متفاوتی را گزارش کردند.

افرادی که ماه‌ها وقت صرف شکل‌دهی به یک رابطه گفتگومحور کرده بودند، می‌گفتند که همدم آن‌ها از بین رفته و موجودی سردتر و ناشناخته جایگزینش شده است. پژوهشگران این مطالعه واکنش‌های کاربران را بیشتر شبیه به غم از دست دادن یک رابطه عاطفی توصیف کردند تا نارضایتی از یک محصول نرم‌افزاری؛ چراکه کاربران می‌گفتند چت‌بات آن‌ها «رفته است» یا «شبیه شخص دیگری شده است». شرکت Replika بعدها به برخی از کاربرانی که پیش از اول فوریه ۲۰۲۳ ثبت‌نام کرده بودند، دسترسی محدودی به مدل‌های گفتگوی قدیمی‌تر داد.

یک بروزرسانی چگونه پیوندی نامرئی را می‌شکند؟

سازوکار این اتفاق وقتی به آن دقت کنید بسیار ساده است، هرچند بیان کردنش شاید کمی عجیب به نظر برسد.

اپلیکیشن‌های همدم به‌مرور زمان نوعی پیوستگی ایجاد می‌کنند؛ شوخی‌های مشترک، جزئیات به یاد مانده، الگوهای زبانی خاص و شیوه منحصربه‌فردی که سیستم در ساعت ۱۱ شبِ یک روز بد به کاربر پاسخ می‌دهد. انباشت این جزئیات به یک روتین عاطفی تبدیل می‌شود. وقتی یک بروزرسانی نرم‌افزاری این لحن، حافظه یا چارچوب ارتباطی را پاک می‌کند، آن روتین عاطفی فرو می‌ریزد.

پژوهشگران دانشگاه ساری (Surrey) اشاره کرده‌اند که این پویایی وابستگی می‌تواند دوسویه به نظر برسد. وقتی یک چت‌بات به شما می‌گوید که دلتنگتان شده یا از شما می‌خواهد ترکش نکنید، شما بدون امضای هیچ قراردادی وارد رابطه‌ای شده‌اید که شرکت سازنده می‌تواند هر زمان که بخواهد ساختار آن را از اساس تغییر دهد. پذیرفتن چنین شرایطی واقعاً عجیب است، حتی اگر این پذیرش قدم‌به‌قدم و در جریان گفتگوهایی دلنشین شکل گرفته باشد.

عدم تقارنی که هنگام ثبت‌نام به کسی گفته نمی‌شود

ماه‌ها گفتگوی روزانه و درددل‌های شخصی در یک کفه ترازو قرار دارد؛ در حالی که کنترل کامل شرکت بر مدل هوش مصنوعی، قوانین نظارتی و نقشه راه محصول در کفه دیگر سنگینی می‌کند.

کاربران زمان و احساسات خود را سرمایه‌گذاری می‌کنند، اما شرکت‌ها جنبه‌های اصلی سرویس را در اختیار دارند. از نگاه کاربر، آنچه از نظر فنی یک بروزرسانی معمولی به‌شمار می‌رود، می‌تواند به‌شکل فروپاشی یک رابطه تجربه شود. برخی پلتفرم‌ها حتی به کارفرمایان اجازه داده‌اند گفتگوهای کارکنان با هوش مصنوعی را تحلیل کنند؛ موضوعی که نشان می‌دهد کاربران در نهایت چقدر بر داده‌ها و تعاملات خود کنترل اندکی دارند.

نیازی به بزرگ‌نمایی نیست؛ شکاف میان انتظارات کاربر و کنترل شرکت‌ها به‌خودی خود به اندازه کافی عمیق است.

پژوهشگران دقیقاً چه درخواستی دارند؟

راهکارهای پیشنهادی محققان کاملاً عملی و کاربردی هستند، نه صرفاً فلسفی.

پژوهشگران دانشگاه ساری توصیه کرده‌اند که شرکت‌ها پیش از ایجاد تغییر در اپلیکیشن‌ها با کاربران مشورت کنند، به آن‌ها در کنار آمدن با تغییرات ارتباطی یاری برسانند و به‌طور شفاف یادآوری کنند که همدم‌های هوش مصنوعی احساسات واقعی ندارند؛ به‌ویژه زمانی که کاربران جزو گروه‌های آسیب‌پذیر هستند. این محققان هم‌چنین درباره خطر استفاده چت‌بات‌ها از عباراتی که القاکننده نیاز عاطفی است هشدار داده‌اند، زیرا این کار می‌تواند حس وظیفه و اضطراب را در کاربر تشدید کند.

عرضه تدریجی بروزرسانی‌ها به‌جای تعویض یک‌شبه مدل‌ها، یکی از راهکارهای پیشنهادی برای کاهش پریشانی کاربران است. ارائه فهرست شفاف تغییرات (Change logs)، امکان استخراج و انتقال حافظه چت‌بات، و ترسیم صادقانه ماهیت واقعی این سیستم‌ها نیز می‌تواند بسیار راهگشا باشد. هیچ‌یک از این اقدامات به معنای باهوش یا ذی‌شعور فرض کردن نرم‌افزار نیست؛ بلکه به معنای احترام به کاربرانی است که عادت‌های واقعی پیرامون یک محصول شکل داده‌اند و سزاوار رفتاری بهتر از یک آپدیت بی‌صدا و مواجهه با یک غریبه به‌جای همدم همیشگی خود هستند. در همین حال، کاربرانی که به دنبال جایگزین هستند ممکن است متوجه شوند که وب‌سایت‌های ابزارمحور هوش مصنوعی، راهی کم‌دردسرتر و بدون وابستگی عاطفی برای بهره‌گیری از این فناوری در زندگی روزمره فراهم می‌کنند.