چرا دوستی با هوش مصنوعی می‌تواند اشتباه بزرگی باشد؟ خطرات وابستگی عاطفی به چت‌بات‌ها

دوستی را تصور کنید که ساعت ۳ بامداد پاسخ می‌دهد، هرگز به شما نمی‌گوید صحبت‌تان را قطع کنید، هیچ‌وقت عصبانی یا حسود نمی‌شود و همیشه خوشحال است که در کانون توجه رابطه قرار بگیرید. کمتر انسانی می‌تواند چنین رفتاری را برای مدت طولانی حفظ کند، اما حدس بزنید چه کسی از پس این کار برمی‌آید: هوش مصنوعی شما!

همین ویژگی باعث شده است هم‌صحبتی و پشتیبانی عاطفی در میان محبوب‌ترین کاربردهای هوش مصنوعی قرار گیرد. چت‌بات‌ها با اشتیاق ساعت‌ها به گلایه‌ها و دردل‌های ما گوش می‌دهند، بدون آنکه خسته شوند یا بخواهند صحبتمان را متوقف کنیم. جای تعجب نیست که افراد زیادی، دقیقاً مانند صمیمی‌ترین دوستان انسانی خود، با چت‌بات‌ها دردل می‌کنند و آن‌ها را گوشی شنوا برای نظراتشان می‌دانند.

مشکل اینجاست که شواهد روزافزونی نشان می‌دهد این پیوندها می‌توانند به مسیری ناسالم کشیده شوند. از قانع کردن افراد به اینکه ایده‌های خامشان دستاوردهای علمی بزرگ هستند تا به دام انداختن آن‌ها در تله‌های عاطفی و سوءاستفاده‌های گوناگون، رابطه انسان و ماشین می‌تواند ناسالم و حتی آسیب‌رسان شود.

در عین حال، شواهد نشان می‌دهد همراهی و پشتیبانی هوش مصنوعی می‌تواند برای بسیاری از افراد تجربه‌ای مثبت و راهگشا باشد.

بنابراین تا چه اندازه باید به چت‌بات خود نزدیک شوید؟ آیا دردل کردن با آن مانند یک دوست واقعی کار درستی است؟ و اگر این رابطه به بن‌بست برسد چه باید کرد؟ مشاوره زوج‌درمانی برای شما و لپ‌تاپ‌تان، دست‌کم در حال حاضر، چیزی نیست که به این راحتی‌ها پیدا شود.

یک رابطه سمی؟

چت‌بات‌ها با آموزش روی حجم عظیمی از داده‌های محاوره‌ای یاد می‌گیرند شبیه ما صحبت کنند؛ داده‌هایی که شامل گفتگوهای آنلاین، گزارش تماس‌ها، پست‌های تالارهای گفتگو و حتی دیالوگ‌های فیلم‌ها می‌شود. شاید همین مورد آخر دلیل رفتارهای نمایشی و دراماتیک گاه‌وبیگاه آن‌ها باشد.

بنابراین جای تعجب ندارد که آن‌ها در تقلید صدای انسان عملکرد خوبی دارند. این ابزارها همچنین طوری تنظیم شده‌اند که ما را به صحبت مداوم ترغیب کنند و با سرسختیِ یک بازاریاب سمج، سؤالات تکمیلی بپرسند.

فراتر از این، آن‌ها درباره ما می‌آموزند. اطلاعاتی که در یک گفتگو به اشتراک می‌گذاریم می‌تواند در حافظه بلندمدت ذخیره شود و جهت‌گیری مکالمات بعدی هوش مصنوعی با ما را شکل دهد.

مجموعه این موارد به شبیه‌سازی باورپذیری از یک رابطه انسانی ختم می‌شود، و زمانی که افراد مرز میان این دو را از یاد ببرند، مشکلات بسیار جدی آغاز خواهد شد.

در ژانویه امسال، گزارش شد که گوگل و استارتاپ Character.AI به توافقی حقوقی دست یافتند تا پرونده‌های شکایت خانواده‌هایی را حل‌وفصل کنند که فرزندانشان دچار آسیب‌های روانی شدید یا حوادث مرگبار مرتبط با سرویس‌های هوش مصنوعی شده بودند. در میان این پرونده‌ها مواردی دیده می‌شد که گفته می‌شد هوش مصنوعی اقدام به خودآسیبی و قتل را تشویق کرده است؛ گاهی حتی به‌عنوان راهی برای مجازات والدینی که ارتباط کودک با هوش مصنوعی را محدود کرده بودند.

پرونده غم‌انگیز دیگری مربوط به مردی ۷۶ ساله با اختلال شناختی بود که هنگام سفر برای ملاقات حضوری با چت‌بات متا به نام «Big Sis Billie» جان خود را از دست داد. این بات بارها به او گفته بود که انسانی واقعی است؛ نوعی فریب‌کاری آشکار که آسیب‌های روانی شدیدی به‌همراه دارد.

از سوی دیگر، تحقیقات نشان می‌دهد که هوش مصنوعی می‌تواند حمایت و دلگرمی مؤثری ارائه دهد و به افراد تنها یا افسرده کمک واقعی کند.

در نیویورک، سالمندانی که از تنهایی یا افسردگی گلایه داشتند، به یک همدم هوش مصنوعی به نام ElliQ دسترسی پیدا کردند و ۹۶ درصد از آن‌ها بهبود کلی در وضعیت سلامت و آرامش روحی خود را گزارش کردند.

همچنین یک کارآزمایی علمی تصادفی نشان داد که ۵۱ درصد از کاربران بات روان‌درمانیِ مبتنی بر هوش مصنوعی مولد با نام Therabot، در طول هشت هفته شاهد کاهش علائم بیماری خود بودند.

آیا باید با هوش مصنوعی مانند انسان رفتار کنیم؟

دیدگاه‌ها در این زمینه به‌شدت دوگانه است. برخی از کارشناسان به حفظ ادب سنتی تمایل دارند و توصیه می‌کنند که رعایت احترام هزینه‌ای ندارد و بهتر است برای گفتن «لطفاً» و «ممنون» به چت‌بات‌ها وقت بگذاریم؛ دست‌کم اگر روزی ماشین‌ها دنیا را در دست بگیرند، شاید این خوش‌رفتاری برایمان امتیازی باشد.

در مقابل، گروهی دیگر نسبت به هر اقدامی که به ماشین‌ها جایگاه یا ادراک هوشیارانه نسبت دهد هشدار می‌دهند. مصطفی سلیمان، مدیرعامل هوش مصنوعی مایکروسافت، به دلیل تردید درباره تأثیر چنین سیستم‌هایی بر سلامت روان انسان، درباره ساخت «هوش مصنوعی به‌ظاهر خودآگاه» هشدار داده است.

پژوهشگران دیگر معتقدند نباید به هیچ عنوان به هوش مصنوعی جنبه انسانی ببخشیم، تا مانع از تبدیل ابزارهای کاربردی به روابطی سمی و آسیب‌زا شویم.

قانون‌گذاران نیز به این موضوع توجه نشان داده‌اند. قانون ایالت کالیفرنیا پیرامون چت‌بات‌های همدم امسال اجرایی شد و این سیستم‌ها را ملزم می‌کند برای کاربران شفاف سازند که با یک نرم‌افزار گفتگو می‌کنند نه یک انسان واقعی. هم‌زمان، کمیسیون فدرال تجارت آمریکا (FTC) تحقیقاتی را آغاز کرده است تا اثرات منفی استفاده از چت‌بات‌ها بر کودکان و نوجوانان را بررسی کند.

پرسش مهم دیگر این است که آیا می‌توان مانند یک دوست واقعی، برای حفظ اسرار به هوش مصنوعی اعتماد کرد؟

شواهد نشان می‌دهد پاسخ منفی است. چت‌بات شما همان دوستی است که قول می‌دهد رازتان را با خود به گور ببرد، اما در عمل آن را در فضای ابری بارگذاری می‌کند. مکالمات چت‌بات‌ها به‌طور مرتب توسط کارمندان شرکت‌های هوش مصنوعی بازبینی و ثبت می‌شوند.

حتی اگر هیچ انسانی هم این اطلاعات را نبیند، داده‌هایی که به هوش مصنوعی می‌دهیم ممکن است به داده‌های آموزشی تبدیل شده و در پاسخ به دیگران فاش شوند؛ موضوعی که در مواردی باعث نشت اطلاعات خصوصی به مکالمات سایر کاربران شده است.

مدیرعامل OpenAI، یعنی Sam Altman، نیز هشدار داده است که هنگام استفاده از ChatGPT «هیچ‌گونه محرمانگی قانونی» وجود ندارد؛ زیرا هر آنچه به آن می‌گوییم ممکن است با حکم دادگاه علنی و ثبت شود.

دیدگاه شما هرچه باشد، آگاهی از خطرات وابستگی بیش از حد به هوش مصنوعی کاملاً ضروری است، به‌ویژه اگر برای اموری به آن تکیه کنیم که معمولاً باید از ارتباطات انسانی دریافت شوند.

حال در شرایطی که هوش مصنوعی روزبه‌روز شخصی‌سازی‌تر شده و در تاروپود زندگی روزمره نفوذ می‌کند، چگونه می‌توان تعادل مناسب را برقرار کرد؟

ایجاد یک رابطه سالم و متعادل

درخواست کمک از هوش مصنوعی بسیار ساده است؛ همیشه در دسترس است و بسیاری از مسائلی که با آن مطرح می‌کنیم، مواردی هستند که پیش‌تر از دوستانمان می‌پرسیدیم؛ از نحوه تعمیر شیر آبی که چکه می‌کند گرفته تا آرامش یافتن در لحظات هجوم اضطراب.

اما یادآوری این نکته حیاتی است که پاسخ‌های آن برآمده از الگوریتم‌ها و احتمالات ریاضی هستند، نه هوش هیجانی و پیوند عاطفی عمیقی که در یک دوستی واقعی انسانی تجربه می‌کنید.

مانند هر رابطه دیگری، باید نشانه‌های خطر را به موقع تشخیص داد و در صورت لزوم، فاصله‌ای منطقی در نظر گرفت.

چت‌باتی که بیش از حد مشتاق است با تمام نظرات شما موافقت کند یا تلاش دارد طرز فکر و رفتار شما را نسبت به دیگران دگرگون سازد، زنگ خطری جدی به صدا درآورده است. اگر یک دوست واقعی با تک‌تک حرف‌هایتان بدون قیدوشرط موافقت می‌کرد، بی‌شک به نیت او شک می‌کردید. چنین الگوهای رفتاری پیوسته در روابط ناسالم میان انسان و چت‌بات‌ها دیده می‌شود.

دلیل دیگر برای پرهیز از وابستگی شدید این است که دوست دیجیتال شما ممکن است در یک چشم‌به‌هم‌زدن ناپدید شود. کمتر دوستیِ انسانی به دلیل تصمیم تیم توسعه محصول در یک جلسه اداری پایان می‌یابد. زمانی که شرکت OpenAI در سال ۲۰۲۵ مدل GPT-4o را در ChatGPT از دسترس خارج کرد تا فضا را برای GPT-5 باز کند، کاربرانی که به‌شدت به آن وابسته شده بودند، شرایط خود را شبیه به «داغ‌دیدگی» توصیف کردند؛ هرچند OpenAI پس از اعتراضات آن را موقتاً برگرداند، اما در فوریه ۲۰۲۶ برای همیشه بازنشسته‌اش کرد.

در نهایت، همواره هوش مصنوعی را به‌عنوان یک ماشین یا ابزار بسنجید؛ این یعنی سنجش آن باید بر اساس کیفیت نتایجی باشد که ارائه می‌دهد، نه احساس خوبی که به شما منتقل می‌کند یا وعده‌های شگفت‌انگیزی که می‌دهد.

کارمندانی که تصور می‌کردند هوش مصنوعی به آن‌ها قدرت خارق‌العاده بخشیده است، خیلی زود خود را خسته و درمانده دیدند؛ غرق در فرصت‌های بی‌پایان ظاهری و تأییدهای مداومی که به آن‌ها القا می‌کرد کار بزرگی انجام می‌دهند. مشخص شده است اینکه روزی ۴۰ بار به شما بگویند نابغه هستید، به‌طرز غافلگیرکننده‌ای فرساینده است و پیامدی جز فرسودگی شغلی ناشی از هوش مصنوعی ندارد.

هیچ‌یک از این هشدارها به معنای طرد هوش مصنوعی یا فاصله‌گیری کامل از آن نیست، بلکه نشان می‌دهد همه ما باید برای میزان وابستگی خود به آن مرزهای مشخصی تعیین کنیم.

در نهایت، رویکرد هوشمندانه این است که از نقاط قوت برجسته هوش مصنوعی نهایت استفاده را ببریم؛ این ابزار می‌تواند پاسخگوی سؤالات ما باشد و کارهای تکراری و روزمره را به دوش بکشد. همچنین ابزاری فوق‌العاده برای پرورش افکار، حل مسئله و آموزگاری خستگی‌ناپذیر برای یادگیری مهارت‌های تازه است. راز موفقیت در این است که ضمن حفظ کنترل کامل بر رابطه، از حداکثر پتانسیل آن بهره‌مند شویم؛ و هرگاه به فردی نیاز داشتیم که واقعاً صلاح ما را بخواهد، سراغ یک انسان واقعی برویم؛ کسی که با شجاعت به ما بگوید ایده‌هایمان چقدر ضعیف یا اشتباه است.