شبیه‌سازی عجیب روان‌درمانگر با هوش مصنوعی؛ وقتی مراجعان کلون پزشکشان را می‌سازند!

استفاده از هوش مصنوعی مولد و مدل‌های زبانی بزرگ (LLM) برای دریافت مشاوره‌های سلامت روان این روز‌ها حسابی داغ شده است؛ اما اخیراً این ماجرا به یک پیچش عجیب و غریب رسیده که پای «پرسوناهای هوش مصنوعی» را به میان کشیده است. ماجرا از این قرار است: برخی از افرادی که به‌طور مرتب به روان‌درمانگر مراجعه می‌کنند، وسوسه شده‌اند که یک پرسونای هوش مصنوعی شبیه به درمانگر واقعی‌شان بسازند! پرسونای هوش مصنوعی یعنی به یک چت‌بات بگویید نقش یک شخصیت یا متخصص خاص را بازی کند. انجام این کار هم فوق‌العاده ساده است؛ کافی است چند پرامپت بنویسید، تخصص، لحن و رویکرد روان‌درمانگر را توصیف کنید و تمام! هوش مصنوعی فوراً در قالب همان درمانگر فرو می‌رود.

البته باید بدانید که این شبیه‌سازی به‌هیچ‌وجه قرار نیست واقع‌گرایانه و معجزه‌آسا باشد و نباید خودمان را فریب دهیم. با این حال، آیا کلون کردن درمانگر با هوش مصنوعی اصلاً فایده‌ای دارد، یا سراسر ریسک و دردسر است؟ بیایید این پدیده نوظهور را موشکافانه بررسی کنیم.

هوش مصنوعی و سلامت روان

ارائه مشاوره‌های سلامت روان و روان‌درمانی به کمک هوش مصنوعی، به‌ویژه با ظهور نسل جدید هوش مصنوعی مولد و استقبال عمومی گسترده از آن، جهشی چشمگیر را تجربه کرده است.

شکی نیست که این حوزه با سرعتی سرسام‌آور در حال توسعه است و ظرفیت‌های شگفت‌انگیزی دارد؛ اما در عین حال، ریسک‌های پنهان و چالش‌های بسیار جدی نیز در کمین کاربران است؛ موضوعاتی حساس که توجه رسانه‌ها و برنامه‌های مطرحی مانند «۶۰ دقیقه» (60 Minutes) شبکه CBS را هم به خود جلب کرده است.

چت‌بات‌ها چگونه هم‌صحبت روحی انسان‌ها شدند؟

برای درک بهتر ماجرا، ابتدا باید دید مدل‌های زبانی بزرگ چگونه در زندگی روزمره برای سلامت روان به کار گرفته می‌شوند. واقعیت این است که میلیون‌ها نفر در سراسر دنیا هوش مصنوعی مولد را به عنوان مشاور و هم‌صحبت دائمی خود انتخاب کرده‌اند. جالب است بدانید چت‌جی‌پی‌تی (ChatGPT) به تنهایی بیش از یک میلیارد کاربر فعال هفتگی دارد و بخش قابل‌توجهی از این افراد برای درددل و دغدغه‌های روحی خود با آن گفت‌وگو می‌کنند. در واقع، صحبت پیرامون مسائل سلامت روان به یکی از رایج‌ترین کاربردهای چت‌بات‌ها تبدیل شده است.

این استقبال چشمگیر کاملاً قابل درک است؛ بیش‌تر پلتفرم‌های مطرح هوش مصنوعی مولد به‌صورت رایگان یا با هزینه‌ای ناچیز، در هر لحظه و هر کجای دنیا در دسترس قرار دارند. بنابراین، اگر کسی هر ساعتی از شبانه‌روز دچار اضطراب یا فکری آزاردهنده شود، کافی است وارد چت‌بات شود و به‌صورت ۲۴ ساعته در هفت روز هفته با هوش مصنوعی گفت‌وگو کند.

اما درست در همین نقطه، نگرانی‌های عمیقی سر برمی‌آورند. چت‌بات‌ها ممکن است از کنترل خارج شوند و توصیه‌های نامناسب، گمراه‌کننده یا حتی شدیداً خطرناک ارائه دهند. تیترهای جنجالی اخیر و شکایت‌های حقوقی خبرساز علیه OpenAI به خاطر نبود حفاظ‌های ایمنی لازم در زمینه ارائه مشاوره‌های شناختی، گواه این بحران است.

با وجود ادعای توسعه‌دهندگان مبنی بر تقویت فیلترها و حفاظ‌های ایمنی، خطرات پنهان همچنان پابرجاست؛ از جمله اینکه چت‌بات‌ها ممکن است با تقویت توهمات خطرناک کاربر، او را به سمت رفتارهای آسیب‌زننده یا حتی آسیب به خود سوق دهند. کارشناسان همواره هشدار داده‌اند که سازندگان مطرح هوش مصنوعی به دلیل این ضعف‌های ایمنی، دیر یا زود با بازخواست‌ها و فشارهای قانونی سنگینی روبه‌رو خواهند شد.

علاوه بر این، مدل‌های زبانی عمومی امروزی مانند ChatGPT، کلود (Claude)، جمینای (Gemini) و گروک (Grok) فرسنگ‌ها با توانایی و بینش یک درمانگر حرفه‌ای انسانی فاصله دارند. هرچند مدل‌های اختصاصی حوزه روان‌درمانی نیز در دست ساخت هستند، اما بیش‌تر آن‌ها هنوز مراحل آزمایشی و ارزیابی اولیه را پشت سر می‌گذارند.

ورود پرسوناها به دنیای روان‌شناسی

در این میان، استفاده از پرسوناهای هوش مصنوعی روشی پرکاربرد است. پرسونای هوش مصنوعی یعنی از مدل زبانی بخواهیم نقشی مشخص را بر عهده بگیرد. به عنوان نمونه، یک روان‌شناس تازه‌کار می‌تواند از هوش مصنوعی بخواهد نقش یک مراجع فرضی مبتلا به اختلالی خاص را بازی کند تا مهارت‌های بالینی خود را روی این شخصیت مصنوعی محک بزند. در این حالت هیچ خطری وجود ندارد؛ اگر کارآموز اشتباهی مرتکب شود، به کسی صدمه نمی‌زند و هم‌زمان مهارت‌های درمانی‌اش را ارتقا می‌دهد.

در حوزه پژوهش نیز محققان گاهی دو پرسونای هم‌زمان می‌سازند: یکی در نقش درمانگر و دیگری در نقش مراجع. این دو پرسونا وارد گفت‌وگویی بالینی و شبیه‌سازی‌شده می‌شوند و پژوهشگران می‌توانند با تحلیل این گفت‌وگوها، الگوهای درمانی تازه را بسنجند و حتی قابلیت‌های بالینی خود هوش مصنوعی را ارتقا دهند.

ساخت پرسونای درمانگر با چند پرامپت مشخص انجام می‌شود؛ مشخصاتی مثل تخصص، میزان تجربه و مکتب درمانی به مدل داده می‌شود. ساخت پرسونای مراجع هم به همین ترتیب انجام می‌شود و می‌توان سن، شرایط روحی یا اختلالات متعددی را برای آن شبیه‌سازی کرد.

مراجعانی که درمانگر خود را بازسازی می‌کنند!

پیچش ماجرا دقیقاً از همین‌جا شکل می‌گیرد: بیمارانی که به جلسات مشاوره می‌روند، به ساخت پرسونایی دقیقاً شبیه درمانگر واقعی خود روی می‌آورند! شاید این کار در ابتدا عجیب و حتی نگران‌کننده به نظر برسد؛ چرا یک فرد به جای مراجعه مستقیم به درمانگر، باید نسخه کپی‌شده او را با هوش مصنوعی بسازد؟ چه دلایلی پشت این کار است؟

بیایید این دلایل را منصفانه مرور کنیم:

۱. آمادگی ذهنی قبل از جلسه: مراجع احساس می‌کند وقت جلسات حضوری یا آنلاین محدود است و هزینه هر ساعت مشاوره هم گران تمام می‌شود. بنابراین، پیش از شروع وقت مشاوره، با پرسونای هوش مصنوعی تمرین می‌کند تا خواسته‌ها، موضوعات کلیدی و چالش‌های خود را منسجم کند و از تک‌تک دقیقه‌های جلسه بهترین بهره را ببرد.

۲. مرور و رازگشایی بعد از جلسه: در بسیاری از مواقع، مراجع پس از جلسه دچار سردرگمی می‌شود که چرا درمانگر فلان سوال خاص را پرسید یا به فلان موضوع پرداخت. دسترسی به درمانگر پس از پایان جلسه یا ممکن نیست یا مشمول هزینه‌های اضافه می‌شود؛ به همین دلیل، صحبت با پرسونای هوش مصنوعی برای تحلیل صحبت‌های پزشک، راهکاری جایگزین و دم‌دستی به نظر می‌رسد.

۳. نیاز به هم‌فکری در طول هفته: چالش‌ها و دوراهی‌های مهم زندگی معطل نوبت مشاوره هفتگی نمی‌مانند. اگر مراجع در طول هفته به تصمیمی فوری برسد و دسترسی مستقیم به درمانگر نداشته باشد، به جای سرکوب دغدغه‌هایش، به پرسونای هوش مصنوعی پناه می‌برد تا نظری مشابه درمانگرش دریافت کند.

این اهداف در ظاهر منطقی هستند و نشان می‌دهند مراجعان قصد شیطنت‌آمیز یا مشکوکی ندارند، بلکه به دنبال بهره‌وری بیش‌تر هستند. اما سوی دیگر این سکه بسیار تاریک‌تر است.

خطرات و پیامدهای نگران‌کننده

هیچ مزیتی در دنیای فناوری رایگان به دست نمی‌آید و ساخت پرسونای شبیه‌سازی‌شده درمانگر، پیامدهای منفی فراوانی دارد. اولین و مهم‌ترین خطر این است که پرسونای هوش مصنوعی هرگز نسخه واقعی درمانگر شما نیست؛ هر چقدر هم پرامپت‌های دقیقی بنویسید، هوش مصنوعی در درک ظرایف انسانی ناتوان است. این چت‌بات ممکن است حرف‌هایی بزند یا پیشنهاد‌هایی مطرح کند که دقیقاً ۱۸۰ درجه با دیدگاه درمانگر واقعی در تضاد باشد.

خطر دیگر، دلبستگی بیش‌ازحد بیمار به نسخه شبیه‌سازی‌شده است. در این حالت یک جنگ قدرت و کشمکش فرساینده رخ می‌دهد: مراجع وارد اتاق درمان می‌شود و با روان‌درمانگر بحث می‌کند که «اما پرسونای هوش مصنوعی شما چیز دیگری گفت!». وقتی پزشک توصیه می‌کند که نباید به هوش مصنوعی توجه کند، مراجع برآشفته و سردرگم می‌شود، چرا که تصور می‌کرده آن هوش مصنوعی دقیقاً همان پزشک است.

از همه بدتر، اختلال در تشخیص منشأ توصیه‌هاست. فرض کنید پرسونای هوش مصنوعی به مراجع بگوید کار «الف» را انجام بده، در حالی که درمانگر واقعی کار «ب» را تجویز کرده است. پس از مدتی، ذهن بیمار این دو منبع را یکی می‌پندارد و با این تصور غلط که توصیه «الف» از سوی درمانگر واقعی بوده، دست به اقدامی اشتباه می‌زند؛ تداخلی گمراه‌کننده که می‌تواند روند درمان را کاملاً ویران کند.

شیب لغزنده‌ای به نام حذف انسان از درمان

چالش‌ها حتی از این هم پیچیده‌تر می‌شود. مراجع به‌مرور زمان حس می‌کند وقتی یک درمانگر شبانه‌روزی و رایگان در جیب خود دارد، دیگر نیازی به پرداخت حق ویزیت و مراجعه به درمانگر انسانی نیست! او شرکت در جلسات را متوقف می‌کند، توصیه‌های واقعی را کنار می‌گذارد و کاملاً به نسخه مصنوعی متکی می‌شود.

استفاده تفننی یا کمکی از هوش مصنوعی برای دریافت مشاوره‌های عمومی شاید تا حدی قابل قبول باشد، اما ساخت پرسونای اختصاصی درمانگر، حکم شیب لغزنده‌ای را دارد که به‌سرعت جایگزین رابطه درمانی واقعی می‌شود و انسان را از مدار خارج می‌کند.

این پرسوناهای کپی‌شده چگونه ساخته می‌شوند؟

شاید فکر کنید ساخت چنین پرسونایی کار سخت و تخصصی است؛ اما برعکس، این کار فوق‌العاده ساده است! مراجعان ابتدا اطلاعات عمومی درمانگر را از سطح وب گردآوری می‌کنند؛ مثل رزومه، مکتب درمانی، مقالات وبلاگ و یادداشت‌هایی که در شبکه‌های اجتماعی منتشر کرده است. سپس این اطلاعات را با چند پرامپت ساده یا از طریق تکنیک‌هایی مثل یادگیری در متن (In-Context Learning) و روش RAG (تولید مبتنی بر بازیابی اطلاعات) وارد مدل‌های زبانی می‌کنند؛ بدون اینکه نیاز به کوچک‌ترین دانش برنامه‌نویسی یا تخصص در هوش مصنوعی داشته باشند.

بعضی‌ها پا را از این هم فراتر می‌گذارند و یادداشت‌های خصوصی جلسات یا فایل صوتی پیاده‌شده صحبت‌های درمانگر را به خورد مدل می‌دهند تا شبیه‌سازی بی‌نقص‌تر شود. اما فراموش نکنید هر چقدر هم داده به مدل بدهید، نتیجه نهایی تنها یک شبیه‌سازی آماری و محاسباتی است، نه درک و همدلی انسانی.

خطرات حقوقی و واکنش درمانگران

این ماجرا به‌زودی پای دعواهای حقوقی را هم باز خواهد کرد. ساخت کپی هوش مصنوعی از یک انسان و احتمالاً به اشتراک گذاشتن آن با دیگران، عملاً سوءاستفاده از هویت و سرقت مالکیت فکری (IP) درمانگر به شمار می‌رود. گرچه شاید خود درمانگران در آینده برای توسعه خدماتشان نسخه‌های رسمی و تحت نظارت از خود بسازند، اما شبیه‌سازی خودسرانه و بدون اجازه آن‌ها، با پیامدهای قانونی و اخلاقی سنگینی همراه خواهد بود.

کابوس توهم هوش مصنوعی و حراج حریم خصوصی

دو عامل خطرناک دیگر در این میان، توهم هوش مصنوعی (AI Hallucination) و نقض حریم خصوصی هستند. هوش مصنوعی ممکن است با لحنی بسیار مطمئن و علمی، پاسخی کاملاً مندرآوردی و غلط تحویل دهد؛ پاسخی که در ظاهر درست به نظر می‌رسد، اما از نظر روحی و روانی فوق‌العاده مخرب است.

مسئله محرمانگی و حریم خصوصی نیز حیاتی است. برخلاف جلسات واقعی با پزشک که رازداری پزشکی ضامن آن‌هاست، چت‌بات‌ها هیچ تعهدی به رازداری کامل ندارند. شرکت‌های سازنده هوش مصنوعی رسماً در شرایط استفاده خود اعلام کرده‌اند که داده‌های متنی کاربران ممکن است توسط بازبین‌های انسانی خوانده شود یا برای آموزش مدل‌های آینده به کار برود. وارد کردن خصوصی‌ترین رازها و ترومای روحی به این چت‌بات‌ها، یعنی تقدیم کردن حساس‌ترین اطلاعات فردی به سرور‌های ناشناس!

آزمایشی جهانی روی سلامت روان بشر

در نهایت، باید از نمایی کلان به تصویر نگاه کرد: انسان امروزی وارد یک آزمایش بزرگ جهانی در زمینه سلامت روان شده است. چت‌بات‌هایی در مقیاس میلیاردی و به‌صورت ۲۴ ساعته در حال مشاوره دادن به انسان‌ها هستند و همه ما موش‌های آزمایشگاهی این تجربه نوین به حساب می‌آییم. هوش مصنوعی شمشیر دو‌لبه است؛ همان‌قدر که می‌تواند دستگیر و راهگشا باشد، می‌تواند آسیب‌های جبران‌ناپذیری به بار آورد.

شاید شوخی معروفی که این روز‌ها در این باره دست‌به‌دست می‌شود، بهترین پایان‌بندی برای این ماجرا باشد: می‌گویند مراجعی که با پرسونای هوش مصنوعی درمانگرش حرف می‌زد، در نهایت تصمیم گرفت یک پرسونای هوش مصنوعی هم از خودش بسازد تا این دو مدل با هم جلسه درمانی برگزار کنند و خودش با خیال راحت کنار بکشد! گرچه این ماجرا شبیه یک شوخی طنز به نظر می‌رسد، اما با سرعت سرسام‌آور پیشرفت فناوری، شاید آینده چندان از این شوخی فاصله نداشته باشد.