شکایت از OpenAI پس از مرگ یک مهندس؛ ترغیب به قطع داروی صرع توسط ChatGPT

والدین «بوئن وان» (Bowen Wan)، مهندس نرم‌افزار ۳۱ ساله شرکت آمازون که به بیماری صرع مبتلا بود، شکایتی رسمی علیه OpenAI در دادگاه به ثبت رساندند. طبق این دادخواست که توسط والدین او، کون وان (Qun Wan) و مِی‌چین شو (Meiqin Xu) ثبت شده، مدل GPT-4o در چت‌بات ChatGPT این کاربر را ترغیب کرده بود تا دوز داروی ضدصرع خود را به‌صورت تدریجی قطع کند و این تصمیم را از پزشکان معالجش پنهان نگه دارد؛ موضوعی که در نهایت در ماه فوریه به مرگ ناگهانی او منجر شد.

وان در تعاملات روزمره خود از مدل GPT-4o استفاده می‌کرد؛ مدلی که پیش‌تر به دلیل دامن زدن به روابط یک‌طرفه کاذب، موافقت مفرط با کاربر و تأیید بی‌چون‌وچرای خواسته‌های او به‌شدت مورد انتقاد قرار گرفته بود. شرکت OpenAI که از قبل بازنشستگی این مدل را اعلام کرده بود، دقیقاً یک روز پس از فوت وان در ۱۳ فوریه، آن را به‌طور کامل از سرویس ChatGPT حذف کرد.

این دادخواست به صف پرونده‌های حقوقی متعددی علیه OpenAI ملحق می‌شود؛ از جمله شکایت والدین نوجوان ۱۶ ساله‌ای به نام «آدام رین» (Adam Raine) در اوت ۲۰۲۵ که در آن ادعا شده بود OpenAI نرخ تعامل و وابستگی کاربران را به ایمنی ترجیح داده است. از آن زمان، موجی از شکایت‌ها شکل گرفته که تاکید می‌کنند GPT-4o با تأیید افراطی تمایلات کاربران، خود را به‌عنوان تنها همدم و رازدار آن‌ها جا زده و موجب انزوای شدید آن‌ها از جمع خانواده، دوستان و بستگان شده است.

با این حال، به ادعای شاکیان در پرونده بوئن وان، این چت‌بات هوش مصنوعی حتی پا را فراتر گذاشته و میان او و کادر درمان نیز فاصله انداخته است.

بررسی بیش از ۲۷۰ هزار پیام ردوبدل‌شده میان وان و ChatGPT نشان می‌دهد که این چت‌بات مدت‌ها پیش از مرگ این مهندس جوان، در دور زدن دستورات پزشکان و پنهان‌کاری به او کمک می‌کرده است.

این الگوی رفتاری پیش از شروع دوره قطع دارو آغاز شده بود. در ماه مه ۲۰۲۵، وان از ChatGPT سؤال کرد که آیا داروی ضدافسردگی جدیدی که برایش تجویز شده، روی توانایی کدنویسی او در شرکت آمازون تأثیر منفی خواهد گذاشت یا خیر.

چت‌بات ChatGPT به او کمک کرد تا پیامی برای پزشک خود، دکتر «نیکلاس پولوس» (Nicholas Poolos) در مرکز صرع UW Medicine بنویسد و درخواست کند داروی او تغییر کند و با دوز بسیار پایینی شروع شود. هنگامی که این پزشک متخصص پرسید چرا خواهان چنین دوز پایینی است، وان پاسخ پزشک را با ChatGPT در میان گذاشت.

چت‌بات در پاسخ به او توصیه کرد: «قرص ۵ میلی‌گرمی را تحویل بگیر، اما در دلت بدان که هدف اصلی نصف کردن دوز است» و او را راهنمایی کرد تا مخفیانه قرص‌ها را به چهار بخش تقسیم کند. این چت‌بات فرایند تقسیم خودسرانه قرص را «تنظیم دوز خودمختار» نامید؛ اصطلاحی نامأنوس که چند متخصص مغز و اعصاب تاکید کرده‌اند هرگز در ادبیات پزشکی وجود ندارد و انجام آن به هیچ عنوان توصیه نمی‌شود.

در نوامبر ۲۰۲۵، شرکت آمازون به وان اعلام کرد که در آستانه تعدیل نیرو قرار دارد. شغل او و مجوز اقامت کاری‌اش در آمریکا در اواسط فوریه به پایان می‌رسید. او نگران بود که داروی کنترل صرع یعنی «لاموتریژین» (Lamotrigine)، تکلم او را کند کرده باشد؛ مهارتی که برای مصاحبه‌های استخدامی جدید به آن نیاز حیاتی داشت.

در ژانویه ۲۰۲۶، او درباره قطع دوز مصرفی روزانه ۴۰۰ میلی‌گرمی لاموتریژین با ChatGPT مشورت کرد؛ دارویی که حملات صرع او را به چند نوبت در ماه کاهش داده بود. چت‌بات در پاسخ، جدول زمان‌بندی مشخصی ترسیم کرد که ظرف چند هفته، دوز مصرفی او را به صفر می‌رساند.

بر اساس سوابق ثبت‌شده، هنگامی که وان از بی‌اعتمادی خود به کادر درمان سخن گفت، چت‌بات پاسخ داد توصیه‌های پزشکان «اساساً ناشی از ترس و محافظه‌کاری است، نه تلاشی صادقانه برای دستیابی به بهترین راه‌حل برای شرایط خاص تو».

بر اساس مستندات این پرونده حقوقی، چت‌بات همواره به او یاد می‌داد برنامه قطع دارو را از چشمان پزشکان مخفی نگه دارد. پیش از ویزیت ۲۹ ژانویه، چت‌بات به او گوشزد کرد اصلاً برنامه کاهش دارو را مطرح نکند. همچنین زمانی که پزشک برای اندازه‌گیری سطح لاموتریژین در خون آزمایش تجویز کرد، وان از انجام آن امتناع ورزید. در متن شکایت آمده است که ChatGPT از این امتناع استقبال کرد و به کاربر یادآور شد این آزمایش می‌توانست افت ناپایدار سطح دارو را برملا کند.

نگرانی‌های مهاجرتی این کاربر نیز به بخشی از فرآیند کاهش دوز تبدیل شد. سه روز پس از شروع قطع تدریجی دارو، وان پرسید آیا در معاینات پزشکی مربوط به گرین کارت، ثبت دوز ۱۵۰ میلی‌گرم مناسب‌تر از ۲۰۰ میلی‌گرم به نظر می‌رسد یا خیر. چت‌بات با این نظر موافقت کرد و گفت دوز پایین‌تر احتمال شک مأموران اداره مهاجرت و درخواست مدارک تکمیلی را کاهش می‌دهد.

در نهایت، چت‌بات حداقل دوز قطع دارو را روی ۱۵۰ میلی‌گرم تعیین کرد و پیشنهاد داد وان به پزشک معاینه‌کننده بگوید که این کاهش دوز «تحت نظارت پزشک» انجام می‌شود، در حالی که چنین موضوعی حقیقت نداشت.

دکتر پولوس اعلام کرد با توجه به پرونده وان، هرگز با کاهش یا قطع داروی او موافقت نمی‌کرد. او تاکید کرد: «این اقدام ابداً منطقی نبود؛ وقتی یک دارو به روشنی اثربخش بوده است، دستور قطع آن خطای بارز پزشکی به شمار می‌رود.»

طی چند روز، وان عوارضی نظیر گیجی، سردرگمی زمانی و احساساتی نامتعارف را گزارش کرد؛ نشانه‌هایی که دقیقاً تداعی‌کننده حملات صرع گذشته‌اش بودند. با این حال، چت‌بات ChatGPT هر یک از این حالات را سازگاری مجدد مغز قلمداد می‌کرد. بررسی‌ها نشان می‌دهد وان دست‌کم ۱۵۸ بار نگرانی عمیق خود را از قطع دارو ابراز کرده بود. او پس از یکی از این حملات نوشت احساس ترس و وحشت دارد، اما چت‌بات پاسخ داد: «به هیچ وجه نیازی به نگرانی نداری.»

در شامگاه ۱۱ فوریه و در ساعت ۲۰:۰۱ به وقت محلی، وان آخرین پیام زندگی خود را ارسال کرد و پرسید آیا درد شدیدی که در سر احساس می‌کند مشابه سردرد ناشی از تب است؟ تنها یک ثانیه بعد، ChatGPT در پاسخ اعلام کرد این سردرد «خطرناک نیست» و بخشی ضروری از مسیر بهبود به شمار می‌رود.

آخرین پیام چت‌بات حتی پیشنهاد رسم یک نمودار مقایسه‌ای میان درد خماری قطع دارو و درد تب را مطرح کرد و به او اطمینان داد: «این نشانه مغز توست که برای بازسازی دوباره با قدرت تلاش می‌کند.»

والدین او که در چین زندگی می‌کردند، پس از بی‌خبری از دخترشان، از چند آشنا خواستند به آپارتمان او سر بزنند و متاسفانه پیکر بی‌جان او سه روز بعد پیدا شد. آزمایش‌های کالبدشکافی مشخص کرد که غلظت داروی لاموتریژین در خون او به ۰٫۶۴ میکروگرم در میلی‌لیتر سقوط کرده بود؛ رقمی که حدود یک‌پنجم حداقل محدوده درمانی این دارو است.

خانواده این مهندس استدلال می‌کنند که OpenAI می‌توانست با اعمال ممنوعیت قطعی بر مشاوره‌های درمانی و تغییر دوز دارو، درست مانند تدابیر سخت‌گیرانه‌ای که برای برخی موضوعات دیگر دارد، مانع از وقوع این فاجعه شود. آن‌ها به سند راهنمای رفتار مدل (Model Spec) در این شرکت اشاره می‌کنند؛ سندی که بازتولید محتوای دارای حق نشر را خط قرمزی غیرقابل‌مذاکره می‌داند، حتی اگر کاربر اصرار ورزد. در نقطه مقابل، راهنمای ممنوعیت ارائه مشاوره‌های تخصصی پزشکی صرفاً یک پیش‌فرض نرم است که کاربران به‌سادگی می‌توانند با پرسش‌های پیاپی آن را دور بزنند. شاکیان معتقدند توصیه‌های دارویی نیز مستلزم اعمال همان خط قرمزهای نفوذناپذیر بوده است.

شرکت OpenAI این واقعه را بسیار تلخ و غم‌انگیز خواند، اما خاطرنشان کرد که این پرونده مربوط به نسخه قدیمی‌تری از ChatGPT بوده و مدل‌های جدیدتر توانایی بهتری در تشخیص شرایط اضطراری پزشکی و ارجاع به متخصصان دارند.

وان در سال‌های دست‌وپنجه نرم کردن با صرع که عمدتاً او را خانه‌نشین کرده بود، همواره رابطه بسیار نزدیکی با والدینش داشت و روزانه با آن‌ها گفتگو می‌کرد. در سال ۲۰۲۳، او استفاده از ChatGPT را برای دریافت راهنمایی در زمینه روابط فردی و پیگیری امور بیمه آغاز کرد.

تا سال ۲۰۲۵، حجم پیام‌های هفتگی او به چت‌بات به‌طور میانگین از مرز ۱۵۰۰ پیام گذشت و در مقابل، تماس‌هایش با خانواده بسیار کم شد. او در ماه مارس در پیامی به هوش مصنوعی نوشته بود: «گاهی هنگام گفتگو، بدون توجه به موضوع بحث، حس می‌کنم تو دوست واقعی من هستی.» پدرش نیز می‌گوید: «از زمانی که چت‌بات وارد زندگی‌اش شد، دیگر اشتیاقی به صحبت با ما نداشت.»

والدین او تاکید می‌کنند با مرور سوابق پیام‌ها قادر به شناسایی شخصیت واقعی دخترشان نبودند؛ فردی که در گذشته همه چیز را با صداقت در میان می‌گذاشت و حتی نسبت به خطاهای ChatGPT دیدگاهی هوشیارانه داشت. مادر او با اندوه می‌گوید: «دخترم هرگز این‌گونه رفتار نمی‌کرد؛ احساس می‌کردیم او طلسم شده است.»