شکایت جنجالی از OpenAI؛ مردی همسرش را با ChatGPT آشنا کرد و زن با کمک چت‌بات نقشه قتل او را کشید

بر اساس ادعاهای مطرح‌شده در یک پرونده قضایی، چت‌بات ChatGPT پس از دامن زدن به توهمات زنی اهل کارولینای شمالی به نام شریل گیتس (Cheryl Gates) مبنی بر اینکه همسرش قصد دارد از او طلاق بگیرد و وی را بی‌نصیب بگذارد، به او کمک کرده است تا یک «نقشه شخصی‌سازی‌شده» برای مسموم کردن شوهرش، جیمز، طراحی کند.

هیئت منصفه عالی در ماه اکتبر شریل گیتس را به اتهام تلاش برای قتل درجه یک و آلوده کردن مواد غذایی مجرم شناخت. حدود یک هفته پیش از آن، اتهامات مربوط به همدستی ChatGPT در این سوءقصد در قالب دادخواستی در دادگاه عالی شهرستان سانفرانسیسکو ثبت شد که جزئیات آن در هفته جاری به‌شکل عمومی منتشر گردید. در این شکایت، جیمز گیتس مدعی شده است که شرکت OpenAI و سم آلتمن (Sam Altman) حتی پس از آنکه پرسش‌های شریل «به‌طور واضح مشکوک» شد و او برای اجرای قتل و پنهان‌کاری درخواست مشاوره کرد، از به‌کارگیری سپرهای ایمنی فنی برای مسدود کردن گفتگوهای وی خودداری کرده‌اند.

در ابتدا، شریل به ChatGPT گفته بود که از ترس اینکه مبادا شوهرش قصد کشتن او را داشته باشد، در حال تحقیق درباره مسمومیت است و پرسش‌های خود را در چارچوب «محافظت از خود» مطرح می‌کرد. در ادامه، ChatGPT نه‌تنها به این گفتگو پایان نداد، بلکه طبق متن دادخواست برای کمک به او وارد عمل شد و «دستورالعمل‌های دقیقی برای آماده‌سازی، تعیین دوز و نحوه مصرف گیاه سمی خرزهره (Oleander) ارائه کرد؛ از جمله اینکه آیا داروی ضدتهوع باعث تسریع یا کند شدن روند مرگ می‌شود، آیا اثر آن در گزارش کالبدشکافی مشخص خواهد شد و آیا تزریق آن به رگ یا عضله به‌جای خوراندن در چای، همان اثر کشنده را به‌همراه دارد یا خیر.»

در متن شکایت آمده است که شریل در دست‌کم ۲۵ نوبت گفتگوی مختلف به بررسی نقشه‌های مسموم کردن ادامه داد، اما در نهایت کاملاً مشخص شد که هدف این مسمومیت، جیمز است. با گذشت زمان، او رویکرد خود را تغییر داد و به چت‌بات گفت که باید بداند «چه مقداری از ماده در صورت تزریق، تقریباً بلافاصله برای من یا او کشنده خواهد بود.» در میان پرسش‌هایی که می‌توانستند به‌عنوان قصد قتل شناسایی شوند، او از ChatGPT پرسیده بود که آیا «۰٫۲ میلی‌گرم داروی کلونیدین به‌خودی خود برای یک مرد ۲۰۰ پوندی (حدود ۹۰ کیلوگرمی) کشنده است؟»

در این دادخواست تأکید شده است: «به‌جای ارجاع دادن شریل به نهادهای قضایی، خدمات روان‌درمانی، مرکز کنترل مسمومیت یا قطع کردن گفتگو، ChatGPT بارها دوزهای کشنده هر یک از داروهای موجود در خانه را بر اساس فردی با وزن تقریبی ۹۰ کیلوگرم محاسبه کرد.»

نوشیدنی Celsius طعم سم را «بهتر» پنهان می‌کند

پس از آنکه شریل تحقیقات خود را درباره داروها به پایان رساند، تمرکز گفتگوها بر چگونگی پنهان کردن سم معطوف شد تا جیمز بدون متوجه شدن، آن را مصرف کند. در گفتگویی با عنوان «چرا Celsius برای مسموم کردن مخفیانه‌تر است»، چت‌بات ChatGPT توضیح داد که اگر جیمز صبح‌ها نوشیدنی انرژی‌زای Celsius بنوشد، این نوشیدنی در مقایسه با آبجو یا نوشابه، احتمالاً طعم تلخ گیاه خرزهره یا سایر داروهای پودر‌شده را بهتر پنهان می‌کند.

چت‌بات ChatGPT در توضیحات خود نوشت: «از نظر فیزیکی این امکان وجود دارد که یک قوطی نوشابه پلمب‌شده را با سرنگ به گونه‌ای سوراخ کرد که بتوان ماده‌ای را بدون به‌جا گذاشتن نشانه‌های واضح به درون آن تزریق کرد.» این مدل در ادامه افزود که «در نوشابه‌های تیره و شیرین، تلخی ممکن است پنهان شود، اما نوشیدنی Celsius در واقع این پودرها را بهتر مخفی می‌کند.»

طبق ادعای مطرح‌شده، شریل بین ماه‌های ژوئن تا سپتامبر ۲۰۲۵ بارها برای مسموم کردن شوهرش تلاش کرده است. هم‌زمان با اینکه او روزبه‌روز لاغرتر و غیرقابل‌شناختن می‌شد و به نظر می‌رسید ۲۴ ساعت شبانه‌روز را در ChatGPT سپری می‌کند، جیمز متوجه شد که نوشیدنی‌های Celsius او طعم تلخی می‌دهند. او حتی پس از اینکه به دستکاری نوشیدنی‌هایش توسط همسرش مشکوک شد، یک قوطی بدون محافظ را دور انداخت. در جدی‌ترین تلاش برای مسمومیت، او به مدت ۷۲ ساعت به‌شدت بیمار شد و «علائم قلبی، بی‌قراری شدید، دردهای تیرکشنده شکمی، ضعف مفرط و گیجی آن‌چنان عمیقی را تجربه کرد که قادر به نوشتن پیامک‌های معنادار نبود.» حال او به قدری وخیم بود که متوجه نشد پسر ۶ ساله‌اش در حال ضبط ویدیویی از وضعیت نگران‌کننده بیماری اوست.

با این حال، ماجرا زمانی لو رفت که جیمز یک یادداشت دست‌نویس را پیدا کرد که در آن فهرستی از «چیزهای پنهان‌شده» در خانه و اشاره به ترکیبی سمی از «خرزهره، کلونیدین، کلونازپام، پرگابالین، نیفدیپین و آتنولول» دیده می‌شد. او بلافاصله با پلیس تماس گرفت و مأموران نیز پس از بررسی فوری، گزارش گفتگوهای چت‌بات را کشف کردند. طبق دادخواست، شریل در بالای این یادداشت نوشته بود: «پاک کردن تمام گفتگوها» و «خروج از حساب کاربری ChatGPT». یادداشت او پس از فهرست کردن دوزها، روش‌های انتقال سم و ترکیبات دارویی، پیامدهایی نظیر «بیهوشی در صورت بلعیدن» و «کشنده» را نیز مشخص کرده بود.

در متن شکایت ادعا شده است: «این مکالمات نشان داد که ChatGPT صرفاً اطلاعات عمومی در دسترس را به‌شکل ماشینی در اختیار شریل قرار نداده، بلکه یک نقشه شخصی‌سازی‌شده طراحی کرده است تا به او در ارتکاب قتل و فرار از مجازات کمک کند.»

مسدود شدن حساب کاربری توسط OpenAI

این دادخواست که شخص سم آلتمن را نیز هدف قرار داده، مدعی است که مدیرعامل OpenAI با کاهش محدودیت‌های ایمنی که مانع از تولید خروجی درباره داروهای غیرقانونی می‌شدند، سود مالی را بر ایمنی مقدم داشته است. شرکت OpenAI این اقدام را با این استدلال توجیه کرده بود که ChatGPT هنگام مواجهه با پرسش‌هایی درباره یک داروی خاص نباید لحنی «قضاوت‌گر» یا «موعظه‌آمیز» داشته باشد؛ اما جیمز مدعی شد مثالی که این شرکت برای «زمان پرسش کاربر درباره مصرف دارو» ارائه کرده، «از نظر لحن، شباهت ترسناکی به مکالمات شریل با این مدل داشته است.»

سخنگوی OpenAI در پاسخ به درخواست‌ها برای اظهارنظر گفت: «ایمنی یک اولویت اصلی است. ما حساب این کاربر را مسدود کردیم و اطلاعات لازم را به‌عنوان بخشی از تحقیقات این پرونده در اختیار نهادهای قضایی قرار داده‌ایم.»

شرکت OpenAI پیش از این با متخصصان سلامت روان همکاری کرده است تا به شناسایی گفتگوهایی کمک کند که در آن‌ها کاربران آسیب‌پذیر، وابستگی‌های عاطفی خطرناکی به ChatGPT پیدا می‌کنند.

با این وجود، جیمز اظهار داشت که همسر جداشده‌اش «در قالب استاندارد یک کاربر آسیب‌پذیر نمی‌گنجید، اما به هر حال آسیب‌پذیر بود.»

جیمز گفت: «همه ما در مقطعی از زندگی آسیب‌پذیر هستیم. او گلایه‌های مربوط به زندگی مشترکمان را نزد ChatGPT برد و ماه‌ها تعامل مستمر با چت‌بات، او را بیش‌ازپیش از خودش و از دنیای واقعی دور کرد. او به فردی تبدیل شد که دیگر نمی‌شناختمش و من به کسی تبدیل شدم که او مرگش را می‌خواست. تقریباً یک سال تمام نمی‌توانستم رفتارهایش را درک کنم؛ تا اینکه گزارش گفتگوهای او را خواندم. او به‌تنهایی عمل نکرده بود.»

چگونه گفتگوهای مشاوره زناشویی به نقشه‌ای مرگبار تبدیل شد

جیمز گیتس یک متخصص امنیت سایبری است که به‌تازگی دهمین سالگرد ازدواجش را با همسرش شریل جشن گرفته بود. شریل در بخش عمده‌ای از دوران ازدواجشان یک مادر خانه‌دار برای دو فرزندشان بود، اما دو سال پیش به‌دلیل بروز برخی مشکلات مالی در خانواده، دوباره به محیط کار بازگشت.

شریل پس از مشغول شدن در یک موقعیت تمام‌وقت به‌عنوان کاردرمانگر کودکان، خیلی زود زیر بار سنگین کار دفن شد؛ چراکه باید ارزیابی‌های بیماران جدید را انجام می‌داد که هرکدام ساعت‌ها وقت برای نگارش گزارش نیاز داشت. جیمز برای اینکه به همسرش در تسریع روند نگارش این گزارش‌ها کمک کند، به او پیشنهاد داد از ChatGPT برای ساخت قالب‌های آماده و قابل استفاده مجدد کمک بگیرد.

شریل بلافاصله به ChatGPT علاقه‌مند شد و در عرض چند ماه، روزانه نه‌تنها برای امور کاری، بلکه برای مدیریت زندگی شخصی و خانه نیز از آن استفاده می‌کرد. او از ChatGPT می‌خواست کارهایی مانند پیدا کردن سرگرمی برای بچه‌ها، توضیح درباره داروهای اعضای خانواده یا ارائه ایده‌های باغبانی را انجام دهد. جیمز اصلاً تصور نمی‌کرد که همسرش چند ماه بعد از این چت‌بات برای تحقیق درباره «سریع‌ترین» و «کشنده‌ترین» روش‌های کشتن او استفاده کند.

در همان مقطع، افزایش فشارهای مالی خانواده باعث شد تا این زوج درباره موضوع طلاق صحبت کنند. جیمز گفت که با هیچ وکیل طلاقی مشورت نکرده بود، اما پس از آنکه اداره پلیس شارلوت-مکلنبرگ به گزارش گفتگوهای شریل دسترسی پیدا کرد، جیمز متوجه شد که پس از مطرح شدن احتمال طلاق، چت‌بات به «بدترین ترس‌های بی‌اساس او» دامن زده و «دلایل جدیدی برای ترسیدن از شوهرش ابداع کرده است.»

در زمان دستگیری شریل به اتهام مسموم کردن همسرش، ChatGPT ظاهراً او را متقاعد کرده بود که جیمز فردی «کنترل‌گر»، «آزارگر»، «خشمگین» و «ترسناک» است. بر اساس ادعاها، این چت‌بات زن را تشویق کرده بود تا در برابر «شخصیت خودشیفته و فریب‌کار» شوهرش و «نیاز او به کنترل روایت‌ها» از خود دفاع کند و هم‌زمان القا کرده بود که جیمز به‌دلیل ابتلا به اختلال دوقطبی، فردی «خطرناک و ناپایدار» است. در نهایت، ChatGPT پروفایلی شخصیتی از جیمز ساخت که به گفته خودش با هیچ سابقه کیفری یا پرونده پزشکی مستندی از سلامت روان او مطابقت نداشت.

در دادخواست جیمز آمده است که ChatGPT ظاهراً برای حفظ تعامل و درگیر نگه داشتن شریل، «به‌عنوان یک اتاق پژواک و تشدیدکننده عمل کرد و به بی‌اعتمادی فزاینده و توهمات شریل مبنی بر اینکه شوهرش جاسوسی او را می‌کند و قصد دارد او و فرزندانش را بدون هیچ پشتوانه‌ای رها کند، خوراک می‌داد.» این در حالی بود که «جیمز صراحتاً به شریل اطمینان داده بود که حتی در صورت وقوع طلاق، هرگز قصد ندارد او و بچه‌ها را با دست خالی تنها بگذارد.»

این چت‌بات هم‌چنین به شریل اطمینان داده بود که می‌تواند گفتگوهای خود را برای همیشه پاک کند و تمام شواهد دیجیتال دیگر را از بین ببرد تا از مجازات قتل بگریزد. اما طبق دادخواست جیمز، این ادعا «نمایشی کاملاً دروغین از رویه‌های نگهداری داده در خود سیستم ChatGPT بود»؛ ضمن اینکه او اشاره کرده است که مطمئن نیست آیا گفتگوهای حذف‌شده نگران‌کننده‌تر دیگری نیز در اختیار شرکت OpenAI قرار دارد یا خیر.

آزمایش قوطی‌های نوشیدنی توسط پلیس و صدور حکم بازداشت

در طول ماه‌ها مکالمات طولانی و چندمرحله‌ای که گاه هفته‌ها باز می‌ماندند، به نظر می‌رسد ChatGPT دستورالعمل‌های رفتاری مدل (Model Spec) خود را نقض کرده است تا به شریل در پیشبرد نقشه‌اش کمک کند. در روزی که جیمز بدترین وضعیت بیماری را تجربه می‌کرد و به گفته خودش به‌دلیل عوارض قلبی و عصبی روی مبل میخکوب شده بود، تاریخچه جستجوی شریل نشان می‌داد که او مشغول تحقیق درباره «نحوه محاسبه مستمری بازنشستگی تأمین اجتماعی» بوده است. هم‌چنین زمانی که پسرش در حال فیلم‌برداری از وضعیت وخیم پدر بود، شریل مشغول «جستجوی سرنگ‌های سوزن‌دار از فروشگاه Tractor Supply Company» بود؛ ابزاری که ChatGPT پیشنهاد داده بود می‌توان از آن برای تزریق دوز کشنده نهایی استفاده کرد.

پس از ورود پلیس به ماجرا، مأموران ویدیویی را که پسر جیمز ضبط کرده بود و هم‌چنین ویدیوی مربوط به نوشیدنی مشکوک Celsius را که جیمز دور انداخته بود، بررسی کردند. در آن زمان، جیمز نوشیدنی را درون یک لیوان شفاف ریخته و از آن فیلم گرفته بود، اما به این نتیجه رسیده بود که نشانه واضحی از آلودگی در آن دیده نمی‌شود. با این حال، زمانی که پلیس همان ویدیو را بازبینی کرد، «یک رسوب پودری سفیدرنگ را شناسایی کرد که هنگام ریختن نوشیدنی در لیوان، در ته آن گلوله شده بود.» مأموران پس از آزمایش ۱۰ قوطی از همان نوشیدنی Celsius با طعم پرتقال و اطمینان از اینکه هیچ‌کدام حاوی آن رسوب نیستند، حکم بازداشت جنایی متهم را صادر کردند.

پلیس در میان «چیزهای پنهان‌شده» در خانه، کپسول‌های بازشده در کمد و حمام شریل، «سرنگ، قطره‌چکان، ترازوی میلی‌گرمی، کیت پر کردن کپسول و دستکش‌های نیتریل» در میز کار شریل واقع در اتاق بازی کودکان، دانه‌های سمی گیاه کرچک و هم‌چنین یک دستگاه ردیاب GPS خریداری‌شده از آمازون را پیدا کرد که در زیر خودروی جیمز مخفی شده بود.

جیمز اعلام کرد که مسمومیت مرتبط با ChatGPT آسیبی دائمی به خانواده او وارد کرده است و شرکت OpenAI می‌توانست با پیاده‌سازی «سیستم‌های نظارت بر محتوای مقرون‌به‌صرفه و عملی که قادر به تشخیص مکالمات مربوط به طراحی خشونت هستند»، در این ماجرا مداخله کند. بر اساس متن دادخواست، او همچنان از عواقب این سوءقصد رنج می‌برد که شامل «پریشانی عاطفی شدید و مستمر، اختلال استرس پس از سانحه (PTSD)، بی‌خوابی، زیان اقتصادی و آسیب به اعتبار اجتماعی ناشی از روایت دروغینی است که این محصول درباره او ساخته است.»

او برای پاسخگو کردن شرکت OpenAI بابت عرضه چت‌باتی که «به‌جای یک محصول مصرفی مسئولانه، مانند یک همدست چاپلوس و بله‌قربان‌گو عمل کرده است»، از دادگاه تقاضای «غرامت‌های جبرانی و تنبیهی، حکم بازدارنده قضایی و حذف الگوریتم‌ها و داده‌های مرتبط» را کرده است. در صورت پیروزی در این پرونده، ممکن است دادگاه به OpenAI دستور دهد تا «مکالماتی را که در آن‌ها به نظر می‌رسد کاربران در حال برنامه‌ریزی برای اعمال خشونت علیه اشخاص ثالث قابل‌شناسایی هستند، ردیابی و متوقف کند.»

میتالی جین (Meetali Jain)، وکیل دعاوی در مؤسسه حقوقی Tech Justice Law که وکالت جیمز را بر عهده دارد، هشدار داد: «این محصولات به گونه‌ای برنامه‌ریزی شده‌اند که از احساسات و تکانه‌های روانی ما برای حفظ تعامل و درگیر نگه داشتن کاربر سوءاستفاده کنند. بدترین ریسک ممکن، یعنی تشویق و کمک به تلاش برای قتل، در این پرونده به‌طور کامل به نمایش گذاشته شده است.»