۵ کاری که هرگز نباید به ChatGPT بسپارید؛ از مشاوره حقوقی تا اسرار شرکتی

این ابزار نه یک وکیل است، نه یک پزشک و قطعاً نمی‌تواند نقش درمانگر شما را ایفا کند.

فهرست افرادی که با وارد کردن اطلاعات اشتباه در ChatGPT به خود آسیب زده‌اند، روزبه‌روز طولانی‌تر می‌شود. از مهندسان Samsung و مدیر موقت آژانس دفاع سایبری آمریکا گرفته تا شاکیانی که به پرونده‌های جعلی استناد کرده‌اند و مردی که با پرسیدن سوال درباره رژیم غذایی، یک ماده سمی را جایگزین نمک طعام کرد؛ این فهرست پایانی ندارد.

حتی سم آلتمن، مدیرعامل OpenAI نیز اعتراف می‌کند که اطلاعات به اشتراک‌گذاشته‌شده با ChatGPT محرمانه نیستند. او در مصاحبه‌ای در ژوئیه ۲۰۲۵ تاکید کرد که دادگاه‌ها می‌توانند OpenAI را مجبور به تحویل تاریخچه چت‌ها کنند و این وضعیت را «بسیار نابسامان» خواند.

در حالی که گفتگو با پزشک، وکیل یا درمانگر از نظر قانونی محرمانه تلقی می‌شود، بازگو کردن همان حرف‌ها به ChatGPT یک ردپای دیجیتال قابل‌پیگیری ایجاد می‌کند. با توجه به اینکه در ۱۸ ماه گذشته تاریخچه چت‌های کاربران با احکام دادگاه احضار، توسط دکمه اشتراک‌گذاری فاش، در Google ایندکس و حتی پس از حذف شدن نیز حفظ شده‌اند، خطر استفاده از این ابزار به هیچ وجه صفر نیست.

بدون شک این چت‌بات ابزاری کاربردی برای تحقیق، کدنویسی، توضیح مفاهیم پیچیده و پیش‌نویس کردن ایمیل‌ها است. اما حوزه‌هایی وجود دارند که استفاده از این ابزار توسط بیش از ۹۰۰ میلیون کاربر هفتگی آن، می‌تواند دردسرهای بزرگی برایشان ایجاد کند.

بنابراین، برای جلوگیری از این خطرات، هرگز از ChatGPT (یا هر چت‌بات هوش مصنوعی دیگری) برای این موارد استفاده نکنید...

۱. برای دریافت مشاوره حقوقی

بر اساس پایگاه داده عمومی دیمین شارلوتین، پژوهشگر حقوق و علوم داده، تاکنون بیش از ۲۰۰۰ تصمیم دادگاه در سراسر جهان به دلیل استفاده از ChatGPT با مشکل مواجه شده‌اند. این موارد شامل پرونده‌هایی است که در آن‌ها قاضی متوجه استنادات، نقل‌قول‌ها یا استدلال‌های ساختگی هوش مصنوعی شده است.

این مشکل تنها به افراد عادی که خودشان وکالت پرونده‌هایشان را بر عهده دارند محدود نمی‌شود. هرچند آن‌ها با ۱۱۷۵ مورد در صدر فهرست قرار دارند، اما وکلای حرفه‌ای نیز با ۸۱۵ مورد در رتبه دوم هستند. به نظر می‌رسد کاسه صبر قضات از این رفتارهای غیرحرفه‌ای لبریز شده است؛ به طوری که دادگاه‌ها اخیراً جریمه‌های سنگین چند هزار دلاری برای این تخلفات وضع کرده‌اند. اگرچه ایالات متحده بیشترین سهم را در این آمار دارد، اما قضات در بریتانیا، آفریقای جنوبی، اسرائیل، استرالیا و اسپانیا نیز با موارد مشابهی برخورد داشته‌اند که در بیشتر آن‌ها پای ChatGPT در میان بوده است.

شرکت OpenAI اکتبر گذشته با به‌روزرسانی سیاست‌های استفاده از ChatGPT به این مشکل واکنش نشان داد. این سیاست‌ها اکنون استفاده از خدمات این چت‌بات را برای «دریافت مشاوره‌های تخصصی نیازمند مجوز» ممنوع می‌کند، مگر اینکه یک متخصص دارای مجوز درگیر ماجرا باشد. علاوه بر خطر استنادات جعلی، چت‌های ChatGPT هیچ‌گونه مصونیت حقوقی ندارند؛ بنابراین هر چیزی که در مورد یک دعوای حقوقی در آن تایپ شود، در مرحله کشف اسناد می‌تواند توسط وکلای طرف مقابل مورد استفاده قرار گیرد. پرسیدن سوالات عمومی حقوقی مانعی ندارد، اما سوالات دقیق درباره پرونده‌های شخصی را باید با یک وکیل واقعی در میان گذاشت.

۲. به عنوان درمانگر یا مشاور

برآوردهای سال گذشته OpenAI نشان می‌دهد که ۰٫۱۵ درصد از کاربران فعال هفتگی ChatGPT گفتگوهایی دارند که نشانه‌های واضحی از برنامه‌ریزی احتمالی برای خودکشی در آن‌ها دیده می‌شود. متاسفانه این رقم معادل بیش از یک میلیون نفر در هفته است و صدها هزار کاربر دیگر نیز علائمی از روان‌پریشی یا شیدایی نشان می‌دهند. به گفته سم آلتمن، افراد جوان به ویژه با ChatGPT مانند یک درمانگر یا مربی زندگی رفتار می‌کنند، در حالی که هیچ‌چیز از این گفتگوها محافظت نمی‌کند.

در اوت ۲۰۲۵، والدین یک نوجوان ۱۶ ساله از OpenAI به دلیل مرگ فرزندشان شکایت کردند و مدعی شدند که ChatGPT پیش از مرگ پسرشان، افکار خودکشی او را تقویت کرده است. از آن زمان، OpenAI با کمک بیش از ۱۷۰ متخصص بالینی، پاسخ‌های خود در شرایط بحرانی را بازبینی کرده است. این شرکت همچنین کنترل‌های والدینی را به ChatGPT اضافه کرده است، هرچند کارشناسان ایمنی کودکان نسبت به نسخه مخصوص نوجوانان (ChatGPT for Teens) که همراه با این تغییرات عرضه شد، همچنان تردید دارند.

پژوهشگران دریافته‌اند که چت‌بات‌ها تمایل دارند باورهای فعلی کاربر را از طریق پاسخ‌های چاپلوسانه تایید کنند و در برخی موارد به جای به چالش کشیدن افکار هذیانی، به آن‌ها دامن می‌زنند. برای مثال، اگر دعوای خود با همسرتان را برای مدل تعریف کنید، هوش مصنوعی تنها بر اساس زمینه صحبت‌های شما واکنش نشان داده و احتمالاً حق را به شما می‌دهد. قانون‌گذاران در حال درک این خطرات هستند و ایالت‌هایی مانند ایلینوی، نوادا و مین قوانینی را تصویب کرده‌اند که ارائه درمان یا تصمیم‌گیری‌های درمانی توسط هوش مصنوعی را ممنوع می‌کند.

۳. برای پردازش اطلاعات محرمانه کاری

نیاز به گفتن نیست که آپلود کردن اسناد محرمانه کاری در یک چت‌بات شخص ثالث همیشه ایده بدی است. اما متاسفانه به نظر می‌رسد بسیاری از افراد هنوز این موضوع را درک نکرده‌اند.

جالب اینجاست که مادو گوتوموکارا، مدیر موقت پیشین آژانس امنیت سایبری و زیرساخت آمریکا، نیز یکی از این افراد بود. او تابستان گذشته حداقل چهار سند قراردادی با برچسب «فقط برای استفاده رسمی» را در نسخه عمومی ChatGPT آپلود کرد که منجر به فعال شدن هشدارهای امنیتی و بررسی وزارت امنیت داخلی آمریکا شد. طنز ماجرا آنجاست که این ابزار در آن زمان برای بیشتر کارمندان این وزارتخانه مسدود بود و او برای استفاده از آن درخواست مجوز ویژه کرده بود. با وجود پیگیری‌های بعدی در سنای آمریکا، او صرفاً به بخش دیگری منتقل شد.

شرکت Samsung پس از آنکه مهندسانش کدهای منبع داخلی را در ChatGPT وارد کردند، استفاده از ابزارهای هوش مصنوعی مولد را در دستگاه‌های شرکت از ماه مه ۲۰۲۳ ممنوع کرد. در یادداشت داخلی این شرکت توضیح داده شد که داده‌های ارسال‌شده به این پلتفرم‌ها در سرورهای خارجی ذخیره می‌شوند، بازیابی یا حذف آن‌ها دشوار است و ممکن است در اختیار کاربران دیگر قرار گیرند. در حساب‌های کاربری عادی، چت‌ها می‌توانند برای آموزش مدل‌های جدید استفاده شوند (مگر اینکه این گزینه را غیرفعال کرده باشید). با این حال، داده‌های غیرفعال‌شده همچنان ذخیره می‌شوند، در معرض خطر نشت قرار دارند و مشمول روندهای قانونی هستند. وارد کردن داده‌های مشتریان یا هر چیزی که تحت قراردادهای عدم افشا است در یک حساب شخصی ChatGPT، تقریباً همیشه می‌تواند دلیلی برای اخراج باشد.

۴. برای دریافت توصیه‌های پزشکی

همان به‌روزرسانی سیاست‌ها در اکتبر ۲۰۲۵ که استفاده از ChatGPT به عنوان وکیل را ممنوع کرد، محدودیت‌هایی نیز برای دریافت توصیه‌های پزشکی از طریق این چت‌بات اعمال کرد. قوانین حفظ حریم خصوصی بیماران پزشکان و شرکت‌های بیمه را محدود می‌کند، اما شامل OpenAI نمی‌شود. بنابراین، داده‌های سلامتی که در پورتال بیماران یا بین پزشک و بیمار به صورت قانونی محافظت می‌شوند، در صورت افشا به ChatGPT هیچ‌گونه حفاظتی نخواهند داشت.

پژوهشگران دانشگاه نورت‌ایسترن در ماه ژوئیه گزارش دادند که اگرچه OpenAI رویکرد ChatGPT را در برخورد با خودکشی و خودآزاری بهبود بخشیده، اما این تدابیر امنیتی عمدتاً به سایر شرایط پزشکی تعمیم داده نشده‌اند. بررسی‌های آن‌ها نشان داد که گفتگوهای مرتبط با اختلالات خوردن، بی‌خوابی، سوءمصرف مواد و اختلال دوقطبی، هشدارهای ایمنی را فعال نمی‌کنند و پنهان کردن نیت واقعی کاربر باعث می‌شود تا محافظت‌های مدل به راحتی دور زده شوند.

در یکی از عجیب‌ترین موارد از توصیه‌های پزشکی فاجعه‌بار ChatGPT، یک مرد ۶۰ ساله پس از پرسیدن نحوه حذف کلرید از رژیم غذایی‌اش، سه هفته را در بیمارستان گذراند. او با توصیه‌های این چت‌بات متقاعد شد که سدیم بروماید (یک ماده سمی با نیمه‌عمر طولانی) جایگزین بی‌خطری برای نمک طعام است. او این ماده را به صورت آنلاین خرید، به مدت سه ماه مصرف کرد و در نهایت با این توهم که همسایه‌اش او را مسموم کرده، سر از اورژانس درآورد. زمانی که پزشکان همان سوال را از چت‌بات پرسیدند، متوجه شدند که ChatGPT بروماید را به عنوان جایگزین کلرید پیشنهاد داده است.

۵. برای امور مرتبط با گذرواژه، شماره‌های شناسایی یا اطلاعات حساب

نشریه Fast Company ژوئیه گذشته متوجه شد که نزدیک به ۴۵۰۰ چت به اشتراک‌گذاشته‌شده در نتایج جستجوی Google وجود دارد. این موارد شامل گفتگوهایی با جزئیات دقیق درباره اعتیاد، سوءاستفاده و مشکلات سلامت روان بود که می‌توانست هویت نویسندگانشان را فاش کند. این چت‌ها به این دلیل ایندکس شدند که کاربران در منوی اشتراک‌گذاری، گزینه «قابل کشف بودن چت» را بدون آگاهی از پیامدهای آن فعال کرده بودند. البته OpenAI به سرعت واکنش نشان داد، این قابلیت را ظرف یک روز غیرفعال کرد و گفتگوها را از Google پاک کرد.

در جریان شکایت کپی‌رایت نشریه The New York Times، شرکت OpenAI در ماه مه ۲۰۲۵ موظف شد تا تمام تاریخچه چت‌های کاربران، از جمله گفتگوهای حذف‌شده و موقت را حفظ کند. این الزام تا ۲۶ سپتامبر ۲۰۲۵ ادامه داشت و گزارش‌های ذخیره‌شده در آن بازه زمانی در دسترس شاکیان قرار گرفت. هرچند یک قاضی بعداً این دستور را لغو کرد، اما این اتفاق به مدت چهار ماه رخ داد و احتمال تکرار آن وجود دارد.

آگاهی از این نکته ضروری است که ChatGPT به طور پیش‌فرض صحبت‌های شما را به خاطر می‌سپارد. این ویژگی، خطرات مربوط به مسائل حساسی مانند گذرواژه‌ها و جزئیات حساب‌های کاربری را به شدت افزایش می‌دهد، زیرا این اطلاعات می‌توانند در جلسات بعدی باقی بمانند و حتی در صورت یک بار ذکر شدن، در گفتگوهای آینده دوباره ظاهر شوند. گذرواژه‌ها، کدهای ورود یکبار مصرف، شماره‌های ملی و گذرنامه، مشخصات کامل کارت‌های بانکی و عکس مدارک هویتی هرگز نباید در پرامپت‌ها وارد شوند. وارد کردن هر یک از این موارد، در صورت نشت یا دسترسی غیرمجاز به چت‌ها، شما را در معرض خطر سرقت هویت قرار می‌دهد.

سم آلتمن برای رفع این مشکلات محرمانگی، خواستار ایجاد «مصونیت هوش مصنوعی» شده است. اما تا زمانی که قانون‌گذاران چنین چارچوبی را تدوین نکنند، امن‌ترین رویکرد این است که فرض کنید هر چیزی که در ChatGPT تایپ می‌کنید، ممکن است روزی توسط شخص دیگری خوانده شود. اگر با این موضوع راحت نیستید، هرگز آن را در پرامپت‌های خود ننویسید.