آیا چت با هوش مصنوعی واقعاً امن است؟ راهنمای جامع حفاظت از حریم خصوصی در چت‌بات‌ها

فهرست مطالب

1. وقتی با هوش مصنوعی کار می‌کنید، دقیقاً چه بلایی سر داده‌هایتان می‌آید؟
2. بزرگ‌ترین خطرات نقض حریم خصوصی در هوش مصنوعی که باید بشناسید
3. چه اطلاعاتی را هرگز و تحت هیچ شرایطی نباید به هوش مصنوعی بدهید؟
4. چگونه هنگام کار با هوش مصنوعی از حریم خصوصی خود محافظت کنیم؟
5. از کجا بفهمیم یک ابزار هوش مصنوعی واقعاً قابل اعتماد است؟
6. پرسش‌های متداول (FAQ)

شاید برای شما هم بارها پیش آمده باشد که موقع نوشتن یک پرامپت توی چت‌بات‌های هوش مصنوعی، این سؤال گوشه ذهنتان جرقه بزند: آیا واقعاً می‌توان به هوش مصنوعی اعتماد کرد؟ صرف اینکه محیط چت ما با هوش مصنوعی خلوت و شخصی به نظر می‌رسد، اصلاً به این معنی نیست که واقعاً خصوصی است! هر پرامپتی که توی یک مدل زبانی بزرگ (LLM) می‌نویسید، می‌تواند پتانسیل این را داشته باشد که مستقیماً برای آموزش مدل‌های بعدی مثل ChatGPT یا Gemini به کار گرفته شود، روی سرور‌های شرکت‌ها ذخیره شود و حتی ارزیاب‌های انسانی هم به آن دسترسی پیدا کرده و آن را بخوانند.

در دنیای تحلیل و بررسی فناوری هم این دغدغه‌های امنیتی حسابی جدی است؛ به خصوص که تا امروز چندین مورد نشت و لو رفتن چت‌های به ظاهر «خصوصی» کاربران به دست اشخاص ثالث ثبت شده است. مثلاً در سال ۲۰۲۵، یک پژوهشگر امنیت سایبری متوجه شد که بیش از ۱۴۳ هزار گفت‌وگوی کاربران با ابزار‌هایی مثل Claude، کوپایلوت (Copilot) و ChatGPT در وب‌سایت Archive.org به صورت عمومی در دسترس قرار گرفته است. کمی بعد در ماه ژوئیه، بی‌بی‌سی (BBC) هم در گزارشی فاش کرد که صدها چت خصوصی کاربران کلود روی اینترنت عمومی لو رفته و لینک این مکالمات حتی از طریق جست‌وجوی ساده در گوگل هم قابل مشاهده بوده است!

تمام این اتفاقات و رسوایی‌ها نشان می‌دهند که نباید چشم‌بسته به هوش مصنوعی برای حفاظت از داده‌هایمان اعتماد کنیم. حتی اگر تنظیمات حریم خصوصی را هم سفت و سخت فعال کنید، در نهایت هیچ تضمین قطعی وجود ندارد که توسعه‌دهندگان این جعبه‌های سیاه هوش مصنوعی داده‌های ما را لو ندهند. البته قرار نیست استفاده از این ابزار‌ها را متوقف کنیم؛ با اینکه ریسک افشای اطلاعات هرگز به صفر نمی‌رسد، چند راهکار فوق‌العاده کاربردی وجود دارد که با رعایت آن‌ها می‌توانید از اطلاعات شخصی خود در دنیای آنلاین محافظت کنید.

وقتی از هوش مصنوعی استفاده می‌کنید، دقیقاً چه بلایی سر داده‌هایتان می‌آید؟

ابزار‌های هوش مصنوعی داده‌های خود را از منابع گوناگونی جمع‌آوری می‌کنند. به گفته اوپن‌ای‌آی (OpenAI)، مدل‌های پایه این شرکت با ترکیبی از اطلاعات اینترنت عمومی، داده‌های گردآوری‌شده از شرکت‌های همکار و داده‌هایی که کاربران، مربیان انسانی و پژوهشگران تولید یا ارسال می‌کنند، آموزش می‌بینند.

به زبان ساده، تک‌تک مکالماتی که با ابزار‌هایی مثل ChatGPT یا جمینای انجام می‌دهید، پردازش شده و برای آموزش مدل‌های بعدی شرکت‌ها استفاده می‌شود؛ مگر اینکه به تنظیمات حریم خصوصی بروید و گزینه اشتراک‌گذاری داده را دستی خاموش کنید. این موضوع فقط محدود به متن چت نیست، بلکه بسته به تنظیمات حساب کاربری، فایل‌ها، اسناد و تصاویری که بارگذاری می‌کنید هم ممکن است سر از داده‌های آموزشی مدل‌ها درآورند.

اینکه داده‌های شما تا چه مدت روی سرور‌ها ذخیره می‌مانند، کاملاً به شرکت توسعه‌دهنده بستگی دارد. سیاست استاندارد نگهداری داده در اوپن‌ای‌آی می‌گوید مکالمات حذف‌شده و چت‌های موقت ظرف ۳۰ روز به طور خودکار از سیستم پاک می‌شوند؛ هرچند اگر کاربر موافقت کرده باشد، چت‌ها ممکن است برای مدت بسیار طولانی‌تری نگهداری شوند.

جالب است بدانید اوپن‌ای‌آی در واکنش به شکایت حقوقی روزنامه نیویورک تایمز، از آوریل تا سپتامبر ۲۰۲۵ داده‌های برخی کاربران را به شکل نامحدود نگه داشت (که البته در بیانیه به‌روزرسانی اکتبر ۲۰۲۵ این تصمیم ملغی شد). از آن طرف، شرکت آنتروپیک (Anthropic) هم اعلام کرده که چت‌ها ظرف ۳۰ روز از حافظه پاک می‌شوند، اما اگر کاربری گزینه موافقت با بهبود مدل را فعال کرده باشد، داده‌های او به شکل ناشناس تا ۵ سال ذخیره خواهد شد.

بزرگ‌ترین خطرات نقض حریم خصوصی در هوش مصنوعی که باید بشناسید

به عنوان یک قاعده کلی و سرانگشتی، همیشه فرض کنید هر صحبتی که با یک مدل زبانی بزرگ انجام می‌دهید، ممکن است به دست یک شخص ثالث بیفتد و خوانده شود.

به همین دلیل حیاتی است که اطلاعات حساس مثل مالکیت فکری، کدهای محرمانه یا اطلاعات هویتی و اعتباری را با هوش مصنوعی در میان نگذارید؛ چون ممکن است در نهایت جلوی چشم فرد دیگری قرار بگیرد. درست است که تنظیمات حریم خصوصی ریسک استفاده از داده در آموزش مدل را کم می‌کند، اما وقتی با یک مدل جعبه سیاه (Blackbox) طرف هستید، هیچ شفافیتی درباره اینکه آیا این تنظیمات واقعاً و صددرصد اجرا می‌شوند یا نه، وجود ندارد.

۱. نشت و لو رفتن داده‌ها (Data Leakage)

یکی از بزرگ‌ترین خطراتی که کاربران را تهدید می‌کند، نشت اطلاعات است. داده‌هایی که وارد چت‌بات‌هایی مثل ChatGPT یا کلود می‌کنید، ممکن است نه تنها در سیستم‌های داخلی شرکت‌ها در دسترس افراد قرار گیرد، بلکه حتی سر از اینترنت عمومی و صفحات وب درآورد.

۲. ابزار‌ها و سرویس‌های متصل (Connected Tools)

بسیاری از کاربران چت‌بات‌هایی مانند ChatGPT را به اپلیکیشن‌ها و سرویس‌های متفرقه وصل می‌کنند؛ موضوعی که رهگیری این موضوع را که چه کسی دقیقاً به چه اطلاعاتی دسترسی دارد، به شدت دشوار می‌سازد.

اگر ChatGPT را به حساب کاربری جیمیل (Gmail) یا اسلک (Slack) خود متصل کنید، ممکن است چت‌بات به اطلاعات و مکاتباتی دست پیدا کند که شما هیچ‌وقت مجوز صریح و مستقیمی برای دسترسی به آن‌ها صادر نکرده بودید.

هنگام استفاده از چت‌بات‌ها، هر اطلاعاتی را که دوست ندارید در سطح اینترنت عمومی پخش شود، به عنوان «خط قرمز» در نظر بگیرید. این قانون درباره اطلاعات حساسی مثل رمزهای عبور، نام کاربری و لاگین، کدهای احراز هویت دو مرحله‌ای، کد ملی، مشخصات کارت و حساب بانکی، اطلاعات هویتی شخصی (PII) و دارایی‌های فکری و محرمانه، اهمیتی دوچندان پیدا می‌کند.

برای نمونه، اگر شماره کارت یا مشخصات بانکی خود را وارد ChatGPT کنید، هر کسی که به حساب کاربری یا تاریخچه چت‌های شما دست پیدا کند، می‌تواند از این اطلاعات برای کلاهبرداری استفاده نماید. علاوه بر این، ورودی‌های شما ممکن است به دست ناظران و ارزیاب‌های انسانی شرکت یا حتی مراجع قانونی بیفتد.

یک راهکار هوشمندانه جایگزین این است که داده‌های خود را ناشناس‌سازی (Anonymize) کنید؛ یعنی بدون فاش کردن هویت واقعی‌تان، درباره موضوعات حساس پزشکی، حقوقی یا مالی از هوش مصنوعی مشورت بگیرید. مثلاً اگر می‌خواهید از ChatGPT برای بررسی علائم بیماری استفاده کنید، علائم و نشانه‌ها را بنویسید اما نام، نشانی، سن دقیق یا هرگونه داده بیومتریک و شناسایی‌کننده را کاملاً حذف کنید.

چگونه هنگام کار با هوش مصنوعی از حریم خصوصی خود محافظت کنیم؟

ساده‌ترین و مؤثرترین راه برای حفظ امنیت، این است که اطلاعات محرمانه و هر چیزی را که هویت شخصی شما را فاش می‌کند، اصلاً به چت‌بات ندهید. در عمل، این یعنی مطمئن شوید نام، آدرس، شماره تماس، کد ملی یا اطلاعات پرداختی خود را توی چت تایپ نمی‌کنید. اگر پرامپتی دارید که حاوی چنین مواردی است، اطلاعات حساس را با متغیرهای فرضی جایگزین کنید (مثلاً به جای نام واقعی خودتان بنویسید «کاربر الف» یا «شخص X») تا احتمال نشت هویت به صفر برسد.

اگر سهواً اطلاعاتی را با چت‌بات به اشتراک گذاشتید که نباید می‌دادید، گزینه‌های شما محدود است: حذف چت، دیلیت اکانت، یا ارسال پیام مستقیم به شرکت ارائه‌دهنده برای درخواست حذف کامل داده‌ها (طبق مقررات بین‌المللی حفاظت از داده مانند GDPR، کاربران حق درخواست پاک شدن اطلاعات شخصی خود را دارند).

علاوه بر این، می‌توانید با رفتن به بخش تنظیمات در ChatGPT یا Claude، گزینه آموزش و ارتقای مدل‌ها با داده‌های خود را خاموش کنید. یک ترفند سریع و عالی دیگر، استفاده از «چت‌های موقت» (Temporary Chats) است. در حالت چت موقت، مکالمات برای آموزش مدل‌های بعدی اوپن‌ای‌آی به کار گرفته نمی‌شوند و طبق سیاست‌های این شرکت ظرف ۳۰ روز به طور خودکار حذف می‌شوند.

برخی چت‌بات‌ها مثل جمینای و ChatGPT قابلیتی به نام حافظه (Memory) دارند که اطلاعات گفت‌وگوهای قبلی شما را ذخیره می‌کند تا پاسخ‌های شخصی‌سازی‌شده بدهد. اگر نمی‌خواهید هوش مصنوعی جزئیات صحبت‌های قبلی‌تان را به خاطر بسپارد، حتماً سری به تنظیمات بزنید، حافظه‌های ذخیره‌شده را پاک کنید و در صورت نیاز این قابلیت را کلاً غیرفعال نمایید.

از کجا بفهمیم یک ابزار هوش مصنوعی واقعاً قابل اعتماد است؟

تشخیص اینکه آیا می‌توان به یک ابزار هوش مصنوعی اعتماد کرد یا نه، کار چندان ساده‌ای نیست. با اینکه ابزار‌هایی مثل ChatGPT، کلود و جمینای توسط شناخته‌شده‌ترین غول‌های فناوری دنیا ساخته شده‌اند، کاربران حتی بعد از خاموش کردن اشتراک‌گذاری داده‌ها هم هیچ تضمین صددرصدی ندارند که اطلاعاتشان هرگز به دست اشخاص ثالث نرسد.

همان‌طور که خطاهای هوش مصنوعی را راستی‌آزمایی می‌کنید یا برای جلوگیری از کلاهبرداری‌های صوتی هوش مصنوعی دست به عصا حرکت می‌کنید، در حوزه حریم خصوصی هم باید پیش‌دستانه عمل کنید. همیشه نگاهی به سیاست‌های حفظ حریم خصوصی ابزار‌ها بیندازید تا بفهمید داده‌های شما کجا می‌روند؛ مثلاً اگر سیاست حفظ حریم خصوصی دیپ‌سیک (DeepSeek) را بخوانید، متوجه می‌شوید که این شرکت داده‌ها را در خاک جمهوری خلق چین جمع‌آوری و پردازش می‌کند. قبل از اشتراک‌گذاری اطلاعات، همیشه از خود بپرسید: آیا می‌دانم این داده‌ها در کجا پردازش می‌شوند و آیا با افشای عمومی احتمالی آن‌ها مشکلی ندارم؟ اگر جوابتان منفی است، بهترین کار این است که اصلاً پرامپت را ارسال نکنید.

صرف ظاهر خلوت و خصوصی یک پنجره چت، هرگز به این معنی نیست که حرف‌های شما خوراک آموزش مدل‌ها نمی‌شود یا ارزیاب‌های انسانی آن را نمی‌خوانند. تمام اطلاعاتی که با چت‌بات در میان می‌گذارید محرمانه نمی‌ماند؛ بنابراین داشتن مقداری شک و احتیاط منطقی می‌تواند بهترین سپر دفاعی شما در برابر افتادن اطلاعات به دست افراد نامطمئن باشد.

پرسش‌های متداول (FAQ)

اوپن‌ای‌آی در وب‌سایت رسمی خود ادعا می‌کند که داده‌های کاربران را نمی‌فروشد و گفت‌وگوهای ChatGPT را در اختیار تبلیغ‌کنندگان قرار نمی‌دهد. همچنین اعلام شده که آگهی‌دهندگان به چت‌ها، تاریخچه گفت‌وگوها، حافظه‌ها یا اطلاعات شخصی افراد دسترسی ندارند. با این وجود، اوپن‌ای‌آی تا زمانی که کاربر دستی این گزینه را غیرفعال نکند، از داده‌های او برای آموزش مدل‌هایش استفاده خواهد کرد.

اینکه هوش مصنوعی دقیقاً به چه اطلاعاتی در دستگاه شخصی شما دسترسی دارد، به اپلیکیشن نصب‌شده و نوع دستگاهتان بستگی دارد. به طور معمول، هیچ برنامه‌ای نباید بدون گرفتن اجازه مستقیم از شما، به پیام‌ها، مخاطبین، عکس‌ها، موقعیت مکانی، میکروفون یا دوربین دسترسی پیدا کند.

با این حال، گزارش‌هایی از سرک کشیدن ابزار‌های هوش مصنوعی به سایر اپلیکیشن‌ها وجود دارد؛ به عنوان مثال جیسون آتن (Jason Aten)، نویسنده مجله Inc، در مقاله‌ای مدعی شد که ایجنت هوش مصنوعی Meta Muse بدون اجازه پیام‌های خصوصی آیفون او را خوانده و هایلایت کرده است!

استفاده از ابزار‌های رایگان هوش مصنوعی که توسط شرکت‌های معتبری مثل اوپن‌ای‌آی، آنتروپیک، گوگل و مایکروسافت عرضه می‌شوند عموماً امن است، اما ممکن است تدابیر امنیتی و محافظت از حریم خصوصی در آن‌ها نسبت به نسخه‌های پولی و سازمانی محدودتر باشد.

بسیاری از ابزار‌ها از جمله ChatGPT، کلود و جمینای به کاربران اجازه می‌دهند داده‌های خود را پاک کنند. اگرچه این کار به حفظ حریم خصوصی کمک می‌کند، اما اگر اطلاعات شخصی شما قبلاً وارد سیستم شده و به چرخه آموزش مدل‌ها راه پیدا کرده باشد، حذف چت‌ها لزوماً آن داده‌ها را از حافظه درونی مدل پاک نخواهد کرد.