شخصی‌سازی هوش مصنوعی به چه قیمتی تمام می‌شود؟ راهنمای جامع حفظ حریم خصوصی در چت‌بات‌ها

فهرست مطالب

1. شخصی‌سازی هوش مصنوعی چیست و چگونه کار می‌کند؟
2. شخصی‌سازی بهتر هوش مصنوعی اغلب داده‌های بیشتری می‌طلبد
3. خطرات حریم خصوصی و امنیت در هوش مصنوعی شخصی‌سازی‌شده
4. چگونه میان شخصی‌سازی هوش مصنوعی و حفظ حریم خصوصی تعادل برقرار کنیم؟
5. هوش مصنوعی شخصی‌سازی‌شده و مسئولانه چه ویژگی‌هایی دارد؟
6. پرسش‌های متداول (FAQ)

شخصی‌سازی هوش مصنوعی همان قابلیتی است که به یک چت‌بات امکان می‌دهد ترجیح شما برای دریافت ایمیل‌های کوتاه، گیاه‌خوار بودنتان، هدایای مورد علاقه اعضای خانواده یا تاریخ تولد نزدیکانتان را به خاطر بسپارد. این فرآیند از آنجا شکل می‌گیرد که ابزار هوشمند، جزئیات مربوط به شما را در حافظه‌اش نگه می‌دارد؛ و دقیقاً در همین نقطه است که هوش مصنوعی و حریم خصوصی داده‌ها به هم برخورد می‌کنند. به نظر می‌رسد کاربران از این راحتی استقبال می‌کنند: بر اساس نظرسنجی حریم خصوصی مصرف‌کنندگان سیسکو در سال ۲۰۲۴، حدود ۶۳ درصد از مصرف‌کنندگان باور دارند هوش مصنوعی می‌تواند در بهبود کیفیت زندگی آن‌ها مفید باشد و ۷۸ درصد نیز تأکید می‌کنند سازمان‌ها موظف‌اند این فناوری را مسئولانه و اخلاقی به کار گیرند. با این حال، مرکز تحقیقات پیو (Pew Research Center) گزارش می‌دهد که نیمی از بزرگسالان آمریکایی می‌گویند گسترش روزافزون هوش مصنوعی در زندگی روزمره بیش از آنکه آن‌ها را هیجان‌زده کند، نگرانشان کرده است؛ در حالی که تنها ۱۰ درصد اعلام کرده‌اند که بیشتر هیجان‌زده هستند.

شخصی‌سازی هوش مصنوعی چیست و چگونه کار می‌کند؟

شخصی‌سازی هوش مصنوعی زمانی رخ می‌دهد که ابزار هوشمند، پاسخ‌ها، پیشنهادها یا اقدامات خود را بر اساس آنچه از اولویت‌ها، تاریخچه فعالیت‌ها، علایق و زمینه کاری شما می‌داند، تنظیم کند. این قابلیت با ذخیره‌سازی یا استنتاج جزئیات از تعاملات شما کار می‌کند و سپس این اطلاعات را به‌عنوان پیش‌زمینه به درخواست‌های بعدی پیوند می‌زند.

اولویت‌های کاربر به دو دسته تقسیم می‌شوند: اولویت‌های صریح که مستقیماً به ابزار اعلام می‌کنید؛ مانند درخواست از چت‌بات برای به خاطر سپردن فرمت دلخواه شما در خلاصه‌نویسی جلسات. دسته دوم اولویت‌های ضمنی و استنتاجی هستند؛ الگوهایی که خودِ ابزار به‌مرور زمان کشف می‌کند. در همین راستا، اوپنای‌آی اعلام کرده است که حافظه ChatGPT اکنون هم از یادداشت‌های ذخیره‌شده و هم از تاریخچه گفت‌وگوهای گذشته بهره می‌گیرد. خروجی این فرآیند در پیشنهادهای خرید، دستیارهای سازمانی که پروژه‌های شما را به یاد دارند، برنامه‌های سفر که عادات شما را می‌آموزند و پیام‌های تبلیغاتی متناسب با رفتارتان نمایان می‌شود. البته آموزش مدل مقوله‌ای کاملاً جداگانه است؛ چراکه در آموزش، داده‌ها برای ارتقای مدل زیربنایی برای تمام کاربران به کار می‌روند، نه برای تنظیم اختصاصی پاسخ‌ها برای شخص شما.

شخصی‌سازی بهتر هوش مصنوعی اغلب داده‌های بیشتری می‌طلبد

شخصی‌سازی می‌تواند با داده‌های اندک نیز کار کند، اما خروجی‌ها در این حالت معمولاً عمومی و کلیشه‌ای خواهند بود. ابزار هوش مصنوعی پاسخ‌ها را فقط بر مبنای آنچه در دست دارد تنظیم می‌کند؛ بنابراین هرچه بیشتر درباره عادات و تاریخچه شما بیاموزد، مفیدتر و کارآمدتر می‌شود. این مسئله دقیقاً همان معامله و بده‌بستان اصلی در این فناوری است.

نوع داده‌های دریافتی به محصول بستگی دارد. شرکت آنتروپیک می‌گوید حافظه مدل Claude مواردی مانند نقش شغلی، پروژه‌ها، افراد حاضر در محیط کار و زندگی و اولویت‌های ارتباطی شما را پوشش می‌دهد؛ در حالی که گوگل اعلام کرده است که مدل Gemini می‌تواند از مکالمات گذشته شما بیاموزد. از سوی دیگر، محققان دانشگاه استنفورد با بررسی سیاست‌های حفظ حریم خصوصی شرکت‌ها دریافتند غول‌های فناوری دارای سبد محصولات متنوع مانند گوگل، متا، مایکروسافت و آمازون، تعاملات چت را به‌طور معمول با جستجوها، خریدهای اینترنتی و فعالیت در شبکه‌های اجتماعی ادغام می‌کنند. در صورت اتصال تقویم، ایمیل یا فضای ذخیره‌سازی ابری، دستیار هوشمند می‌تواند به محتوای آن‌ها نیز دسترسی داشته باشد و بسته به مجوزهای دستگاه، حتی موقعیت مکانی کاربر نیز به این ترکیب افزوده می‌شود.

خطرات حریم خصوصی و امنیت در هوش مصنوعی شخصی‌سازی‌شده

هرچه یک ابزار داده‌های شخصی بیشتری نگهداری کند، احتمال نشت، سوءاستفاده یا دستکاری اطلاعات بالاتر می‌رود. چارچوب مدیریت ریسک هوش مصنوعی مولد مؤسسه ملی استاندارد و فناوری آمریکا (NIST)، حریم خصوصی داده‌ها را به‌عنوان ریسکی محوری معرفی کرده است؛ خطراتی که نشت اطلاعات، استفاده غیرمجاز و استنتاج جزئیات فاش‌نشده درباره افراد را در بر می‌گیرد.

این وضعیت زمانی نگران‌کننده می‌شود که نتوانید بفهمید ابزار دقیقاً چه داده‌هایی ذخیره می‌کند، این اطلاعات به کجا فرستاده می‌شوند یا چگونه می‌توان آن‌ها را پاک کرد؛ به‌ویژه وقتی اطلاعات به قدری حساس باشند که افشای آن‌ها آسیب‌رسان باشد. اعتماد عمومی در حال حاضر بسیار شکننده است. پژوهش مرکز پیو نشان می‌دهد در میان آمریکایی‌هایی که با هوش مصنوعی آشنایی دارند، ۷۰ درصد اعتماد چندانی به شرکت‌ها در اتخاذ تصمیمات مسئولانه در محصولاتشان ندارند. افزون بر این، ۶۷ درصد از بزرگسالان آمریکایی اعلام کرده‌اند که تقریباً هیچ اطلاعی از نحوه مدیریت داده‌های شخصی خود توسط شرکت‌ها ندارند.

۱. افشای ناخواسته اطلاعات حساس

پروژه امنیت برنامه‌های کاربردی وب آزاد (OWASP) هشدار می‌دهد که کاربران ممکن است ناخواسته داده‌های حساسی را در اختیار ابزار هوش مصنوعی قرار دهند که این اطلاعات بعدها در خروجی‌های مدل ظاهر شوند. این نهاد به شناسه‌های هویتی، جزئیات مالی، سوابق پزشکی و اطلاعات تجاری محرمانه به‌عنوان نمونه‌هایی از این موارد اشاره می‌کند.

نمونه سازمانی این اتفاق پیش‌تر در دنیای واقعی رخ داده است: بلومبرگ در سال ۲۰۲۳ گزارش داد که سامسونگ پس از آپلود کدهای منبع محرمانه در ChatGPT توسط کارمندان، استفاده از ابزارهای هوش مصنوعی مولد را برای کارکنان خود ممنوع کرد. راهکار عملی در سمت کاربر روشن است: داده‌هایی را که نمی‌توانید پیامدهای افشای آن‌ها را بپذیرید، وارد چت‌بات نکنید. این داده‌ها شامل شماره‌های تأمین اجتماعی و ملی، رمزهای عبور، شماره حساب‌ها، سوابق پزشکی و پرونده‌های محرمانه مشتریان یا شرکت می‌شود. اگر برای ویرایش یا تحلیل سندی به هوش مصنوعی نیاز دارید، پیش از ارسال متن، نام‌ها و ارقام حساس را پاک کنید و قبل از وارد کردن هرگونه فایل کاری، مطمئن شوید سازمان شما استفاده از آن ابزار را تأیید کرده باشد.

۲. آموزش مدل با مکالمات کاربران و نگهداری طولانی‌مدت داده‌ها

بسیاری از ارائه‌دهندگان هوش مصنوعی به‌طور پیش‌فرض از مکالمات کاربران برای ارتقای مدل‌های خود استفاده می‌کنند. بررسی دانشگاه استنفورد روی شش شرکت پیشرو آمریکایی نشان داد هر شش شرکت چنین رویکردی دارند و برخی از آن‌ها داده‌ها را برای مدتی نامحدود نگهداری می‌کنند. این یعنی کلمات شما می‌توانند بسیار فراتر از زمان مکالمه در سرورها باقی بمانند.

گزینه‌های مدیریتی برای این بخش وجود دارد، اما شرایط آن‌ها بسته به هر شرکت و نوع اشتراک متفاوت است. اوپنای‌آی می‌گوید کاربران عادی می‌توانند با خاموش کردن گزینه «Improve the model for everyone» انصراف خود را ثبت کنند؛ ضمن اینکه اشتراک‌های سازمانی این شرکت به‌صورت پیش‌فرض برای آموزش به کار نمی‌روند. گوگل نیز اعلام کرده است که چت‌های موقت (Temporary Chats) در مدل Gemini برای آموزش مدل‌ها استفاده نمی‌شوند. با این حال، پژوهشگران استنفورد توصیه می‌کنند در هر پلتفرمی که امکان دارد، گزینه آموزش مدل را غیرفعال کنید.

۳. استنتاج‌های پنهان و پروفایل‌سازی رفتاری

هوش مصنوعی شخصی‌سازی‌شده صرفاً متن‌های تایپ‌شده شما را ذخیره نمی‌کند؛ بلکه می‌تواند نتایجی را استنتاج کند که هرگز مستقیماً به آن‌ها اشاره نکرده‌اید. مؤسسه NIST تأکید می‌کند که هوش مصنوعی مولد قادر است اطلاعات شخصی یا حساسی را حدس بزند که کاربر اعلام نکرده است؛ حتی اگر این استنتاج‌ها نادرست باشند، باز هم می‌توانند به فرد توصیف‌شده آسیب برسانند.

محققان استنفورد سناریویی را در این باره مطرح کرده‌اند: اگر از چت‌بات چند پیشنهاد شام کم‌قند و مناسب برای سلامت قلب بخواهید، سیستم ممکن است شما را به‌عنوان فردی با ریسک بالای بیماری دسته‌بندی کند؛ برچسبی که می‌تواند در میان محصولات مختلف شرکت به اشتراک گذاشته شود و در مواردی مانند تبلیغات هدفمند ظاهر شود. برای کاهش چنین احتمالاتی، پرسش‌های سلامت، مالی و حقوقی را در ابزارهای متصل به حساب‌های تبلیغاتی یا فروشگاهی مطرح نکنید و از چت‌های موقت برای این قبیل موضوعات بهره ببرید. اوپنای‌آی اعلام کرده است که مدل ChatGPT را طوری تنظیم کرده که جزئیات حساس مانند اطلاعات سلامت را به‌طور خودکار ذخیره نکند؛ پلتفرم Claude نیز می‌گوید به‌صورت پیش‌فرض موضوعات حساس را ذخیره نمی‌کند.

۴. تزریق پرامپت و دستکاری حافظه چت‌بات

حمله تزریق پرامپت (Prompt Injection) زمانی اتفاق می‌افتد که دستورات پنهان‌شده در دل یک سند، ایمیل یا صفحه وب، ابزار هوش مصنوعی را وادار می‌کنند اقداماتی خلاف خواست واقعی کاربر انجام دهد. پروژه OWASP این تهدید را در صدر فهرست ۱۰ ریسک برتر برنامه‌های مبتنی بر مدل‌های زبانی قرار داده و یادآور شده است که هنوز مشخص نیست آیا راهکار دفاعی صددرصد نفوذناپذیری برای آن وجود دارد یا خیر.

وجود حافظه، ابعاد این خطر را دوچندان می‌کند؛ چراکه یک دستور مخرب می‌تواند برای همیشه در حافظه مدل جا خوش کند. در سال ۲۰۲۴، یوهان ربرگر (Johann Rehberger)، پژوهشگر امنیتی، نشان داد که محتوای غیرقابل‌اعتماد می‌تواند خاطرات جعلی در ChatGPT بکارد و بر اساس گزارش رسانه‌های فناوری، اوپنای‌آی تنها اصلاحیه‌ای جزئی برای آن منتشر کرد. او حمله مشابهی را در سال ۲۰۲۵ روی حافظه بلندمدت Gemini پیاده کرد که البته گوگل اعلام کرد اثرگذاری آن محدود بوده است. در مواجهه با فایل‌ها و لینک‌های ناشناس احتیاط کنید و هر از گاهی حافظه ذخیره‌شده ابزار را بررسی نمایید تا ورودی‌های ناخواسته در آن وجود نداشته باشد.

۵. باگ‌های نرم‌افزاری، نشت داده و برنامه‌های متصل با دسترسی بیش از حد

حتی مطرح‌ترین و معتبرترین سرویس‌های هوش مصنوعی نیز از باگ‌های نرم‌افزاری در امان نیستند. در مارس ۲۰۲۳، اوپنای‌آی اعلام کرد نقصی در یک کتابخانه متن‌باز باعث شد برخی کاربران عناوین گفت‌وگوهای دیگران را مشاهده کنند و اطلاعات مربوط به پرداخت ۱٫۲ درصد از مشترکان فعال ChatGPT Plus در یک بازه زمانی نه ساعته افشا شود.

افشای جزئیات شخصی می‌تواند کلاهبرداری‌ها را بسیار باورپذیرتر کند و مؤسسه NIST اشاره می‌کند که هوش مصنوعی مولد فیشینگ و جعل هویت را تسهیل می‌سازد. از حساب خود با یک رمز عبور اختصاصی و احراز هویت چندعاملی (MFA) محافظت کنید. افزون بر این، سطح دسترسی دستیار هوشمند را محدود نگه دارید. نهاد OWASP توصیه می‌کند اصل کمترین سطح دسترسی (Least Privilege) را رعایت کنید و برای اقدامات حساس تأیید انسانی بخواهید؛ این یعنی فقط برنامه‌های واقعاً ضروری را متصل نمایید و هر فعالیتی را که دستیار قصد دارد از طرف شما انجام دهد، به‌دقت بازبینی کنید.

اطلاعاتی را به اشتراک بگذارید که کیفیت پاسخ‌ها را بالا می‌برند و از ارائه داده‌هایی که افشای آن‌ها آسیب‌زننده است خودداری کنید. در قوانین حفاظت از داده‌ها، این اصل را بهینه‌سازی یا «کمینه‌سازی داده‌ها» (Data Minimization) می‌نامند؛ مفهومی که دفتر کمیسر اطلاعات بریتانیا (ICO) آن را نگهداری داده‌ها صرفاً به میزان کافی، مرتبط و محدود به موارد واقعاً ضروری برای یک هدف مشخص تعریف می‌کند.

یک نگاه گذرا به صفحات طولانی خط‌مشی حریم خصوصی کمکی به شما نخواهد کرد؛ چراکه بر اساس یافته‌های مرکز پژوهشی پیو، حدود ۵۶ درصد از آمریکایی‌ها معمولاً بدون خواندن این متون، روی دکمه «موافقم» کلیک می‌کنند. در عوض، شکل دادن عادت‌های امنیتی نتیجه بسیار بهتری دارد و رعایت این اصول ارزش نهادینه‌سازی را دارد:

• ابتدا تنظیمات حساب خود را بررسی کنید: قابلیت‌های حافظه و ارجاع به چت‌های قبلی در برخی محصولات به‌طور پیش‌فرض روشن هستند؛ از جمله در حساب‌های کاربری رایگان، Pro و Max مدل Claude و همچنین مدل Gemini.
• در صورت تمایل، آموزش مدل با داده‌های خود را غیرفعال کنید: بخش کنترل داده‌های اوپنای‌آی نمونه‌ای از این دسترسی است؛ هرچند این شرکت اعلام کرده زدن دکمه‌های لایک یا دیس‌لایک ممکن است حتی پس از انصراف نیز امکان استفاده از کل آن مکالمه را فراهم سازد.
• برای موضوعات حساس از چت‌های موقت یا ناشناس استفاده کنید: چت‌های موقت در ChatGPT و چت‌های ناشناس در Claude حافظه‌ای ایجاد یا به‌روزرسانی نمی‌کنند؛ همچنین گفته می‌شود چت‌های موقت Gemini برای شخصی‌سازی پاسخ‌ها یا آموزش مدل‌های گوگل به کار گرفته نمی‌شوند.
• اطلاعات حساس را به‌طور کامل از گفت‌وگوها دور نگه دارید: از وارد کردن کد ملی، رمزهای عبور، مشخصات حساب بانکی، سوابق سلامت و فایل‌های محرمانه کاری—که همگی در فهرست هشدارهای OWASP قرار دارند—اکیداً خودداری کنید.
• حافظه ذخیره‌شده ابزار را بازبینی و پاکسازی کنید: حذف یک تاریخچه گفت‌وگو لزوماً به معنای پاک شدن حافظه ثبت‌شده از آن نیست؛ شرکت‌های اوپنای‌آی و آنتروپیک (سازنده Claude) هر دو اعلام کرده‌اند که موارد حافظه باید به‌صورت جداگانه توسط کاربر حذف شوند.
• برنامه‌های متصل را حسابرسی کنید: ابزارهای جانبی و افزونه‌هایی را که دیگر استفاده نمی‌کنید حذف کنید و مطابق با رهنمود حداقل سطح دسترسی OWASP، کمترین مجوزهای ممکن را به آن‌ها بدهید.
• مدت نگهداری داده‌ها و تغییرات شرایط خدمات را بشناسید: موقت بودن همیشه به معنای حذف آنی نیست؛ برای نمونه گوگل می‌گوید چت‌های موقت تا ۷۲ ساعت در سرورها نگهداری می‌شوند. کمیسیون تجارت فدرال آمریکا (FTC) نیز هشدار داده که تغییر پنهانی شرایط خدمات برای آموزش هوش مصنوعی اقدامی فریبکارانه است؛ بنابراین تنظیمات خود را به‌صورت دوره‌ای بررسی کنید.
• نسبت به فایل‌ها، ایمیل‌ها و لینک‌های ناشناس محتاط باشید: پیش از بارگذاری چنین مواردی در ابزاری که دارای حافظه فعال یا دسترسی به برنامه‌های دیگر است به‌خوبی فکر کنید؛ چراکه حملات غیرمستقیم تزریق پرامپت دقیقاً از همین مسیر نفوذ می‌کنند.
• برای امور کاری از ابزارهای مورد تأیید سازمان استفاده کنید: اوپنای‌آی اعلام کرده است که به‌طور پیش‌فرض از محتوای حساب‌های شرکتی، تجاری یا آموزشی برای آموزش مدل استفاده نمی‌کند؛ این یکی از دلایل مهمی است که چرا داده‌های کاری باید در محیط‌های سازمانی پردازش شوند نه حساب‌های شخصی.
• امنیت خودِ حساب کاربری را ارتقا دهید: استفاده از رمز عبور یکتا در کنار احراز هویت چندعاملی (MFA) نفوذ به حساب و تسخیر آن توسط مهاجمان را بسیار دشوار می‌سازد.

هوش مصنوعی شخصی‌سازی‌شده و مسئولانه چه ویژگی‌هایی دارد؟

زمانی می‌توان گفت کاربر تعادل درستی برقرار کرده است که پاسخ‌ها کاملاً متناسب با نیازش باشند، دقیقاً بداند ابزار چه اطلاعاتی را در حافظه نگه داشته و مطمئن باشد که هیچ داده حساسی وارد سیستم نشده است.

نشانه‌های دیگر موفقیت در این تعادل عبارتند از: تفکیک دقیق محیط کار از زندگی شخصی، پرسیدن سؤالات حساس صرفاً در چت‌های موقت، و انتخاب آگاهانه تنظیمات مربوط به آموزش مدل‌ها. همچنین خروجی‌ها همواره راستی‌آزمایی می‌شوند؛ چراکه شخصی‌سازی به‌هیچ‌وجه به معنای افزایش دقت پاسخ‌ها نیست. در سمت شرکت‌های سازنده نیز، پژوهشگران استنفورد پیشنهاد می‌کنند رضایت کاربران برای آموزش مدل‌ها باید کاملاً اختیاری (Opt-in) باشد و اطلاعات شخصی به‌طور خودکار از متن مکالمات فیلتر شود؛ خواسته‌ای که با نتایج نظرسنجی سیسکو همخوانی دارد، جایی که ۷۸ درصد مصرف‌کنندگان بر استفاده اخلاقی سازمان‌ها از هوش مصنوعی تأکید دارند.

کارآمدی هوش مصنوعی شخصی‌سازی‌شده مستقیماً به کانتکست و پیش‌زمینه‌ای وابسته است که در اختیار دارد؛ اما همین پیش‌زمینه، مرز آسیب‌پذیری شما نیز به شمار می‌رود. اطلاعاتی را به اشتراک بگذارید که کیفیت خروجی را ارتقا می‌دهند، داده‌های حساس را دور نگه دارید، در صورت وجود از چت‌های موقت و گزینه غیرفعال‌سازی آموزش مدل بهره ببرید و دسترسی‌های برنامه‌ها و حافظه ذخیره‌شده را در فواصل زمانی منظم بازبینی کنید.

پرسش‌های متداول (FAQ)

شخصی‌سازی لزوماً نیازمند داده‌های حساس نیست و بیشتر اطلاعاتی که یک دستیار را مفید می‌سازند، از جنس داده‌های کم‌ریسک هستند؛ مواردی نظیر عنوان شغلی، لحن و فرمت نگارش مورد علاقه، ابزارهای مورداستفاده و موضوعات کاری مدنظر شما. ارائه‌دهندگان نیز محصولات خود را حول همین محور بازطراحی می‌کنند؛ چنانکه اوپنای‌آی اعلام کرده است که ChatGPT را از به خاطرسپاری خودکار داده‌های حساس مثل اطلاعات پزشکی بازمی‌دارد و پلتفرم Claude نیز موضوعاتی چون سلامت، مذهب یا سیاست را ذخیره نمی‌کند، مگر آنکه کاربر این قابلیت را فعال کند.

برای شخصی‌سازی پاسخ‌ها بدون ورود به جزئیات، موقعیت خود را در قالب عبارات کلی توصیف کنید. برای نمونه، به‌جای بردن نام کارمندان بگویید یک تیم کوچک را مدیریت می‌کنید، یا به‌جای کپی کردن شماره حساب‌ها اشاره کنید که در حال برنامه‌ریزی بودجه برای یک خانواده چهارنفره هستید. ترجیحات پایدار مانند لحن و ساختار پاسخ‌ها را در بخش دستورالعمل‌های سفارشی (Custom Instructions) یا تنظیمات شخصی‌سازی وارد نمایید؛ بخشی که اوپنای‌آی آن را جایگاه مناسب برای داده‌های صریح معرفی می‌کند. برای هر موضوعی که ناچار به ذکر ارقام و جزئیات واقعی در آن هستید، از چت موقت یا ناشناس بهره ببرید. مدل Claude همچنین حافظه مجزایی برای هر پروژه (Claude Projects) نگه می‌دارد تا محتوای یک پروژه به پروژه‌ای دیگر سرایت نکند.

حافظه هوش مصنوعی اطلاعاتی است که ابزار درباره شخص شما ذخیره می‌کند و در گفت‌وگوهای بعدی فراخوانی می‌نماید تا مکالمه از نقطه صفر آغاز نشود. در مقابل، آموزش هوش مصنوعی فرآیند به‌کارگیری داده‌ها برای ساخت یا ارتقای مدل زیربنایی است که به تمام کاربران سرویس می‌دهد. به زبان ساده، حافظه به خودِ شما تعلق دارد، در حالی که آموزش متعلق به توسعه مدل است.

این دو بخش می‌توانند هم‌پوشانی پیدا کنند. اوپنای‌آی اعلام کرده است که ممکن است از محتوای ارائه‌شده توسط شما، از جمله یادداشت‌های ذخیره‌شده در حافظه، برای ارتقای مدل‌ها استفاده کند، مگر آنکه انصراف خود را ثبت کرده باشید؛ و از آنجا که این دو مورد در بخش‌های جداگانه‌ای از تنظیمات قرار دارند، باید هر دو را بررسی نمایید. فرآیند حذف اطلاعات نیز تفاوت دارد: اوپنای‌آی می‌گوید پاک کردن یک چت به معنای حذف حافظه استخراج‌شده از آن نیست، و مرکز پشتیبانی Claude نیز تأکید دارد موارد ثبت‌شده از یک مکالمه حذف‌شده همچنان باقی می‌مانند. در هر دو سرویس، می‌توانید خاطرات و داده‌های ثبت‌شده را به‌صورت تک‌به‌تک و مستقل حذف کنید.

استفاده از هوش مصنوعی شخصی‌سازی‌شده تنها در صورتی ایمن خواهد بود که ورودی‌ها را کنترل کنید و از راهکارهای امنیتی موجود بهره ببرید؛ با این حال هیچ شرکتی نمی‌تواند امنیت صددرصدی و ریسک صفر را تضمین کند. پژوهشگران نشان داده‌اند که قابلیت‌های حافظه قابل دستکاری هستند، باگ‌های نرم‌افزاری پیش‌تر اطلاعات برخی کاربران را افشا کرده‌اند و نهادهای نظارتی همچنان در حال موشکافی نحوه مدیریت و پردازش داده‌های چت هستند.

مقایسه‌های منتشرشده شباهت‌های بیشتری را میان شرکت‌ها نشان می‌دهند تا تفاوت‌ها. تیم دانشگاه استنفورد با بررسی سیاست‌های حریم خصوصی آمازون، آنتروپیک، گوگل، متا، مایکروسافت و اوپنای‌آی دریافت هر شش شرکت به‌طور پیش‌فرض از داده‌های چت برای آموزش استفاده می‌کنند؛ هرچند گزینه‌های انصراف، مدت نگهداری اطلاعات، نظارت انسانی و نحوه برخورد با داده‌های کودکان در میان آن‌ها متفاوت است. همین موضوع نشان می‌دهد قابلیت‌های کنترلی معیار بسیار بهتری برای ارزیابی هستند تا نام برند: آیا می‌توانید از آموزش انصراف دهید، حافظه را برای یک گفت‌وگوی مشخص خاموش کنید، داده‌های ذخیره‌شده را ببینید و پاک کنید و از مدت زمان نگهداری آن‌ها مطلع شوید؟

هنگام سنجش یک پلتفرم هوش مصنوعی، کار را با سه پرسش کلیدی پژوهشگران استنفورد آغاز کنید: آیا ورودی‌های شما برای آموزش مدل به کار می‌روند؟ چه داده‌های هویتی و فردی جمع‌آوری و ذخیره می‌شوند؟ و آیا حق انصراف یا موافقت اختیاری برای کاربر وجود دارد؟ نهادهای قانون‌گذار نیز در حال پیگیری پرسش‌های مشابهی هستند: در سال ۲۰۲۵، کمیسیون تجارت فدرال (FTC) به هفت شرکت توسعه‌دهنده چت‌بات‌های همراه دستور داد شیوه استفاده و اشتراک‌گذاری اطلاعات شخصی مکالمات کاربران را شفاف‌سازی کنند. در اروپا نیز هیئت حفاظت از داده‌های اروپا (EDPB) در سال ۲۰۲۴ اعلام کرد استناد به «منافع مشروع» برای آموزش مدل‌های هوش مصنوعی نیازمند ضرورت سخت‌گیرانه و ایجاد توازن با حقوق بنیادین افراد است.