چتبات‌های هوش مصنوعی چقدر درباره شما می‌دانند؟ بررسی ابزار افشاگر Proton

اگر روزی دفترچه خاطرات شخصی فردی پیدا شود، با آن چه باید کرد؟ این سؤالی است که پس از بارگذاری خروجی مکالمات با ChatGPT در ابزار جدید Proton AI Paper Trail، توجه کارشناسان امنیت را به خود جلب می‌کند.

این ابزار رایگان که به دست مهندسان نرم‌افزارهای امنیتی در شرکت Proton طراحی شده است، تنها یک وظیفه محوری دارد: تحلیل تاریخچه استخراج‌شده از چتبات‌های ChatGPT یا Claude و نشان دادن اینکه کاربران تا چه اندازه ناخواسته اطلاعات شخصی و هویتی خود را تسلیم این سیستم‌ها کرده‌اند. ابزار مذکور روی Lumo — مدل زبانی بزرگ این شرکت با تمرکز بر حفظ حریم خصوصی — اجرا می‌شود که بر خلاف رویکرد غول‌های دنیای فناوری در گردآوری داده‌ها، بلافاصله پس از پردازش تمام اطلاعات ورودی کاربر را بدون ذخیره‌سازی حذف می‌کند.

در بررسی‌ها و آزمایش‌های عملی مشخص شد تصویری که هوش مصنوعی از کاربر ترسیم می‌کند، بسیار دقیق‌تر و فراتر از مکالمات روزمره است؛ از دغدغه‌های شغلی و جزییات مختلف مالی گرفته تا چالش‌های روابط فردی و برنامه‌های سفر. پروفایل استخراج‌شده با دقتی بالا جنبه‌هایی از ویژگی‌های شخصیتی را ترسیم کرده بود که حتی نزدیکان فرد نیز ممکن است از آن بی‌خبر باشند.

گزارش ابزار Proton AI Paper Trail اطلاعات استخراج‌شده را در چند بخش دسته‌بندی می‌کند؛ بخش «پیشینه مالی» (Financial Background) جزییات بسیار حساسی را نشان می‌دهد که هرگز به صورت مستقیم در مکالمات بیان نشده بودند، و دسته «محدودیت‌های سلامتی» (Health Limitations) دگرگونی‌های وضعیت جسمانی، آسیب‌ها و مراکز درمانی مراجعه‌شده را طی چند ماه دنبال کرده است.

نکته جالب این است که در این گزارش بخشی با عنوان «خانواده» کاملاً بر پایه توهم مدلهای زبانی بزرگ (Hallucination) شکل گرفته بود؛ امری که نشان می‌دهد LLMها همچنان خطاپذیرند، هرچند این تلاش سیستماتیک برای پرونده‌سازی با افزایش داده‌ها و گذر زمان دقیق‌تر خواهد شد.

نکته نگران‌کننده آن است که این ابزار، کاربر را فردی با قابلیت پرونده‌سازی «آسان» ارزیابی کرده و حتی یک «ارزش دلاری تبلیغاتی» چهاررقمی به همراه فهرستی از صنایعی که مشتاق هدف‌گیری این پروفایل هستند، اختصاص داده است.

پرونده‌سازی چتبات‌های هوش مصنوعی از کاربران چقدر آسان است؟

تا همین چند سال پیش، تدوین چنین پروفایل‌های شناختی و رفتاری جامعی مستلزم تحقیقات میدانی طولانی‌مدت بود، اما اکنون تنها با بارگذاری یک فایل ساده انجام می‌پذیرد.

بخش اعظم این داده‌ها ناشی از زمینه‌ها و سرنخ‌هایی است که کاربران در خلال مکالمات معمولی با چتبات‌ها بر جا می‌گذارند.

امون مگوایر (Eamonn Maguire)، مدیر مهندسی Proton، در این رابطه توضیح می‌دهد: «حتی زمانی که کاربر واقعیتی را صراحتاً بیان نمی‌کند، الگوهای تعاملی می‌توانند سن تقریبی، طبقه درآمدی، سطح تحصیلات یا تمایلات سیاسی او را فاش کنند.»

علاوه بر این، لحن نگارش و سبک نوشتار نیز بر ضد امنیت هویتی کاربر عمل می‌کند؛ لحن فرد می‌تواند وضعیت اجتماعی-اقتصادی و حالات روحی و روانی نظیر استرس و لحظات آسیب‌پذیری عاطفی را برملا سازد.

پیامد چنین وضعیتی روشن است: این داده‌ها واجد ارزش اقتصادی بالایی هستند و شرکت‌ها می‌توانند از آنها سود مالی کسب کنند.

در واقع، به محض خروج داده از سیستم و ترکیب آن با سایر مجموعه‌های داده به منظور تبلیغات، آموزش مدل‌ها یا اشتراک‌گذاری، امنیت اطلاعات شخصی برای همیشه با چالش روبه‌رو می‌شود و راهکار چندانی برای محافظت از آن باقی نمی‌ماند.

آیا برخی چتبات‌ها نسبت به سایرین ناامن‌تر هستند؟

واقعیت این است که اغلب مدلهای زبانی گنجینه‌ای از داده‌ها به شمار می‌روند؛ آنها جزییات ارائه شده از سوی کاربران را جذب می‌کنند و مقاومت شرکت‌های مالک برای کسب درآمد از این منبع بسیار دشوار است.

در رتبه‌بندی حریم خصوصی داده‌ها که از سوی شرکت Incogni انجام شد، ۱۳ پلتفرم هوش مصنوعی بر اساس ریسک‌های حریم خصوصی ارزیابی شدند. بوگدان پوپسکو (Bogdan Popescu)، مدیر ارشد ارتباطات Incogni، در این باره اظهار داشت: «مسئله این نیست که کدام پلتفرم سازگارترین رویکرد را با حریم خصوصی دارد، بلکه باید دید کدام پلتفرم کمترین درجه تهاجم به حریم خصوصی را داراست.»

بر اساس این بررسی، پلتفرم‌های Meta AI، Gemini و Copilot بدترین کارنامه را ثبت کرده‌اند. دلیل این امر، سیاست‌های حفظ حریم خصوصی بسیار گسترده‌ای است که به طور همزمان ده‌ها سرویس مختلف این شرکت‌ها را در بر می‌گیرد و تشخیص نحوه برخورد با چتبات‌ها را دشوار می‌سازد؛ افزون بر آن، این پلتفرم‌ها در مقیاس وسیعی به گردآوری و اشتراک‌گذاری داده‌ها می‌پردازند.

در سمت دیگر، مدل‌هایی مانند Vibe متعلق به شرکت Mistral AI ریسک‌های کمتری ثبت کرده‌اند، هرچند همچنان بر روی دیتاست‌های عمومی آموزش می‌بینند بدون اینکه شفاف‌سازی دقیقی از منابع آنها وجود داشته باشد.

پلتفرم پرطرفدار ChatGPT نیز پس از مدل شرکت Mistral در رتبه دومین سامانه با کمترین نرخ تهاجم به حریم خصوصی قرار گرفته است، اما این یافته‌ها پس از افشاگری‌های اخیر مبنی بر بررسی و خواندن پرامپت‌های کاربران توسط ناظران انسانی برای ارتقای مدل‌های OpenAI، چندان اطمینان‌بخش به نظر نمی‌رسد.

آیا کاربران متوجه قربانی شدن حریم خصوصی خود هستند؟

نکته تلخ ماجرا این است که بیش از آنکه شرکت‌ها به دنبال سرقت مخفیانه داده‌ها باشند، این خود کاربران هستند که حریم خصوصی‌شان را ناخواسته به حراج می‌گذارند.

زک پاپیس (Zac Pappis)، معاون ارشد شرکت DuckDuckGo، معتقد است: «بسیاری از کمپانی‌ها این حس را القا کرده‌اند که برای هر کاری باید از هوش مصنوعی استفاده کرد.»

ترکیب رابط کاربری گفتگومحور با تظاهر به آگاهی تخصصی، این تصور کاذب را به وجود می‌آورد که چتبات‌ها محیطی امن و ناشناس هستند؛ تصوری که کاملاً نادرست است.

بر اساس پیمایش اخیر DuckDuckGo روی نزدیک به ۲ هزار شهروند آمریکایی، بیش از یک‌سوم کاربران هوش مصنوعی اعتراف کرده‌اند اطلاعاتی را با چتبات‌ها به اشتراک گذاشته‌اند که هرگز به دوستان نزدیک، والدین یا حتی پزشکان خود نگفته بودند.

علاوه بر این، بیش از نیمی از شرکت‌کنندگان در نظرسنجی مطمئن نبودند که آیا مکالمات آنها برای آموزش مدل‌ها به کار می‌رود یا خیر؛ بی‌اطلاعی مطلوبی که پاپیس آن را برگ برنده کمپانی‌ها می‌داند.

چرا پاک کردن تاریخچه گفتگوها کافی نیست؟

شاید نخستین واکنش پس از آگاهی از این شرایط، حذف تمام مکالمات ثبت‌شده باشد؛ اما این اقدام مشکل را بنیادین حل نمی‌کند و تنها ظاهر قضیه را پاک می‌کند.

نسخه‌های متعددی از مکالمات در پایگاه‌های داده، سیستم‌های پشتیبان اضطراری و زیرساخت‌های سرور ذخیره می‌مانند و از همه مهم‌تر، در امبدینگ‌ها (Embeddings) و ساختارهای استخراج‌شده از داده‌ها نفوذ می‌کنند.

مگوایر از شرکت Proton در این خصوص یادآور می‌شود: «اگر یک گفتگو پیش از حذف شدن وارد فرآیند آموزش مدل یا تحلیل‌های آماری شده باشد، پاک کردن چت در محیط کاربری، دانشی را که مدل قبلاً درباره کاربر فراگرفته است، پاک نمی‌کند.»

حتی انصراف از اشتراک داده‌ها برای آموزش مدل (Opt-out) نیز چاره کار نیست؛ چرا که پلتفرم‌ها همچنان الگوهای رفتاری و اطلاعات حساب را برای مقاصدی نظیر تبلیغات هدفمند — امکانی که به تازگی در پلتفرم‌هایی نظیر ChatGPT دیده شده — نگهداری و پردازش می‌کنند.

همچنین تحقیقات شرکت Incogni نشان می‌دهد هیچ پلتفرمی در حال حاضر امکان حذف داده‌هایی را که پیش از این برای آموزش مدل به کار رفته‌اند، در اختیار کاربر قرار نمی‌دهد؛ بنابراین حق انصراف فقط مشمول داده‌های آینده است.

راهکارهای استفاده خصوصی‌تر از چتبات‌های هوش مصنوعی

متخصصان امنیت برای کاهش ردپای دیجیتال در تعامل با سیستم‌های هوش مصنوعی پیشنهادهای مشخصی دارند.

توصیه اصلی، توجه به اثر تجمعی مکالمات است؛ به این معنا که نباید هر پرامپت را یک تعامل مجزا دانست، بلکه باید فرض کرد هر عبارتی که تایپ می‌شود می‌تواند روزی توسط اشخاص ثالث یا ایجنت‌های مخرب — اعم از انسان یا هوش مصنوعی — مورد سوءاستفاده قرار گیرد.

همچنین حرکت به سمت ابزارهای متمرکز بر امنیت و حفظ حریم شخصی یک راهکار عملی است. به عنوان مثال، چتبات Lumo متعلق به Proton مکالمات را پس از پردازش ذخیره نمی‌کند و از رمزگذاری کامل (Zero-access encryption) بهره می‌برد. ابزارهای متن‌بازی نظیر xPrivo و سرویس‌هایی مانند Internxt نیز مدل‌هایی هستند که چت‌ها را روی حافظه محلی دستگاه نگه می‌دارند.

در صورت استفاده از پلتفرم‌های متداول، پیشنهاد می‌شود کاربران به جای اپلیکیشن‌های موبایل — که دسترسی‌های محلی بیشتری به دستگاه دارند — از طریق مرورگر به وب‌سایت این سرویس‌ها متصل شوند.

در نهایت، تنها راهکار ساختاری در درازمدت تدوین قوانین مدنی سخت‌گیرانه نظیر «حق فراموش شدن» (Right to be forgotten) به شکلی شفاف و قابل راستی‌آزمایی برای عصر هوش مصنوعی خواهد بود.