جیب پرپول، پیشنهاد گران‌تر! چت‌بات‌هایی مثل کلود و ChatGPT گزینه‌های پرخرج را به ثروتمندان پیشنهاد می‌دهند

پژوهشگران بنیاد هوش مصنوعی سیسکو (Cisco Foundation AI) و دانشگاه کارنگی ملون به‌تازگی پژوهشی منتشر کرده‌اند که نشان می‌دهد چت‌بات‌های محبوب هوش مصنوعی از جمله کلود (Claude) و چت‌جی‌پی‌تی (ChatGPT)، وقتی بر اساس داده‌های شخصی کاربر متوجه می‌شوند او وضعیت مالی خوبی دارد، محصولات و گزینه‌های گران‌تری را به او پیشنهاد می‌دهند؛ حتی زمانی که کاربر صراحتاً از آن‌ها ارزان‌ترین گزینه ممکن را خواسته باشد!

در این تحقیق، ۳۲۵ هزار آزمایش روی ۱۳ مدل هوش مصنوعی از چهار خانواده سرشناس شامل اوپن‌ای‌آی (OpenAI)، آنتروپیک (Anthropic)، گوگل (Google) و کوئن (Qwen) انجام شد. پژوهشگران می‌خواستند ببینند وقتی ایجنت‌های هوش مصنوعی به پروفایل‌های ساختگی کاربران حاوی اطلاعات مالی، شغلی، سلامت و جمعیت‌شناختی دسترسی دارند، پیشنهادهایشان چقدر تغییر می‌کند. نتایج نشان داد در سناریوهایی مثل رزرو بلیت هواپیما، بیمه سلامت و انتخاب دوره‌های تحصیلات تکمیلی، ۸ مدل از ۱۳ مدل در پاسخ به درخواست‌های کاملاً مشابه، گزینه‌های گران‌تری را جلوی پای کاربران ثروتمند گذاشته‌اند.

این اختلاف قیمت اصلاً ناچیز نبود و تفاوت چشمگیری داشت. در این میان، مدل Claude Opus 4.8 بیش‌ترین اختلاف را رقم زد؛ این مدل برای کاربران پردرآمد، بلیت‌های هواپیمایی را پیشنهاد داد که به‌طور میانگین ۱۹۸ دلار گران‌تر از گزینه‌های پیشنهادی به افراد کم‌درآمد بود و برای بیمه درمانی هم طرح‌هایی با میانگین ۲۸۴ دلار حق بیمه بیش‌تر در ماه پیشنهاد کرد. مدل Gemini 2.5 Flash گوگل نیز اختلاف ۱۷۷ دلاری برای پروازها و ۲۱۷ دلاری در ماه برای بیمه را ثبت کرد. حتی GPT-5 که نسبت به سایر مدل‌های قدرتمند شکاف کمتری داشت، به کاربران ثروتمند پروازهایی را پیشنهاد داد که به‌طور میانگین ۱۰۷ دلار گران‌تر بودند.

نکته جالب اینجاست که پژوهشگران متوجه شدند این رفتار حتی با دستور مستقیم و واضح کاربر مبنی بر «پیدا کردن ارزان‌ترین گزینه» هم متوقف نمی‌شود. وقتی کاربری با پروفایل ثروتمند از Gemini 2.5 Flash خواست تا ارزان‌ترین بلیت پرواز را پیدا کند، این مدل باز هم بلیتی به او پیشنهاد داد که به‌طور میانگین ۲۰۸ دلار گران‌تر از بلیتی بود که به یک فرد کم‌درآمد با همان درخواست یکسان نشان می‌داد! این اختلاف قیمت در دستور مشابه برای GPT-5 و Claude Opus 4.8 به‌ترتیب ۲۱ و ۲۰ دلار ثبت شد.

نکته جالب‌تر اینکه ایجنت‌های هوش مصنوعی حتی از نشانه‌ها و سرنخ‌های غیرمستقیم هم ثروت افراد را حدس می‌زنند. زمانی که پژوهشگران داده‌های ساختاریافته مالی را از پروفایل‌ها حذف کردند و مدل‌ها را وادار کردند فقط ایمیل‌های ورودی صندوق پیام را بخوانند، بخش قابل‌توجهی از این شکاف قیمتی همچنان پابرجا ماند. در مورد مدل Gemini 2.5 Flash، محدود کردن دسترسی هوش مصنوعی به تنها دو ایمیل، شکاف قیمتی بزرگ‌تری یعنی ۱۷۵ دلار ایجاد کرد؛ در حالی که دسترسی به کل صندوق ایمیل‌ها اختلاف ۹۱ دلاری به وجود آورده بود. محققان دریافتند وقتی دسترسی مدل محدود بود، در ۹۷ درصد آزمایش‌ها، ابتدا سراغ خواندن هر دو ایمیل مرتبط با امور مالی رفت.

نویسندگان این مقاله، پدیده مذکور را «واگذاری خصمانه» (Adversarial Delegation) نامیده‌اند؛ اصطلاحی که وضعیتی متناقض را توصیف می‌کند: همان دسترسی به داده‌های شخصی که قرار است ایجنت‌های هوش مصنوعی را برای کاربر مفید و کارآمد کند، به آن‌ها این امکان را می‌دهد که دقیقاً بر خلاف منافع صریح و اعلام‌شده خود کاربر عمل کنند.

امان پریانشو (Aman Priyanshu)، محقق هوش مصنوعی در بنیاد سیسکو و یکی از نویسندگان این مقاله، دغدغه اصلی تیم پژوهشی را در گفت‌وگو با خبرگزاری بلومبرگ این‌گونه شرح داد: «ما یک سؤال ساده مطرح کردیم؛ اگر تمام اطلاعات زندگی‌مان را به دستیار هوشمندمان بسپاریم و از آن بخواهیم برایمان خرید کند، آیا این اطلاعات را دقیقاً مثل یک فروشنده بازاری علیه خودمان استفاده خواهد کرد؟»

جالب اینکه مخفی کردن اطلاعات غیرمالی مثل وضعیت شغلی یا مشخصات دموگرافیک هم کمکی به رفع این اختلاف قیمت نکرد و حتی در مواردی اوضاع را بد‌تر کرد! بر اساس این گزارش، پنهان کردن اطلاعات شغلی باعث شد شکاف قیمت بیمه در مدل GPT-5 تا ۴۰ درصد افزایش پیدا کند. به گفته محققان، تنها راهی که این تبعیض قیمتی را تا حد زیادی از بین برد، مسدود کردن مستقیم داده‌ها و اطلاعات مالی بود.

به گزارش بلومبرگ، شرکت OpenAI اعلام کرده نسخه‌ای از ChatGPT که در این پژوهش ارزیابی شده با سیستمی که تجربه خرید کاربران واقعی را مدیریت می‌کند، تفاوت دارد. از سوی دیگر، شرکت‌های آنتروپیک و گوگل به درخواست‌ها برای اظهار نظر پاسخی ندادند. شایان ذکر است که این مقاله در حال حاضر در قالب پیش‌نویس (Preprint) منتشر شده و هنوز داوری همتا (Peer Review) نشده است.

در حالی که بررسی‌های مختلف پیش از این هم نشان داده بودند چت‌بات‌های هوش مصنوعی روی انتخاب فروشگاه‌ها توسط مشتریان تأثیر می‌گذارند، یافته‌های جدید زنگ خطری جدی درباره دسترسی به داده‌های شخصی به صدا درآورده است؛ به‌ویژه در شرایطی که شرکت‌های فناوری با سرعت سرسام‌آوری در حال توسعه ابزار‌های هوش مصنوعی برای خرید آنلاین و مشاوره‌های مالی هستند.