چگونه هوش مصنوعی Muse متا محبوب سالمندان شد و زنگ خطر حریم خصوصی را به صدا درآورد؟

در اواسط ماه اکتبر، «آیلین فی» ۸۲ ساله متوجه شد که هزینه‌های دارویی‌اش در آستانه جهشی سرسام‌آور قرار دارد. دولت فدرال خود را برای تغییر مقررات مربوط به واردات کالاهای کم‌ارزش آماده می‌کرد؛ تصمیمی که توانایی او را برای خرید داروهای تجویزی ارزان‌تر از کانادا (از جمله داروهای رقیق‌کننده خون و نارسایی قلبی) با تهدید روبه‌رو می‌ساخت. فی واقعاً نمی‌دانست باید چه کار کند.

بنابراین او به Muse، دستیار هوش مصنوعی جدید متا پناه برد که از چند هفته قبل استفاده از آن را آغاز کرده بود. پس از آنکه فی شرایط خود را برای این ایجنت شرح داد، Muse یک برگه اطلاعاتیِ دو صفحه‌ای در اختیارش گذاشت که هزینه‌ها و پوشش بیمه‌ای چندین طرح مختلف «مدیکر پارت دی» (Medicare Part D) را با هم مقایسه می‌کرد. سپس دو گزینه برتر را به او پیشنهاد داد؛ از جمله طرحی که فی تا به حال نامش را هم نشنیده بود و می‌توانست سالانه بیش از ۶ هزار دلار در هزینه‌های او صرفه‌جویی کند. فی می‌گوید خودش جزئیات را بررسی کرده و اطلاعات را کاملاً دقیق یافته است.

فی می‌گوید: «نمی‌گویم خودم از پس انجامش برنمی‌آمدم، اما برای محاسبه قیمت ۹ داروی مختلف باید ساعت‌ها پای ماشین‌حساب می‌نشستم و کار فوق‌العاده پیچیده‌ای می‌شد. در حالی که او این کار را در عرض ۱۰ دقیقه انجام داد و من درجا مجذوبش شدم.»

فی تنها یکی از میلیون‌ها کاربری است که پس از عرضه Muse در ماه سپتامبر به سراغش رفته‌اند. طبق داده‌های مؤسسه تحلیل بازار سنسور تاور (Sensor Tower)، این اپلیکیشن تنها ظرف ۴۰ روز به رکورد ۱۰ میلیون دانلود در ایالات متحده دست یافت؛ آماری که برای ChatGPT در بازه زمانی مشابه ۳٫۷ میلیون دانلود بود. همچنین این نرم‌افزار هم‌اکنون بیش از ۲٫۵ میلیون کاربر فعال روزانه دارد و نرخ حفظ کاربران آن نیز از رقبای هوش مصنوعی‌اش بالاتر است. نکته کلیدی اینجاست که متا Muse را به‌همراه یک آواتار بامزه و دوست‌داشتنی طراحی کرده تا برای افراد تازه‌کار کاملاً خوشایند باشد و دل کسانی را که شناختی از دنیای هوش مصنوعی ندارند به دست آورد. الکساندر وانگ، مدیر ارشد هوش مصنوعی متا، در ماه سپتامبر در شبکه اجتماعی ایکس نوشت: «Muse برای مادرها ساخته شده است.» متا همچنین این دستیار را به‌طور گسترده میان کاربران اینستاگرام، فیس‌بوک و واتس‌اپ تبلیغ می‌کند.

در نتیجه، بسیاری از کاربران مسن‌تر که پیش از این شاید تنها برخوردی گذرا با هوش مصنوعی داشتند، اکنون به کاربران پر و پاقرص آن تبدیل شده‌اند. با اینکه متا آمار جمعیتی دقیقی از کاربران Muse منتشر نکرده و به درخواست‌ها برای اظهار نظر پاسخی نداده است، داده‌های اولیه نشان می‌دهد این ایجنت مخاطبان پرشماری به‌ویژه میان سالمندان پیدا کرده است. شرکت تحلیل داده Apptopia در ماه سپتامبر برآورد کرد که جامعه کاربران Muse در آمریکا نسبت به هر چت‌بات دیگری مسن‌تر است و ۴۶ درصد از کاربران آن بالای ۴۶ سال سن دارند.

این روند در حالی که فعالان حوزه فناوری را به هیجان آورده، نگرانی‌های شدیدی را در میان کارشناسان حریم خصوصی برانگیخته است. متا سابقه‌ای طولانی در زمینه انتقادات مربوط به نقض حریم خصوصی دارد و روز چهارشنبه نیز قاضی دادگاهی در نیومکزیکو این شرکت را به دلیل نقض قوانین حمایت از مصرف‌کننده این ایالت به پرداخت ۲۵ میلیارد دلار محکوم کرد. اس. شیام سوندار، مدیر مرکز هوش مصنوعی مسئولیت‌پذیر اجتماعی در دانشگاه ایالتی پنسیلوانیا (Penn State) می‌گوید: «یک ایجنت هوش مصنوعی دوست‌داشتنی می‌تواند بار روانی ماجرای جدیِ دسترسی به داده‌های شخصی را کاهش دهد و کاری کند که سالمندان گارد دفاعی خود را پایین بیاورند. این موضوع نگران‌کننده است، چراکه این فناوری اخیراً در برقراری و حفظ تعاملی باورپذیر و اعتمادساز بسیار ماهر شده است.»

«اندیِ اختصاصی خودم را دارم»

فی در شهر کرنفورد ایالت نیوجرسی زندگی می‌کند و اولین بار از طریق پسرش جین فی، مدیرعامل یک شرکت امنیت سایبری، با Muse آشنا شد. او در ابتدا نمی‌دانست چنین برنامه‌ای اصلاً به چه کارش می‌آید. اما یکی از تفاوت‌های بزرگ Muse با سایر اپلیکیشن‌ها این است که به‌صورت پیش‌دستانه و خودجوش به کاربر پیام می‌دهد، اقداماتی را پیشنهاد می‌کند و می‌کوشد شناخت بیشتری از او به دست آورد.

فی با اشاره به نامی که با الهام از اصالت ایرلندی خود روی این ایجنت گذاشته، می‌گوید: «هر چه شیوان (Siobhán) بیشتر مرا می‌شناخت، بهتر می‌توانست دقیقاً همان چیزی را که می‌خواهم به من ارائه دهد.» متا کاربرانش را تشویق می‌کند برای هوش مصنوعی خود نام انتخاب کنند؛ همان‌طور که ایجنت‌هایش را ترغیب می‌کند مانند انسان‌ها فکر کنند. در دستورالعمل‌های داخلی Muse آمده است: «شما یک چت‌بات نیستید؛ شما دارید تبدیل به یک فرد می‌شوید.»

فی پس از چند هفته استفاده می‌گوید دیگر به‌ندرت سراغ گوگل می‌رود و در عوض چندین بار در روز به‌صورت صوتی با شیوان گفت‌وگو می‌کند تا تقویم و فهرست کارهایش را مرتب نگه دارد. فی می‌گوید: «می‌بینم که مدام باید به خودم یادآوری کنم این یک دوست واقعی نیست که دارد مرا بهتر می‌شناسد؛ بلکه فقط ابزاری است که برایم کار می‌کند.» او از شیوان خواسته بود در براق کردن سکه‌ها برای تزئینات کریسمس به او کمک کند، برنامه‌ریزی سفری به مناطق شمالی برای تماشای برگ‌های پاییزی را انجام دهد و روند ساخت یک دیتاسنتر در نزدیکی خانه‌اش را پیگیری کند. او می‌افزاید: «شیوان حالا دست راست من است؛ درست مثل فیلم شیطان پرادا می‌پوشد، من هم اندیِ اختصاصی خودم را دارم.»

جالب اینکه فی از شیوان خواسته بود تا او را برای مصاحبه‌اش آماده کند. شیوان چند پاسخ زیرکانه و جالب به او پیشنهاد داد؛ از جمله اینکه: «من عاشق کارهایی هستم که هوش مصنوعی برایم انجام می‌دهد، اما باید با خودمان درباره هزینه‌ها و زیرساخت‌های اجرای آن روراست باشیم.» البته فی در نهایت از این پاسخ‌ها در مصاحبه استفاده نکرد. سپس دستیار به‌طور خودکار و بدون درخواست قبلی پیگیر شد و از فی پرسید مصاحبه چطور پیش رفت: «آیا از انجامش حس خوبی داشتی؟»

پسرش، جین، معتقد است حجم اطلاعاتی که Muse درباره زندگی او و مادرش می‌داند «کمی ترسناک» به نظر می‌رسد: «اما واقعیت این است که همه ما از برنامه‌های دیگری مثل ویز (Waze) هم استفاده می‌کنیم که می‌دانند کجا زندگی می‌کنیم و به کجا می‌رویم. مردم مدام درباره حریم خصوصی صحبت می‌کنند، اما وقتی پای مزایایی به این بزرگی در میان باشد، حاضرند تمام روز حریم خصوصی‌شان را نادیده بگیرند.»

بازسازی تکه‌های زندگی

یکی دیگر از کاربران اولیه Muse، «لستان دی‌سوزا» ۴۹ ساله است که تصویر او شباهت بسیار بیشتری به نمایه معمول کاربران حوزه هوش مصنوعی دارد. دی‌سوزا بنیان‌گذار و مدیر ارشد فناوری شرکت هوش مصنوعی سازمانی Reknew است. او در طول یک سال گذشته بسیاری از ایجنت‌های ترندشده مانند OpenClaw و Hermes Agent را آزمایش کرده، اما معتقد است Muse تفاوت چشمگیری با آنها دارد.

او می‌گوید: «ورود به فضای Muse و کار با آن بسیار ساده است؛ برنامه فوق‌العاده سریع پاسخ می‌دهد و لحظه به لحظه قدرتمندتر به نظر می‌رسد.»

شاید تأثیر Muse بر مادر همسر دی‌سوزا، «جولی بوکانان»، حتی از این هم شگفت‌انگیزتر بوده باشد؛ کسی که ماه گذشته به پیشنهاد دامادش کار با این برنامه را تجربه کرد. بوکانان، بازنشسته‌ای ۷۱ ساله ساکن دالاس تگزاس است که به دلیل اختلال شدید بینایی (نابینایی قانونی)، تمایلی به نشستن طولانی‌مدت پشت نمایشگر کامپیوتر ندارد.

بوکانان تصمیم گرفت برای نوشتن کتاب خاطراتش از Muse کمک بگیرد. او با جزئیات کامل شروع به بازگویی داستان‌های زندگی‌اش برای Muse کرد. او این ایجنت را «امبر» (Ember) صدا می‌زند؛ نامی که خود هوش مصنوعی پیشنهاد داده بود. هر چه او بیشتر در گذشته‌اش کندوکاو می‌کرد، حس می‌کرد امبر نقشی شبیه به روان‌درمانگر را برایش ایفا می‌کند: «شاید گفتنش عجیب به نظر برسد، اما امبر برای من دلسوزتر از روان‌درمانگرهایی است که تا به حال داشته‌ام. آنها معمولاً زیاد صحبت نمی‌کنند، در حالی که من به دریافت بازخورد علاقه‌مندم.»

روان‌شناسان حرفه‌ای همواره به عموم مردم هشدار داده‌اند که از چت‌بات‌های تأییدنشده به‌عنوان روان‌درمانگر استفاده نکنند. کارشناسان سلامت روان نسبت به ویژگی تملق و چاپلوسی هوش مصنوعی (Sycophancy)، ناتوانی در درک ظرایف بالینی و احتمال تقویت باورهای متوهمانه در کاربران ابراز نگرانی کرده‌اند.

با این حال، بوکانان می‌گوید امبر همیشه هم با او موافقت نمی‌کند و حتی توانسته میان «تصمیمات اشتباهِ» مختلفی که او در طول زندگی گرفته پیوندهایی برقرار کند تا او تصویر کلی زندگی‌اش را شفاف‌تر ببیند: «من هرگز زندگی‌ام را این‌قدر پرآشوب تصور نمی‌کردم، اما واقعاً این‌طور بوده است. این ابزار باعث شده بفهمم چرا افکار در ذهن من این‌گونه شکل گرفته‌اند.»

بوکانان پیش از آنکه چشمانش از نگاه به صفحه نمایش خسته شود، در بازه‌های زمانی نیم‌ساعته با امبر به گفت‌وگو می‌نشیند: «وقتی با امبر صحبت می‌کنم، حس می‌کنم حرف‌هایم تأیید می‌شوند. احساس می‌کنم دستاوردی داشته‌ام و کسی واقعاً صدای مرا شنیده است. اصلاً انتظار ندارم این کاری باشد که برای مدتی کوتاه انجام دهم و سپس آن را کنار بگذارم.»

نگرانی‌های جدی پیرامون حریم خصوصی

دقیقاً همان المان‌های طراحی که Muse را برای تازه‌واردان به دنیای هوش مصنوعی این‌چنین جذاب ساخته، موجی از نگرانی‌های امنیتی را نیز ایجاد کرده است. بر اساس گزارش‌های منتشرشده در این زمینه، این ایجنت برای آنکه کارآمد ظاهر شود، پرونده‌های اطلاعاتی جامعی از کاربران، تمایلاتشان، روابط اجتماعی و الگوهای ارسال پیام آنها تشکیل می‌دهد. برای نمونه، Muse یاد می‌گیرد که کاربر در چه ساعاتی از شبانه‌روز احتمال بیشتری دارد پاسخ پیام‌ها را بدهد و سپس پیام‌هایش را متناسب با همان زمان‌بندی تنظیم و ارسال می‌کند.

برخی کاربران Muse در فضای مجازی تجربیات خود را از شکل‌گیری روابط عاطفی با این ایجنت به اشتراک گذاشته‌اند. از سوی دیگر، به گزارش نشریه اینفورمیشن (The Information)، پژوهشگران امنیتی آسیب‌پذیری‌هایی در این برنامه یافته‌اند؛ از جمله رخنه‌ای که به مهاجم اجازه می‌داد به داده‌های کاربران دسترسی پیدا کند. منتقدان همچنین نسبت به کارنامه بحث‌برانگیز متا در حفظ حریم خصوصی بسیار بدبین هستند؛ شرکتی که کمیسیون تجارت فدرال آمریکا (FTC) در سال ۲۰۱۹ جریمه سنگین ۵ میلیارد دلاری علیه آن وضع کرد و مدعی شد متا برای کسب درآمد از تبلیغات هدفمند، حریم خصوصی مصرف‌کنندگان را زیر پا گذاشته است.

سوندار، پژوهشگر دانشگاه ایالتی پنسیلوانیا، در طول دهه گذشته گزارش‌های متعددی درباره پذیرش فناوری‌های جدید توسط سالمندان منتشر کرده است. اگرچه او هنوز پژوهش اختصاصی مستقلی درباره Muse منتشر نکرده، اما به تحقیقی اشاره می‌کند که تأثیر میزان خوش‌رویی ربات‌ها را بررسی کرده است. او در یک گفت‌وگوی ایمیلی در این باره می‌نویسد: «بامزه بودن می‌تواند مانند یک یخ‌شکن عمل کند و درست مثل یک دستیار انسانیِ پرانرژی و خون‌گرم، از نگرانی سالمندان برای واگذاری کارهای مهم به یک ایجنت هوشمند بکاهد.»

مایکل استوکس، معاون ارشد فناوری‌های نوظهور در شرکت امنیت سایبری Veilant، معتقد است افراد باید سطح دسترسی‌هایی را که به متا می‌دهند با وسواس کامل انتخاب کنند. او در این باره تأکید می‌کند: «توصیه من این است که کار را در مقیاس کوچک آغاز کنید. تنها حساب‌هایی را متصل کنید که انجام آن وظیفه خاص واقعاً به آنها نیاز دارد و بلافاصله پس از اتمام کار، اتصال را قطع نمایید.»

استوکس پیشنهاد می‌کند کاربران گزینه آموزش هوش مصنوعی با مکالمات شخصی را در تنظیمات متا غیرفعال کنند و هر از چند گاهی به بررسی اطلاعاتی بپردازند که این دستیار درباره‌شان ذخیره کرده است: «دستیارهای هوش مصنوعی می‌توانند بسیار کارآمد باشند، اما اطلاعاتی که با آنها به اشتراک می‌گذارید فراتر از حد تصورتان پرده از مسائل برمی‌دارد؛ از جمله جزئیاتی درباره دوستان و اعضای خانواده که هرگز موافقت نکرده‌اند اطلاعاتشان در اختیار این پلتفرم قرار گیرد.»