پرونده‌سازی عجیب هوش مصنوعی متا برای اطرافیان شما؛ حتی اگر هرگز از «متا میوز» استفاده نکرده باشید!

تجربه کار با ایجنت هوش مصنوعی «متا میوز» (Meta Muse) نشان می‌دهد که این دستیار هوشمند تنها با به‌خاطر سپردن مکالمات روزمره، حجم شگفت‌انگیزی از اطلاعات شخصی کاربر را یاد می‌گیرد. اما ماجرا به همین‌جا ختم نمی‌شود؛ طبق گزارشی که نشریه WIRED منتشر کرده، دستورالعمل‌های فاش‌شده از سیستم درونی این ایجنت نشان می‌دهد که متا میوز اطلاعات اطرافیان شما را هم جمع‌آوری و دسته‌بندی می‌کند و عملاً برای هر فرد — از همسر و دوستان نزدیک گرفته تا همکاران و حتی افرادی که دنبال می‌کنید — یک صفحه یا پرونده اختصاصی می‌سازد!

در بررسی‌های انجام‌شده روی این هوش مصنوعی، وقتی از میوز پرسیده شد چه اطلاعاتی درباره کاربر ثبت کرده، پاسخ اولیه نسبتاً خلاصه و محدود بود. اما نحوه کارکرد این مدل نشان می‌دهد که میوز طوری طراحی شده تا درک و شناخت خود را به مرور زمان گسترش دهد؛ بنابراین خلوت بودن پرونده اولیه بیش‌تر به این برمی‌گردد که کاربر چقدر به آن دسترسی داده، نه اینکه خود ایجنت توانایی یادگیری کمی داشته باشد.

میوز می‌تواند برای تک‌تک آدم‌های زندگی‌تان پرونده بسازد

ماجرا از این قرار است که «کاران جوشی» (Karan Joshi)، پژوهشگر مستقل ایمنی و امنیت هوش مصنوعی، توانست با یک ترفند جالب و صرفاً از طریق محیط گفت‌وگوی معمولی، پرامپت‌های سیستمی و دستورالعمل‌های داخلی میوز را استخراج کند؛ او عملاً از خود ایجنت خواست که فایل‌های نرم‌افزاری‌اش را کپی کرده و به اشتراک بگذارد!

جوشی یافته‌های خود را با رسانه WIRED به اشتراک گذاشت؛ در میان این یافته‌ها، دستورالعملی برای یک فرایند خودکار ساعتی به چشم می‌خورد که موظف است «برای تک‌تک افراد حاضر در زندگی کاربر یک صفحه اختصاصی» درست کند.

جالب اینجاست که منظور متا واقعاً همه افراد است. دستورالعمل‌هایی که این محقق پیدا کرده صراحتاً به اعضای خانواده، شریک زندگی، دوستان، همکاران، هم‌تیمی‌های کاری و حتی کسانی که در شبکه‌های اجتماعی دنبال می‌کنید اشاره دارد.

این پرونده‌ها در ابتدا شاید چندان پر و پیمان نباشند، اما ساختارشان طوری طراحی شده که با گذشت زمان کامل‌تر شوند. طبق این گزارش، میوز داده‌های دریافتی را در بخش‌های مختلفی مثل واقعیت‌های زندگی، تاریخچه ارتباط، ماهیت رابطه، نقاط مشترک، موضوعات ناتمام یا در جریان، و حتی راهکارهایی برای تقویت آن رابطه سازمان‌دهی می‌کند.

این داده‌ها ممکن است در ابتدا شامل اطلاعات معمولی مثل محل سکونت یا شغل یک فرد باشند، اما به مرور زمان می‌توانند به جزئیاتی فوق‌العاده شخصی‌تر و عمیق‌تر تبدیل شوند.

جوشی در مصاحبه با WIRED درباره این رویکرد گفته است: «آن‌ها تلاش می‌کنند مثل یک رفیق شما را بشناسند، اما راستش را بخواهید، این ماجرا واقعاً ترسناک و دلهره‌آور است.»

البته در این میان دست‌کم یک خط قرمز و حفاظ ایمنی مهم وجود دارد: دستورالعمل‌های داخلی میوز به آن تأکید کرده‌اند که فقط از شواهد واقعی و موجود استفاده کند و به هیچ وجه جاهای خالی را با حدس و گمان پر نکند؛ زیرا سرهم کردن یک جزئیات خیالی بسیار بد‌تر از خالی ماندن بخشی از پرونده یک فرد تلقی می‌شود.

حتی لازم نیست کاربر میوز باشید تا پایتان به این پرونده‌ها باز شود

نکته شوکه‌کننده ماجرا دقیقاً همین‌جاست: میوز فقط درباره کاربری که در آن ثبت‌نام کرده اطلاعات یاد نمی‌گیرد، بلکه برای اینکه زندگی آن کاربر را بفهمد، ناچار است اطرافیان او را هم بشناسد و تحلیل کند.

این یعنی ممکن است اطلاعات شخصی شما صرفاً به این دلیل که بخشی از زندگی یک کاربر دیگر هستید، سر از ایجنت هوش مصنوعی او درآورد؛ حتی اگر خودتان هرگز نام این سرویس را هم نشنیده باشید!

البته باید شفاف گفت که این موضوع به این معنا نیست که متا مخفیانه در حال ساخت یک پایگاه داده غول‌پیکر و سراسری از تمام افراد جهان است. هر کاربر میوز یک ماشین مجازی اختصاصی دارد که داده‌ها و زمینه‌های شخصی‌اش در آن ذخیره می‌شوند و متا تأکید کرده که سایر کاربران یا ایجنت‌ها به این اطلاعات دسترسی ندارند.

با این حال، این سازوکار یک موقعیت پیچیده و عجیب از نظر حریم خصوصی خلق می‌کند. شاید شما هرگز میوز را دانلود نکنید، حسابی به آن متصل نسازید و کلمه‌ای درباره خودتان به آن نگویید، اما یکی از آشنایانتان می‌تواند با ایجنت خود درباره شما صحبت کند و همین جزئیات، بخشی از حافظه سیستم برای درک روابط آن کاربر می‌شود.

این مدل حافظه، تفاوتی بنیادین با نحوه مدیریت حافظه در مدل‌هایی مثل چت‌جی‌پی‌تی (ChatGPT) و کلود (Claude) دارد و پا را بسیار فراتر می‌گذارد.

بر اساس گزارش منتشرشده، هدف متا این است که میوز به کاربران در رسیدن به اهداف روزمره‌شان کمک کند. به عنوان مثال، متا می‌گوید میوز باید به یاد داشته باشد فردی که برایتان فاکتور فرستاده، همان لوله‌کشی است که قبلاً سرویس بهداشتی خانه را تعمیر کرده، یا دقیقاً بداند همسرتان چه گل‌هایی را دوست دارد.

اما دقیقاً همین ویژگی است که اوضاع را پیچیده می‌کند. اگر یک ایجنت هوش مصنوعی شخصی نتواند اطرافیان شما را به خاطر بسپارد، عملاً دستیار چندان کارآمدی نخواهد بود. وقتی به هوش مصنوعی می‌گویید همسرتان پنجشنبه قرار ملاقات دارد یا فرزندتان برای فردا وسیله‌ای برای مدرسه نیاز دارد، طبیعتاً انتظار دارید سیستم در زمان لازم این موارد را به یادتان بیاورد.

در این نقطه، «کارایی» و «حریم خصوصی» دقیقاً در دو جهت مخالف حرکت می‌کنند؛ هر قطعه داده جدید می‌تواند دستیار را کارآمدتر و باهوش‌تر کند، اما هم‌زمان دایره اطلاعاتی که این هوش مصنوعی از شما و تمام اطرافیانتان ذخیره می‌کند را هم به شدت گسترش می‌دهد.

میوز چه چیز‌هایی از کاربران و خانواده‌شان می‌داند؟

پس از افشای ساختار این صفحات داخلی، در آزمایشی مستقیم از میوز پرسیده شد که دقیقاً چه اطلاعاتی درباره کاربر و خانواده‌اش ذخیره کرده است.

نتیجه آزمایش نشان داد که سیستم فراتر از چیز‌هایی که مستقیماً در چت‌ها گفته شده بود، چیز زیادی نمی‌دانست؛ مواردی مثل داشتن سه فرزند، علاقه خانواده به فوتبال، شغل و محل زندگی ثبت شده بود.

اما در مورد افراد خارج از محیط خانه، اطلاعات بسیار ناچیزتر بود و حتی نام مشخصی به آن‌ها نسبت داده نشده بود. این مشاهده کاملاً با دستورالعمل‌های داخلی میوز هم‌خوانی دارد که می‌گوید پرونده یک فرد ممکن است در ابتدا خلوت باشد و به مرور زمان کامل‌تر شود.

علاوه بر این، در این تجربه از دسترسی‌های محافظه‌کارانه استفاده شده بود. اگر کاربری بخش‌های بیشتری از زندگی دیجیتال خود (مانند ایمیل‌ها، تقویم و شبکه‌های اجتماعی) را به این ایجنت متصل کند، عملاً کوهی از داده‌های ارزشمند را در اختیار سیستم قرار می‌دهد.

این بررسی‌های اولیه نشان می‌دهد که میوز در استفاده‌های محدود چه عملکردی دارد، اما دستورالعمل‌های محرمانه فاش‌شده به وضوح اثبات می‌کنند که با عمیق‌تر شدن ارتباط، این هوش مصنوعی چه برنامه‌های گسترده‌ای برای زیر نظر گرفتن زندگی روزمره دارد.

چالش بزرگ‌تر دستیارهای هوش مصنوعی شخصی

دستیارهای شخصی هوش مصنوعی با این هدف طراحی شده‌اند که روابط شما را درک کنند، اتفاقات روزمره را در حافظه نگه دارند و در نهایت بر اساس این داده‌ها دست به اقدام بزنند.

همان‌طور که «کاریسا ولیز» (Carissa Véliz)، دانشیار مؤسسه اخلاق هوش مصنوعی دانشگاه آکسفورد به WIRED می‌گوید، نگرانی اصلی فقط اطلاعاتی نیست که ما مستقیماً در اختیار این سیستم‌ها می‌گذاریم؛ بلکه خطر اصلی به داده‌هایی برمی‌گردد که این مدل‌ها می‌توانند با تحلیل و کنار هم چیدن سرنخ‌ها از منابع مختلف کشف و استنتاج کنند.

در پاسخ به این نگرانی‌ها، متا اعلام کرده که کاربران میوز می‌توانند حافظه سیستم را پاک کنند یا سرویس‌های متصل را قطع نمایند. علاوه بر این، یک گزارش حسابرسی (Audit Log) تعبیه شده که کاربران می‌توانند فعالیت‌ها و برنامه‌های آینده ایجنت را در آن مشاهده کنند؛ ابزار‌های نظارتی و کنترلی که هر چقدر بخش‌های بیشتری از زندگی‌تان را به هوش مصنوعی گره بزنید، اهمیت آن‌ها دوچندان خواهد شد.