کابوس حریم خصوصی با طعم هوش مصنوعی؛ چرا ایجنت جدید متا یک افتضاح امنیتی تمام‌عیار است؟

متا همین ماه از دستیار هوش مصنوعی جدیدش به نام Muse رونمایی کرد؛ بنابراین احتمالا شما هم Jolly، نماد عروسکی و بانمک شبیه عروسک‌های «لابوبو» (Labubu) این دستیار رو در فیسبوک، اینستاگرام یا واتساپ دیدید.

از نظر تبلیغات و جلب توجه عمومی، می‌شه گفت این شخصیت فانتزی حسابی موفق بوده؛ اما از زاویه حریم خصوصی و امنیت، به سختی می‌شه رونمایی فاجعه‌بارتری رو برای یک ایجنت هوش مصنوعی تصور کرد!

همین هفته گذشته کارشناسان امنیتی یک آسیب‌پذیری روز صفر (Zero-day) در این سیستم پیدا کردن که متا مجبور شد خیلی سریع براش وصله امنیتی بده. علاوه بر این، پس از آزمایش‌های فنی گسترده روی Muse، کارشناسان به این نتیجه رسیدن که این ابزار در مقایسه با سایر ایجنت‌های هوش مصنوعی مطرح شرکت‌های OpenAI، گوگل و آنتروپیک، بدترین کارنامه رو در زمینه حفظ حریم خصوصی کاربران داره.

برای شروع ماجرا کافیه بدونید Muse درخواست دسترسی بسیار گسترده‌ای به اطلاعات شخصی شما می‌ده؛ از گذرواژه‌ها و دسترسی کامل به حافظه گرفته تا ایمیل‌ها، تقویم، مخاطبان، یادداشت‌ها و پیام‌های واتساپ! علاوه بر این، به نظر می‌رسه متا به صورت پیش‌فرض از مکالمات شما با Muse برای آموزش مدل‌های هوش مصنوعی خودش استفاده می‌کنه؛ یعنی اگر نخواید اطلاعاتتون خرج آموزش مدل‌ها بشه، باید خودتون به صورت دستی توی تنظیمات این گزینه رو غیرفعال کنید.

داستان به همین‌جا ختم نمی‌شه؛ در یک مورد جنجالی که حسابی خبرساز شد، Muse آدرس خانه مت راب (Matt Robb)، بررسی‌کننده فناوری اهل تورنتو رو به اشتباه برای یک خریدار بالقوه در مارکت‌پلیس فیسبوک فرستاد! این هوش مصنوعی بدون اطلاع یا رضایت صاحب‌خانه، اون فرد غریبه رو مستقیما به خانه راب دعوت کرده بود؛ هرچند بعدا در پستی در تردز (Threads) بابت این اتفاق عذرخواهی کرد. ماجرا از این قرار بود که راب متوجه نشده بود ناخواسته به Muse دسترسی همه‌جانبه داده تا به سوالات مارکت‌پلیس با استفاده از جزئیاتی که در اختیارش گذاشته، از جمله آدرس خانه‌اش، پاسخ خودکار بده.

ایجنت‌های هوش مصنوعی با این شعار تبلیغ می‌شن که قراره با انجام کارها به جای شما، زندگی رو راحت‌تر کنن؛ اما بهای این راحتی، از دست رفتن حریم خصوصی و کنترل اطلاعاتتونه. در واقع شما داده‌های شخصیاتون رو به یک «جعبه سیاه» تحویل می‌دید که هیچ دیدی نسبت به نحوه استفاده از اون ندارید. این دسته‌گل‌های پیاپی، بحث‌های داغی رو درباره خطرات هوش مصنوعی ایجنتی و لزوم استانداردهای امنیتی سخت‌گیرانه‌تر به راه انداخته است.

با توجه به سابقه طولانی متا در پرونده‌های جریمه نقض حریم خصوصی و درز اطلاعات، کاملا منطقیه که با احتیاط سراغ این ابزار برید. اوایل همین ماه هم یک بلاگر گزارش داد هوش مصنوعی این پلتفرم سوالات کنجکاوانه‌ای درباره فرزندانش پرسیده و از روی پست‌هایش اطلاعات شخصی زندگی‌اش رو کنار هم چیده بود. عینک‌های هوشمند جنجالی متا هم به خاطر سیستم تشخیص چهره و شیوه ضبط و ذخیره داده‌ها، با انتقادات تند زیادی روبه‌رو شده است.

قبل از اینکه با یک کابوس امنیتی بالقوه روبه‌رو بشید، بد نیست این چند نکته مهم درباره Muse رو بدونید:

آپلود داده‌های iOS و مک؛ حتی وقتی دسترسی رو قطع کردید!

بر اساس گزارش AppleInsider، به نظر می‌رسه ایجنت Muse متا رسما مجوزهای تعیین‌شده توسط کاربر رو نادیده می‌گیره. در یک نمونه مشخص، این ایجنت بدون رضایت کاربر حدود ۱۸۷ هزار خط از پیام‌های اپل (Apple Messages) او رو همگام‌سازی و آپلود کرده؛ اون هم در شرایطی که گزینه «دسترسی کامل به دیسک» (Full Disk Access) کاملا خاموش بوده است!

این گزارش نشون می‌ده Muse حتی با وجود خاموش بودن دسترسی، هزاران بار دیتابیس پیام‌های کاربر رو پینگ کرده و در نهایت موفق شده پیام‌های متنی رو از مک استخراج کنه؛ نه از مسنجر متا، بلکه مستقیما از اپلیکیشن رسمی Messages اپل!

نکته ترسناک‌تر اینه که حتی افرادی که خودشون هرگز از Muse استفاده نمی‌کنن هم ممکنه قربانی بشن؛ کافیه به کسی پیام بدن که این ایجنت رو روی دستگاهش نصب کرده باشه.

داده‌های شما ممکن بود به اپراتورهای انسانی سپرده شود!

قبل از اینکه متا قابلیت تماس کاری خودکار Muse از طرف شما رو فعال کنه، اسناد داخلی این شرکت فاش کرد که متا قصد داشته از پیمانکاران انسانی در مراکز تماس برای رزرو وقت و هماهنگی قرارها استفاده کنه!

این یعنی نه تنها نرم‌افزار به تمام داده‌های خصوصی شما دسترسی داشته، بلکه یک فرد کاملا غریبه ممکن بوده کارهای شخصی شما رو بدون اینکه روحتون باخبر باشه مدیریت کنه. البته طبق گزارش رویترز، به نظر می‌رسه متا در حال حاضر این قابلیت اپراتور انسانی رو فعلا عقب کشیده و متوقف کرده است.

سنگین‌ترین سطح جمع‌آوری داده در بین رقبا

شرکت ارائه‌دهنده سرویس امنیت شبکه Surfshark اعلام کرده Meta Muse در حال جمع‌آوری — یا تلاش برای جمع‌آوری — ۳۱ مورد از ۳۵ نوع داده شخصی مختلف است؛ آماری که اون رو با اختلاف زیاد بالاتر از چت‌بات‌های معروفی مثل جمینای، ChatGPT و دیپ‌سیک قرار می‌ده. جالب‌تر اینکه Muse حتی سراغ اطلاعات فوق‌العاده حساسی مثل موقعیت مکانی دقیق، اطلاعات ژنتیکی یا داده‌های بیومتریک هم می‌ره.

علاوه بر این، Muse (درست مثل Meta AI و جمینای) این حق رو برای خودش محفوظ نگه می‌داره تا از صداهای ضبط‌شده کاربران برای مقاصد دیگه‌ای مثل تحلیل رفتار یا شخصی‌سازی محصولات استفاده کنه.

نماینده متا تا این لحظه به درخواست‌ها برای پاسخگویی درباره این نگرانی‌های جدی حریم خصوصی واکنشی نشان نداده است.