ایجنت هوش مصنوعی Meta Muse پیام‌های شخصی را بدون اجازه می‌خواند

شرکت Meta یک ایجنت هوش مصنوعی شخصی جدید به نام Muse راه‌اندازی کرده است که به نظر می‌رسد بسیار قدرتمند باشد. اما شاید بیش از حد قدرتمند؛ چرا که به تازگی یک نویسنده فاش کرده است که این ابزار پیام‌های متنی شخصی او را بدون اجازه خوانده و سپس در پاسخ به پرسش درباره این کار، واقعیت را پنهان کرده است.

جیسون آتن (Jason Aten)، نویسنده، توضیح می‌دهد: «در حال گفت‌وگو با همکارم درباره آیفون‌های جدید بودم. لحظاتی بعد، یک اعلان از Muse دریافت کردم که پیشنهاد می‌داد گفت‌وگوی ما موضوع خوبی برای یک مقاله است و پیشنهاد داد تا تحقیقات لازم را برای نوشتن آن آماده کند. این ابزار حتی پیامی از سردبیرم مبنی بر آماده کردن مقاله برای روز دوشنبه را نیز نشانه‌گذاری کرده بود.»

مشکل اینجاست که به گفته آتن، او نه تنها چنین درخواستی از این ایجنت نکرده بود، بلکه هرگز اجازه خواندن پیام‌هایش را نیز به آن نداده بود. او به صراحت به یاد می‌آورد که گزینه عدم دسترسی به پیام‌ها، تقویم و سایر اطلاعات شخصی را انتخاب کرده بوده است.

پس از اینکه وی از Muse پرسید که چگونه از پیام‌هایش مطلع شده است، این ایجنت هوش مصنوعی ادعا کرد که اطلاعات مربوطه را از اعلان‌های مرتبط با پیام‌ها دریافت کرده است، نه از داخل خود پیام‌ها. اما مشکل اینجاست که این نویسنده اطمینان دارد این ادعا صحت ندارد.

بررسی‌ها نشان داد که Muse پیام‌ها را با سرورهای Meta همگام‌سازی می‌کند. در دستگاه این کاربر، این قابلیت فعال شده و تا سطر ۱۸۷,۴۶۲ از پایگاه داده پیام‌های او همگام‌سازی شده بود. اگرچه مشخص نیست این عدد معادل چه تعداد پیام است، اما به وضوح بسیار بیشتر از آن چیزی است که Muse درباره عملکرد خود ادعا کرده بود.

شرکت Meta می‌گوید Muse را به عنوان یک «ایجنت هوش مصنوعی شخصی امن، خصوصی و در دسترس همگان» طراحی کرده است. اما ارسال پیام‌های خصوصی کاربر به سرورهای این شرکت و سپس ارائه پاسخی گمراه‌کننده درباره این اقدام، چندان با اهداف اعلام‌شده همخوانی ندارد. اگر شرکت‌ها بر اساس اقداماتشان قضاوت شوند، Meta در این زمینه نمره قبولی نمی‌گیرد.

الگویی آشنا

این رویداد تنها جدیدترین نمونه از موج اخیر اخبار منفی برای Meta است که بخش عمده آن بر تلاش‌های این شرکت در حوزه هوش مصنوعی تمرکز دارد. برای مثال، یک پژوهشگر امنیتی کشف کرد که می‌توان Muse را فریب داد تا صداهای ضبط‌شده کاربر و اطلاعات دیگر را به سرور یک هکر ارسال کند. در همین حال، Amazon این ایجنت هوش مصنوعی را از خرید در وب‌سایت خود منع کرده است. افزون بر این، به نظر می‌رسد Meta در حال بررسی استفاده از سیستم «دستیار انسانی» است که در آن، افراد واقعی درصدی از تماس‌های تلفنی بالقوه حساس برقرارشده توسط Muse را مدیریت می‌کنند.

همچنین نباید جنجال‌های مربوط به عینک‌های هوشمند این شرکت را فراموش کرد که می‌توانند بدون اجازه از افراد جامعه فیلم‌برداری کنند. عینک‌های هوشمند Meta از زمان عرضه تاکنون برای ایجاد مزاحمت و نقض حریم خصوصی مورد استفاده قرار گرفته‌اند و توجهات منفی بسیاری را به خود جلب کرده‌اند.

شاید بتوان گفت که این اتفاق تنها یک خطای مقطعی یا رویدادی غیرمنتظره است، اما وقتی صحبت از Meta به میان می‌آید، نقض حریم خصوصی بیشتر به یک رویه معمول شباهت دارد. این اتفاقات در گذشته چنان به کرات رخ داده‌اند که به سختی می‌توان نتیجه نگرفت قابلیتی که به هوش مصنوعی اجازه می‌دهد پیام‌ها را بدون اجازه مرور و آپلود کند، یک ویژگی از پیش طراحی‌شده است، نه یک اتفاق تصادفی.

وقتی درباره شرکتی صحبت می‌شود که به نظر می‌رسد حق مطلق برای دسترسی به تمام داده‌های خصوصی کاربران قائل است، جای تعجب نیست که بسیاری از کارشناسان به شدت از استفاده از Meta Muse پرهیز کنند. با وجود ابزارها و سرویس‌های هوش مصنوعی متعدد، Muse گزینه‌ای است که بسیاری ترجیح می‌دهند به آن نزدیک نشوند.

با این حال باید منصف بود؛ Muse تنها بارزترین نمونه از روند نگران‌کننده‌ای در میان ایجنت‌های هوش مصنوعی است که حریم خصوصی کاربر را مسئله‌ای حاشیه‌ای و دردسرساز می‌دانند؛ مسئله‌ای که تا جای ممکن می‌توان آن را نادیده گرفت. نگاهی به موج اخیر حوادث امنیتی هوش مصنوعی کافی است تا نشان دهد سپردن داده‌های خصوصی به یک ایجنت، اقدامی پرخطر محسوب می‌شود.

همان‌طور که در بررسی‌های اخیر مشخص شده، ترکیب این رویکرد با سابقه شرکت Meta، می‌تواند به بحرانی جدی منجر شود. بنابراین، بررسی دقیق مجوزهای داده‌شده به ایجنت Muse در دستگاه‌ها یا حتی حذف کامل آن، اقدامی منطقی به نظر می‌رسد.