رسوایی جدید Meta؛ ایجنت هوش مصنوعی Muse برای تماس‌های تلفنی به نیروهای انسانی متکی بود

جورج سانتایانا، فیلسوف مشهور، زمانی گفته بود: «کسانی که گذشته را به یاد نمی‌آورند، محکوم به تکرار آن هستند.» با این حال، چرا به نظر می‌رسد غول‌های فناوری تا این حد حافظه کوتاه‌مدتی دارند؟

تازه‌ترین حاشیه از این دست به Meta مربوط می‌شود. در اواسط سپتامبر، این شرکت نسخه بتای قابلیتی را برای ایجنت هوش مصنوعی جدید خود موسوم به Muse آزمایش کرد که قرار بود با کسب‌وکارها تماس تلفنی برقرار کند تا کارهایی مانند رزرو وقت ملاقات یا ثبت سفارش را برای کاربران انجام دهد.

با این حال، بر اساس گزارش‌های منتشرشده از سوی رویترز و 404 Media، این ایجنت به‌ظاهر خودکار، وظایف مذکور را به اپراتورهای انسانی آموزش‌دیده در مراکز تماس هدایت می‌کرده است؛ آن هم بدون اینکه از قبل این موضوع را به اطلاع کاربران رسانده باشد.

در ۱۶ سپتامبر، رایان فاکس، مهندس ارشد در بخش Superintelligence Labs شرکت Meta، عرضه آزمایشی قابلیت برقراری تماس خروجی Muse را اعلام کرد و در پستی در شبکه اجتماعی X با اشاره به اینکه «تماس تلفنی» یکی از بیشترین درخواست‌های کاربران بوده، خواستار بازخورد شد.

اما گزارش 404 Media بر اساس اسناد داخلی Facebook حاکی از آن است که ماجرا در پشت پرده این دستیار شخصی کاملاً متفاوت بوده است. این غول فناوری هنگام معرفی قابلیت‌های مذکور به کارکنان داخلی خود اعلام کرده بود که «یک لایه از ایجنت‌های انسانی را برای تکمیل تماس‌ها اضافه کرده است» و از آن‌ها با عنوان «تماس‌های متکی بر ایجنت انسانی Muse» یاد کرد.

برخی از کارکنان Meta به این رویکرد معترض شدند؛ از جمله یکی از آن‌ها در پیامی داخلی نوشت: «این موضوع پتانسیل ایجاد بار رسانه‌ای و تبلیغاتی بسیار منفی را دارد و ممکن است این‌گونه بازتاب یابد که "هوش مصنوعی آن‌ها به اندازه کافی خوب نیست و همچنان به انسان‌ها متکی هستند".»

حقیقت به‌ندرت شفاف است...

مشکل اضافه شدن لایه انسانی صرفاً به پنهان‌کاری و بزرگ‌نمایی در قابلیت‌های واقعی هوش مصنوعی (اصطلاحاً AI-washing) در ایجنت Muse یا فریب کاربران با عدم اعلام حضور نیروی انسانی در این زنجیره محدود نمی‌شود. در برخی سیستم‌های ایجنتی، نظارت انسانی به عنوان رویکرد «انسان در حلقه» (Human-in-the-loop) برای تضمین ایمنی و تطابق با استانداردها به کار گرفته می‌شود.

مشخص نیست موضوع ایمنی و انطباق با مقررات تا چه اندازه در اولویت Meta بوده است. اما کارکنان نگرانی به مراتب بزرگ‌تری را در مورد نقض حریم خصوصی مطرح کردند؛ به طوری که به گزارش رویترز، یکی از کارکنان هشدار داده بود: «تنها یک باگ نرم‌افزاری با فاش شدن اطلاعات غیرضروری کاربران برای اپراتورهای تماس فاصله داریم.» و وجود باگ‌های نرم‌افزاری در چنین سامانه‌هایی همواره محتمل است.

به طور کلی، هنگامی که کاربران از ایجنت‌های هوش مصنوعی برای انجام امور شخصی مانند رزرو، خرید یا هماهنگی نوبت پزشکی استفاده می‌کنند، بخشی از حریم خصوصی خود را به اشتراک می‌گذارند. اما مواجهه با این حقیقت که یک فرد کاملاً غریبه در مرکز تماس در حال رزرو نوبت آزمایش‌های حساس پزشکی برای شما بوده، بسیار تکان‌دهنده‌تر است.

علاوه بر این، کل این سازوکار مانند یک جعبه سیاه است؛ کاربر نمی‌داند چه بستری از اطلاعات به آن اپراتور داده شده، آیا چت‌های او دیده شده یا اپراتور به دلیل همین وظیفه، از محل سکونت و راه‌های ارتباطی کاربر آگاه شده است یا خیر. با توجه به اینکه عینک‌های هوشمند این شرکت نیز سرشار از قابلیت‌های Muse هستند، حجم داده‌های ارائه‌شده می‌تواند حتی فراتر از این باشد.

از سوی دیگر، کاربر اطلاعات حساسی نظیر شماره تلفن، کد پرونده پزشکی یا اطلاعات بانکی خود را در اختیار این ایجنت به‌اصطلاح خودکار (که در این سناریو، پیمانکار انسانی در یک مرکز تماس نامشخص است) قرار می‌دهد.

این ماجرا بخشی از روند رو به رشد اعطای اختیارات بیشتر به مدل‌های هوش مصنوعی برای انجام وظایف به عنوان دستیار شخصی است. به عنوان نمونه، Google به‌تازگی قابلیتی را به ایجنت Gemini اضافه کرد تا تماس‌های تلفنی روزمره را مدیریت کند؛ هرچند در پیاده‌سازی این شرکت، بخش‌های تراکنشی تماس (مانند ارائه مشخصات کارت بانکی) مجدداً به خود کاربر واگذار می‌شود، اما ریسک‌های مرتبط با حریم خصوصی همچنان به قوت خود باقی است.

...و هرگز ساده نیست

نکته قابل تامل این است که Meta پیش از این نیز بارها اعتماد عمومی را در زمینه حریم خصوصی نقض کرده است. در سال ۲۰۱۹، Facebook مجبور شد برنامه‌ای را متوقف کند که در آن از پیمانکاران انسانی برای گوش دادن به تماس‌های صوتی Messenger و رونویسی آن‌ها استفاده می‌شد.

از آنجا که ایجنت‌های هوش مصنوعی غالباً نیازمند مداخله انسانی برای تایید صحت خروجی‌ها هستند، وقوع خطاهایی که در آن‌ها کارکنان به داده‌های خصوصی دسترسی پیدا کنند، اجتناب‌ناپذیر به نظر می‌رسد.

پدیده «هوش مصنوعی پوتمکین» (Potemkin AI) — شرایطی که در آن ارتش پنهانی از نیروهای انسانی کارهای اصلی مدل را پشت پرده انجام می‌دهند — صرفاً به تماس‌های تلفنی محدود نیست. در ماه فوریه نیز فاش شد که شرکت Waymo از اپراتورهای راه دور در خارج از کشور برای تکمیل و هدایت عملیات خودروهای خودران خود بهره می‌برد.

در پی این حواشی، روند عرضه آزمایشی قابلیت تماس خروجی Meta Muse بار دیگر متوقف و به عقب برگردانده شد. رویترز گزارش داد که این شرکت پس از اذعان یکی از معاونان ارشد واحد Superintelligence Labs به اینکه آزمایش این قابلیت بدون شفاف‌سازی درباره حضور پیمانکاران انسانی «یک اشتباه» بوده، این ویژگی را موقتاً به حالت تعلیق درآورده است.

البته مشکل اصلی حافظه ضعیف نیست، بلکه پیشینه تاریخی غول‌های فناوری در تکرار چرخه «انجام کار نادرست، لو رفتن، عذرخواهی، بازگرداندن ویژگی و شاید پرداخت جریمه‌ای ناچیز» است؛ چرخه‌ای تکراری که در نهایت با خسته شدن افکار عمومی، به الگوی «انجام کار اشتباه و کسب سود به هر حال» تبدیل می‌شود.

پیگیری‌ها برای دریافت توضیحات رسمی از سوی Meta تا زمان انتشار این گزارش بی‌پاسخ مانده است.