استفاده پنهانی Meta از انسان‌ها در ایجنت هوش مصنوعی Muse جنجال‌آفرین شد

ایجنت Muse شرکت Meta بدون کسب رضایت، تماس‌های شخصی کاربران را به پیمانکاران انسانی ارجاع می‌داد؛ اتفاقی که نشان‌دهنده الگویی تکراری در سراسر صنعت هوش مصنوعی است.

تصور کنید از ایجنت هوش مصنوعی خود می‌خواهید بر سر مبلغ یک قبض مذاکره کند. در کمال تعجب، یک پیمانکار انسانی گوشی را برمی‌دارد، از طرف شما با شرکت صحبت می‌کند و در حین مکالمه یک اظهارنظر نژادپرستانه بیان می‌کند. سپس متوجه می‌شوید که هیچ‌یک از این فرآیندها آن‌طور که فکر می‌کردید انجام نشده است؛ اتفاقی که بی‌شباهت به ردیابی مخفیانه کاربران بدون اطلاع آن‌ها نیست.

این یک سناریوی فرضی نیست. خبرگزاری رویترز در تاریخ ۲۲ سپتامبر ۲۰۲۶، یعنی حدود دو هفته پس از عرضه ایجنت هوش مصنوعی شخصی Meta با نام Muse در ایالات متحده، این موضوع را گزارش داد.

شکاف قابلیت اطمینان؛ دلیل گرایش Meta به نیروی کار انسانی

منطق تجاری پشت تماس‌های مبتنی بر دستیار انسانی قابل درک است، اما این موضوع دلیل پنهان‌کاری Meta را توجیه نمی‌کند.

بر اساس گزارش‌ها، کسب‌وکارها تمایل چندانی به برقراری ارتباط با تماس‌گیرنده‌های هوش مصنوعی نداشتند و این مسئله یک مشکل جدی در زمینه قابلیت اطمینان برای ویژگی تماس تلفنی Muse ایجاد کرد. این قابلیت برای انجام وظایف روزمره مانند رزرو نوبت یا بررسی موجودی محصولات طراحی شده بود. به گزارش رویترز، تماس‌هایی که توسط انسان‌ها مدیریت می‌شدند به نرخ موفقیت تقریبی ۹۵ تا ۹۸ درصد رسیدند، در حالی که این رقم در تماس‌های کاملاً خودکارِ هوش مصنوعی بسیار پایین‌تر بود.

این شکاف عملکردی می‌تواند منطق تجاری را توضیح دهد، اما به هیچ وجه اتفاقات بعدی را توجیه نمی‌کند.

شرکت Meta در هفته پیش از انتشار گزارش رویترز، ویژگی «دستیار انسانی» را با حدود نیمی از کارمندان خود آزمایش کرد. در یک اطلاعیه داخلی آمده بود که Muse می‌تواند «درخواست‌ها را به یک ایجنت آموزش‌دیده بسپارد تا تماس را برقرار کرده و کار را پیش ببرد». با این حال، به شرکت‌کنندگان در این آزمایش به صراحت گفته نشده بود که چنین ارجاعی به انسان ممکن است رخ دهد.

یکی از پیمانکاران که در حال مدیریت تماس مربوط به مذاکره قبض برای یکی از کارمندان Meta بود، در حین مکالمه از ادبیات نژادپرستانه استفاده کرد. شرکت Meta از کارمند خود عذرخواهی کرد و اعلام نمود که این پیمانکار دیگر در هیچ‌یک از پروژه‌های شرکت کار نخواهد کرد.

اهمیت این رویداد فراتر از خود تخلف است. این اتفاق نشان می‌دهد که دخالت انسان در محصولی که کاربران آن را صرفاً یک نرم‌افزار می‌دانند، می‌تواند منجر به رفتارهای غیرقابل پیش‌بینی شود. هیچ ناظر ایمنی، هیچ ایجنت Sentinel و هیچ معماری ماشین مجازی نمی‌تواند چنین مواردی را به طور قابل اعتمادی در زمان واقعی شناسایی و مسدود کند.

عرضه مسئولانه هر ویژگی مشابهی، حداقل نیازمند رعایت موارد زیر است:

• شفاف‌سازی صریح پیش از واگذاری تماس به نیروی انسانی
• کسب رضایت مشخص کاربر برای مدیریت مکالمات شخصی توسط انسان
• تعیین محدودیت‌های واضح در مورد اطلاعاتی که پیمانکاران می‌توانند بشنوند یا به آن‌ها دسترسی داشته باشند
• ثبت سوابق قابل حسابرسی از هر مورد دخالت انسانی
• ارائه یک روش ساده برای لغو فرآیند و بازگشت به حالت تماسِ کاملاً مبتنی بر هوش مصنوعی

یکی از معاونان آزمایشگاه‌های ابرهوشمندی Meta اعتراف کرد که عدم شفاف‌سازی در این زمینه «یک اشتباه» بوده است و به همین دلیل، Meta این ویژگی را لغو کرد. دانیل رابرتز (Daniel Roberts)، سخنگوی این شرکت، بازخورد کارمندان را «بسیار مثبت» ارزیابی کرد و این آزمایش را زمینه‌سازی برای ایجاد تدابیر مناسب در حوزه ایمنی و حریم خصوصی پیش از عرضه عمومی دانست.

این سناریو پیش‌تر نیز تکرار شده است

شرکت Meta جدیدترین نام در صف طولانی شرکت‌هایی است که محصولات خود را با وعده اتوماسیون بازاریابی می‌کنند، اما در سکوت به نیروی کار انسانی متکی هستند.

این یک داستان جدید یا مختص به یک شرکت خاص نیست، بلکه ویژگی تکرارشونده محصولات هوش مصنوعی مصرف‌کننده به شمار می‌رود.

خود شرکت Meta از سال ۲۰۱۵ دستیار دیجیتالی Facebook M را اجرا کرد؛ محصولی که در زمان عرضه توسط پیمانکاران بررسی می‌شد، در حالی که شرکت آن را به عنوان یک هوش مصنوعی تحت نظارت انسان توصیف می‌کرد. اپلیکیشن خرید Nate نیز خود را به عنوان یک ابزار پرداخت خودکار معرفی کرد، اما وزارت دادگستری ایالات متحده بعداً مدعی شد که کارگران در فیلیپین و رومانی در مقاطعی از سال ۲۰۲۱، بین ۶۰ تا ۱۰۰ درصد از خریدها را به صورت دستی انجام می‌دادند. شرکت Presto Automation نیز در سال ۲۰۲۳ فاش کرد که حدود ۷۰ درصد از سفارش‌ها در سیستم هوش مصنوعی «درایو-ترو» (drive-through) آن نیازمند مداخله ایجنت‌های انسانی خارج از محل بوده است؛ پویایی خاصی که بحث‌ها پیرامون قوانین عصر هوش مصنوعی و پاسخگویی در سیستم‌های خودکار را یادآوری می‌کند.

این الگو به قدری تکرار می‌شود که به وضوح قابل مشاهده است: بازاریابی، وعده اتوماسیون می‌دهد و بخش عملیات، نیروی کار انسانی ارائه می‌کند.

بر اساس گزارش رویترز، Meta اعلام نکرده است که ویژگی دستیار انسانی را برای همیشه کنار می‌گذارد، بلکه موضع این شرکت آن است که پس از برقراری تدابیر حفاظتی مناسب، این قابلیت ممکن است بازگردد. باید پذیرفت که سیستم‌های ترکیبی هوش مصنوعی و انسان می‌توانند به نتایج بسیار بهتری نسبت به سیستم‌های کاملاً خودکار دست یابند.

اما آنچه غیرقابل قبول است، راه‌اندازی سیستمی است که در آن پیمانکاران از طرف شما صحبت می‌کنند، جزئیات امور مالی شخصی شما را می‌شنوند و بدون اطلاع شما فعالیت می‌کنند. پیش از آنکه Muse دوباره گوشی تلفن را بردارد، کاربران باید دقیقاً بدانند چه کسی در آن سوی خط قرار دارد.