شکاف دستمزد به دنیای هوش مصنوعی هم رسید؛ پرداخت ۱۰ درصد پول کم‌تر به ایجنت‌های زن!

یک آزمایش جالب در محیط واقعیت مجازی (VR) با حضور ۱۸۹ کارمند نشان داد که ایجنت هوش مصنوعی با نام و هویت زنانه به اسم «یوهانا» (Johanna)، بیش از ۱۰ درصد کم‌تر از همتای کاملاً یکسان و مرد خود، «یوهان» (Johan)، دستمزد دریافت کرده است.

در این پژوهش تازه، ۱۸۹ کارمند در یک دفتر کار مجازی قرار گرفتند تا در کنار چند دستیار محیط کار به فعالیت بپردازند؛ سپس به شرکت‌کنندگان پول واقعی داده شد تا آن را بر اساس عملکرد بین خود و این ایجنت‌ها تقسیم کنند. با وجود اینکه دستیار زنانه یعنی یوهانا از نظر فنی و توانایی اجرای وظایف هیچ تفاوتی با دستیار مردانه یعنی یوهان نداشت، اما در نهایت ۱۰.۲۵ درصد پول کمتری نصیبش شد!

فناوری یکسان، فیش‌های حقوقی نابرابر!

نقطه قوت اصلی این آزمایش در این بود که رفتار واقعی افراد با پول نقد سنجیده شد، نه صرفاً ادعاها و حرف‌هایی که در پرسشنامه‌ها می‌زدند.

محققانی از دانشگاه لیمریک، دانشگاه زوریخ و مدرسه کسب‌وکار اسکیما (SKEMA) این آزمایش را طوری طراحی کردند تا رفتار عملی کارمندان را بسنجند، نه فقط باورهای اعلام‌شده آن‌ها را. در طول آزمایش، شرکت‌کنندگان در کنار یک چت‌بات متنی، یک ربات رومیزی و ایجنت‌های انسان‌نما با چهره‌های زن و مرد کار کردند.

جالب اینجاست که یوهان و یوهانا از همان موتور و فناوری زیربنایی مشترک قدرت می‌گرفتند و مهارت‌هایشان مو نمی‌زد. با این حال، شکاف دستمزدی که دهه‌هاست در تحقیقات برابری محیط کار ثبت می‌شود، اینجا هم صرفاً به خاطر هویت و ظاهر جنسیتی این دستیارها دوباره سر برآورد.

نکته عجیب‌تر اینکه شرکت‌کنندگان یوهان را حتی «انسان‌گونه‌تر» از یوهانا ارزیابی کردند! به‌طور کلی، ایجنت‌هایی که ظاهر انسانی داشتند نسبت به ربات رومیزی اعتماد و اعتبار بیشتری بابت کارشان جلب کردند؛ با اینکه هسته هوش مصنوعی همه آن‌ها یکی بود.

«ما معمولاً فکر می‌کنیم هوش مصنوعی کاملاً بی‌طرف و خنثی است، اما نحوه طراحی و معرفی این سیستم‌ها می‌تواند دقیقاً همان پیش‌داوری‌ها و تعصباتی را فعال کند که در تعاملات روزمره با سایر انسان‌ها داریم.» — دکتر مری هاوسفلد، از مدرسه کسب‌وکار کِمی در دانشگاه لیمریک

شکاف بزرگ میان ادعاها و رفتار عملی، تأمل‌برانگیزترین بخش این پژوهش است. شرکت‌کنندگان در پاسخ‌هایشان می‌گفتند هیچ فرقی بین دستیار هوش مصنوعی مرد یا زن قائل نیستند، اما وقتی پای پول وسط آمد، تصمیماتشان تفاوتی کاملاً ملموس را رقم زد. نظرسنجی‌ها ممکن است در ظاهر بی‌طرفی را نشان دهند، اما تصمیمات واقعی نشان می‌دهند تعصبات ناخودآگاه در پشت پرده همچنان جریان دارند؛ تفاوتی معنادار که نحوه سنجش عدالت در هوش مصنوعی را برای سازمان‌ها دگرگون می‌کند.

این ماجرا چه پیامی برای طراحان هوش مصنوعی دارد؟

این پژوهش پرسش‌های جدی و کاربردی پیش روی توسعه‌دهندگانی می‌گذارد که مشغول ساخت ایجنت‌ها، آواتارها و دستیاران کاری با چهره، صدا و نام اختصاصی هستند.

این روز‌ها استفاده از ایجنت‌های هوش مصنوعی در پلتفرم‌های سازمانی با سرعتی سرسام‌آور رو به افزایش است و تصمیمات مربوط به طراحی ظاهری این دستیارها، پیامدهایی بسیار فراتر از جنبه‌های صرفاً بصری یا سلیقه‌ای دارد.

نام، صدا، چهره و سایر ویژگی‌های دارای بار جنسیتی، فارغ از میزان مهارت و توانمندی واقعی سیستم، روی میزان اعتماد، صلاحیت برداشت‌شده و حتی پاداشی که به آن تعلق می‌گیرد اثر مستقیم می‌گذارند. البته داده‌های موجود به این معنی نیست که در هر شرایطی با تمام دستیاران زن نابرابر رفتار خواهد شد؛ بلکه این مطالعه اثبات می‌کند کاربران به نشانه‌های ظاهری واکنش‌های متفاوتی نشان می‌دهند و میزان حس انسان‌بودن ایجنت هم مستقیماً روی ارزش‌گذاری کارش تأثیر می‌گذارد.

البته پژوهشگران تأکید دارند که این مطالعه به معنی جنسیت داشتن سیستم‌های هوش مصنوعی نیست؛ بلکه این سوگیری‌ها و تعصبات در جریان تعامل انسان و نحوه عرضه این ایجنت‌ها به کاربران شکل می‌گیرد.

این مقاله با عنوان «انسان‌نما و مذکر؟ ارتباط طراحی دستیار هوش مصنوعی با اعتماد و پاداش مالی در محیط کار VR» در چهاردهمین کنفرانس تعامل انسان و کامپیوتر نوردیک در واسا، فنلاند ارائه شد. این مقاله در برنامه کنفرانس مرتبط با مجموعه مقالات انجمن ماشین‌های حسابگر (ACM) گنجانده شده است.

اگر دستیار هوش مصنوعی شرکت یا سازمان شما نام، چهره یا صدای خاصی دارد، این انتخاب‌ها اصلاً بی‌طرفانه و تصادفی نیستند؛ بلکه بار معنایی و فرضیات خاصی را به همراه دارند. چالش بزرگی که حالا شرکت‌ها و توسعه‌دهندگان با آن مواجه‌اند این است که آیا این تصمیمات ظاهری را هم با همان دقت و وسواسی که برای مدل‌های هوش مصنوعی زیربنایی به خرج می‌دهند، ارزیابی و بازبینی خواهند کرد یا خیر.