نیاز واقعی زنان به هوش مصنوعی؛ فراتر از کلیشه‌های خانگی و دستیارهای مجازی

در اواخر ماه اکتبر، نشریه نیویورک تایمز در گزارشی به معرفی Dazzle پرداخت؛ دستیار هوش مصنوعی جدیدی که توسط ماریسا مایر، مدیرعامل سابق یاهو توسعه یافته است. در این گزارش داستانی شخصی نقل شد که هدف از آن، جذاب و انسانی نشان دادن این ابزار جدید بود.

ماجرا از این قرار بود که وقتی معلم فرزند مایر از او خواست سه ویژگی خاص دختر ده‌ساله‌اش را بنویسد، مایر به سراغ Dazzle رفت. این برنامه با بررسی آلبوم عکس‌های گوشی او، سه ویژگی را تحویل داد: همدل، خلاق و حامی حیوانات. مایر این پاسخ را «بی‌نقص» توصیف کرد.

این روایت شخصی تلاشی از سوی مایر بود تا نشان دهد ابزار هوش مصنوعی ساخته‌شده توسط زنان و برای زنان چه ویژگی‌هایی دارد. برنامه Dazzle به‌جای نیاز به کدنویسی پیچیده یا راه‌اندازی عامل‌های هوشمند، با تحلیل داده‌های استخراج‌شده از آلبوم عکس‌های دیجیتال کاربر درباره او اطلاعات کسب می‌کند و با آغاز گفتگو، در کارهای روزمره به او یاری می‌رساند. مایر حتی در بخشی از صحبت‌هایش، Dazzle را نوعی «همسر هوش مصنوعی» توصیف کرد که هدفش کاهش بار ذهنی روزمره‌ای است که عمدتاً بر دوش زنان قرار دارد.

اما این اظهارات مایر را در کانون انتقادات گسترده در شبکه‌های اجتماعی قرار داد؛ جایی که والدین و فعالان حوزه فناوری پرسش‌های مهمی مطرح کردند: چه بخش‌هایی از کارهای خانه و مراقبت را باید به هوش مصنوعی واگذار کرد و زنان واقعاً از فناوری هوش مصنوعی چه می‌خواهند؟

واکنش‌ها به نمونه ارائه‌شده از سوی مایر در میان جامعه والدین بسیار منفی بود؛ زیرا از میان تمام وظایف مادری و فرزندپروری، هدفی که قرار است حس منحصربه‌فرد بودن را در کودک پرورش دهد، چیزی نیست که بتوان انجام آن را به ماشین برون‌سپاری کرد.

درخواست معلم یک وظیفه اداری ساده نبود، بلکه دعوتی برای نشستن در کنار کودک و گفتگو درباره هویت او به‌شمار می‌رفت؛ تمرینی فکری و عاطفی که اعتمادبه‌نفس فرزند را بسیار بیشتر از چند صفت انتخابی تقویت می‌کند. با این حال، مایر این گفتگوی ارزشمند را نادیده گرفت و تنها به کلمات پیشنهادی ابزار بسنده کرد.

مایر بعداً در گفتگو با نشریه Fortune اعلام کرد که هدفش صرفاً آزمایش محصول بوده و قصد برون‌سپاری وظایف مادری را نداشته و می‌خواسته برای زنان وقت آزاد بیشتری فراهم کند. اما این دفاعیه نکته اساسی را تأیید می‌کند: نمونه‌ای که یک بنیان‌گذار برای معرفی محصولش انتخاب می‌کند، کاربرد واقعی آن ابزار را نشان می‌دهد و این دستیار دقیقاً ساخته شده بود تا به‌جای والدین به پرسشی پاسخ دهد که پاسخگویی به آن تنها در حیطه مهر و عاطفه انسانی است.

مشکل اصلی وجود محصول Dazzle نیست؛ بلکه مسئله این است که دستیاری که فرم‌های مدرسه را پر می‌کند یا آلرژی کودکان را به خاطر می‌سپارد، به‌عنوان دستاوردی بزرگ به زنان معرفی می‌شود؛ در حالی که نیازهای بنیادین و واقعی جامعه در حوزه هوش مصنوعی بسیار پیچیده‌تر است و ساخت آن دشوارتر و سودآوری تجاری آن کمتر به نظر می‌رسد.

انتظارات واقعی از هوش مصنوعی و خطوط قرمزی که نباید واگذار شوند

نهادهای پیشرو مانند بنیاد AI4ALL سال‌ها با هدف آموزش مهارت‌های فنی در زمینه هوش مصنوعی مسئولانه به جوانانی فعالیت کرده‌اند که از این فضا محروم مانده بودند. انتظار جامعه و متخصصان از هوش مصنوعی، ابزاری است که خطاهای یک قرارداد را پیدا کند، پیشینه پژوهشی کمک‌هزینه‌ها را استخراج نماید، انبوه داده‌ها را تحلیل کند و بار کارهای خسته‌کننده اداری را بردارد تا فضای ذهنی برای تفکر خلاق و عمیق فراهم شود.

اما شناخت روح و روان فرزند موضوعی نیست که به یک مدل الگوریتمی واگذار شود. ویژگی‌های عمیق انسانی، شوخ‌طبعی‌ها، علایق هنری و هوش کودک را نمی‌توان در عکس‌های دوربین گوشی پیدا کرد و هیچ مدلی نیز قادر به درک آن نیست؛ زیرا این ویژگی‌ها حاصل صدها ساعت حضور فعال و توجه عاطفی والدین است. توصیف احساسات یک فرزند وظیفه‌ای نیست که بتوان آن را بهینه‌سازی کرد، بلکه جوهره یک رابطه انسانی به‌شمار می‌رود.

واگذاری وظایف عاطفی به هوش مصنوعی رویکردی نادرست است و جامعه نیازی به ابزاری با برچسب همسر هوش مصنوعی ندارد. استفاده از این تعابیر برای ابزاری که نوبت دندانپزشکی را یادآوری می‌کند یا هماهنگی برنامه‌ها را انجام می‌دهد، دیدگاه کلیشه‌ای صنعت فناوری را آشکار می‌سازد. مطالعات جامعه‌شناسی گسترده‌ای بار ذهنی زنان در مدیریت خانه را بررسی کرده‌اند و فرض توسعه‌دهندگان Dazzle این است که هوش مصنوعی می‌تواند این بار را سبک کند. اما بار ذهنی مجموعه‌ای یکپارچه از کارهای اداری نیست؛ بخشی از آن تدارکات است و بخشی دیگر عشق و توجهی است که در قالب مراقبت جلوه می‌کند و هوش مصنوعی نمی‌تواند میان این دو تمایز قائل شود.

مطالبه واقعی زنان، هوش مصنوعی توسعه‌یافته‌ای است که زن را به چشم یک انسان ببیند نه یک داده جمعیت‌شناختی کلیشه‌ای؛ فناوری هوشمندی که بر پایه قرن‌ها سوگیری جنسیتی در داده‌ها بنا نشده باشد. جامعه هوش مصنوعی به سیستمی نیاز دارد که بر اساس تجربیات واقعی شکل گرفته باشد؛ نه سیستمی که پیشنهاد دستمزد کمتر بدهد، افراد را به سمت مشاغل کم‌درآمدتر هدایت کند یا در ویرایش عکس‌ها صرفاً تصویر لاغرتر و جوان‌تری ارائه دهد.

انتقاد بنیادین به این مدل‌ها یادآور سخن تاریخی سیمون دوبووار است که هفت دهه پیش مطرح شد: وقتی جهان تنها از نگاه یک طیف خاص تعریف شود، آن دیدگاه به‌عنوان حقیقت مطلق تلقی خواهد شد. مدل‌های زبانی بزرگ امروزی متون ادبی، علمی، اسطوره‌ای، دینی و حقوقی گذشته را پردازش و بازتولید می‌کنند و دستیاری که بدون درک جامع نیازها طراحی شود، در واقع تکرار همان فرضیات پیشین در قالب یک محصول تجاری است.

این نوع معرفی محصول فرض می‌کند که زنان از فناوری صرفاً مدیریت بهتر امور خانه را طلب می‌کنند، در حالی که خواسته‌های واقعی جامعه از این تحول دیجیتال ابعاد بسیار گسترده‌تری دارد.

وقتی هوش مصنوعی زنان را نادیده می‌گیرد

در دسامبر ۲۰۲۳، نشریه نیویورک تایمز فهرستی از چهره‌های شاخص پشت صحنه هوش مصنوعی مدرن منتشر کرد که نام هیچ زنی در آن دیده نمی‌شد؛ نه فی فی لی (Fei-Fei Li) که پایگاه داده ImageNet او دوران یاد‌گیری عمیق را رقم زد، و نه میرا موراتی که در آن مقطع مدیر ارشد فناوری OpenAI بود.

میراندا فریکر، فیلسوف معاصر، این پدیده را بی‌عدالتی شناختی می‌نامد؛ یعنی آسیبی که به اعتبار یک فرد به‌عنوان صاحب دانش و آگاهی وارد می‌شود. نتیجه چنین رویکردی نوعی حذف هویتی است که باعث می‌شود دسته سازندگان هوش مصنوعی به گونه‌ای تعریف شود که زنان خارج از دایره آن قرار گیرند.

بنابراین انتظار حل چالش‌های ساختاری هوش مصنوعی صرفاً توسط چهره‌های خاص مدیریتی، در شرایطی که روایت‌های رسانه‌ای خود به بازتولید این شکاف دامن می‌زنند، نگاهی سطحی به یک معضل ریشه‌ای است.

پیامد آموزش مدل‌ها بر بستر داده‌های سوگیرانه

مدل‌های پایه محصولات هوش مصنوعی بر اساس محتوای اینترنتی آموزش می‌بینند که در طول سال‌ها نوشته شده و این سوابق اغلب با پیش‌داوری همراه است.

مطالعه پژوهشگران در سال ۲۰۲۴ به سفارش یونسکو نشان داد که مدل‌های توسعه‌یافته توسط شرکت‌هایی مانند OpenAI و متا، نام‌های زنانه را بیشتر با عناوینی چون «خانه»، «خانواده» و «فرزندان» مرتبط می‌دانند، در حالی که نام‌های مردانه با «کسب‌وکار»، «مدیریت» و «حرفه» پیوند خورده‌اند. برای نمونه، مدل Llama 2 ساخت متا در حدود ۲۰ درصد موارد، پاسخ‌های تبعیض‌آمیز یا نامتعادل درباره زنان ارائه داد. هم‌چنین در تفکیک مشاغل، این مدل‌ها عناوینی چون «پزشک» و «مهندس» را به مردان و عناوینی مانند «خدمتکار» یا «آشپز» را به زنان نسبت دادند.

محققان شرکت اپل نیز در کنفرانس عدالت، پاسخگویی و شفافیت در سال ۲۰۲۳ گزارش دادند که هنگام به چالش کشیدن مدل‌های زبانی بزرگ درباره انتخاب‌های شغلی کلیشه‌ای، این مدل‌ها به‌جای اصلاح اشتباه خود، دلایل ساختگی و نامعتبر برای توجیه نتایج ارائه کردند.

این داده‌های خام پایه‌ای هستند که ابزارهایی مانند دستیار Dazzle بر آن سوار شده‌اند. مدل‌هایی که نقش‌های سنتی را پیش‌فرض می‌گیرند، برای این فرض که اولویت اصلی کاربران زن صرفاً کارهای خانه است، به خود تردیدی راه نمی‌دهند.

خطرات این سوگیری در سه سطح تشدید می‌شود: نخست، کلیشه‌ها تبدیل به محصول می‌شوند و هوش مصنوعی با یاد‌گیری از عکس‌ها صرفاً همان پیش‌فرض‌های موجود را بازتولید می‌کند. دوم، بازار کار آسیب می‌بیند؛ طبق گزارش شکاف جنسیتی مجمع جهانی اقتصاد در سال ۲۰۲۶، هوش مصنوعی عمدتاً مشاغل دفتری را که پشتوانه استقلال اقتصادی بودند خودکارسازی می‌کند، در حالی که سهم بزرگی از نیروی کار زنانه در بخش برچسب‌گذاری کم‌درآمد داده‌ها باقی می‌ماند. سوم، فرهنگ تعامل دگرگون می‌شود؛ گسترش همراهان مصنوعی مطیع سبب عادت کردن افراد به روابط سطحی شده و تعامل در دنیای واقعی را با چالش مواجه می‌سازد.

این چالش‌ها به معنای مخالفت با هوش مصنوعی نیست، بلکه نشان می‌دهد ساخت مدل‌ها با داده‌ها و نیروی کار نامتوازن فعلی، ابزاری را بازتولید می‌کند که به‌جای توانمندسازی، همان ساختارهای نابرابر گذشته را تحکیم خواهد کرد.

در این میان، چهار محور اساسی وجود دارد که می‌تواند منافع واقعی به‌همراه داشته باشد:

توسعه هوش مصنوعی بدون سوگیری: به‌جای ابزارهایی که کلیشه‌ها را تکرار می‌کنند، مدل‌ها باید توسط ناظران مستقل بیرونی در حوزه‌هایی چون استخدام، پرداخت تسهیلات، اعتبارسنجی و پزشکی مورد ارزیابی دقیق قرار گیرند. هر کاربری که برای ارزیابی دستمزد یا بررسی علائم پزشکی از هوش مصنوعی استفاده می‌کند، مستحق بهره‌مندی از سیستمی بدون پیش‌داوری است.

فرصت‌های شغلی برابر در توسعه فناوری: طبق گزارش مجمع جهانی اقتصاد، زنان تنها ۱۹٫۳ درصد از نقش‌های مهندسی هوش مصنوعی را در اختیار دارند و در سطوح ارشد شرکت‌های فعال این حوزه حضور کمرنگی دارند. هم‌چنین تحلیل داده‌های لینکدین نشان می‌دهد که زنان تنها ۱۳ درصد از سمت‌های اجرایی هوش مصنوعی را تشکیل می‌دهند.

برنامه‌ریزی عملی به‌جای امیدواری منفعلانه: استخدام، ارتقا و حفظ متخصصان زن در آزمایشگاه‌های پیشرو مدل‌های هوش مصنوعی ضرورت دارد. باید راهکاری ایجاد شود تا نیروهای انسانی از مشاغل صرف برچسب‌گذاری داده خارج شده و به سطوح تصمیم‌گیری درباره اهداف کلان مدل‌ها راه یابند.

پایان دادن به حذف چهره‌های پیشرو: نادیده گرفتن سهم متخصصان برجسته در تاریخ رایانش همچنان ادامه دارد. این رویه در گزارش‌های رسانه‌ای و شبکه‌های استنادی پژوهش‌های هوش مصنوعی نیز دیده می‌شود؛ جایی که پژوهشگرانی هم‌چون جوی بولاموینی در زمینه تشخیص چهره، تیمنیت گبرو در خطرات هوش مصنوعی عمومی، صفیه نوبل در تحلیل موتورهای جستجو و روها بنجامین سهم عمده‌ای در کشف آسیب‌های الگوریتمی داشته‌اند اما کمتر به‌عنوان رهبران فناوری شناخته می‌شوند. بازنگری در این رویکرد به معنای شناسایی مجدد کسانی است که دانش و تخصص واقعی این حوزه را شکل داده‌اند.

تخصیص عادلانه سرمایه: هرچند بر اساس گزارش‌های سرمایه‌گذاری جسورانه ارقام کلانی برای شرکت‌های دارای حداقل یک هم‌بنیان‌گذار زن ثبت شده، اما بخش اعظم این سرمایه‌ها به پروژه‌های محدودی مانند Scale AI و Anthropic اختصاص یافته است. در صورتی که این قراردادهای استثنایی کنار گذاشته شوند، سهم واقعی تیم‌های کاملاً زنانه از سرمایه‌گذاری‌های خطرپذیر هوش مصنوعی همچنان بسیار اندک و در محدوده ارقام تک‌رقمی باقی مانده است.

اقدامات عملی برای تغییر مسیر

برای ایجاد تحول ملموس، پنج گام اساسی وجود دارد که باید در دستور کار قرار گیرد:

پرسش از نیازهای واقعی پیش از توسعه محصول: طراحی مشارکتی رویکردی اثبات‌شده است که در آن کاربران نهایی در تعیین اهداف مدل هوش مصنوعی نقش دارند؛ روشی که اغلب استارتاپ‌ها برای سرعت بخشیدن به عرضه محصول آن را نادیده می‌گیرند. یک دستیار هوشمند کارآمد باید پیش از پرداختن به امور سطحی، در حوزه‌هایی چون شفافیت حقوق یا تصمیم‌گیری‌های درمانی راهگشا باشد.

ارزیابی سوگیری پیش از عرضه و انتشار شفاف نتایج: توصیه‌نامه‌های اخلاقی یونسکو و قوانین جدید هوش مصنوعی خواستار ارزیابی اثرات سیستم‌های پرخطر و افشای منابع آموزشی هستند. شرکتی که بدون انتشار گزارش عملکرد، محصول خود را ویژه جامعه زنان معرفی می‌کند، اعتماد واقعی کاربران را جلب نخواهد کرد.

دیدن تنوع به‌عنوان یک اصل اساسی نه ترفند تبلیغاتی: مسئله صرفاً داشتن مدیرعامل زن نیست، بلکه مهم این است چه کسانی ساختار داده‌ها را طراحی کرده و معیارهای سنجش خطا را تعیین می‌کنند. حضور کارشناسان در سطوح عالی فنی تعیین‌کننده ارزش‌های واقعی یک مدل هوش مصنوعی است.

طراحی برای توانمندسازی و استقلال فردی: در امتداد اصول طراحی فناورانه که پژوهشگرانی چون جودی واجمن تبیین کرده‌اند، ابزارهای نوین باید دامنه آگاهی و توانمندی فرد را گسترش دهند، نه اینکه او را در نقش‌های محدود محصور کنند. معیار موفقیت یک محصول این است که آیا کاربر را برای مدیریت مستقل توانمند می‌سازد یا صرفاً او را به مجری وظایف تعریف‌شده تبدیل می‌کند.

هدایت هوشمند سرمایه به سوی نوآوری‌های متنوع: همان‌طور که مجمع جهانی اقتصاد تأکید می‌کند، تخصیص منابع مالی هدفمند برای برابری فرصت‌ها ضروری است. تا زمانی که تیم‌های متنوع سهم منصفانه‌ای از منابع مالی جذب نکنند، ایده‌های خلاقانه برای رفع نیازهای واقعی به مرحله ظهور نخواهند رسید.

هوش مصنوعی مبتنی بر توانمندسازی انسانی

افزایش نقش متخصصان در توسعه سیستم‌ها راهکاری اثر‌بخش برای ساخت هوش مصنوعی مسئولانه‌تر و اخلاقی‌تر است؛ با این حال، حضور افراد در سطوح مدیریتی به‌تنهایی تضمین‌کننده ایجاد تغییر نیست، مگر آنکه اراده‌ای واقعی برای تحول در فرآیندها وجود داشته باشد.

نادیده گرفتن چالش‌های جنسیتی در فناوری به بهانه بی‌طرف بودن ابزارها، نادیده گرفتن واقعیت‌های ساختاری است. صنعتی که مدعی نوآوری است، نمی‌تواند چشم خود را بر پیش‌داوری‌های موجود ببندد.

تغییر واقعی در این حوزه توسط کسانی رقم خواهد خورد که به توانمندسازی بنیادین باور دارند. جامعه فناوری به دستیاری نیاز ندارد که وانمود کند روحیات زنان را می‌شناسد، بلکه به صنعتی نیازمند است که کلیشه‌سازی را متوقف کند، از تخصص متخصصان در ساخت مدل‌ها بهره ببرد و سازوکارهای شفاف برای ارزیابی و اصلاح سوگیری‌ها را در خود پیاده‌سازی نماید.