آزمایش جنجالی روی ۱۰ مدل هوش مصنوعی: تعصب جنسیتی همه‌جا هست، اما با نتایجی کاملاً متناقض!

تفاوت چشمگیر و عجیب سوگیری جنسیتی در مدل‌های زبانی پیشرو

بررسی و ارزیابی جامع ۱۰ مدل زبانی بزرگ از ۹ شرکت مختلف نشان داده که اثرات تعصب و سوگیری جنسیتی در وظایف مربوط به «انتساب کلیشه‌ها» و «قضاوت‌های اخلاقی»، شدیداً متناقض و غیرقابل پیش‌بینی است. در سناریوهای فرضی مربوط به محافظت از افراد در برابر آسیب، بعضی از این سیستم‌ها محافظت از زنان را در اولویت گذاشتند، برخی دیگر جانب مردان را گرفتند و چند مدل هم بدون توجه به جنسیت، واکنشی کاملاً یکسان نشان دادند.

برای توسعه‌دهندگان، این تناقض رفتاری یک پیام روشن دارد: آزمایش اختصاصی هر مدل یک ضرورت اجتناب‌ناپذیر است. نتایج تست تعصب روی مدل‌های یک شرکت به هیچ عنوان نشان‌دهنده رفتار مدل‌های شرکت دیگر نیست؛ بنابراین تعویض مدل در یک اپلیکیشن، می‌تواند هم جهت و هم شدت تبعیض‌ها و نابرابری‌های خروجی را به کلی دگرگون کند.

پرامپت‌های یکسان روی ۱۰ مدل مختلف

این مقاله پژوهشی با عنوان «سوگیری جنسیتی در مدل‌های زبانی بزرگ رایج و به‌شدت ناهمگن است» که در پایگاه علمی (arXiv) منتشر شده، خلأ ناشی از تحقیقات قبلی را که فقط روی تعداد انگشت‌شماری از مدل‌ها انجام شده بودند پر می‌کند. نویسندگان این مقاله دو آزمایش کنترل‌شده را روی مدل‌های عرضه‌شده بین آوریل ۲۰۲۵ تا ژوئن ۲۰۲۶ اجرا کردند:

• Claude Sonnet 4.6
• Claude Fable 5
• GPT-5.5
• Gemini 3.1 Pro
• Llama 4 Scout
• Grok 4.1 Fast
• Mistral Small 4
• Microsoft Copilot
• DeepSeek V4-Flash
• Qwen3.6

محققان در این مطالعه، سوگیری را به صورت «تفاوت سیستماتیک در پاسخ‌ها پس از تغییر نشانه‌های جنسیتی در پرامپت‌های مشابه» تعریف کردند. این شیوه اندازه‌گیری به خوبی خروجی‌های نامتقارن را رصد می‌کند، هرچند که مشخص نمی‌کند این رفتار دقیقاً از کجا نشأت می‌گیرد؛ از داده‌های آموزشی، مراحل پس‌آموزش (Post-training)، سیاست‌های ایمنی یا نحوه تفسیر پرامپت توسط مدل.