ردپای انسان‌ها در خلوت کوپایلوت؛ ارزیاب‌های مایکروسافت عکس‌ها و پرامپت‌های خصوصی شما را می‌بینند!

پیمانکارانی که برای ارزیابی کیفیت ویرایش هوش مصنوعی استخدام شده بودند، در حین کار با تصاویر نامتعارف و حساسی روبه‌رو شدند که کاربران ارسال کرده بودند؛ آن هم بدون اینکه کاربران موقع آپلود روحشان از حضور ناظران انسانی باخبر باشد!

وقتی عکسی را داخل مایکروسافت کوپایلوت (Microsoft Copilot) آپلود می‌کنید و برای ویرایش آن پرامپت می‌نویسید، احتمالاً پیش خودتان فکر می‌کنید همه‌چیز کاملاً محرمانه است و فقط شما و نرم‌افزار هوش مصنوعی در این تعامل حضور دارید. اما طبق گزارش افشاگرانه رسانه 404 Media، این تصور چندان با واقعیت همخوانی ندارد. پیش از این بارها دیده بودیم که برخی اپلیکیشن‌ها یواشکی کاربران را ردیابی می‌کنند و حالا نگرانی از دسترسی‌های پنهان به داده‌ها، دامن ابزارهای هوش مصنوعی را هم گرفته است.

بر اساس این گزارش، پیمانکاران انسانی به عنوان بخشی از فرایند سنجش کیفیت هوش مصنوعی، پرامپت‌های اصلی کاربران، تصاویر آپلودشده و دو خروجی ویرایش‌شده توسط مدل را تماشا می‌کردند؛ در حالی که مأموریت رسمی این افراد اصلاً سانسور یا نظارت بر محتوا نبوده است.

از این ارزیاب‌ها خواسته شده بود با بررسی معیارهای کیفی، گزینه بهتر را از بین دو خروجی هوش مصنوعی انتخاب کنند؛ یعنی بررسی کنند که آیا مدل دستور کاربر را مو‌به‌مو اجرا کرده، بخش‌های دست‌نخورده عکس سالم مانده، اثری از به‌هم‌ریختگی و خطاهای گرافیکی نیست و ظاهر نهایی عکس قشنگ‌تر به نظر می‌رسد یا نه.

پیمانکاران مایکروسافت دقیقاً چه چیزهایی دیده‌اند؟

روایت‌های این پیمانکاران نشان می‌دهد آن‌ها مدام در معرض تصاویری بسیار نامتعارف و زننده قرار می‌گرفتند؛ مطالبی که معمولاً هیچ ربطی به ارزیابی کیفیت ساده یک مدل ندارد.

گفت‌وگوهای میان پیمانکاران که توسط 404 Media بررسی شده، از برخورد پیاپی با درخواست‌های غیراخلاقی، تصاویر حساس دختران خردسال، عکس‌های پنهانی بدون اجازه، صحنه‌های قربانی کردن حیوانات و محتواهای نامناسب حکایت دارد. بر اساس مستندات منتسب به مایکروسافت، به این افراد گفته شده بود موقع مقایسه عکس‌ها در کنار یکدیگر، صرفاً به حس ششم و درک حسی و فوری خود اعتماد کنند.

یکی از این پیمانکاران که نامش فاش نشده به 404 Media گفته: «چهره افراد همیشه بدون تار شدن و سانسور به ما نشان داده می‌شد و بخش زیادی از پرامپت‌ها هم به شدت غیراخلاقی و نامتعارف بودند، طوری که بعید بود صاحب عکس رضایتی داشته باشد.»

البته این افشاگری لزوماً به این معنی نیست که همه پرامپت‌ها و عکس‌های شما در کوپایلوت زیر ذره‌بین یک ناظر انسانی می‌رود؛ بلکه نشان می‌دهد حداقل گروهی از پیمانکاران برای بررسی کیفیت مدل، فایل‌ها و پرامپت‌های خصوصی کاربران را تماشا می‌کردند.

واکنش مایکروسافت و شرایط استفاده از سرویس

در سند حریم خصوصی مایکروسافت قید شده که داده‌های کوپایلوت، از جمله پرامپت‌ها و محتواهای وابسته به آن، ممکن است برای ارائه، ارتقا، نظارت، رفع باگ و حفظ امنیت سرویس استفاده شوند. همچنین این شرکت اعلام کرده داده‌های ناشناس‌سازی‌شده ممکن است برای توسعه و آموزش مدل‌های هوش مصنوعی استفاده شوند. جالب اینجاست که اتحادیه اروپا پیش‌تر دسترسی مایکروسافت و سایر سرویس‌های ابری به داده‌های حساس دولتی را محدود کرده بود که نشان‌دهنده بدبینی سیاست‌گذاران به نحوه محافظت از اطلاعات محرمانه در این شرکت‌هاست.

مایکروسافت در پاسخ به 404 Media گفته که از داده‌های کاربران طبق قوانین و شرایط اعلام‌شده‌اش استفاده می‌کند؛ از جمله برای بهبود ابزارها و اجرای مقررات رفتاری. با این وجود، این غول فناوری هیچ پاسخی نداده که چند نفر پیمانکار به فایل‌های کاربران دسترسی دارند یا قبل از رسیدن عکس‌ها به چشم یک انسان، چه سیستم‌های فیلترینگ خودکاری روی آن‌ها اعمال می‌شود.

قوانین کوپایلوت برای کاربران عادی کلمه «پرامپت» را بسیار وسیع معنا کرده و متن، عکس، فایل، صوت و ویدیو را شامل می‌شود. همین قوانین آپلود محتوای نامناسب، آزار جنسی کودکان، تصاویر آزاردهنده و ویرایش بدون رضایت یا ساخت دیپ‌فیک را به صراحت ممنوع می‌داند. این قوانین ارسالی‌های کاربران را محدود می‌کند، اما مشخص نمی‌کند چطور چنین محتواهای ممنوعه‌ای از فیلترهای اولیه رد شده و به دست بازبین‌های انسانی می‌رسند.

نکته مهم دیگری که باید تفکیک شود این است: کوپایلوت سازمانی (Enterprise) تعهدات امنیتی بسیار سفت‌وسخت‌تری دارد؛ مثل عدم استفاده از داده‌های شرکت‌ها برای آموزش مدل‌های پایه بدون اجازه رسمی. اما چنین محافظت‌های محکم و شفافی به شکل پیش‌فرض برای کاربران نسخه عادی کوپایلوت وجود ندارد.

ردپای پلتفرم پرولیفیک و ابهامات باقی‌مانده

پای پلتفرم فریلنسری پرولیفیک (Prolific) هم به این ماجرا باز شده؛ موضوعی که محافظت از سلامت روان ارزیاب‌ها و شفافیت با کاربران را زیر سوال می‌برد.

حداقل یکی از واسطه‌های پیمانکاری که در گزارش نام برده شده، پلتفرم پرولیفیک است؛ سامانه‌ای که خدمات نظرسنجی انسانی و بنچمارک هوش مصنوعی ارائه می‌دهد. جالب است بدانید در راهنمای خود پرولیفیک صراحتاً درباره خطر برخورد ارزیاب‌ها با محتواهای زننده تولیدشده توسط هوش مصنوعی هشدار داده شده و توصیه شده که پیش‌فیلتر غربالگری و پیام‌های هشدار محتوا برای ارزیاب‌ها فعال شود.

هنوز سوالات بسیار مهمی بدون پاسخ مانده‌اند. مشخص نیست دقیقاً چند نفر پیمانکار به فایل‌های آپلودشده کاربران دسترسی داشته‌اند و چه سهمی از درخواست‌های ویرایش تصویر به چشم ارزیاب انسانی می‌رسد. علاوه بر این، معلوم نیست آیا مایکروسافت موقع ارسال عکس، به کاربر اخطار شفافی درباره احتمال بررسی انسانی می‌دهد یا نه.

طبق اسناد مایکروسافت، تصاویر آپلودشده ۳۰ روز بعد از اتمام مکالمه پاک می‌شوند و سیستم‌های خودکار امنیتی مدام در حال غربالگری محتواهای ممنوعه هستند. با این وجود، این اظهارات هنوز ابهامات مربوط به ذخیره متادیتا و عملکرد فیلترهای خودکار پیش از رسیدن به دست انسان‌ها را برطرف نکرده است. البته در گزارش‌های فعلی، نقض قانون صریحی از سوی مایکروسافت یا پرولیفیک گزارش نشده است.

این ماجرا برای کاربران چه معنایی دارد؟

شکاف بزرگ میان تصور کاربران از محرمانگی و دسترسی واقعی پیمانکاران انسانی به فایل‌ها، زنگ خطر جدی برای کسانی است که عکس‌های خانوادگی و شخصی‌شان را به سرویس‌های هوش مصنوعی می‌سپارند.

اگر از ابزارهای ویرایش عکس کوپایلوت استفاده می‌کنید، حواستان باشد که پرامپت‌ها و عکس‌های آپلودشده ممکن است علاوه بر پردازش الگوریتم‌ها، جلوی چشم ارزیاب‌های انسانی هم قرار بگیرند. هرچند مایکروسافت در بندهای قانونی چنین اختیاری برای خود قائل شده، اما شفافیت لازم هنگام فشردن دکمه آپلود به کاربر داده نمی‌شود.

تا زمانی که سازندگان هوش مصنوعی قوانین روشن‌تری تدوین نکنند، بهترین رویکرد این است که هر عکسی را که در چت‌بات‌ها و ابزارهای عمومی هوش مصنوعی آپلود می‌کنید، مثل یک عکس قابل‌مشاهده برای دیگران در نظر بگیرید. در عصر ابزارهای هوشمند، مراقبت از حریم خصوصی دیجیتال بیش از هر زمان دیگری بر عهده خود ماست.