اخراج پیمانکاران OpenAI به دلیل استفاده از هوش مصنوعی برای آموزش هوش مصنوعی

پیمانکارانی که بیش از ۵۰ دلار در ساعت درآمد دارند، مکالمات واقعی ChatGPT را بهصورت دستی امتیازدهی میکنند و در صورت استفاده از هوش مصنوعی فوراً اخراج میشوند.

شرکت OpenAI هوش مصنوعی را بهعنوان ابزاری برای تمام کارهای محیط کار، از نوشتن ایمیل تا کدنویسی، معرفی میکند. اما در پشتپرده، صدها پیمانکار دقیقاً خلاف این موضوع عمل میکنند و بهشدت از انجام آن منع شدهاند. این کارگران مکالمات واقعی شما با ChatGPT را میخوانند و به پاسخهای مدل امتیاز میدهند. اگر برای انجام این کار از هوش مصنوعی کمک بگیرند، اخراج میشوند.

پروژه Project Lily دقیقاً چیست؟

این برنامه بیش از آنچه بیشتر کاربران تصور میکنند، با دادههای شما سروکار دارد.

این پروژه با نام رمز Project Lily، پیمانکاران را از طریق شرکتی به نام Crossing Hurdles استخدام میکند و از طریق یک شرکت آموزش هوش مصنوعی به نام Mercor به آنها دستمزد میپردازد. اسناد داخلی فاششده نشان میدهد که برخی پیمانکاران بیش از ۵۰ دلار در ساعت درآمد دارند.

بررسیکنندگان یک مکالمه بینام ChatGPT را میخوانند، خواسته کاربر را خلاصه میکنند و سپس به پاسخهای مختلف در مقیاس ۱ تا ۷ امتیاز میدهند. به آنها دستور داده شده است که رفتارهای چاپلوسانه را علامتگذاری کنند؛ یعنی مواردی که ChatGPT بیش از حد از کاربران تعریف میکند یا بیش از حد انسانی رفتار میکند، و ارزیابیها را به سمت یک استاندارد حرفهایتر و کنترلشدهتر سوق دهند.

مکالمات شما بهطور پیشفرض وارد این چرخه میشوند. برای کاربران طرحهای Free، Plus و Pro، گزینه مشارکت در آموزش بهطور پیشفرض روشن است؛ میتوانید آن را در تنظیمات کنترل دادههای ChatGPT غیرفعال کنید.

بنا بر اعلام OpenAI، درخواستها پیش از رسیدن به دست بررسیکنندگان از یک مدل Privacy Filter عبور میکنند. با این حال، گزارشها حاکی از آن است که جزئیات شخصی و حساس همچنان میتوانند از این فیلتر عبور کنند، از جمله اطلاعات مربوط به خلاصههای حافظه کاربر.

چرا قانون ممنوعیت هوش مصنوعی وجود دارد؟

ممنوعیت ابزارهای هوش مصنوعی مستقیماً به یک نقص شناختهشده در یادگیری ماشین برمیگردد.

بر اساس گزارشهای منتشرشده، دستورالعملهای پیمانکاران کاملاً واضح است: استفاده از مدلهای زبانی بزرگ (LLMها)، Grammarly، ابزارهای ترجمه هوش مصنوعی و نرمافزارهای تشخیص هوش مصنوعی از جمله GPTZero ممنوع است. گفته میشود راهنماهای داخلی به بررسیکنندگان آموزش میدهند که به ابزارهای تشخیص بهدلیل غیرقابل اعتماد بودنشان اعتمادی نداشته باشند و کارهای انجامشده با هوش مصنوعی را از طریق تشخیص الگو شناسایی کنند.

یک مقاله علمی با عنوان «نفرین بازگشت» (The Curse of Recursion) و یک مطالعه جداگانه که در نشریه Nature منتشر شده است، هر دو یک نقص مشابه را مستند میکنند: وقتی مدلهای هوش مصنوعی بهطور مکرر روی محتوای تولیدشده توسط هوش مصنوعی بهجای خروجی تازه انسانی آموزش میبینند، دقت و تنوع خود را در طول زمان از دست میدهند. توزیع دادهها محدود میشود و مدل شروع به درک نادرست از واقعیت میکند.

اگر انسانهایی که به پاسخهای ChatGPT امتیاز میدهند بهطور پنهانی از خود ChatGPT برای نوشتن آن امتیازها استفاده کنند، این مشکل دوچندان میشود. سیگنال انسانی که OpenAI به آن وابسته است، به نویز مصنوعی تبدیل میشود.

واقعیت نیروی کار

نظارت فعال است و عواقب تخلفات بهسرعت اعمال میشود.

یکی از پیمانکاران توضیح داد که افرادی که در کارهای برچسبگذاری از هوش مصنوعی استفاده میکنند «مدام اخراج میشوند» و این را «تقریباً تنها چیزی که باعث اخراج فوری میشود» خواند. بر اساس گزارشها، در کانالهای داخلی Slack بحثهای مداومی وجود دارد که در آن کارگران نموناهایی را به اشتراک میگذارند و نوشتههای کمکگرفته از هوش مصنوعی را از طریق الگوها علامتگذاری میکنند: عبارات تکراری، علائم نگارشی زیاد و زمان تکمیل غیرعادی سریع.

یکی از پیمانکاران ناشناس نامه اخراجی دریافت کرد که دلیل آن نگرانی در مورد «اصالت» کارشان ذکر شده بود. آنها توضیح دادند که «نیاز به کمی کمک داشتند و به هوش مصنوعی روی آوردند».

مشکل خرابکاری بهسختی قابل اندازهگیری است. حداقل یکی از پیمانکارانی که با چندین شرکت هوش مصنوعی کار میکرد اعتراف کرد که گاهی اوقات در هنگام ارزیابی خروجیها، عمداً بدترین پاسخها را انتخاب میکند و این تجربه را «دریافت پول برای بدتر کردن هوش مصنوعی» توصیف کرد. مشخص نیست که این کار چه مقدار نویز وارد یک مجموعه داده با صدها ارزیاب میکند، اما مشکل انگیزشی که نشان میدهد، واقعی است.

یک سخنگوی Mercor اعلام کرد: «متخصصان ما بهخاطر تخصص و قضاوتشان استخدام میشوند که برای پیشرفت مداوم هوش مصنوعی ضروری است. قراردادهای ما استفاده از مدلهای زبانی بزرگ را برای تکمیل پروژهها بهشدت ممنوع میکند و ما این موضوع را اعمال میکنیم. ما بهشدت روی ابزارها و سیستمهای خود سرمایهگذاری میکنیم تا سوءاستفاده را تشخیص دهیم و اطمینان حاصل کنیم که متخصصان ما از قوانین پروژه و شرایط قرارداد پیروی میکنند. زمانی که تایید کنیم یک متخصص برای تکمیل یک کار از هوش مصنوعی استفاده کرده است، فوراً او را از پروژه حذف میکنیم.»

تضاد موجود در مرکز Project Lily از بین نمیرود. روند آموزش OpenAI به دور نگهداشتن هوش مصنوعی از یک جریان کاری خاص وابسته است: قضاوت انسانی که تعیین میکند ChatGPT در مرحله بعد به شما چه بگوید. اگر این موضوع شما را نگران میکند، گزینه انصراف در تنظیمات ChatGPT در بخش کنترل دادهها قرار دارد.