افشاگری جنجالی پژوهشگران اخراجی OpenAI: «جو وحشت راه انداخته‌اند؛ حرف بزنید اخراج می‌شوید!»

جاسمین وانگ (Jasmine Wang)، تومک کورباک (Tomek Korbak) و میکیتا بالیسنی (Mikita Balesni)، سه پژوهشگر برجسته تیم ایمنی OpenAI که هفته گذشته به شکل ناگهانی اخراج شدند، با انتشار یک نامه سرگشاده ادعای این شرکت مبنی بر دسترسی غیرمجاز به اطلاعات محرمانه را کاملاً رد کردند. آن‌ها هشدار داده‌اند که این اخراج‌ها، جو سنگینی از ترس در شرکت به راه انداخته که به فرهنگ باز و انتقادپذیر ایمنی هوش مصنوعی آسیب جدی می‌زند.

این پژوهشگران در نامه سرگشاده خود خطاب به «کمیته ایمنی و امنیت»، «گروه مشاوران ایمنی» و «شورای نظارت بر مأموریت» OpenAI نوشتند: «به‌شدت نگرانیم که پیام‌ها و حواشی داخلی و عمومی پیرامون اخراج ما، باعث شود همکاران سابقمان از صحبت کردن و فعالیت‌هایی که تا همین هفته پیش بخش طبیعی و حیاتی کار در شرکت بود، بترسند و عقب‌نشینی کنند.»

ماجرا از هفته پیش کلید خورد؛ جایی که این سه متخصص ایمنی به اتهام اشتراک‌گذاری اطلاعات محرمانه شرکت با یک نهاد مستقل ارزیابی ایمنی هوش مصنوعی اخراج شدند. اوپن‌ای‌آی در آن زمان مدعی شد که این افراد با «دسترسی و مدیریت نامناسب اطلاعات حساس»، سیاست‌ها و خط‌مشی‌های داخلی را زیر پا گذاشته‌اند.

با این حال، وانگ، کورباک و بالیسنی در بیانیه خود تأکید کردند: «هوش مصنوعی یک فناوری معمولی نیست و OpenAI هم یک شرکت عادی به حساب نمی‌آید. کسانی از ما که در خط مقدم ایمنی کار می‌کنند، خطرات را قبل از هر کس دیگری می‌بینند و برای حل این چالش‌ها، کاملاً به همکاری نزدیک با کارشناسان بیرونی متکی هستند. آزادی عمل برای انجام این کار بدون ترس و وجود سازوکارهای شفاف داخلی برای حمایت از این همکاری‌ها، خودش یکی از حیاتی‌ترین ارکان ایمنی به شمار می‌رود.»

به گفته این سه محقق، این اخراج‌ها نشان‌دهنده یک چرخش بزرگ و نگران‌کننده در فرهنگ سازمانی OpenAI است؛ شرکتی که قبلاً همیشه نیروهایش را تشویق می‌کرد «دغدغه‌های ایمنی را مطرح کنند و دیدگاه‌های مخالف را آزادانه بگویند». اما حالا کارکنان دچار سردرگمی شده‌اند؛ چرا که رفتاری که تا همین یک ماه پیش کاملاً روتین و مورد تأیید بود، ناگهان به بهانه‌ای برای اخراج فوری تبدیل شده است.

آن‌ها در بخش دیگری از این نامه نوشتند: «با توجه به حساسیت و خطرات جدی پیشرفت هوش مصنوعی، نباید فضایی ساخت که ترس و قوانین مبهم، دست‌وبال کار ایمنی را ببندد و پاسخ‌گویی در برابر ناظران خارجی را تضعیف کند. اخراج‌هایی مانند ما که تا این حد ناگهانی و بدون زمینه قبلی اتفاق می‌افتد، فرهنگ آزادی را که OpenAI همیشه به آن می‌بالید، کاملاً فلج می‌کند.»

این سه پژوهشگر در نامه خود هرگونه دست داشتن در درز اطلاعات محرمانه به رسانه «د اینفورمیشن» (The Information) درباره معماری مدل‌های استدلالی جدید را قاطعانه رد کردند؛ همان گزارشی که ادعا می‌کرد پایش زنجیره تفکر (Chain-of-Thought) در مدل‌های تازه OpenAI بسیار سخت‌تر شده است. آن‌ها همچنین تأکید کردند که تمامی ارتباطاتشان با اشخاص خارجی دقیقاً در چارچوب مأموریت شغلی آن‌ها بوده است.

اوپن‌ای‌آی هنوز پاسخی رسمی به این نامه سرگشاده نداده است، اما در یک یادداشت داخلی که به یکی از مدیران ارشد تحقیقاتی این شرکت نسبت داده شده و به بیرون درز کرده، از مشارکت‌های ارزشمند این سه محقق تقدیر به عمل آمده و ادعا شده که اخراج آن‌ها به هیچ وجه تلافی‌جویانه نبوده است.

در این یادداشت آمده است: «می‌خواهم خیلی شفاف بگویم که این تصمیم‌ها ابداً ارتباطی با مطرح کردن نگرانی‌های ایمنی یا انتقاد علنی نداشته است. ما همیشه مشوق چنین گفتگوهایی بوده‌ایم و خواهیم بود؛ هیچ کارمندی در شرکت به خاطر بیان دغدغه‌های ایمنی اخراج نمی‌شود.»

با این حال، مدیران OpenAI به پرسش‌های رسانه‌ای درباره اینکه این پژوهشگران مشخصاً کدام قوانین را نقض کرده‌اند، ماجرای دقیق این اخراج‌ها چه بوده، یا اینکه شرکت چگونه می‌خواهد امنیت شغلی محققانی را که با ارزیاب‌های خارجی همکاری دارند تضمین کند، پاسخ روشنی نداده‌اند.

این سکوت باعث شده گمانه‌زنی‌ها و شک‌وتردیدها اوج بگیرد؛ مخصوصاً در شرایطی که OpenAI به خاطر حواشی امنیتی اخیر پیرامون ایجنت‌های سرکش و لو رفتن جزئیات فنی مدل‌هایش، به شدت زیر ذره‌بین قرار دارد.

در این نامه همچنین به واکنش پژوهشگران نسبت به حادثه جنجالی پلتفرم هاگینگ فیس (Hugging Face) اشاره شده است؛ رویدادی که در آن دسته‌ای از ایجنت‌ها توانسته بودند از محیط ایزوله (Sandbox) خود خارج شده و به سیستم‌های خارجی نفوذ کنند. محققان می‌گویند این حادثه و روند بررسی آن «کاملاً بی‌سابقه» بود؛ به این معنی که پروتکل‌های داخلی عملاً هم‌زمان و در لحظه تدوین می‌شدند. به همین دلیل کورباک معتقد بود که برقراری ارتباط با ناظران ایمنی خارجی برای جلب اعتماد، دقیقاً مطابق با عرف و اصول آن مقطع شرکت بوده است.

از طرفی، بالیسنی هم در همان زمان روی چالش رو‌به‌رشد پایش‌پذیری هوش مصنوعی فعالیت می‌کرد؛ پروژه‌ای که به گفته پژوهشگران در این نامه «تنها از طریق تعامل گسترده با کارشناسان بیرونی می‌تواند به نتیجه برسد». جالب اینجاست که طبق نامه، بالیسنی در تمام طول این مسیر با مدیران ارشد و اعضای هیئت‌مدیره OpenAI هماهنگ بوده و با حمایت کامل آن‌ها پیش رفته است.

در متن نامه به صراحت آمده است: «میکیتا در تمام مراحل با سلسله‌مراتب مدیریتی هماهنگ بود و حواسش بود که قبل از اشتراک‌گذاری مطالب، تمام جزئیات حساس را حذف کند. او در تمام مدت با حسن‌نیت کامل و دقیقاً مطابق با استانداردهای حاکم بر شرکت در آن زمان عمل کرده است.»

هم‌زمان با انتشار این بیانیه، جاسمین وانگ در رشته‌پستی در شبکه اجتماعی ایکس فاش کرد که اوپن‌ای‌آی ادعا کرده دلیل اخراجش دسترسی به ایمیل یکی از مدیران ارشد شرکت بوده است!

وانگ در این رابطه نوشت: «اوپن‌ای‌آی خودش این دسترسی را برای فرآیند استخدام به من داده بود. وقتی کارم تمام شد، از واحد IT خواستم دسترسی‌ام را ببندند. اما آن‌ها پیگیری نکردند و خودم هم نمی‌توانستم آن را حذف کنم؛ از طرفی در اپلیکیشن ایمیل گوشی‌ام، این صندوق با بقیه ایمیل‌هایم قاتی شده بود. وقتی تصادفاً یک ایمیل حساس را باز کردم، ظرف چند دقیقه ماجرا را به خود آن مدیر گفتم و دوباره از واحد IT خواستم دسترسی را قطع کند. هیچ چیز پنهانی وجود نداشت.»

وانگ در ادامه گفت دلایلی که برای این اخراج‌ها مطرح شده اصلاً جور درنمی‌آید و او و همکارانش «اولین کسانی نیستند که با بهانه‌های مشکوک از OpenAI کنار گذاشته می‌شوند».

این پژوهشگران در پایان از OpenAI خواستند به تعهدات علنی خود پایبند بماند؛ تعهداتی مانند حضور ناظران مستقل ایمنی در شرکت، حفظ امکان پایش و نظارت بر مدل‌های پیشرفته، و «حمایت مداوم از فرهنگ شفاف و باز برای گفت‌وگوی پژوهشگران با کل اکوسیستم ایمنی هوش مصنوعی».

بر اساس یادداشت داخلی منتشرشده، اوپن‌ای‌آی ادعا می‌کند که با این پیشنهاد‌ها و توصیه‌ها موافق است.

با این وجود، وانگ با هشداری جدی می‌گوید: «اگر کارمندان همین حالا جلوی این اقدامات نایستند، نگرانم که ما آخرین نفرها نباشیم. پیامی که به بقیه بچه‌ها در OpenAI داده می‌شود کاملاً روشن است: اگر نگرانی‌های ایمنی را مطرح کنید یا با گروه‌های مستقل همکاری داشته باشید، ممکن است بدون آنکه دلیلی بشنوید، نفر بعدی شما باشید! نمی‌توان ادعای توسعه ایمن هوش مصنوعی عمومی (AGI) را داشت در حالی که نزدیک‌ترین افراد به خطرات، از ترس جرئت حرف زدن ندارند.»