افشاگری مدیر سابق ایمنی OpenAI: از خطرات هوش مصنوعی هشدار می‌دادیم، اما خودمان تخت گاز می‌رفتیم!

دیوید رابینسون می‌گوید در شرکت OpenAI میان حرف تا عمل فرسنگ‌ها فاصله بود؛ در ظاهر یک چیز می‌گفتند اما در عمل درست برعکس آن رفتار می‌کردند.

رابینسون که پیش از این یکی از مدیران ارشد تیم «سیستم‌های ایمنی» در OpenAI بود، در اولین مصاحبه اختصاصی خود پس از استعفا در هفته گذشته، مهمان ازرا کلاین در برنامه پادکست نیویورک تایمز با عنوان «The Ezra Klein Show» شد.

او در این گفتگو توضیح داد که با وجود هشدارهای مکرر درباره قابلیت‌های نگران‌کننده مدل‌های جدید و ادعای تمایل به آرام‌تر کردن روند توسعه، OpenAI پشت صحنه مثل همیشه با حداکثر سرعت به پیش می‌تاخت.

رابینسون در این‌باره گفت: «بخش بزرگی از این ناهماهنگی شناختی و تناقض عذاب‌آور برای من این بود که ما مدام این هشدارها را منتشر می‌کردیم، اما در نهایت باز هم دقیقاً همان مدل‌های خطرناکی را که خودمان نسبت به آن‌ها هشدار می‌دادیم، آموزش داده و عرضه می‌کردیم.»

در ماه ژوئیه، صدها نفر از کارکنان OpenAI نامه سرگشاده‌ای با عنوان «تنظیم سرعت در مرزهای دانش» امضا کردند و در آن از دولت خواستند با وضع مقررات قانونی، جلوی شتاب افسارگسیخته توسعه هوش مصنوعی را بگیرد.

سپس در ماه سپتامبر، سم آلتمن مدیرعامل OpenAI اعلام کرد که با داریو آمودی، مدیرعامل آنتروپیک، کاملاً هم‌عقیده است؛ آمودی پیش‌تر در مقاله‌ای پیشنهاد کرده بود که غول‌های هوش مصنوعی باید خودشان با یکدیگر هماهنگ شوند و سرعت توسعه را کاهش دهند.

آلتمن در همان زمان در شبکه اجتماعی ایکس نوشت: «ما باید سرعت حرکت در مرزهای فناوری را کنترل کنیم. این موضوع، محور اصلی گفتگوهای داخلی ما در OpenAI طی هفته‌های اخیر بوده است.»

با وجود تمام این اظهارات، رابینسون به کلاین گفت که در راهروها و اتاق‌های کاری OpenAI، فعالیت جنون‌آمیز و پرفشاری حاکم بود و کارکنان در شرایطی که رمقی برایشان نمانده بود، همچنان با تمام وجود کار می‌کردند.

او فضای کاری OpenAI را این‌طور توصیف کرد: «این وضعیت تقریباً مثل یک رقص باله است، زیرا تمام بخش‌های مختلف شرکت به شکل پیوسته و هماهنگ به جلو جریان دارند. آدرنالین در آن‌جا بی‌نهایت بالاست.»

پژوهشگران OpenAI پیش‌تر نسبت به خطرات ناشی از پدیده‌ای که در آن هوش مصنوعی خودش را ارتقا می‌دهد و می‌سازد — فرآیندی موسوم به «بهبود خودبه‌خودی بازگشتی» یا RSI — کاملاً شفاف و صریح هشدار داده بودند.

یاکوب پاچوکی، دانشمند ارشد OpenAI، در ماه سپتامبر طی یک پست وبلاگی درباره RSI تأکید کرد: «اکنون در برهه‌ای هستیم که احتیاط فوق‌العاده و حداکثری را می‌طلبد.»

پیش از این، سخنگوی OpenAI در پاسخ به مقاله‌ای که رابینسون در نشریه آتلانتیک منتشر کرده بود، اظهار داشت که این شرکت پیوسته در حال ارتقای تدابیر امنیتی برای مدل‌های هوش مصنوعی خود است.

این سخنگو مدعی شده بود: «با افزایش توانمندی مدل‌هایمان، پروتکل‌های ایمنی و امنیتی خود را تقویت می‌کنیم تا علاوه بر مهار خطرات فعلی، راهکارهای لازم برای پیش‌بینی ریسک‌های پیشرفت‌های آینده را نیز بسازیم. ما مطمئن می‌شویم که مدل‌هایمان فراتر از توان مدیریتی و امنیتی ما رشد نکنند و هر زمان که نیاز به کاهش سرعت باشد، آموزش را متوقف کرده یا انتشار مدل‌ها را به تعویق می‌اندازیم.»