موج استعفا در OpenAI تمامی ندارد؛ جدایی دیوید رابینسون، مدیر ارشد تیم ایمنی
دیوید رابینسون، یکی از مدیران ارشد تیم سیستم‌های ایمنی OpenAI، در میانه تشدید بحران‌ها و حواشی امنیتی اخیر از این شرکت استعفا داد. این استعفا در شرایطی رقم می‌خورد که اخراج چند پژوهشگر و چالش‌های مهار مدل‌های پیشرفته، نگرانی‌ها درباره عقب ماندن تدابیر ایمنی از سرعت توسعه فناوری را دوچندان کرده است.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- دیوید رابینسون، از مدیران کلیدی تیم سیستم‌های ایمنی OpenAI که مسئولیت شفافیت و انتشار «سیستم‌کارت‌ها» را بر عهده داشت، از این شرکت استعفا داد.
- این جدایی در بحبوحه بحران‌های اخیر OpenAI رخ می‌دهد؛ جایی که شرکت به تازگی سه پژوهشگر را به دلیل افشای اطلاعات حساس اخراج کرده و با چالش‌های رفتاری مدل‌های خود مواجه است.
- رابینسون پیشتر در شبکه اجتماعی X نسبت به ناکافی بودن سرعت تدابیر ایمنی شرکت ابراز تردید کرده بود؛ آن هم در شرایطی که سم آلتمن مدعی است ایمنی باید جلوتر از قابلیت‌های مدل‌ها حرکت کند.
دیوید رابینسون (David Robinson)، یکی از مدیران برجسته تیم سیستم‌های ایمنی در شرکت OpenAI، رسماً از سمت خود استعفا داد و این مجموعه را ترک کرد.
سخنگوی OpenAI تأیید کرد که رابینسون هفته گذشته از این شرکت جدا شده است؛ رویدادی که بار دیگر تلاطم و روز‌های پرالتهاب بخش ایمنی این پیشگام هوش مصنوعی را نشان می‌دهد. رابینسون پیش از این هدایت بخش برنامه‌ریزی سیاست‌گذاری شرکت را هم بر عهده داشت.
او در OpenAI بر حوزه شفافیت ایمنی متمرکز بود و در تدوین و انتشار «سیستم‌کارت‌ها» (System Cards) که اطلاعات جامعی درباره مشخصات فنی و خطرات احتمالی مدل‌ها ارائه می‌دهند، نقش کلیدی ایفا می‌کرد.
رابینسون تا این لحظه به درخواست‌ها برای اظهارنظر در این مورد پاسخی نداده است.
جدایی رابینسون هم‌زمان با افزایش حساسیت‌ها و موشکافی‌ها پیرامون رویه‌های ایمنی و تغییرات نیروی انسانی در OpenAI اتفاق می‌افتد. این شرکت به تازگی اعلام کرده بود که مسیر خود را از سه پژوهشگر جدا کرده است؛ اقدامی که دلیل آن، نقض سیاست‌های داخلی در زمینه اشتراک‌گذاری داده‌ها و اطلاعات حساس اعلام شد.
همچنین پس از نفوذ امنیتی پر سر و صدای اخیر در هاگینگ فیس (Hugging Face)، شرکت OpenAI نیز با مجموعه‌ای از مسائل و چالش‌های ایمنی درگیر شده که در پی آن، مدل‌های هوش مصنوعی رفتارهای ناخواسته و غیرمنتظره‌ای نشان داده‌اند.
جهش برق‌آسای توانایی مدل‌ها سبب شده تا جمعی از پژوهشگران و مدیران ارشد فناوری خواهان کاهش سرعت توسعه هوش مصنوعی شوند. با این حال، سم آلتمن، مدیرعامل OpenAI، در جریان کنفرانس توسعه‌دهندگان اخیر شرکت خاطرنشان کرد که ایمنی و هم‌راستاسازی (Alignment) همواره باید یک قدم جلوتر از قابلیت‌های فنی مدل‌ها حرکت کند.
گفتنی است که یوهانس هایدکه (Johannes Heidecke)، سرپرست پیشین ایمنی شرکت، نیز اوایل سال جاری میلادی OpenAI را ترک کرده بود تا پازل خروج نیروهای باسابقه ایمنی ادامه‌دار باشد.
رابینسون اوایل ماه سپتامبر در شبکه اجتماعی ایکس (X) نوشته بود حس می‌کند افراد در OpenAI کم‌کم متوجه پیامدهای عمیق مدل‌های هوش مصنوعی فوق‌العاده توانمند شده‌اند، اما در عین حال تردیدهایش را پنهان نکرده بود.
او در نوشته خود در ایکس یادآور شد: «اوضاع در OpenAI واقعاً روزبه‌روز دستخوش تغییرات بزرگی می‌شود، اما نمی‌دانم آیا سرعت تغییر ما به قدر کافی بالاست یا نه.»
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
دوپامین مصنوعی و مغزهای هک‌شده؛ هوش مصنوعی مولد چطور سیم‌کشی تمرکز ما را به هم می‌ریزد؟
رگبار نوتیفیکیشن‌ها و سیستم‌های هوش مصنوعی مولد با تولید مداوم «دوپامین مصنوعی»، ساختار شیمیایی و مدارهای تمرکز مغز انسان را دستخوش تغییر اساسی کرده‌اند. این سقوط دامنه توجه صرفاً یک مسئله شخصی نیست، بلکه با از بین بردن فرصت‌های استراحت مغزی، امنیت شناختی و تفکر عمیق جامعه را در معرض تهدیدی جدی قرار داده است.
شتاب خیره‌کننده مدل زبانی MiniCPM5 با دستیار ۳۲۴ میلیونی DSpark؛ جهش چشمگیر در تولید موازی توکن‌ها
تیم OpenBMB با انتشار مدل کم‌حجم ۳۲۴ میلیون پارامتری DSpark، جهش بزرگی در سرعت استنتاج مدل زبانی MiniCPM5-2B ایجاد کرده است. این مدل با تکیه بر تکنیک هوشمندانه رمزگشایی گمانه‌زنانه، توکن‌ها را به صورت دسته‌ای حدس می‌زند تا فرایند پردازش با کم‌ترین مصرف محاسباتی و بیش‌ترین سرعت ممکن اجرا شود.
پیودی‌پای: موقع ساخت هوش مصنوعی اختصاصی‌ام، OpenAI دو بار اکانتم را بست!
فلیکس شلبرگ یا همان پیودی‌پای معروف، به‌تازگی مدل هوش مصنوعی محلی خود به نام Ajax را معرفی کرده، اما فاش ساخته که در مسیر توسعه آن، شرکت OpenAI دو بار حسابش را مسدود کرده است. او برای ساخت این مدل ۹ میلیارد پارامتری از تکنیک تقطیر استفاده کرده؛ موضوعی که زنگ خطر نقض قوانین سازنده ChatGPT را به صدا درآورده است.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.