پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

دردسر تازه در اوپن‌ای‌آی؛ اخراج جنجالی سه پژوهشگر ایمنی به اتهام درز اطلاعات محرمانه

انتشار:۹ مهر ۱۴۰۵(۱ ساعت پیش)
۲ دقیقه زمان مطالعه
۰ دیدگاه

اوپن‌ای‌آی در پی یک تحقیق داخلی، سه پژوهشگر تیم ایمنی خود را به اتهام افشای اطلاعات محرمانه شرکت اخراج کرد. این تصمیم در حالی گرفته شده که انتقادها از کم‌توجهی این غول فناوری به مسائل امنیتی بالا گرفته و اخیراً حتی عرضه مدل GPT-6.1 Astra نیز به دلیل ریسک‌های ایمنی متوقف شده است.

دردسر تازه در اوپن‌ای‌آی؛ اخراج جنجالی سه پژوهشگر ایمنی به اتهام درز اطلاعات محرمانه

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • اوپن‌ای‌آی سه نفر از پژوهشگران ارشد تیم ایمنی خود را اخراج کرد؛ ظاهراً ماجرا به درز دادن اطلاعات محرمانه شرکت به یک نهاد بیرونی برمی‌گردد.
  • این اخراج‌ها درست بعد از افشاگری نیویورک تایمز اتفاق افتاده؛ گزارشی که نشان می‌داد مدیران اوپن‌ای‌آی هشدارهای امنیتی کارکنان را پشت گوش می‌انداختند.
  • اوضاع در اوپن‌ای‌آی حسابی ملتهب است؛ از فرار جنجالی ایجنت‌های هوش مصنوعی و لغو مدل GPT-6.1 Astra گرفته تا سابقه اخراج نیروهایی مثل لئوپولد آشنبرنر.

روز پنج‌شنبه وال استریت ژورنال گزارش داد که اوپن‌ای‌آی (OpenAI) سه نفر از پژوهشگران تیم ایمنی خود را اخراج کرده است؛ افرادی که ظاهراً اطلاعات محرمانه شرکت را با یک سازمان مستقل فعال در زمینه ایمنی هوش مصنوعی به اشتراک گذاشته بودند.

سخنگوی اوپن‌ای‌آی در بیانیه‌ای به وال استریت ژورنال اعلام کرد: «ما به دلیل نقض سیاست‌های دسترسی و مدیریت اطلاعات حساس شرکت، به همکاری با سه نفر از نیروها پایان دادیم. تحقیقات داخلی ما تأیید کرد که این افراد اطلاعات حساس را خارج از چارچوب‌ها و فرآیندهای رسمی شرکت جابه‌جا کرده‌اند؛ رفتاری که ناقض خط‌مشی‌های ما بود و اعتمادی را که پایه و اساس کار ماست، خدشه‌دار کرد.»

در این گزارش به نام این پژوهشگران، سازمانی که اطلاعات را دریافت کرده یا نوع دقیق اطلاعات اشاره‌ای نشده است. اوپن‌ای‌آی هم به درخواست‌ها برای ارائه توضیح فوری پاسخی نداده است.

در همین حال، پست‌های دست‌به‌دست‌شده در شبکه اجتماعی ایکس (توییتر سابق) نام افرادی را مطرح کرده‌اند که کاربران معتقدند در میان اخراجی‌ها حضور دارند؛ افرادی که پیش از این هم در دوران حضورشان در اوپن‌ای‌آی، علناً درباره خطرات هوش مصنوعی ابراز نگرانی کرده بودند. با این حال، هویت دقیق این افراد هنوز به طور مستقل تأیید نشده است.

سخنگوی اوپن‌ای‌آی در بیانیه‌اش به ژورنال بار دیگر تأکید کرد که تحقیقات داخلی نشان داده این پژوهشگران «اطلاعات حساس را خارج از رویه‌های تعریف‌شده سازمانی دست‌به‌دست کرده‌اند.»

این اخراج‌ها درست دو روز پس از آن رخ می‌دهد که نیویورک تایمز در گزارشی فاش کرد مدیران ارشد اوپن‌ای‌آی هشدارهای کارمندان درباره استانداردهای ایمنی را نادیده گرفته‌اند؛ روایتی که به گفته کارمندان، نشان‌دهنده یک الگوی فراگیر از کم‌اهمیت جلوه دادن مسائل امنیتی در این شرکت است. البته سخنگوی اوپن‌ای‌آی به تایمز گفت که این شرکت دغدغه‌های امنیتی را کاملاً جدی می‌گیرد و کانال‌های داخلی ویژه‌ای برای گزارش مشکلات ایمنی دارد، اما در عین حال اعتراف کرد که این مجموعه «به سرعت عمل بیشتری نیاز دارد».

هنوز مشخص نیست آیا این سه پژوهشگر پیش از آنکه متهم به درز اطلاعات به بیرون شوند، نگرانی‌های خود را از طریق همین کانال‌های داخلی با مدیران در میان گذاشته بودند یا خیر.

جالب اینجاست که این تعدیل‌ها همزمان با موجی از دردسرهای امنیتی در اوپن‌ای‌آی رخ می‌دهد؛ حوادثی که در آن‌ها ایجنت‌های هوش مصنوعی این شرکت از محیط قرنطینه فرار کرده، تصاویر خصوصی کاربران را منتشر ساخته و حتی به وب‌سایت‌های دولتی نفوذ کرده بودند! افزون بر این، اوپن‌ای‌آی در اوایل همین هفته اعلام کرد که به خاطر نگرانی‌های شدید ایمنی، برنامه انتشار مدل هوش مصنوعی GPT-6.1 Astra را به کلی لغو کرده است.

البته این نخستین باری نیست که اوپن‌ای‌آی پژوهشگران خود را به بهانه درز اطلاعات کنار می‌گذارد. بر اساس گزارش نشریه دی اینفورمیشن (The Information)، این شرکت در سال ۲۰۲۴ نیز دو پژوهشگر سرشناس به نام‌های لئوپولد آشنبرنر (Leopold Aschenbrenner) و پاول ایزمایلوف (Pavel Izmailov) را به اتهام افشای اطلاعات محرمانه اخراج کرده بود.

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

شاهکار هوش مصنوعی ERA گوگل؛ شکست ۳۹ تیم در چالش پیش‌بینی آنفلوآنزا برای CDC
آخرین اخبار

شاهکار هوش مصنوعی ERA گوگل؛ شکست ۳۹ تیم در چالش پیش‌بینی آنفلوآنزا برای CDC

سیستم هوش مصنوعی ERA گوگل با تکیه بر تولید و آزمایش خودکار کدهای علمی، موفق شد در ارزیابی فصلی سازمان CDC آمریکا رتبه نخست پیش‌بینی بستری‌های آنفلوآنزا را میان ۳۹ تیم مدعی کسب کند. این مدل که صفر تا صد الگوریتم‌هایش با جست‌وجوی درختی توسط هوش مصنوعی بهینه‌سازی شده، قدرت خیره‌کننده کدنویسی هوشمند در حل مسائل پیچیده همه‌گیرشناسی را به نمایش می‌گذارد.

۴ دقیقه مطالعه
۰
۹ مهر
تکیه‌کلام‌هایی که دست هوش مصنوعی را رو می‌کنند؛ افشای تیک‌های نگارشی Opus 5.5 و مدل‌های پیشرو
آخرین اخبار

تکیه‌کلام‌هایی که دست هوش مصنوعی را رو می‌کنند؛ افشای تیک‌های نگارشی Opus 5.5 و مدل‌های پیشرو

پژوهش جدید شرکت گرافیت نشان می‌دهد مدل‌های هوش مصنوعی با وجود پیشرفت چشمگیر، هنوز تکیه‌کلام‌ها و ساختارهای نگارشی تکراری دارند که دستشان را رو می‌کند. از علاقه افراطی مدل Opus 5.5 به تکرار عبارت «این موضوع اهمیت دارد» تا ترفندهای مدل‌های OpenAI، هر نسخه با الگوهای منحصربه‌فردی نوشته‌های ماشینی را لو می‌دهد.

۴ دقیقه مطالعه
۰
۹ مهر
بی‌خیال آخرالزمان هوش مصنوعی؛ خطر واقعی تنبلی ما در رعایت امنیت پایه است!
آخرین اخبار

بی‌خیال آخرالزمان هوش مصنوعی؛ خطر واقعی تنبلی ما در رعایت امنیت پایه است!

در حالی که خبرهای هولناک از نفوذ خودسرانه ایجنت‌های هوش مصنوعی سرتیتر رسانه‌ها شده، متخصصان ارشد امنیت سایبری در کنفرانس HumanX یادآور می‌شوند که بزرگ‌ترین تهدید نه هوش ماشین‌ها، بلکه تنبلی خودمان در رعایت اصول پایه امنیت است. به گفته این کارشناسان، شرکت‌ها به جای وحشت از سناریوهای تخیلی آخرالزمانی، باید روی بستن رخنه‌های پیش‌پاافتاده، فعال‌سازی احراز هویت چندمرحله‌ای و کنترل دسترسی ایجنت‌ها تمرکز کنند.

۵ دقیقه مطالعه
۰
۹ مهر