اخراج جنجالی ۳ محقق اوپن‌ای‌آی؛ پای درز اطلاعات حساس در میان است!
اوپن‌ای‌آی از اخراج سه پژوهشگر خود به دلیل نقض سیاست‌های امنیتی و مدیریت نادرست اطلاعات حساس خبر داد. این اخراج‌های غیرمنتظره در حالی رخ می‌دهد که فشارهای بیرونی بر سر پروتکل‌های ایمنی این غول هوش مصنوعی به بالا‌ترین حد خود رسیده است.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- اوپن‌ای‌آی (OpenAI) ۳ نفر از محققان خودش رو به اتهام نقض قوانین و دسترسی غیرمجاز به اطلاعات محرمانه اخراج کرد.
- وال استریت ژورنال گزارش داده که این افراد متهم هستن اطلاعات حساس شرکت رو به یک سازمان بیرونی فعال در حوزه ایمنی هوش مصنوعی لو دادن.
- این تصمیم جنجالی در حالی گرفته شده که انتقادها از اوپن‌ای‌آی بر سر مسائل ایمنی و ماجرای خرابکاری ایجنت‌ها در هاگینگ فیس حسابی داغ شده است.
اخراج جنجالی سه پژوهشگر اوپن‌ای‌آی به اتهام درز اطلاعات حساس شرکت
اوپن‌ای‌آی (OpenAI) اعلام کرد که به همکاری خود با سه نفر از پژوهشگرانش پایان داده است؛ افرادی که طبق ادعای شرکت، سیاست‌های امنیتی مربوط به حفظ و مدیریت اطلاعات حساس را نقض کرده‌اند.
سخنگوی اوپن‌ای‌آی در بیانیه‌ای رسمی گفت: «ما به دلیل نقض سیاست‌های دسترسی و مدیریت اطلاعات حساس شرکت، راه خود را از این سه نفر جدا کردیم. تحقیقات ما تأیید کرد که این افراد اطلاعات محرمانه را خارج از روال‌های تعیین‌شده شرکت جابه‌جا و مدیریت کرده‌اند؛ اقدامی که نه‌تنها نقض صریح قوانین ماست، بلکه اعتماد متقابلی را که پایه و اساس کار ما به شمار می‌رود خدشه‌دار کرده است.»
طبق گزارش روزنامه وال استریت ژورنال، این افراد ظاهراً «اطلاعات محرمانه شرکت را در اختیار یک سازمان بیرونی فعال در حوزه ایمنی هوش مصنوعی» قرار داده‌اند. با این حال، سخنگوی اوپن‌ای‌آی حاضر به پاسخ‌گویی درباره چندوچون این اطلاعات فاش‌شده نشد.
اوپن‌ای‌آی در ماه‌های اخیر از هر دو سمت—هم داخل شرکت و هم از سوی کارشناسان بیرونی—زیر فشار سنگینی بر سر نحوه مدیریت مسائل ایمنی هوش مصنوعی قرار داشته است؛ فشارهایی که پس از افشای ماجرای نفوذ ایجنت‌های سرکش (Rogue Agents) به پلتفرم هاگینگ فیس (Hugging Face) و نقض یک محیط آزمایشی امن که قرار نبود دسترسی اینترنت داشته باشد، حسابی اوج گرفت.
با وجود این حواشی، این شرکت اخیراً اعلام کرده که از ارزیابی‌های مستقل و بی‌طرفانه درباره تدابیر ایمنی پشتیبانی می‌کند؛ ایده‌ای که این روز‌ها در سراسر صنعت هوش مصنوعی با استقبال زیادی روبه‌رو شده است.
اوپن‌ای‌آی ماه گذشته در مطلبی تأکید کرده بود: «ما متعهد هستیم که از ارزیابی‌های مستقل با ارائه سطوح دسترسی عمیق در تمام مراحل آموزش، ارزیابی و استقرار مدل‌ها پشتیبانی کنیم. این دسترسی باید به ارزیاب‌ها اجازه دهد تا پیش‌فرض‌های ما را به چالش بکشند، خطراتی را که ممکن است از چشم ما دور مانده باشد شناسایی کنند و در نهایت به نتیجه‌گیری مستقل خود درباره اثربخشی تدابیر ایمنی ما برسند.»
این خبر در حال تکمیل و به‌روزرسانی است...
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
شاهکار هوش مصنوعی ERA گوگل؛ شکست ۳۹ تیم در چالش پیش‌بینی آنفلوآنزا برای CDC
سیستم هوش مصنوعی ERA گوگل با تکیه بر تولید و آزمایش خودکار کدهای علمی، موفق شد در ارزیابی فصلی سازمان CDC آمریکا رتبه نخست پیش‌بینی بستری‌های آنفلوآنزا را میان ۳۹ تیم مدعی کسب کند. این مدل که صفر تا صد الگوریتم‌هایش با جست‌وجوی درختی توسط هوش مصنوعی بهینه‌سازی شده، قدرت خیره‌کننده کدنویسی هوشمند در حل مسائل پیچیده همه‌گیرشناسی را به نمایش می‌گذارد.
تکیه‌کلام‌هایی که دست هوش مصنوعی را رو می‌کنند؛ افشای تیک‌های نگارشی Opus 5.5 و مدل‌های پیشرو
پژوهش جدید شرکت گرافیت نشان می‌دهد مدل‌های هوش مصنوعی با وجود پیشرفت چشمگیر، هنوز تکیه‌کلام‌ها و ساختارهای نگارشی تکراری دارند که دستشان را رو می‌کند. از علاقه افراطی مدل Opus 5.5 به تکرار عبارت «این موضوع اهمیت دارد» تا ترفندهای مدل‌های OpenAI، هر نسخه با الگوهای منحصربه‌فردی نوشته‌های ماشینی را لو می‌دهد.
بی‌خیال آخرالزمان هوش مصنوعی؛ خطر واقعی تنبلی ما در رعایت امنیت پایه است!
در حالی که خبرهای هولناک از نفوذ خودسرانه ایجنت‌های هوش مصنوعی سرتیتر رسانه‌ها شده، متخصصان ارشد امنیت سایبری در کنفرانس HumanX یادآور می‌شوند که بزرگ‌ترین تهدید نه هوش ماشین‌ها، بلکه تنبلی خودمان در رعایت اصول پایه امنیت است. به گفته این کارشناسان، شرکت‌ها به جای وحشت از سناریوهای تخیلی آخرالزمانی، باید روی بستن رخنه‌های پیش‌پاافتاده، فعال‌سازی احراز هویت چندمرحله‌ای و کنترل دسترسی ایجنت‌ها تمرکز کنند.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.