OpenAI پاداش کشف باگ را برای شناسایی آسیب‌پذیری‌های امنیتی به ۱۷۲ هزار دلار رساند

شرکت OpenAI یک برنامه فشرده امنیتی درون‌سازمانی را آغاز کرده است که آزمایش‌های نفوذ تهاجمی به کمک هوش مصنوعی، همکاری با استارتاپ امنیت سایبری Cathedral Systems و افزایش چشمگیر مبالغ برنامه کشف باگ را در بر می‌گیرد. با احتساب پاداش‌های در نظر گرفته‌شده، مبالغ پرداختی برای گزارش آسیب‌پذیری‌های استثنایی اکنون می‌تواند تا سقف ۱۷۲,۰۰۰ دلار برسد.

منطق امنیتی پشت این تصمیم کاملاً شفاف و سرراست است؛ مدل‌های زبانی می‌توانند بازبینی کدها، کشف رخنه‌های امنیتی و حتی توسعه اکسپلویت‌ها را به‌شکل قابل توجهی سرعت ببخشند. از همین رو، OpenAI قصد دارد پژوهشگران مجاز و تیم‌های امنیتی داخلی‌اش پیش از آنکه هکرها و مهاجمان دست‌به‌کار شوند، از این توانمندی‌ها برای محک زدن سیستم‌های خود استفاده کنند. برای توسعه‌دهندگان، تغییرات فعلی تنها به روند گزارش آسیب‌پذیری‌ها و امنیت زیرساخت پلتفرم مربوط می‌شود و OpenAI تغییری در API، مدل‌ها یا کیت‌های توسعه نرم‌افزار (SDK) اعلام نکرده است.

پیشینه جنجالی استارتاپ Cathedral

شرکت OpenAI استارتاپ Cathedral را به‌عنوان همکار اصلی خود در این کارزار امنیتی معرفی کرده است؛ برنامه‌ای که از حملات مجاز برای یافتن نقاط ضعف در زیرساخت‌های این شرکت بهره می‌گیرد. با این حال، در اطلاعیه رسمی جزئیاتی درباره سطح دسترسی اعطا شده به Cathedral، اهداف دقیق این ارزیابی‌ها یا جدول زمانی پروژه ذکر نشده است.

استارتاپ Cathedral در سال ۲۰۲۶ توسط جمعی از کارکنان سابق دپارتمان بهره‌وری دولت آمریکا پایه‌گذاری شد. این شرکت موفق شده است با جذب سرمایه ۱۶۰ میلیون دلاری از سوی شرکت‌های نام‌آشنایی هم‌چون Andreessen Horowitz و Sequoia Capital، به ارزش بازاری بالغ بر ۱.۴ میلیارد دلار دست یابد تا ابزارهای هوش مصنوعی ویژه‌ای را برای عملیات سایبری نظامی ایالات متحده توسعه دهد.

استارتاپ Cathedral پیش‌تر در جریان بررسی آسیب‌پذیری‌های برنامه کشف باگ Anthropic، با استفاده از ایجنت‌های هوش مصنوعی توانسته بود از طریق نرم‌افزارهای واسط به سیستم‌های داخلی این شرکت نفوذ کند. هرچند Anthropic دامنه و گستره این دسترسی را به چالش کشید، اما تأیید کرد که پژوهشگران به داده‌های بخش فروش، منابع انسانی و اطلاعات فناوری اطلاعات دست یافته بودند. طبق گزارش روزنامه واشنگتن‌پست، داده‌های فاش‌شده شامل پیام‌های پلتفرم Slack، متن جلسات داخلی، حقوق و دستمزدها و پیشنهادهای کاری بوده است.

نقطه ورود گزارش‌شده در این نفوذ، ریشه در ضعف‌های کنترلی نرم‌افزارهای متفرقه و واسط داشت و ناشی از یک حمله بدیع یا ناشناخته به خود مدل هوش مصنوعی نبود. پس از این رویداد، Anthropic استارتاپ Cathedral را به پنهان‌کاری اطلاعات و زیر پا گذاشتن قوانین برنامه کشف باگ متهم کرد؛ در حالی که Cathedral تأکید داشت کلیه اقداماتش مطابق با رویه‌های استاندارد پژوهش‌های امنیتی بوده است. این اختلاف‌نظر باعث شده تا تعیین مرزهای آزمایش امنیتی، الزامات شفاف‌سازی و شیوه نگهداری شواهد، به ارکان محوری همکاری جدید با OpenAI تبدیل شوند.

محاسبه سقف پاداش ۱۷۲ هزار دلاری

به‌روزرسانی برنامه پاداش کشف باگ در OpenAI، میزان جوایز نقدی برای آسیب‌پذیری‌های بحرانی را به میزان چشمگیری افزایش داده و این نرخ‌های تازه را حتی برای برخی از گزارش‌های ثبت‌شده قبلی نیز اعمال کرده است.

رقم اعلام‌شده از سوی OpenAI به دامنه‌های پاداش سطح بحرانی تعلق دارد؛ به‌طوری‌که سقف پرداختی برای یافته‌های استثنایی با احتساب پاداش‌های تشویقی، از ۱۰۰,۰۰۰ دلار پیشین به ۱۷۲,۰۰۰ دلار افزایش یافته است.

تعرفه‌های جدید هم‌چنین شامل گزارش‌هایی می‌شود که در حال حاضر در صف بررسی قرار دارند. طبق اعلام OpenAI، مابه‌التفاوت مبالغ به جوایز واجد شرایطی که طی ۳۰ روز گذشته اعطا شده‌اند پرداخت خواهد شد؛ بدین ترتیب، گزارش‌های ارسالی اخیر و در حال انتظار، بدون نیاز به ثبت مجدد از سوی پژوهشگران، با نرخ‌های جدید محاسبه می‌شوند.

ورود مدل‌های هوش مصنوعی به تیم سرخ

تیم امنیتی OpenAI اعلام کرده که با بهره‌گیری از ابزارهای هوش مصنوعی توانسته است یک آسیب‌پذیری امنیتی با سطح حساسیت P1 (بالاترین درجه وخامت در این شرکت) را کشف کند. این رخنه به مهاجمان اجازه می‌داد پس از باز شدن پیوند یک گفتگوی اشتراک‌گذاری‌شده توسط قربانی، حساب کاربری او را به‌طور کامل در دست بگیرند. البته OpenAI این مشکل امنیتی را شناسایی و برطرف کرده است.

پروژه موسوم به Daybreak همین رویکرد را در میان جامعه‌ای برگزیده از پژوهشگران مستقل امنیتی به اجرا درآورده است. شرکت‌کنندگان در این پروژه به مدل‌های پیشرفته OpenAI برای تحقیق درباره رخنه‌های امنیتی دسترسی پیدا می‌کنند. به گفته این شرکت، اعضای این جامعه موفق شده‌اند با به‌کارگیری تازه‌ترین مدل هوش مصنوعی، یک باگ نرم‌افزاری حیاتی را شناسایی کنند. این برنامه، آزمایش‌های امنیتی مبتنی بر مدل‌ها را از یک اقدام مقطعی به فرایندی پیوسته و تکرارشونده تبدیل می‌کند.

علاوه بر این، OpenAI تیم رهبری بخش امنیت خود را تقویت کرده و دین استاکی (Dane Stuckey)، مدیر ارشد سابق امنیت اطلاعات شرکت Palantir را برای همکاری با مت نایت (Matt Knight)، مدیر امنیت شرکت، به خدمت گرفته است. در بیانیه رسمی این برنامه فشرده امنیتی، چرخه مداومی از آزمایش‌های مجاز، اصلاح رخنه‌ها و بازآزمایی سیستم‌ها ترسیم شده است.

مقررات و ضوابط پژوهشگران

شرکت OpenAI بالاترین جوایز خود را به یافته‌هایی اختصاص می‌دهد که خطرات عینی سوءاستفاده از سیستم‌های ایجنتی یا تهدید یکپارچگی زیرساخت پلتفرم را اثبات کنند. سیستم‌های مبتنی بر ایجنت به مدل‌ها اجازه می‌دهند از طریق ابزارهایی مانند فراخوانی APIها، دسترسی به فایل‌ها یا به‌روزرسانی سرویس‌های خارجی اقداماتی را به انجام برسانند؛ موضوعی که پیامدها و خسارات ناشی از هرگونه شکست امنیتی را دوچندان می‌کند.

• جیل‌بریک‌های ساده، یعنی پرامپت‌هایی که محدودیت‌های محتوایی را بدون وارد کردن خسارت امنیتی واقعی یا سوءاستفاده ملموس دور می‌زنند، از دامنه این برنامه خارج هستند.
• خروجی‌هایی که صرفاً حاوی کلمات توهین‌آمیز باشند یا اطلاعات عمومی با قابلیت جستجوی آسان را بازگو کنند، آسیب‌پذیری امنیتی محسوب نمی‌شوند.
• یافته‌های مربوط به خطرات سیستم‌های ایجنتی باید حداقل در ۵۰ درصد تلاش‌ها قابل بازتولید و تکرار باشند تا مشمول بالاترین مبالغ پاداش شوند.
• گزارش‌ها باید شامل پیش‌نیازها، شرایط تست، تعداد دفعات آزمون، اثر مشاهده‌شده و مراحل گام‌به‌گام برای بازتولید دقیق مشکل باشند.

گسترش دامنه نفوذ از طریق یکپارچه‌سازی سرویس‌ها

ماجرای رخ‌داده میان Cathedral و Anthropic به روشنی نشان می‌دهد که نرم‌افزارهای خارجی چگونه می‌توانند معبری برای نفوذ به سیستم‌های درونی یک شرکت هوش مصنوعی باز کنند. تیم‌هایی که ایجنت‌های خود را به سرویس‌هایی نظیر Jira، Slack، Notion یا پایگاه‌های داده مشتریان متصل می‌کنند، در واقع دسترسی‌ها و آسیب‌پذیری‌های امنیتی این ابزارهای متصل را به ارث می‌برند.

توسعه‌دهندگانی که از ایجنت‌های هوش مصنوعی استفاده می‌کنند، می‌توانند با رعایت چند راهکار کنترلی و مشخص، این خطرات را به‌طور چشمگیری کاهش دهند:

• به حساب‌های کاربری سرویس‌ها و توکن‌های OAuth تنها مجوزهای ضروری برای انجام وظایف محوله را اختصاص دهید.
• اطلاعات ورود و دسترسی‌های محیط‌های توسعه، آزمون و عملیاتی را کاملاً از یکدیگر تفکیک کنید.
• کلیدهای امنیتی و اطلاعات حساس را خارج از پرامپت‌ها، لاگ‌ها و فایل‌های در دسترس مدل نگهداری کنید.
• فراخوانی ابزارها را زیر نظر بگیرید و لاگ‌های بازرسی را برای ارزیابی‌های بعدی حفظ نمایید.
• سازوکاری برای ابطال سریع توکن‌ها و تعویض دوره‌ای کلیدهای دسترسی فراهم سازید.
• شیوه‌های اطلاع‌رسانی، کنترل دسترسی و پاسخگویی به حوادث ارائه‌دهندگان سرویس‌های خارجی را بازبینی کنید.

برنامه فشرده OpenAI، پژوهش در زمینه کشف آسیب‌پذیری‌ها به کمک مدل‌های هوش مصنوعی را به یک سازوکار امنیتی دائمی تبدیل می‌کند. پاداش‌های سخاوتمندانه‌تر انگیزه قدرتمندی به پژوهشگران خارج از سازمان برای گزارش رخنه‌های پرخطر می‌بخشد؛ در حالی که همکاری با استارتاپ Cathedral، نگاه‌ها را به سوی امنیت نرم‌افزارهای واسط و سیستم‌های متصل به مدل‌های هوش مصنوعی معطوف می‌سازد.