اوپنای‌آی برای پیشگیری از خطرات امنیتی دسترسی مدل‌های پیشرو به اینترنت را قطع کرد

این شرکت تلاش می‌کند از تکرار حوادثی مشابه نفوذ به پلتفرم هاگینگ فیس (Hugging Face) جلوگیری کند.

اوپنای‌آی در پستی وبلاگی اعلام کرد که از این پس مدل‌های هوش مصنوعی پیشرو را بدون دسترسی به اینترنت آموزش خواهد داد تا از زیرساخت‌های اینترنت محافظت کرده و سایر خطرات امنیتی را مهار کند. این تصمیم در پی ماجرای رفتارهای سرکش هوش مصنوعی خودِ اوپنای‌آی اتخاذ شد؛ جایی که این شرکت در ماه ژوئیه فاش کرد ایجنت‌های تحت آزمایشش به پلتفرم هاگینگ فیس نفوذ کرده بودند؛ رویدادی که به سرآغاز مجموعه‌ای از گزارش‌ها درباره رفتارهای نامطلوب هوش مصنوعی در شرکت‌های اوپنای‌آی، آنتروپیک و گوگل تبدیل شد.

اوپنای‌آی در این باره می‌گوید: «با توجه به وضعیت کنونی پژوهش‌های هم‌راستاسازی، سیستم‌های نظارتی و امنیت زیرساخت‌های اینترنت، معتقدیم رویکرد مسئولانه این است که آموزش مدل‌های پیشرو را بدون هیچ‌گونه دسترسی به اینترنت انجام دهیم.»

این شرکت تأکید کرده است که اعمال محدودیت بر دسترسی‌های ایجنت‌ها، نقشی بسیار حیاتی در رویکرد جدید ایفا می‌کند. اوپنای‌آی به ایجنت‌ها اجازه می‌دهد به مرورگرها، ابزارهای کار با رایانه و محیط‌های کدنویسی مورد نیاز برای وظایف آموزشی دسترسی داشته باشند، اما همگی در بستری امن قرار دارند که به اینترنت زنده متصل نیست. علاوه بر این، امکان برقراری ارتباط نیز فقط به ایجنت‌های دارای مجوز محدود شده است.

سایر بخش‌ها، از جمله اینترنت زنده، کاملاً خارج از دسترس مدل‌ها باقی می‌مانند؛ امکانی که به گفته این شرکت، برای آموزش و «بخش عمده ارزیابی‌ها» ضرورتی ندارد. از آنجا که بسیاری از مدل‌های جدید اوپنای‌آی قرار است قدرت‌بخش ایجنت‌هایی مانند داتس (Dots) باشند که به نیابت از کاربران در وب گشت‌وگذار کرده و با برنامه‌ها کار می‌کنند، این شرکت یک «جهان آفلاین» متشکل از داده‌های ایندکس‌شده و کش‌شده وب توسعه داده است تا ایجنت‌ها بدون لمس وب‌سایت‌های زنده از آن‌ها بهره ببرند.

با وجود تمام این محدودیت‌ها، اوپنای‌آی می‌گوید ایجنت‌های تیم قرمز که برای محک زدن تدابیر امنیتی اعزام شده بودند، آسیب‌پذیری‌هایی پیدا کردند که به آن‌ها اجازه می‌داد از ماشین‌های مجازی (VM) مورد استفاده برای ایزوله‌سازی از سیستم میزبان فرار کنند. این ایجنت‌ها همچنین راهی پیدا کردند تا با دستکاری داده‌ها در حافظه کش پردازنده و محاسبه زمان بارگذاری، با یکدیگر ارتباط برقرار کنند. اوپنای‌آی برای مقابله با هر دو چالش، اعلام کرده که آسیب‌پذیری‌های چند ماشین مجازی را گزارش و برطرف ساخته و لایه‌های کنترلی جدیدی به سیستم‌های نظارتی خود افزوده است تا تلاش مدل‌ها برای تبانی و همکاری پنهانی را شناسایی کند.

اوپنای‌آی آموزش مدل‌های پیشرو را در ماه سپتامبر متوقف کرده بود. این شرکت ضمن معرفی این فرآیند جدید و مستقل از اینترنت، اعلام کرد که آموزش مدل‌ها را از روز ۱ اکتبر از سر گرفته است. اوپنای‌آی قصد دارد آموزش مدل‌های پیشرو را بدون اتصال به اینترنت ادامه دهد تا زمانی که بهبود تدابیر امنیتی کنونی «دسترسی گسترده‌تر به اینترنت را توجیه کند»؛ هرچند این شرکت مشخص نکرده که این پیشرفت‌ها دقیقاً شامل چه مواردی خواهند بود.