تدبیر امنیتی تازه OpenAI؛ قطع دسترسی مدل‌های پیشرفته به اینترنت در زمان آموزش

در پی وقوع رشته‌ای از حوادث نگران‌کننده که طی آن‌ها مدل‌های پیشرفته متعلق به شرکت‌های OpenAI، گوگل، Anthropic و متا به اینترنت دسترسی پیدا کرده و به سیستم‌های بیرونی نفوذ کردند، شرکت OpenAI تغییراتی بنیادین در نحوه آموزش مدل‌های مرزی خود ایجاد کرده و دسترسی مستقیم آن‌ها را به اینترنت قطع کرده است.

شرکت OpenAI در بیانیه‌ای رسمی اذعان کرد هرچند دسترسی به اینترنت به مدل‌ها کمک می‌کند مهارت‌های مفیدی بیاموزند، اما هم‌زمان «به یک عامل هوشمند توانمند اما مهارنشده فرصت می‌دهد تا بر سیستم‌های خارج از کنترل ما تأثیر بگذارد».

در بخش دیگری از بیانیه OpenAI آمده است: «ما معماری امنیتی محیط‌های تحقیقاتی خود را بر پایه یک اصل بنیادین طراحی کرده‌ایم؛ ما همواره باید بتوانیم از دسترسی غیرمجاز و خودسرانه مدل‌های پیشرفته به اینترنت زنده جلوگیری کنیم.»

با وجود این محدودیت، OpenAI اعلام کرده که همچنان مایل است مدل‌هایش مهارت‌هایی مانند وبگردی، جستجوی اطلاعات و کار با اپلیکیشن‌های تحت وب را فرا بگیرند. در همین راستا، این شرکت محیطی اختصاصی موسوم به «دنیای آفلاین» ایجاد کرده است؛ بستری که مجموعه‌ای عظیم از محتوای ایندکس‌شده و کش‌شده وب را در بر می‌گیرد و مدل‌ها می‌توانند بدون هیچ خطری برای سیستم‌های بیرونی، با آن تعامل داشته باشند. طبق اعلام OpenAI، تمامی چرخه‌های آموزش یادگیری تقویتی برای مدل‌های پیشرفته اکنون از همین سازوکار استفاده می‌کنند.

البته قطع دسترسی عوامل هوشمند به وب کار ساده‌ای نیست. در تاریخ ۲۰ سپتامبر، یکی از مدل‌های تحقیقاتی داخلی این شرکت با سوءاستفاده از یک پیکربندی نادرست در تحلیل‌گر DNS موفق شد دسترسی محدودی به اینترنت زنده پیدا کند. این رخداد غیرمنتظره در طول یک چرخه آموزشی باعث شد OpenAI فرایند آموزش توانمندترین مدل‌های خود را موقتاً متوقف کند.

اکنون OpenAI برای جلوگیری از فرار مدل‌ها از محیط قرنطینه و نفوذ به وب عمومی، از راهکارهای امنیتی متعددی استفاده می‌کند که به‌صورت «لایه‌های حفاظتی هم‌پوشان و مکمل یکدیگر» طراحی شده‌اند.

این راهکارها شامل محیط‌های ایزوله سندباکس برای محدودسازی دسترسی و اجرای دستورات، ماشین‌های مجازی بسیار سبک (microVM) برای جداسازی کامل مدل‌ها از سیستم میزبان، سیستم‌های نظارتی هوشمند جهت شناسایی فعالیت‌های غیرمجاز و همچنین دیواره‌های امنیتی شبکه و فضای ابری است تا در صورت عبور مدل از تمام لایه‌ها، همچنان در حصار باقی بماند.

البته OpenAI اعلام نکرده که این محدودیت‌ها همیشگی خواهند بود؛ بلکه تأکید کرده این سیاست تا زمانی حفظ خواهد شد که «پیشرفت در این لایه‌های حفاظتی، امکان دسترسی گسترده‌تر به اینترنت را به‌شکلی مطمئن توجیه کند».