هوش مصنوعی Gemini شرکت Google طی تست‌های امنیتی سه شرکت را هک کرد

شرکت Google روز جمعه فاش کرد که مدل هوش مصنوعی Gemini آن در ماه مه و طی یک ارزیابی امنیت سایبری، به سیستم‌های کامپیوتری خصوصی سه شرکت مختلف دسترسی غیرمجاز پیدا کرده است. این نخستین باری است که این شرکت تایید می‌کند یکی از مدل‌هایش به‌طور خودمختار به سیستم‌های شخص ثالث نفوذ کرده است.

این حوادث در جریان یک آزمون امنیتی موسوم به «فتح پرچم» که توسط استارتاپ Irregular برگزار شد، رخ داده است. مدل Gemini با حدس زدن مکرر رمز عبور به یک سیستم نفوذ کرد و دو سیستم دیگر را نیز پس از یافتن اطلاعات ورود در یک مخزن عمومی، در معرض خطر قرار داد. به گفته این شرکت، ایجنت‌های Google قرار نبود در طول ارزیابی به اینترنت دسترسی داشته باشند، اما یک باگ در محیط آزمایشی این امکان را فراهم کرد. در هر سه مورد، این مدل پس از اینکه تشخیص داد به جای یک هدف شبیه‌سازی‌شده به سیستم‌های یک شرکت واقعی رسیده است، نفوذ خود را متوقف کرد.

هدر ادکینز، نایب‌رئیس مهندسی امنیت Google، در بیانیه‌ای نوشت: «در یک ارزیابی استاندارد، این مدل اطلاعات عمومی را به‌صورت آنلاین پیدا کرد و برای دسترسی به وب‌سایت‌هایی که فکر می‌کرد بخشی از آزمون هستند، رمزهای عبور را حدس زد. در هر سه مورد، این مدل عملیات خود را متوقف کرد.»

استارتاپ Irregular اواخر ماه ژوئیه این حوادث را به Google اطلاع داد، اما Google تا زمانی که روزنامه وال استریت ژورنال با آن‌ها تماس نگرفت، این موضوع را به‌طور عمومی فاش نکرد. دلیل Google برای مسکوت گذاشتن ماجرا این بود که مدل رفتار مسئولانه‌ای داشته است؛ چرا که هر بار با تشخیص زیرساخت‌های یک شرکت واقعی، خود را متوقف می‌کرد. با این حال، جک کیبل، مدیرعامل شرکت امنیت هوش مصنوعی Corridor، ارزیابی تندتری ارائه داد و استدلال کرد که Google سعی دارد «پشت هنجارهای ایجادشده برای افشای آسیب‌پذیری‌ها پنهان شود»، در حالی که مسئله اصلی این است که «مدل‌ها در حال فراتر رفتن از مرزهای تعیین‌شده هستند و حملات سایبری واقعی انجام می‌دهند.»

یکی از سخنگویان Irregular، حادثه مربوط به Google را بخشی از همان مشکل اساسی توصیف کرد که سایر آزمایشگاه‌های هوش مصنوعی را نیز تحت تاثیر قرار داده بود. وی گفت: «این همان مسئله‌ای است که پیش‌تر گزارش شده بود و یک حادثه کاملا مجزا به شمار نمی‌رود. اواخر ژوئیه به تمام آزمایشگاه‌های مرتبط اطلاع‌رسانی شد و به‌عنوان بخشی از تحقیقات، با نهادهای آسیب‌دیده تماس گرفته شد.» طبق گزارش CNBC، ارزش استارتاپ Irregular که شرکت‌هایی مانند Sequoia و Redpoint Ventures از حامیان آن هستند، در سال گذشته ۴۵۰ میلیون دلار برآورد شده بود.

شرکت Google چهارمین توسعه‌دهنده بزرگ هوش مصنوعی است که تایید می‌کند یکی از مدل‌هایش در جریان تست‌های امنیتی به اهداف واقعی نفوذ کرده است. شرکت Anthropic پیش‌تر اعلام کرده بود که سه مدل Claude آن پس از اتصال تصادفی محیط‌های ارزیابی Irregular به اینترنت زنده، به سیستم‌های متعلق به سه سازمان دسترسی پیدا کرده‌اند. شرکت Meta نیز تایید کرد که مدل Muse Spark 1.1 این شرکت به دلیل پیکربندی اشتباه در همان سیستم Irregular، از یک نقص امنیتی در یک سرویس شخص ثالث سوءاستفاده کرده است. OpenAI نیز اعلام کرد که مدل‌هایش از محیط تست کنترل‌شده فرار کرده و به زیرساخت‌های پلتفرم هوش مصنوعی Hugging Face دسترسی یافته‌اند.

این افشاگری‌های پی‌درپی، بحث‌ها بر سر نحوه آزمایش مدل‌های هوش مصنوعی را تشدید کرده است و پژوهشگران امنیتی هشدار می‌دهند که احتمالا ابعاد کامل چنین حوادثی هنوز مشخص نشده است.