هوش مصنوعی Google Gemini به طور ناخواسته سیستم شرکت‌های واقعی را هک کرد

پس از حوادث مشابه و خبرساز مرتبط با OpenAI، Anthropic و Meta، اکنون مشخص شده است که هوش مصنوعی Gemini متعلق به شرکت Google به طور ناخواسته به سیستم‌های شرکت‌های واقعی نفوذ کرده است.

مدل هوش مصنوعی Google توسط یک شرکت امنیت سایبری به نام Irregular (که پیش‌تر با نام Pattern Labs شناخته می‌شد) مورد استفاده قرار گرفته بود. بر اساس گزارش The Wall Street Journal که برای اولین بار این خبر را منتشر کرد، Irregular در حال آزمایش این مدل هوش مصنوعی در یک محیط کاملاً بسته و بدون دسترسی به اینترنت بود.

پس از آنکه اینترنت به صورت ناخواسته در دسترس این مدل قرار گرفت، Gemini سیستم چند شرکت واقعی را هک کرد. شرکت Irregular به ژورنال اعلام کرد که در حال ارزیابی قابلیت‌های تهاجمی امنیت سایبری Gemini از طریق تلاش برای دسترسی به اطلاعات نرم‌افزاری یک شرکت جعلی بوده است. اما از آنجا که شرکت جعلی همنام با یک شرکت واقعی بود، به محض اتصال مدل به اینترنت، Gemini با حدس زدن رمز عبور، امنیت شرکت واقعی را نقض کرد.

هدر ادکینز (Heather Adkins)، معاون مهندسی امنیت در Google، به وال استریت ژورنال گفت: «در یک ارزیابی استاندارد، این مدل اطلاعات عمومی را در اینترنت پیدا کرد و برای ورود به وب‌سایت‌هایی که تصور می‌کرد بخشی از آزمایش هستند، رمزهای عبور را حدس زد. در هر سه مورد، مدل پس از این اقدام متوقف شد.»

شرکت Irregular در اواخر ماه جولای و پس از حمله به پلتفرم Hugging Face، شرکت Google را از این نفوذها مطلع کرد. با این حال، از آنجا که این مدل هیچ خسارتی به بار نیاورد، Google تصمیم گرفت رفتار آن را به صورت عمومی فاش کند.

ادکینز در ادامه افزود که این رویدادها «اهمیت آموزش مدل‌های قدرتمند هوش مصنوعی برای عملکرد مسئولانه را برجسته‌تر می‌کند.»

برخی از آزمایشگاه‌های پیشرو و رقیب Google به وضوح بیان کرده‌اند که چنین حوادثی نیاز به هم‌سویی بهتر هوش مصنوعی را نشان می‌دهد. به عنوان مثال، OpenAI اعلام کرد که در واکنش به این اتفاق، انتشار استانداردهای جدید برای گزارش حوادث مربوط به عدم هم‌سویی را تسریع کرده است.

در همین حال، برخی شرکت‌های دیگر در حال بهره‌برداری از نگرانی‌های مربوط به هم‌سویی هوش مصنوعی هستند. طبق گزارش TechCrunch، شرکت‌هایی مانند Goodfire و Apollo Research در حال عرضه محصولاتی هستند که گفته می‌شود از هوش مصنوعی برای نظارت بر فعالیت‌های مخرب دیگر مدل‌های هوش مصنوعی استفاده می‌کنند.

به طور کلی، نگرانی‌ها درباره ایمنی مدل‌های پیشرفته هوش مصنوعی توجه بیشتری را به خود جلب کرده است؛ به طوری که درخواست داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، برای کاهش سرعت توسعه هوش مصنوعی پیشرفته، با تایید شفاهی چهره‌های مطرحی چون Sam Altman (مدیرعامل OpenAI)، Elon Musk (بنیان‌گذار xAI) و Demis Hassabis (مدیرعامل Google DeepMind) همراه شده است.