فرار ایجنت‌های هوش مصنوعی OpenAI کار دستش داد؛ احضاریه رسمی دادستانی کالیفرنیا

دادستان کل کالیفرنیا با صدور احضاریه‌ای رسمی، شرکت اوپن‌ای‌آی (OpenAI) را فراخوانده است؛ چراکه این ایالت در حال تحقیق درباره سناریوی نگران‌کننده‌ای است: زمانی که مدل‌های هوش مصنوعی از محیط‌های آزمایشی خود فرار می‌کنند و در بستر اینترنت آزاد شروع به دست‌اندازی به سیستم‌های بیرونی می‌کنند، چه اتفاقی رخ می‌دهد؟

راب بونتا (Rob Bonta)، دادستان کل کالیفرنیا، اعلام کرد که دفتر او همین هفته یک احضاریه تحقیقاتی به اوپن‌ای‌آی تحویل داده است. این اقدام بخشی از تحقیقات گسترده‌تر وزارت دادگستری کالیفرنیا درباره حوادث امنیت سایبری و خطرات ناشی از این شرکت و مدل‌های هوش مصنوعی آن به شمار می‌رود.

این ماجرا در ادامه تحقیقاتی آغاز شده که ماه گذشته پیرامون یک حادثه امنیتی عجیب در پلتفرم هاگینگ فیس (Hugging Face) کلید خورد؛ جایی که ایجنت‌های هوش مصنوعی OpenAI موفق شدند حصار محیط‌های آزمایشی را بشکنند و سر از اینترنت عمومی دربیاورند. این ایجنت‌ها سپس مشغول وارسی و سرک کشیدن در سیستم‌های هاگینگ فیس شدند و حتی یکی از آن‌ها بدون اینکه کسی به آن دستوری داده باشد، برای خودش در این پلتفرم یک حساب کاربری ساخت!

وزارت دادگستری کالیفرنیا هنوز جزئیات دقیقی از اسناد و اطلاعات خواسته‌شده از OpenAI منتشر نکرده، اما بونتا تأکید کرده که دادستانی به دنبال دریافت اطلاعات جامع‌تری درباره حوادث سایبری مرتبط با این شرکت است.

بونتا در این رابطه گفت: «دفتر من پرسش‌های بیشتری را درباره حوادث سایبری و خطرات پیرامون اوپن‌ای‌آی و مدل‌های هوش مصنوعی آن مطرح کرده است.»

او همچنین تصریح کرد که هدف اصلی این بررسی‌ها، روشن شدن این مسئله است که وقتی یک مدل هوش مصنوعی کاری خلاف قصد و انتظار سازندگانش انجام می‌دهد، مسئولیت دقیقاً به گردن چه کسی خواهد بود.

بونتا خاطرنشان کرد: «مدل‌های پیشگام هوش مصنوعی می‌توانند ابزار‌هایی بسیار کارآمد برای دفاع سایبری باشند؛ اما هم‌زمان، شرکت‌هایی که این فناوری‌ها را توسعه می‌دهند و عرضه می‌کنند، مسئولیتی اخلاقی و قانونی دارند تا تضمین کنند که مدل‌هایشان چه در حین آزمایش و توسعه و چه پس از ورود به بازار، مرتکب حملات سایبری نمی‌شوند یا به تسهیل آن‌ها کمکی نمی‌کنند.»

او در ادامه افزود: «توسعه‌دهندگانی که در انجام این وظیفه کوتاهی کنند، می‌توانند و باید از نظر قانونی پاسخگو باشند و دفتر من مصمم است تا مشخص کند که آیا در این ماجرا چنین اتفاقی رخ داده است یا خیر.»

البته صدور این احضاریه به این معنا نیست که دادستانی کالیفرنیا به این نتیجه رسیده که OpenAI مرتکب نقض قانون شده است؛ چراکه مقامات هنوز تخلف قانونی مشخصی را اعلام نکرده‌اند و این ایالت فعلاً در مرحله جمع‌آوری داده‌ها و مستندات قرار دارد.

با این حال، این پرونده حاصل هفته‌ها پیگیری و آماده‌سازی است. در ماه سپتامبر، بونتا همراه با گروهی فراجناحی متشکل از ۲۵ دادستان کل ایالتی، در نامه‌ای از کنگره آمریکا خواستند تا در پی انتشار گزارش‌های مربوط به حوادث سایبری در آزمایشگاه‌های پیشرو هوش مصنوعی، قوانین سفت‌وسختی برای مدل‌های بزرگ تصویب کند.

آن نامه مشخصاً به گزارش‌هایی استناد کرده بود که نشان می‌داد مدل‌های اوپن‌ای‌آی در جریان ارزیابی‌ها، از محیط‌های آزمایشی فرار کرده، خود را به اینترنت عمومی رسانده و به سیستم‌های کامپیوتری بیرونی نفوذ کرده‌اند.

دادستان‌های کل خواستار استقرار یک سازوکار دولتی برای واکنش به حوادث سایبری شده بودند؛ سازوکاری که به بازرسان اجازه می‌دهد در صورت بروز رفتارهای پیش‌بینی‌نشده یا بحران، دسترسی مستقیمی به پرونده‌ها و اسناد داخلی شرکت‌های هوش مصنوعی داشته باشند.

به نظر می‌رسد دفتر بونتا اکنون در حال عملیاتی کردن همان رویکرد در سطح ایالتی است تا کنترل بیشتری روی آزمایش‌های پرریسک آزمایشگاه‌های هوش مصنوعی اعمال کند.

کارشناسان امنیت پیش‌تر بارها تأکید کرده بودند محیط‌های ایزوله و سندباکس‌هایی که برای مهار این ایجنت‌ها در نظر گرفته می‌شوند باید به مراتب امن‌تر باشند؛ ضعفی بنیادین که اصلی‌ترین و منطقی‌ترین دلیل وقوع حادثه هاگینگ فیس و دردسرهای مشابه به شمار می‌رود.

اوپن‌ای‌آی تاکنون هیچ‌گونه پاسخی به این ادعاها و ماجرای احضاریه ارائه نداده و سکوت کرده است.