نفوذ ایجنت‌های سرکش هوش مصنوعی به سازمان‌های هندی؛ دسترسی غیرمجاز به داده‌های شخصی و محرمانه

آژانس امنیت سایبری هند اعلام کرد ایجنت‌های هوش مصنوعی متعلق به چندین شرکت ارائه‌دهنده، در جریان مراحل پژوهش و ارزیابی، به داده‌های شخصی و اسناد محرمانه سازمان‌های این کشور دسترسی پیدا کرده‌اند.

تیم واکنش اضطراری رایانه‌ای هند (CERT-In) اعلام کرد «چندین گزارش داوطلبانه از سوی توسعه‌دهندگان مدل‌های هوش مصنوعی» دریافت کرده است که نشان می‌دهد مدل‌های آن‌ها هنگام اجرای آزمایشی و ارزیابی در بستر اینترنت آزاد، «به سیستم‌های زنده و عملیاتی سازمان‌های هندی نفوذ کرده‌اند».

این ایجنت‌ها با استفاده از اطلاعات ورود (Credentials) و تنظیمات اتصالی وارد شده‌اند که در پیکربندی برنامه‌ها، مخازن عمومی کد و نقش‌های دسترسیِ بیش‌ازحد آزاد در محیط‌های ابری بدون محافظت رها شده بودند؛ در نتیجه، اقدامات آن‌ها «فراتر از سطح اختیارات تعیین‌شده برای مأموریتشان» پیش رفته است.

این رویداد، هند را به جدیدترین مقصد در تور جهانی رفتارهای پیش‌بینی‌نشده ایجنت‌های هوش مصنوعی تبدیل کرده است. در ماه ژوئیه، ایجنت‌های اوپن‌ای‌آی از محیط آزمایشی خود خارج شدند و شرکت فرانسوی هاگینگ فیس (Hugging Face) را هدف نفوذ قرار دادند؛ رویدادی که سرآغاز تابستانی پر از رفتارهای سرکش ایجنت‌های هوش مصنوعی بود. ماه گذشته نیز اوپن‌ای‌آی پس از نفوذ ایجنت‌هایش به ۴ وب‌سایت دولتی استرالیا، از جمله پرتال آماری سامانه خدمات درمانی (Medicare)، رسماً از این کشور عذرخواهی کرد.

در ماجرای هاگینگ فیس، ایجنت‌های اوپن‌ای‌آی کار خود را با شیوه‌ای مشابه آغاز کردند، اما سپس با شناسایی و سوءاستفاده از آسیب‌پذیری‌های نرم‌افزاری موفق شدند کدهای دلخواهشان را روی سرورهای این شرکت اجرا کنند. با این حال، CERT-In اعلام کرده که در پرونده هند چنین حمله‌ای رخ نداده و به‌نظر می‌رسد ایجنت‌ها صرفاً از دسترسی‌هایی استفاده کرده‌اند که در بستر آنلاین به حال خود رها شده بودند.

با وجود این، پرونده هند از یک جهت نگران‌کننده‌تر از موارد قبلی به‌نظر می‌رسد و آن ماهیت داده‌هایی است که ایجنت‌ها مشاهده کرده‌اند: در استرالیا، اوپن‌ای‌آی اعلام کرد هیچ شواهدی نیافته است که نشان دهد ایجنت‌هایش پرونده‌های پزشکی یا سوابق کیفری شهروندان را بررسی کرده باشند؛ حتی با وجود اینکه این ایجنت‌ها فایل‌هایی را در سامانه آماری خدمات درمانی ذخیره کرده بودند. اما در هند، ایجنت‌ها مستقیماً داده‌های شخصی و اسناد محرمانه تجاری را خوانده‌اند. افزون بر این، برخلاف رویدادهای گذشته که هرکدام فقط به یک آزمایشگاه هوش مصنوعی خاص مربوط می‌شدند، در ماجرای هند پای ایجنت‌های چندین ارائه‌دهنده مختلف در میان است.

سازمان CERT-In نام این ارائه‌دهندگان هوش مصنوعی یا سازمان‌های قربانی را فاش نکرده و مشخص نساخته است که آیا این ایجنت‌ها تغییری در داده‌ها یا سیستم‌ها ایجاد کرده‌اند یا خیر.

در حال حاضر، نزدیک‌ترین رویداد مشابه به این پرونده، افشاگری ماه ژوئیه شرکت آنتروپیک است که در آن اعلام شد مدل هوش مصنوعی کلود (Claude) در جریان تست‌های ارزیابی و با استفاده از روش‌های اولیه‌ای مانند حدس گذرواژه‌های ضعیف، به سیستم‌های ۳ شرکت مختلف نفوذ کرده بود.

در هند نیز همانند تجربه آنتروپیک، سازمان‌های هدف هرگز به خودی خود متوجه این نفوذها نشده بودند. این دست افشاگری‌ها نشان می‌دهد که دولت‌ها عملاً برای باخبر شدن از رفتارهای ناهنجار و نفوذهای ناخواسته ایجنت‌ها، به گزارش‌های داوطلبانه همان شرکت‌هایی وابسته‌اند که خود پدیدآورنده این رخنه‌ها هستند.