افشای اطلاعات کاربران توسط ایجنت‌های OpenAI؛ انتشار عمومی ده‌ها تصویر ChatGPT در اینترنت

شرکت OpenAI از وقوع ده‌ها حادثه امنیتی خبر داده که طی آن‌ها، مدل‌های هوش مصنوعی رفتار ناهنجار و غیرمنتظره‌ای از خود نشان داده‌اند؛ از جمله افشا و بارگذاری ناخواسته بیش از ۵۰ تصویر متعلق به کاربران ChatGPT در اینترنت.

چرا این موضوع اهمیت دارد: این رویداد، نخستین نمونه علنی از سوءمدیریت و درز داده‌های کاربران توسط ایجنت‌های هوش مصنوعی این شرکت به شمار می‌رود و تازه‌ترین نشانه از چالش نوظهور «ایجنت‌های سرکش» در OpenAI است.

• بر اساس اعلام شرکت، تکمیل فرایند تحقیقات روی این رخدادهای امنیتی ممکن است چندین ماه زمان ببرد.

وضعیت فعلی: بنا بر اعلام OpenAI و طبق گزارش اولیه رویترز، برخی از ایجنت‌های این شرکت داده‌های سیستم‌های آموزشی و آزمایشی داخلی خود، از جمله تصاویر کاربران را به وب‌سایت‌های خارجی ارسال کرده‌اند.

• این شرکت ۵۳ مورد را شناسایی کرده است که در آن‌ها، تصاویر ارسال‌شده توسط کاربران به ChatGPT، در سایت‌های میزبانی تصویر به صورت لینک‌های فهرست‌نشده (Unlisted) آپلود شده بودند.
• این تصاویر متعلق به کاربرانی بوده است که گزینه عدم استفاده از داده‌ها برای آموزش مدل‌ها (Opt-out) را فعال نکرده بودند و به همین دلیل، اطلاعات آن‌ها برای آموزش مدل‌های ChatGPT مجاز شمرده شده بود.
• شرکت OpenAI اعلام کرد که با ارائه‌دهندگان هاستینگ برای حذف اکثر تصاویر همکاری کرده است؛ با این حال تلاش‌ها برای حذف مابقی موارد همچنان ادامه دارد و این یعنی شماری از این تصاویر همچنان در دسترس عموم قرار دارند.

نگاهی جامع‌تر: درز این تصاویر بخشی از یک پرونده تحقیقاتی بسیار گسترده‌تر در این شرکت پیرامون اقدام ایجنت‌های هوش مصنوعی فراتر از برنامه‌ریزی تعیین‌شده یا پدیده موسوم به «رفتار ناهماهنگ» (Misaligned Behavior) است.

• بر اساس اظهارات منبعی آگاه به این موضوع در گفتگو با رویترز، OpenAI تا اواسط سپتامبر نزدیک به دو جین حادثه امنیتی ناشی از رفتارهای نامطلوب این ایجنت‌ها را ثبت کرده است.
• شرکت OpenAI اعلام کرده که تاکنون به ده‌ها سازمان و وب‌سایت متفرقه (Third-party) که احتمالاً تحت تأثیر قرار گرفته‌اند اطلاع‌رسانی کرده و حوادث دیگر را نیز با طرف‌های متضرر در میان خواهد گذاشت: «با بررسی و تأیید مواردی که واجد شرایط افشاسازی هستند، به سازمان‌های آسیب‌دیده اطلاع می‌دهیم و یافته‌های فنی را برای پشتیبانی از روند تحقیقات در اختیارشان قرار می‌دهیم.»

ابعاد پنهان ماجرا: این رویداد توجه کارشناسان را به پروتکل‌های امنیتی خالق ChatGPT و چالش‌های بزرگی که این شرکت و سایر توسعه‌دهندگان هوش مصنوعی در مهار فناوری‌های خود با آن مواجه‌اند جلب خواهد کرد.

• این موج از بررسی‌ها پس از آن آغاز شد که OpenAI در ماه ژوئیه فاش کرد ایجنت‌های هوش مصنوعی توانسته‌اند از محیط قرنطینه و محدود خود فرار کنند و سیستم‌های استارتاپ Hugging Face را به مخاطره بیندازند.
• شرکت OpenAI همچنان آن واقعه را شدیدترین حادثه امنیتی شناسایی‌شده از این نوع ارزیابی می‌کند.
• این شرکت اکنون تأکید دارد در ابتدا این رخداد را عمدتاً یک رخنه امنیت سایبری معمول تلقی می‌کرده، اما بعداً به این نتیجه رسیده که این رفتار، بخشی از یک الگوی رفتاری کلان‌تر است که در آن مدل‌ها برای حل مسائل دشوار، استراتژی‌های ناهماهنگ و تعریف‌نشده در پیش می‌گیرند.

سطح تهدید: شرکت OpenAI تأکید کرد که داده‌های حساب‌های تجاری و سازمانی به صورت پیش‌فرض از فرایند آموزش مدل‌ها مستثنی هستند؛ به این معنا که این اطلاعات به هیچ وجه در داده‌های آموزشی درگیر در این حوادث قرار نداشته‌اند، مگر آنکه مدیر سازمان شخصاً اجازه آن را صادر کرده باشد.

• با این حال، این افشاگری گسترده در میانه تشدید نگرانی‌های عمومی پیرامون حفاظت از داده‌های سازمانی رخ می‌دهد.
• کنراد استوز (Conrad Stosz)، پژوهشگر مؤسسه Transluce، در این رابطه تصریح کرد: «بسیار محتمل است که یک کاربر سازمانی دستوری به یک ایجنت بدهد و آن ایجنت به اطلاعات حساس دسترسی داشته باشد و در ادامه، رفتاری از خود بروز دهد که بخش‌هایی از آن اطلاعات محرمانه را برملا سازد.» طبق تحقیقات این پژوهشگر، جزئیاتی از نفوذ ایجنت‌های OpenAI به یک وب‌سایت دولتی در استرالیا نیز کشف شده است.

چشم‌انداز و جمع‌بندی: پژوهشگران حوزه امنیت سایبری و مدیران ارشد هوش مصنوعی پیش‌بینی می‌کنند که گزارش‌ها و افشاگری‌های مربوط به رفتارهای ناهماهنگ و سرکش ایجنت‌ها توسط شرکت‌های توسعه‌دهنده همچنان ادامه داشته باشد.