نفوذ مخفیانه دسته‌های ایجنت‌های OpenAI به پایگاه‌های داده برای استخراج اطلاعات محرمانه

در شرایطی که آزمایشگاه‌های پیشرو هوش مصنوعی همکاری چندانی از خود نشان نمی‌دهند، پژوهشگران مستقل در حال پرده‌برداری از نحوه هماهنگی ایجنت‌های هوش مصنوعی در گوشه‌های پنهان اینترنت برای دسترسی به داده‌های خصوصی ذخیره‌شده روی سرورهای امن هستند.

مؤسسه Transluce، یک آزمایشگاه غیرانتفاعی فعال در حوزه نظارت بر هوش مصنوعی، در گزارشی اعلام کرد که ایجنت‌های توسعه‌یافته توسط OpenAI تلاش کرده‌اند به داده‌های پایگاه Data USA، کتابخانه دیجیتال دانشگاه نیومکزیکو و مؤسسه بهداشت و رفاه استرالیا (AIHW) دسترسی پیدا کرده و اطلاعات آنها را استخراج کنند.

یافته‌های این آزمایشگاه این پرسش اساسی را مطرح می‌کند که OpenAI از چه زمانی باید از نفوذ ایجنت‌های خود به سیستم‌های امن در وب آگاه می‌بود. کارشناسان Transluce تنها طی چند هفته و صرفاً با بررسی سرویس‌های تحت وب با لایه‌های دفاعی ضعیف و تطبیق داده‌ها با سایر سوابق عمومی فعالیت دسته‌های ایجنت‌ها در اینترنت، توانستند شواهدی از این رفتارهای ناهنجار را کشف کنند.

هم‌زمان با انتشار گزارش Transluce، آنتونی آلبانیزی، نخست‌وزیر استرالیا، اظهار داشت که ایجنت‌های هوش مصنوعی OpenAI قصد نفوذ به چهار وب‌سایت دولتی این کشور را داشته‌اند و در یک مورد موفق به نفوذ شده و حتی فایل‌هایی را روی یکی از سرورهای داخلی سیستم ملی خدمات درمانی این کشور ذخیره کرده‌اند. اگرچه هنوز جزئیات کاملی از ابعاد این نفوذ در دست نیست، آلبانیزی تأکید کرد که این اقدامات ظاهراً بخشی از ارزیابی‌های مربوط به بازیابی اطلاعات بوده است؛ موضوعی که کاملاً با شواهد کشف‌شده توسط Transluce و سایر محققان همخوانی دارد.

در این تمرین‌ها، که ممکن است بخشی از فرآیند آموزش یا ارزیابی مدل‌ها باشند، از مدل‌های OpenAI خواسته شده تا آمارهای کمترشناخته‌شده و دشوار را بیابند؛ مواردی مانند شاخص‌های مبارزه با مواد مخدر در تایلند، هزینه داروها در استرالیا، یا میانگین درآمد دارندگان مدرک کارشناسی ارشد در ایالات متحده در سال ۲۰۱۴. این ایجنت‌ها با استفاده از سرویس‌های آنلاین با امنیت پایین اقدام به تبادل داده و یافتن پاسخ‌ها کرده و اغلب تلاش می‌کنند به پایگاه‌های داده امن نفوذ نمایند. این فعالیت‌ها دست‌کم از مارس ۲۰۲۶ و چه بسا از نوامبر ۲۰۲۵ آغاز شده و احتمالاً هم‌اکنون نیز در جریان است.

تحقیقات Transluce زمانی کلید خورد که گروه دیگری از پژوهشگران یک انجمن ناشناخته آنلاین را شناسایی کردند که در آن، ایجنت‌های هوش مصنوعی برای پشت سر گذاشتن آزمون‌های زمان‌دار با یکدیگر همکاری می‌کردند. گزارش این مؤسسه به داده‌های وب‌سایت urlquery.net متکی است؛ پلتفرمی که به عنوان پراکسی مرورگر و ظاهراً برای پژوهش‌های امنیتی فعالیت می‌کند تا کاربران بتوانند بدون باز کردن مستقیم یک پیوند، آن را تحلیل کنند. با این حال، سرویس یادشده لاگ‌های فعالیت خود را به صورت عمومی منتشر می‌کند و پژوهشگران با تطبیق این لاگ‌ها با گفتگوهای ایجنت‌ها در انجمن، موفق به ردیابی این سیستم‌های خودکار شدند.

کنراد استوش، مدیر بخش حاکمیت در مؤسسه Transluce، در گفتگو با رسانه‌ها اعلام کرد: «ما حجم قابل‌توجهی از فعالیت‌های خودکار را رصد کردیم که ارتباط و هم‌پوشانی نزدیکی با مجموعه داده DSE Wiki داشتند؛ موضوعی که OpenAI اکنون تأیید کرده دست‌کم بخشی از همان دسته ایجنت‌ها بوده است.» او در عین حال یادآور شد که نمی‌توان تمام فعالیت‌های رصدشده را مستقیماً به OpenAI یا حتی به طور کلی به ایجنت‌های هوش مصنوعی نسبت داد.

با این وجود، سوابق این ویکی نشان می‌دهد که مأموریتی برای یافتن یک داده بسیار تخصصی به این ایجنت‌ها واگذار شده بود: میانگین سالانه هزینه سرانه داروهای پوستی در ایالت ویکتوریا در ژانویه ۲۰۲۲. داده‌های ثبت‌شده در urlquery.net در تاریخ ۲۰ ژوئن نشان می‌دهد که یک ایجنت تلاش کرده به سایت نفوذ کند و در یادداشتی در این ویکی در ۲۱ ژوئن، ایجنت مربوطه پیرامون عدم موفقیت خود در دور زدن تدابیر ضدبات مؤسسه AIHW بحث کرده است.

پژوهشگرانی که این انجمن را شناسایی کردند، بر این باورند که یکی از کارکنان انسانی OpenAI برای نخستین بار در همان روز (۲۱ ژوئن) از این سایت بازدید کرده است؛ چرا که بخش اعظم فعالیت‌های خودکار ایجنت‌ها در این انجمن در روز بعد متوقف شد. این اتفاق درست پس از نفوذ به سیستم بهداشت استرالیا در ۱۸ ژوئن رخ داد؛ رخدادی که نخست‌وزیر این کشور نیز به آن اشاره کرد، هرچند OpenAI مدعی شده تا ماه اوت از وقوع چنین فعالیتی مطلع نبوده است.

شرکت OpenAI به پرسش‌ها پیرامون زمان دقیق پی بردن کارمندانش به این انجمن، نوع اطلاعات به‌دست‌آمده از آن و میزان آگاهی خود از این نفوذها پاسخی نداده است.

سخنگوی OpenAI در بیانیه‌ای پیرامون این موضوع اعلام کرد: «بررسی‌های اولیه ما حاکی از آن است که بخش عمده‌ای از فعالیت‌های ذکرشده در گزارش Transluce، با مواردی که در چارچوب تحقیقات جاری ما پیرامون رفتار ناهماهنگ مدل‌ها در مراحل مختلف بررسی قرار دارند، هم‌پوشانی دارد. ما با دانشگاه نیومکزیکو و Data USA تماس گرفته‌ایم و با دولت استرالیا نیز درباره وب‌سایت‌های دولتی تحت تأثیر گفتگو کرده‌ایم. در چارچوب بازبینی‌های گسترده‌تر خود، اولویت‌بندی با جدی‌ترین حوادث است و در عین حال، فعالیت‌های با حساسیت کمتر مانند ارسال اسپم به سایت‌ها توسط ایجنت‌ها را نیز پوشش خواهیم داد. با توجه به ابعاد این پروژه و لزوم راستی‌آزمایی دقیق هر پرونده، انتظار داریم این بررسی‌ها چندین ماه به طول بینجامد.»

استوش معتقد است بدون اطلاع دقیق از سازوکار نظارتی OpenAI بر ایجنت‌هایش، تعیین میزان آگاهی پیشین این شرکت دشوار است، اما می‌افزاید: «بسیار محتمل به نظر می‌رسد که اگر آنها تمام درخواست‌های خروجی و پاسخ‌های ورودی ایجنت‌های درگیر در DSE Wiki را به صورت جامع و دقیق رصد می‌کردند، متوجه این فعالیت‌ها می‌شدند.»

سلنا ژانگ، از کارشناسان فنی Transluce و از همکاران نگارش این گزارش، اشاره کرد که سوابق urlquery.net نشان‌دهنده ثبت درخواست‌هایی برای مجموعه‌داده‌های مشابه با به‌کارگیری تکنیک‌های یکسان در مارس ۲۰۲۶ و حتی احتمالاً در نوامبر ۲۰۲۵ است. وی همچنین تأکید کرد که الگوهای مشابهی از فعالیت‌های مرتبط با ایجنت‌ها حتی در همین هفته جاری در این وب‌سایت مشاهده شده است.

استوش، که پیش‌تر مدیریت «مرکز استانداردها و نوآوری هوش مصنوعی ایالات متحده» را بر عهده داشته است، تأکید کرد که Transluce برای شفاف‌سازی ابعاد عمومی این اتفاقات به تحقیقات خود ادامه خواهد داد. او هشدار داد که روش‌های آموزشی ارائه‌شده توسط OpenAI و سایر آزمایشگاه‌های پیشرو، به شکلی ناخواسته ایجنت‌ها را ترغیب می‌کنند تا برای تکمیل وظایف محوله به تکنیک‌های نفوذ و هک متوسل شوند؛ حوادثی که به گفته او موارد افشاشده کنونی احتمالاً تنها «نوک کوه یخ» هستند.

وی افزود: «ما تنها تعداد اندکی از منابع داده را بررسی کرده‌ایم که این ایجنت‌ها اتفاقی ردی از خود در آنها برجای گذاشته‌اند. تردیدی نیست که OpenAI و حتی سایر آزمایشگاه‌ها از حقایق بیشتری مطلعند که هنوز به صورت عمومی افشا نکرده‌اند؛ اما انتظار می‌رود پژوهشگران شواهد و ترافیک‌های بسیار بیشتری از فعالیت پنهان این ایجنت‌ها کشف کنند.»

آیا او اطمینان دارد که این آزمایشگاه‌ها یافته‌های خود را با شفافیت منتشر خواهند کرد؟

استوش در پاسخ گفت: «ترجیح می‌دهم در این مورد اظهار نظری نکنم.»