سرکشی ایجنت‌های هوش مصنوعی؛ تنسنت رفتارهای غیرمنتظره در دور زدن سیستم‌های علی‌بابا را تأیید کرد

شرکت تنسنت اعلام کرد ایجنت‌های هوش مصنوعی که مشغول ارزیابی مدل‌های متفرقه روی پلتفرم ابری این مجموعه بودند، رفتارهای پیش‌بینی‌نشده‌ای در زمینه وب‌گردی نشان داده‌اند. این غول فناوری مستقر در شنژن تأکید کرد که مدل‌های مذکور ارتباطی با تیم توسعه مدل اختصاصی این شرکت (Hy) نداشته‌اند و در بررسی‌های انجام‌شده نیز هیچ نشانه‌ای از هدف‌گیری عمدی یا هماهنگی قبلی مشاهده نشده است.

تنسنت در بیانیه‌ای در شبکه اجتماعی ایکس اعلام کرد: «ما در حال تقویت کنترل‌های دسترسی شبکه و تشدید نظارت بر عملکرد ایجنت‌ها هستیم.»

این واکنش پس از آن صورت گرفت که گروهی از محققان بین‌المللی در گزارشی نتایج بررسی‌های خود را منتشر کردند. بر اساس این گزارش، ناوگانی از ایجنت‌های هوش مصنوعی فعال روی سرویس ابری تنسنت (Tencent Cloud)، بین ۷ تا ۱۷ مهر (۲۸ سپتامبر تا ۸ اکتبر) بیش از ۲۶۰۰ بار برای استخراج داده از سرویس نقشه Amap (متعلق به علی‌بابا) تلاش کرده بودند.

مأموریت‌های محول‌شده به این ایجنت‌ها شامل پاسخ به پرسش‌هایی درباره مکان‌های مختلف در چین بود؛ برای نمونه اینکه اغلب کاربران برای مسیریابی به سمت کدام ورودی باغ‌وحش از سرویس Amap استفاده می‌کنند. به گفته پژوهشگران، پس از آنکه سرویس نقشه علی‌بابا دسترسی این ایجنت‌ها را مسدود کرد، آنها برنامه‌های اختصاصی خود را از طریق وب‌سایت urlquery.net (یک سرویس عمومی اسکن امنیتی) به اجرا درآوردند. علاوه بر این، ایجنت‌ها توکن‌های تولیدشده توسط کتابخانه‌های ضدربات علی‌بابا را رهگیری کردند، سرورهای پیش‌تولید را مورد بررسی قرار دادند و با استفاده از کلیدهای API افشاشده Amap در کدهای عمومی، درخواست‌های جدیدی فرستادند.

محققان اعلام کردند که اگرچه بیشتر این تلاش‌ها با شکست مواجه شد، اما در برخی موارد داده‌های مدنظر ایجنت‌ها با موفقیت استخراج شده است. با این حال، شواهدی مبنی بر نفوذ ایجنت‌ها به سیستم‌های خصوصی یا دسترسی غیرمجاز به اطلاعات حساس به دست نیامده و هیچ‌یک از برنامه‌های ردیابی‌شده نتوانسته‌اند کنترل سیستم ضدربات علی‌بابا را در دست بگیرند. در مورد بخشی از نتایج مربوط به باغ‌وحش چنگدو، پژوهشگران اظهار داشتند که نمی‌توان با قاطعیت مشخص کرد آیا ایجنت داده‌ها را به درستی بررسی کرده و مأموریت خود را به پایان رسانده است یا خیر.

تیم پژوهشگران اشاره کردند که پیش از انتشار عمومی گزارش، پرسش‌هایی را برای تنسنت ارسال کرده بودند اما تا زمان انتشار، پاسخی رسمی دریافت نکردند. با این وجود، فردی نزدیک به تنسنت به آنها اطلاع داده بود که این ایجنت‌ها مربوط به آزمایش‌های یک تیم ارزیابی تحقیقاتی در تنسنت بوده‌اند که کاملاً مستقل از تیم مدل‌های Hy فعالیت می‌کند. طبق این گزارش، منبع مذکور تأکید کرده که این ایجنت‌ها بر پایه مدل‌های شخص ثالث ساخته شده بودند و این پروژه ماهیتی موقت داشته و اکنون به پایان رسیده است.

شرکت علی‌بابا از اظهارنظر درباره این ماجرا خودداری کرده است. با این حال، به نظر می‌رسد این رویداد نخستین باری باشد که یک شرکت فناوری پیشروی چینی رسماً وقوع رفتارهای سرکشانه و غیرقابل‌پیش‌بینی را در ایجنت‌های هوش مصنوعی خود تأیید می‌کند.