کشف یک «ناوگان مرموز از ایجنت‌های هوش مصنوعی» در چین؛ وقتی ربات‌ها نقشه علی‌بابا را زیر و رو می‌کنند!

ناوگان تازه‌ای از ایجنت‌های هوش مصنوعی سر و صدای جدیدی در فضای اینترنت به پا کرده‌اند. روز یکشنبه، گروهی از پژوهشگران مستقل یافته‌های اولیه خود را درباره این ایجنت‌ها منتشر کردند؛ بررسی‌هایی که نشان می‌دهد این ربات‌های نرم‌افزاری ظاهراً روی زیرساخت‌های ابری غول فناوری چینی، یعنی شرکت تنسنت (Tencent) اجرا می‌شوند و سرویس نقشه اختصاصی علی‌بابا به نام Amap را هدف گرفته‌اند.

با این حال، محققان تمایلی ندارند از واژه «کلونی هماهنگ» یا ازدحام (Swarm) برای توصیف این پدیده استفاده کنند؛ چرا که بررسی‌ها نشان می‌دهد هماهنگی معناداری بین درخواست‌های مختلف این برنامه‌ها وجود ندارد. یکی از این پژوهشگران در گزارش اولیه خود توضیح می‌دهد: «این پدیده را باید یک ناوگان ایجنتی (Agent fleet) نامید، نه یک کلونی هماهنگ؛ تعداد زیادی ایجنت هوش مصنوعی که به‌طور کاملاً موازی روی یک وظیفه مشخص کار می‌کنند، بدون اینکه هیچ نشانه‌ای از برقراری ارتباط یا رد و بدل کردن پیام میان آن‌ها دیده شود.»

این ایجنت‌ها از طریق پایش و رصد مداوم ترافیک ورودی به سرویس اسکن دامنه به نام URLquery به دام افتادند؛ تکنیکی کاربردی که پیش‌تر هم فعالیت‌های طولانی‌مدت و پنهان ایجنت‌های شرکت OpenAI را لو داده بود. ایجنت‌های هوش مصنوعی معمولاً برای بارگذاری و خواندن صفحات وب‌سایت‌هایی که دسترسی مستقیم به آن‌ها ندارند، از URLquery استفاده می‌کنند؛ موضوعی که ردپای فعالیت آن‌ها را روی این سرویس به جا می‌گذارد و داده‌های فوق‌العاده باارزشی در اختیار پژوهشگران امنیتی قرار می‌دهد.

در این پرونده خاص، گزارش‌های ثبت‌شده نشان داد که این ایجنت‌ها مدام در حال ارسال درخواست به سرویس نقشه Amap علی‌بابا بوده‌اند تا مسیرهای دسترسی به ورودی‌های گوناگون اماکن عمومی پررفت‌وآمد، از جمله یک پارک بزرگ، باغ‌وحش و بیمارستان را جمع‌آوری و استخراج کنند.

تحقیقات روی این ماجرا همچنان ادامه دارد و هنوز جزئیات کاملی فاش نشده است، اما این رفتار به خوبی نشان می‌دهد که فعالیت ایجنت‌های هوش مصنوعی چقدر در فضای وب پرتکرار، پیوسته و جاافتاده شده است. بعد از ماجرای رخ‌داده در پلتفرم Hugging Face، حالا محققان امنیتی متعددی با دقت بالا در حال ردیابی ردپای ایجنت‌های سرخود و ناشناس در سراسر وب هستند. البته کشف بخش زیادی از این فعالیت‌ها کار چندان سختی نبوده، چون این ایجنت‌ها معمولاً از الگوها و تکنیک‌های یکسانی استفاده می‌کنند و زحمت چندانی هم برای پنهان کردن هویت خود به خرج نمی‌دهند.

در این مورد مشخص، به نظر نمی‌رسد این ایجنت‌ها کار مخرب یا خطرناکی فراتر از دور زدن قوانین و محدودیت‌های معمول API علی‌بابا انجام داده باشند؛ اما واقعیت این است که شاید همیشه تا این حد خوش‌شانس نباشیم و رفتارهای بعدی این ایجنت‌های خودمختار اهداف پیچیده‌تری را دنبال کنند.