شکست ایجنت‌های هوش مصنوعی در ساخت تمدن ماینکرفت به‌دلیل گرفتاری در بروکراسی اداری

پژوهشگران هوش مصنوعی در ycombinator و Olam Labs به‌تازگی دسته‌هایی از ایجنت‌های هوش مصنوعی را در محیط‌های مختلف بازی به بوته آزمایش گذاشتند. بازی ماینکرفت (Minecraft) و حالت‌های متنوع آن، بستری آزمایشی بودند که در آن صدها ایجنت هوش مصنوعی رهاسازی شدند تا در قالب کار گروهی یا رویارویی مستقیم با یکدیگر تعامل کنند. هدف پژوهشگران این بود که همکاری‌ها و تعارض‌های درون بازی، درکی ملموس از رفتار ایجنت‌های هوش مصنوعی در سناریوهای واقعی دنیای فناوری ارائه دهد.

این مطالعه به درک بهتر پیامدهای مثبت و منفی در کاربردهای گروهی هوش مصنوعی کمک می‌کند تا توسعه‌دهندگان بتوانند این فناوری نوظهور را ارتقا دهند. در گزارش این پروژه به دو نمونه متضاد اشاره شده است؛ از یک سو دسته‌های هزارتایی ایجنت‌ها که به‌تازگی صدها مسئله پیچیده ریاضی را حل کردند، و از سوی دیگر رویداد پرخطر امنیتی میان OpenAI و Hugging Face که نگرانی‌هایی به‌همراه داشت. این پژوهش بر پایه دستاوردها و فریمورک‌های پیشین از جمله مخازنی مانند Mindcraft و ابزارهای اسکریپت‌نویسی Mineflayer شکل گرفته است.

پویایی ایجنت‌های چندگانه در ماینکرفت

نخستین مرحله از آزمایش، یک سناریوی همکاری تیمی ساده بود. در این مرحله، پژوهشگران ۵۰ ایجنت را مأمور کردند تا ظرف سه ساعت یک تمدن پویا و شکوفا بنا کنند. در این آزمون مشخصاً ۵۰ ایجنت مبتنی بر GPT-6.1 Sol حضور داشتند و ایجنتی از مدل‌های Claude شرکت داده نشد.

شاید جالب‌ترین یافته در این آزمون که Civ50 نام داشت، این بود که جامعه ۵۰ نفره ایجنت‌ها هرگز به شکوفایی واقعی نرسید. پس از آنکه در شب اول زامبی‌های بازی شمار زیادی از ایجنت‌ها را از پا درآوردند، گزارش شد که بسیاری از وظایف و اهداف بلندپروازانه اولیه به‌کلی به فراموشی سپرده شدند.

از آن نقطه به بعد، اعضای این مستعمره صرفاً رویکردی محتاطانه برای بقا در پیش گرفتند و گرایشی شدید به بروکراسی و ساختارهای فرسایشی اداری نشان دادند. برای نمونه، چهار ایجنت ۱۱ دقیقه تمام وقت صرف کردند تا یک اپراتور اختصاصی کوددهی را فقط برای استفاده از یک واحد پودر استخوان روی یک بوته گندم منصوب کنند. پژوهشگران اشاره کردند که این رفتار جمعی ایجنت‌ها، شباهت عجیبی به الگوهای مشاهده‌شده هنگام کار با ایجنت‌های کدنویسی دارد.

در گام بعدی، محققان تصمیم گرفتند دسته‌های ایجنت‌ها را وارد نبرد و رقابت مستقیم کنند. آن‌ها ابتدا ایجنت‌ها را در حالت Bed Wars آزمودند؛ سبکی تیمی که در آن بازیکنان باید هم‌زمان با دفاع از پایگاه خود، پایگاه حریف را فتح کنند. این رقابت میان ۱۰ ایجنت GPT-6.1 Sol در برابر ۱۰ ایجنت Claude Opus 5.5 برگزار شد.

پژوهشگران گزارش دادند که ایجنت‌های GPT استراتژی‌های بسیار تهاجمی‌تر و دقیق‌تری پیاده کردند، در حالی که ایجنت‌های Claude رویکردی محافظه‌کارانه و تدافعی داشتند. تفاوت رفتار این دو تیم در مواجهه با خطاهای سیستمی نیز جالب توجه بود؛ برای مثال، هنگامی که یک نقص فنی مانع شکستن بلوک‌ها شد، ایجنت‌های GPT با شناسایی ریشه مشکل، راه‌حل‌های جایگزین را میان خود به اشتراک گذاشتند، اما ایجنت‌های Claude به این نتیجه رسیدند که شکستن بلوک اساساً غیرممکن است.

در نهایت، ایجنت‌ها در حالت Mindustry به رقابت پرداختند که سبکی استراتژیک بر پایه دفاع از قلعه و مدیریت منابع در ماینکرفت است. در مجموع ۷ مسابقه، ایجنت‌های GPT توانستند با نتیجه قاطع ۶ بر ۱ حریفان خود در تیم Claude را مغلوب کنند. محققان نتیجه گرفتند که ایجنت‌های GPT مانند یک کندوی یکپارچه و هماهنگ عمل کردند، در حالی که تیم Claude با وجود داشتن یک رهبر واحد، درگیر فرآیندهای رأی‌گیری و تصمیم‌گیری دموکراتیک زمان‌بر بود؛ عاملی که نشان داد در نبردهای هم‌زمان، هماهنگی کندویی برگ برنده اصلی است.

کدهای مربوط به این سیستم‌های چندایجنت به‌صورت متن‌باز منتشر شده است تا پژوهشگران و توسعه‌دهندگان بتوانند آزمون‌های اختصاصی خود را اجرا کنند. این مطالعه مسیر را برای تحقیقات بعدی هموار می‌سازد؛ برای نمونه، مقایسه رفتار ترکیب‌های مختلف مدل‌ها و تغییر ابعاد دسته‌های ایجنت در ماینکرفت می‌تواند داده‌های ارزنده‌ای درباره مدیریت هوش مصنوعی جمعی فراهم کند.