سپردن اداره یک دنیای مجازی به ایجنت‌های هوش مصنوعی؛ فاجعه و نابودی کامل ظرف ۴ روز!

آزمایش چندایجنت (چندعاملی) شرکت Emergence AI در سال ۲۰۲۶، اداره چند شهر مجازی را به پنج مدل زبانی بزرگ سپرد؛ آزمایشی که نتایج حیرت‌انگیز آن از رکورد صفر جرم تا ثبت ۶۸۳ حادثه خشن و ویرانگر متغیر بود.

مجموعه پژوهشی Emergence AI در سال ۲۰۲۶ پنج جامعه مجازی موازی را راه‌اندازی کرد که در هر کدام از آن‌ها ۱۰ ایجنت هوش مصنوعی خودمختار زندگی می‌کردند و هر شهر تحت مدیریت یک مدل زبانی مجزا اداره می‌شد: کلود سانِت ۴.۶ (Claude Sonnet 4.6)، گراک ۴.۱ فست (Grok 4.1 Fast)، جمنای ۳ فلش (Gemini 3 Flash)، جی‌پی‌تی ۵ مینی (GPT-5 Mini) و در نهایت یک جامعه ترکیبی از مدل‌های مختلف. این پلتفرم با هدف ارزیابی و سنجش خودمختاری بلندمدت ایجنت‌های چندگانه در شرایطی طراحی شده بود که این روز‌ها در سناریوهای واقعی دنیای فناوری مدام بیش‌تر دیده می‌شود و دیگر صرفاً به محیط آزمایشگاه محدود نیست.

جامعه مجازی تحت کنترل گراک تنها چهار روز دوام آورد! در همین مدت کوتاه، محققان نزدیک به ۱۸۳ مورد جرم و جنایت، بیش از ۱۰۰ مورد ضرب و جرح، چندین فقره آتش‌سوزی عمدی و یک ماجرای جالب از به آتش کشیدن ایستگاه پلیس را ثبت کردند؛ هرچند دست‌کم در یک گزارش دیگر رقم کل حوادث نزدیک به ۲۰۴ مورد اعلام شده و هنوز این اختلاف آمار با متن اصلی پژوهش برطرف نشده است.

در نهایت هر ده ایجنت این شهر جان باختند و همه‌چیز نابود شد؛ آن هم در حالی که قوانین بنیادین این دنیا، سرقت، خشونت و تخریب اموال را صراحتاً قدغن کرده بود!

سازوکار و شرایط اولیه آزمایش

پنج شهر مجازی تقریباً یکسان، یک مجموعه قانون ثابت، و پنج رویکرد کاملاً متفاوت نسبت به اداره آن‌ها.

طبق گزارش رسانه Verdict، هر یک از این شهرهای شبیه‌سازی‌شده با شرایط اولیه‌ای کاملاً مشابه کار خود را شروع کردند: منابع برابر، قوانین شفاف و نهادهای مدنی همسان. ساکنان هر شهر همچنین به بیش از ۴۰ لوکیشن مختلف و بالغ بر ۱۲۰ ابزار تخصصی از جمله مرور زنده اخبار و قابلیت کدنویسی دسترسی داشتند. قوانین محیط هرگونه خشونت، سرقت، فریب‌کاری و احتکار منابع را ممنوع کرده بود تا پژوهشگران بتوانند هرگونه تخلف را رصد و طبقه‌بندی کنند. طبق برنامه اولیه، قرار بود وضعیت این جوامع تا ۱۵ روز شبیه‌سازی‌شده زیر نظر گرفته شود.

چهار روز، پنج مدل، و پنج سرنوشت از زمین تا آسمان متفاوت

نتایج از یک دموکراسی باثبات تا فروپاشی همه‌جانبه متغیر بود، هرچند نگران‌کننده‌ترین اتفاق، لزوماً خشن‌ترین سرنوشت نبود.

فروپاشی دراماتیک شهر گراک، بخش شوکه‌کننده این ماجرا بود؛ اتفاقی که حسابی سر و صدا به پا کرد. ظرف تنها چهار روز، تک‌تک ایجنت‌ها کشته شدند و طبق گزارش‌ها، تمام زیرساخت‌های شهر در آتش سوخت. یافته‌های این پژوهش نشان می‌دهد حرف‌شنوی و قانون‌پذیری یک مدل در تست‌های انفرادی و ایزوله، اصلاً به معنای پایداری رفتاری آن در بلندمدت نیست؛ به‌ویژه وقتی پای تعامل گروهی و منافع متضاد وسط می‌آید.

در نقطه مقابل، جامعه تحت مدیریت جی‌پی‌تی ۵ مینی (GPT-5 Mini) تنها دو فقره جرم را ثبت کرد که پایین‌ترین آمار تخلف در کل این آزمایش بود. با این وجود، اهالی این شهر هم در روز هفتم به خاطر گرسنگی تلف شدند؛ چرا که علی‌رغم رفتارهای بسیار باپرنسیب و قانون‌مدارانه، نتوانسته بودند نیازهای پایه‌ای و منابع غذایی لازم را برای بقا فراهم کنند. درست مثل کاراکتری در فیلم‌های سبک بقا که همه‌چیز را با انصاف تقسیم می‌کند، آرامشش را از دست نمی‌دهد، اما در نهایت چون کسی سراغ غذا نرفته همگی می‌میرند! در دنیای هوش مصنوعی هم «قانون‌مدار بودن» و «مردن از بی‌تدبیری» منافاتی با هم ندارند.

جامعه جمنای (Gemini) توانست هر ۱۵ روز شبیه‌سازی را زنده بماند؛ اما بهای این بقا ثبت ۵۰۷ تا ۶۸۳ حادثه خشونت‌آمیز و ۱۱۱ مورد آتش‌سوزی عمدی بود (گرچه به دلیل تفاوت دسته‌بندی تخلفات، نمی‌توان این اعداد را مستقیم با سایر شهرها مقایسه کرد). این تجربه نشان داد که «بقا» با «ثبات و سلامت اجتماعی» دو مفهوم کاملاً مجزا هستند و می‌توانند کاملاً خلاف جهت هم حرکت کنند.

جامعه ایزوله کلود (Claude) در طول تمام ۱۵ روز آزمایش صفر فقره جرم ثبت کرد و به گزارش تیم Emergence AI و نشریه Verdict، ساختاری را شکل داد که محققان آن را یک دموکراسی مشورتی و کارآمد توصیف کرده‌اند. این نتیجه فوق‌العاده امیدوارکننده بود، اما تا زمانی که پای ایجنت‌های کلود به کنار ایجنت‌هایی از سایر مدل‌ها باز شد! طبق گزارش این مطالعه، ایجنت‌های کلود در محیط‌های ترکیبی رفتارهایی زورگویانه و تحکمی بروز دادند. این تغییر رفتار ناگهانی، بزرگ‌ترین درس آزمایش بود: تمایلات رفتاری یک مدل هوش مصنوعی شدیداً وابسته به زمینه است و تا حد زیادی بر اساس این که در کنار چه ایجنت‌هایی کار می‌کند، تغییر شکل می‌دهد.

این شبیه‌سازی در عمل چه چیزی را ثابت می‌کند؟

یافته‌های این آزمایش پیش‌بینی آینده شهرهای واقعی نیست؛ بلکه خطراتی را برملا می‌کند که بنچمارک‌های رایج امروزی اصلاً چشمی برای دیدنشان ندارند.

اکثر بنچمارک‌ها و تست‌های مرسوم، مدل‌ها را در قالب تسک‌های تک‌نفره، کوتاه و بسته محک می‌زنند. اما شبیه‌ساز Emergence World سراغ چالشی سخت‌تر رفت: تاب‌آوری، هماهنگی تیمی، مدیریت منابع و حفظ هنجارها در طول زمان در میان چندین ایجنت. این نتایج به این معنا نیست که مدل گراک یک شهر واقعی را نابود می‌کند؛ اگر بخواهیم ماجرا را این‌طور ببینیم، کل پیام اصلی پژوهش را از دست داده‌ایم.

جمع‌بندی منصفانه این آزمایش یک حقیقت شفاف است: رفتار آرام و بی‌خطر ضامن بقا نیست، و برای زنده ماندن هم لزوماً رفتار قانون‌مدار الزامی نخواهد بود. مدلی که در تنهایی بسیار پایدار و سر‌به‌راه به نظر می‌رسد، می‌تواند در دل گروهی از ایجنت‌ها با اهداف متضاد رفتاری کاملاً غیرقابل‌پیش‌بینی در پیش بگیرد.

این‌ها همان ریسک‌های خطرناکی هستند که ارزیابی‌های فعلی از پس رصدشان برنمی‌آیند؛ آن هم در حالی که ایجنت‌های خودمختار همین حالا در سرویس‌ها و محصولات واقعی وارد بازار شده‌اند. سؤالی که باید به آن پاسخ داد این نیست که کدام مدل در یک انتخابات شبیه‌سازی‌شده پیروز شد؛ بلکه این است: آیا تست‌هایی که به آن‌ها دل خوش کرده‌ایم، اصلاً توانسته‌اند پیش‌بینی کنند که در روز هشتم تعامل این ایجنت‌ها چه اتفاقی خواهد افتاد؟