ظهور کلونی‌های هوش مصنوعی؛ قدرت واقعی فناوری در همکاری جمعی مدل‌هاست

با هر بار رونمایی از مدل‌های پیشرو هوش مصنوعی نظیر Mythos متعلق به Anthropic یا Astra از شرکت OpenAI، موج جدیدی از حدس و گمان‌ها درباره میزان نزدیکی به هوش عمومی مصنوعی (AGI) به راه می‌افتد و کارشناسان بررسی می‌کنند که تا رسیدن به این هدف بزرگ چقدر فاصله داریم.

اما چه می‌شود اگر در این هیاهو، نکته‌ای بسیار حیاتی‌تر از ضریب هوشی ادعایی یک مدل به‌صورت منفرد نادیده گرفته شده باشد؟

شرکت OpenAI اخیراً اعلام کرد که یک مدل داخلی و بسیار توانمندتر از GPT-6 Astra موفق شده است معادلات نویر استوکس (Navier-Stokes) را حل کند؛ مسئله‌ای تاریخی و افسانه‌ای در ریاضیات که جایزه‌ای یک میلیون دلاری دارد. در حالی که ریاضی‌دانان پیامدهای این رویداد را برای آینده علم بررسی می‌کنند و سرمایه‌گذاران به ارزیابی تأثیر آن بر عرضه اولیه عمومی سهام (IPO) شرکت OpenAI نشسته‌اند، مهم‌ترین درس این دستاورد این است که قدرت واقعی از خرد جمعی پدیدار می‌شود؛ درست همانند روندی که در طبیعت رخ می‌دهد.

شرکت OpenAI معادلات نویر استوکس را صرفاً با واگذاری مسئله به یک مدل منفرد حل نکرد؛ بلکه دسته‌ای هماهنگ متشکل از ۱۰ هزار ربات هوش مصنوعی را برای حل آن به کار گرفت. این ایجنت‌ها به گونه‌ای هدایت شدند که مسیرهای گوناگون را بررسی کنند و سرنخ‌های امیدوارکننده را در لحظه با یکدیگر به اشتراک بگذارند.

برای درک بهتر این موضوع، تفاوت کارایی یک زنبور عسل یا یک موریانه تنها را با کلونی بزرگ آنها مقایسه کنید؛ یا دستاوردی که یک فرد به‌تنهایی می‌تواند رقم بزند را در برابر ظرفیت عظیم یک ملت در نظر بگیرید.

در زیست‌شناسی، کلونی باکتری‌ها به گروهی از سلول‌های یکسان اطلاق می‌شود که همگی از یک سلول مادر نشأت گرفته‌اند. این مفهوم مناسب‌ترین تمثیل برای مجموعه ایجنت‌هایی است که توانستند نویر استوکس را حل کنند؛ پیدایش انبوهی از دل یک موجود واحد، یا همان‌طور که والت ویتمن تعبیر می‌کند: سامانه‌ای از هوش مصنوعی که جمعی بی‌پایان را در خود جای داده است.

در شرایطی که OpenAI کلونی هوش مصنوعی خود را برای حل معمایی به کار گرفت که هیچ انسان یا مدلی به‌تنهایی قادر به حل آن نبود، پژوهشگران Google DeepMind نیز اخیراً کلونی دیگری از ایجنت‌ها را با هدفی متفاوت با مسائل ریاضی روبرو کردند. آنها در پی آن بودند که رفتارهای درونی شکل‌گرفته میان اعضای کلونی را مشاهده کنند و آنچه به دست آمد حقیقتاً حیرت‌انگیز بود.

یکی از ایجنت‌ها راهی برای تقلب پیدا کرد و نرم‌افزار آزمون را فریب داد تا تصور کند مسئله ریاضی را حل کرده است، در حالی که چنین نبود. این ایجنت به این موفقیت کوچک بسنده نکرد، بلکه به دیگر ایجنت‌ها پیام فرستاد و شیوه تقلب را به آنها آموزش داد. گروهی از ایجنت‌ها به این عامل خطاکار پیوستند و زیرکلونی متقلبان را تشکیل دادند؛ اما در مقابل، دسته‌ای دیگر مقاومت کردند و حتی زیرکلونی افشاگران را برای فاش کردن دست متقلبان به وجود آوردند.

شاید تا پیش از این، بزرگ‌ترین دغدغه اساتید دانشگاه جلوگیری از تقلب دانشجویان به کمک هوش مصنوعی در امتحانات بود؛ اما اکنون این خود هوش مصنوعی است که در امتحانات ریاضی راه تقلب کردن را پیدا کرده و مایه نگرانی شده است!

این ماجرا ما را به بارزترین نمونه از هوش کندویی سامانه‌های هوشمند می‌رساند: نفوذ به سرویس Hugging Face. در این سناریو، ایجنت‌های OpenAI توانستند از محیط آزمایشی ایزوله (سندباکس) خارج شوند و به سیستم‌های شرکتی دیگر نفوذ کنند. این اقدام در دنیای حقوقی یک جرم کیفری سنگین به شمار می‌رفت؛ یا دست‌کم اگر انسانی آن را مدیریت می‌کرد، چنین عنوان اتهامی داشت. ایجنت‌های OpenAI رفتارهای خود را به روش‌هایی زیرکانه هماهنگ کردند؛ از جمله نوشتن پیام‌های مخفی در فایل‌سیستم به طوری که حتی در صورت پاکسازی کلونی فعلی، کلونی بعدی بتواند عملیات نفوذ را دقیقاً از همان نقطه رهاشده پی بگیرد.

پژوهشگران از دیرباز می‌دانستند که رفتارهای پیچیده می‌تواند از دل سیستم‌های رایانه‌ای ساده سر برآورد. به‌عنوان نمونه، در سال ۱۹۷۰ ریاضی‌دانی به نام جان کانوی (John Conway) پروژه «بازی زندگی» (Game of Life) را معرفی کرد؛ پروژه‌ای که در آن مجموعه‌ای بسیار ساده از قوانین حاکم بر حرکت پیکسل‌ها روی صفحه نمایش، به پیدایش اکوسیستم‌هایی فوق‌العاده غنی و پویا منجر می‌شد.

امروز با وجود ایجنت‌های هوش مصنوعی، ما بسیار فراتر از آن الگوهای اولیه رفته‌ایم؛ زیرا موجودیت‌هایی فوق‌العاده پیشرفته را وارد تعاملاتی پیچیده با یکدیگر کرده‌ایم که برای ارتباط، از زبانی غنی و اغلب رمزی و پنهان بهره می‌برند.

به همین دلیل است که باید دیدگاه خود را درباره توانایی‌های هوش مصنوعی دگرگون کنیم. اینکه مدل جدیدی را صرفاً با پرامپت‌های مستقیم بیازماییم تا میزان توانمندی و خطرات آن را بسنجیم، درست مانند آن است که بخواهیم خطر فرو بردن سر در لانه زنبورها را تنها با نیش خوردن از یک زنبور ارزیابی کنیم.

برخی از توسعه‌دهندگان و تیم‌های ارزیابی امنیتی (تیم قرمز) توجه خود را به کلونی‌های هوش مصنوعی معطوف کرده‌اند. نفوذ به پایگاه Hugging Face نیز در پی تلاش OpenAI برای سنجش قابلیت‌های امنیت سایبری یک کلونی از هوش مصنوعی رخ داد. با این حال، مسابقه نفس‌گیر توسعه هوش مصنوعی میان ایالات متحده و چین و همچنین رقابت تنگاتنگ میان شرکت‌های بزرگ در هر کشور، نگاه‌ها را به شکلی خطرناک فقط به توانمندی‌های فردی هر مدل محدود کرده است.

شاید یک مدل بتواند صدر جدول بنچمارک‌ها را تسخیر کند، اما هزار مدل ضعیف‌تر که در قالب یک شبکه فعالیت می‌کنند، می‌توانند آسیبی به‌مراتب ویرانگرتر بر جای بگذارند. در شرایطی که هشدارهای فراوانی برای کنترل شتاب توسعه مرزهای فناوری و مدیریت پیشرفت هوش مصنوعی به گوش می‌رسد، نباید این واقعیت بنیادین را نادیده گرفت که مرز واقعی هوش مصنوعی در آنچه یک مدل به‌تنهایی انجام می‌دهد خلاصه نمی‌شود؛ بلکه در دستاوردهایی نهفته است که کلونی این مدل‌ها در کنار یکدیگر رقم می‌زنند.