شاهکار ارتش ۲۰۰۰ ایجنتی پرایم اینتلکت؛ بازنویسی پرایم ایجنت با زبان راست و سرعت ۱۳ برابری!

بازنویسی پرایم ایجنت با زبان راست به دست ارتش ۲۰۰۰ ایجنتی

استارتاپ پرایم اینتلکت (Prime Intellect) با استفاده از فریم‌ورک اختصاصی ایجنت‌های خود، یک مأموریت دوهفته‌ای راه انداخت تا ابزار پرایم ایجنت (Prime Agent) را از زبان تایپ‌اسکریپت به زبان پرسرعت راست (Rust) بازنویسی کند. فایل باینری به‌دست‌آمده خیلی سریع‌تر اجرا می‌شود، حافظه بسیار کمتری مصرف می‌کند و حالا رسماً به‌عنوان نسخه اصلی و پایدار این ابزار متن‌باز کدنویسی منتشر شده است.

«بازنویسی خودکار» با چارچوب‌ها و مرزهای مشخص

پرایم ایجنت یک فریم‌ورک کدنویسی با لایسنس MIT است که معماری زمان اجرای آن به مدل اجازه می‌دهد هنگام انجام تسک، چارچوب و ابزار‌های خودش را بررسی کرده و تغییر دهد. همچنین یک هسته پایدار IPython وضعیت تسک را در طول مراحل ذخیره می‌کند تا وابستگی ایجنت به ابزار‌های دستی و ازپیش‌تعریف‌شده کم‌تر شود.

وقتی پرایم اینتلکت از عبارت «بازنویسی خودکار» صحبت می‌کند، منظورش این است که مراحل برنامه‌ریزی، پیاده‌سازی، بازبینی کد، تست و بهینه‌سازی کاملاً بر عهده ایجنت‌ها بوده است. با این حال، تعیین هدف اصلی مهاجرت، قوانین مدیریت ایجنت‌ها، زیرساخت سندباکس‌ها، بنچمارک‌ها و فیلترهای تأیید نهایی را خود مهندسان شرکت فراهم کرده بودند؛ نکته‌ای که در ارزیابی میزان استقلال واقعی این ایجنت‌ها نقشی کلیدی دارد.

پوشش سرتاسری پروژه با زبان راست

این بازنویسی همه‌جانبه تمام بخش‌های پروژه را در بر گرفته است؛ از حلقه اجرای ایجنت، رابط ترمینال و سرویس دیمون گرفته تا مدیریت هسته پردازشی، کاتالوگ مدل‌ها، تله‌متری، نقطه ورود خط فرمان (CLI) و پروتکل ACP برای ادغام کلاینت‌ها. تیم پرایم اینتلکت پیاده‌سازی پروژه را در ۹ پکیج مجزا (Crate) با مرزهای وابستگی مشخص تقسیم کرد:

• pa-core: موتور اصلی مدیریت نشست‌ها (Sessions).
• pa-daemon: مدیریت ناظر سیستم و ورکر‌های مربوط به هر نشست.
• pa-tui: رابط کاربری ترمینال مبتنی بر کتابخانه Ratatui.
• pa-ai: لایه ارتباط با ارائه‌دهندگان مدل‌های هوش مصنوعی.
• pa-agent: مسئول اجرای حلقه اصلی ایجنت.
• pa-models: نگهداری و به‌روزرسانی کاتالوگ مدل‌های فعال.
• pa-cli: نقطه ورود اجرای فایل باینری و دستورات ترمینال.
• pa-types: تعریف تایپ‌ها و پروتکل‌های مشترک ارتباطی.
• pa-telemetry: مدیریت گزارش‌گیری و رهگیری رویدادها.

این تفکیک دقیق کریت‌ها به کامپایلر سخت‌گیر زبان راست اجازه می‌دهد تغییرات پروتکل‌های مشترک بین کلاینت، دیمون و ورکرها را به‌دقت بررسی کند. به این ترتیب احتمال خطاهایی که در آن یک بخش پیام را با ساختار جدید می‌فرستد و بخشی دیگر منتظر ساختار قدیمی است، عملاً به صفر می‌رسد.

چهار فیلتر سخت‌گیرانه برای کنترل هر تسک

در این فرآیند، یک ایجنت ریشه (Root Agent) وظیفه داشت کل فرآیند مهاجرت را به نمودار وابستگی‌ها (Dependency Graph) بشکند، کار‌ها را بین بقیه تقسیم کند و وضعیت تکمیل آن‌ها را زیر نظر بگیرد. هر وظیفه پس از تعریف، باید از یک چرخه چهارمرحله‌ای مشخص عبور می‌کرد:

1. برنامه‌ریز (Planner): رویکرد پیاده‌سازی و کامپوننت‌های تحت‌تأثیر را مشخص می‌کرد.
2. پیاده‌ساز (Implementer): کدهای لازم را می‌نوشت و خطاهای احتمالی را رفع می‌کرد.
3. بازبین (Reviewer): تغییرات پیشنهادی را به صورت مستقل بررسی و بازخوانی می‌کرد.
4. راستی‌آزما (Verifier): تغییرات اعمال‌شده را در یک محیط ایزوله تازه (Prime Sandbox) تست و اجرا می‌کرد.

به محض اینکه پیش‌نیازهای یک تسک تکمیل می‌شد، ایجنت‌ها می‌توانستند آن را به صورت موازی پیش ببرند. اگر کدی در تست‌ها رد می‌شد، دوباره به مرحله پیاده‌سازی برمی‌گشت و کدهای موفق هم پیش از ادغام نهایی، به تأیید بازبین و راستی‌آزما نیاز داشتند.

علاوه بر این، آزمون‌های تفاضلی (Differential Tests) تضمین می‌کردند که رفتار نسخه جدید راست مو‌به‌مو با نسخه قبلی تایپ‌اسکریپت مطابقت داشته باشد. در این آزمون‌ها سناریوهای مشخص روی هر دو نسخه اجرا و نتایج آن‌ها با هم مقایسه می‌شد؛ بررسی‌هایی شامل:

• فریم‌های رندرشده در ترمینال
• متن و لاگ‌های کامل هر نشست
• درخواست‌های ارسالی به ارائه‌دهندگان مدل
• پیام‌های ردوبدل‌شده در پروتکل دیمون
• پوشش کامل تمام قابلیت‌ها در هر دو نسخه

بهینه‌سازی ایجنت‌ها بر اساس معیارهای ثابت

پس از رسیدن به برابری کامل امکانات، ایجنت‌ها دست‌به‌کار شدند و با ابزار‌های بنچمارک زمان اجرا، گلوگاه‌های عملکردی را شناسایی کرده و تغییرات لازم برای بهبود سرعت را پیشنهاد دادند. هر پیشنهاد بهینه‌سازی تنها در صورتی تأیید و جایگزین می‌شد که هم تست‌های انطباق را با موفقیت پشت سر بگذارد و هم تأییدیه مستقل دریافت کند؛ رویکردی که جلوی تغییر رفتار برنامه به بهانه افزایش سرعت را می‌گرفت.

بخش عمده بهبود عملکرد با حذف کار‌های اضافی در مسیر راه‌اندازی و رندر، و آزادسازی سریع حافظه پس از بارگذاری نشست‌های سنگین به دست آمد. بر اساس گزارش پرایم اینتلکت، دستاوردهای این بازنویسی عبارتند از:

معیار «زمان آماده‌به‌کار شدن برای دریافت ورودی» نشان می‌دهد ترمینال با چه سرعتی آماده تعامل و تایپ کاربر می‌شود. البته این درصدها و مقایسه‌ها حاصل بنچمارک‌های داخلی شرکت پرایم اینتلکت است و هنوز توسط مراجع مستقل بازتولید نشده؛ بنابراین عواملی مثل سخت‌افزار، سیستم‌عامل، وضعیت حافظه کش و نوع کاربری می‌تواند نتایج متفاوتی رقم بزند.

نسخه جدید راست حالا از نصب بومی روی ویندوز به صورت بتا هم پشتیبانی می‌کند. کاربران مک نیز می‌توانند از طریق هوم‌برو (Homebrew) آن را نصب کنند و شیوه نصب قبلی با اسکریپت شل نیز همچنان در دسترس است.

تست‌های تطبیقی و چالش‌های حل‌نشده در گوشه و کنار

جالب اینجاست که در گیت‌هاب پروژه، حداقل یک ایشوی بسته‌شده وجود دارد که نسبت به افت کیفیت تجربه کاربری، عملکرد و هماهنگی در نسخه بازنویسی‌شده انتقاد کرده است. تست‌های مقایسه‌ای خودکار فقط می‌توانند سناریوهایی را که برایشان کد نوشته شده بررسی کنند، در حالی که تعاملات آزادانه با ترمینال، ویژگی‌های خاص سیستم‌عامل‌ها و جزئیات ظریف رابط کاربری ممکن است هنوز با نسخه جاافتاده تایپ‌اسکریپت فاصله داشته باشد.

از طرفی، این عملیات بزرگ بیش از ۲۰۰ میلیارد توکن هوش مصنوعی و ظرفیت عظیمی از زیرساخت سندباکس مصرف کرده است. پرایم اینتلکت تعداد توکن‌ها را اعلام کرده اما هزینه دلاری آن را مخفی نگه داشته؛ موضوعی که مقایسه هزینه این پروژه با استخدام یک تیم مهندسی سنتی یا تیمی کوچک‌تر از ایجنت‌ها را دشوار می‌کند.

الگوی کاری؛ دستاورد واقعی و قابل استفاده برای همه

مهاجرت موفق پرایم ایجنت الگویی شفاف و عملی برای بازنویسی‌های بزرگ با هوش مصنوعی ترسیم می‌کند: تقسیم پروژه به نمودار وابستگی‌ها، ایزوله‌سازی محیط‌های اجرا، بازبینی مستقل، مقایسه جزءبه‌جزء رفتار قدیم و جدید، و پذیرش بهینه‌سازی‌ها تنها پس از قبولی در آزمون‌های پسرفت (Regression Tests). این فیلترهای عینی به‌ویژه در مهاجرت بین زبان‌های برنامه‌نویسی حیاتی هستند؛ جایی که کد ممکن است بدون خطا کامپایل شود اما در رفتار پروتکل یا خروجی دیداری تفاوت داشته باشد.

پرایم اینتلکت اعلام کرده قصد دارد این الگوهای هماهنگی ایجنت‌ها را به ماشین‌های وضعیت چندبارمصرف داخل خود پرایم ایجنت تبدیل کند. با این کار، توسعه‌دهندگان می‌توانند بسته به بودجه محاسباتی، تست‌ها و زیرساخت سندباکس خود، همین چهار مرحله برنامه‌ریز، پیاده‌ساز، بازبین و راستی‌آزما را روی پروژه‌های خود پیاده کنند.

کاربران فعلی می‌توانند با دستور prime-agent update ابزار خود را به نسخه راست ارتقا دهند. راهنمای نصب جدید و دستورالعمل‌های مخصوص هر پلتفرم نیز در یادداشت‌های انتشار در دسترس است. مخزن این پروژه در حال حاضر بیش از ۱۸٫۱ هزار ستاره و ۲ هزار فورک در گیت‌هاب دارد.