تبدیل تصمیم‌گیری ایجنت‌ها به جست‌وجوی برداری؛ مدل CLM پژوهشگران Stanford استنتاج را ۹ برابر سریع‌تر می‌کند

تبدیل تصمیم‌گیری ایجنت‌ها به جست‌وجوی برداری با CLM

آزمایشگاه هوش مقیاس‌پذیر Stanford (Scaling Intelligence Lab) و گروه Hazy Research مخزن کد، وزن‌ها، زیرساخت سرویس‌دهی و کتابخانه‌های کلاینت مدل CLM را به‌طور عمومی منتشر کردند. مدل‌های زبانی کنتراستیو (Contrastive Language Models یا به‌اختصار CLM) وضعیت فعلی (State) ارائه‌شده را در فضای امبدینگ در برابر مجموعه‌ای محدود از اکشن‌های کاندید ارزیابی و امتیازدهی می‌کنند و سپس اکشنی را که بیشترین ضرب داخلی (Dot Product) را داشته باشد برمی‌گزینند. این ساختار به‌طور ویژه برای مسیریابی ابزارها، اعتبارسنجی خروجی‌ها، تعامل با کامپیوتر (Computer Use) و سایر مراحل کاری ایجنت‌ها طراحی شده است که در آن‌ها خروجی نهایی یک انتخاب محدود و مشخص است.

نسخه اولیه CLM-8B بر پایه مدل منجمدشده Qwen3-8B (به‌عنوان ستون فقرات) و دو هد نگاشت (Projection Head) کوچک توسعه یافته است. پژوهشگران گزارش داده‌اند که نرخ موفقیت این مدل در ارزیابی‌های Zero-shot با مدل مبنای Jev برابری می‌کند، در حالی که سرعت استنتاج آن تا ۹ برابر بیشتر است. پس از فاین‌تیونینگ اختصاصی، CLM موفق شد در زیرمجموعه‌ای متشکل از ۳۸ تسک بنچمارک DeepSWE به دقت ۸۱٫۶ درصد و در ۳۰ تسک بنچمارک Terminal-Bench 2.1 به دقت ۸۷٫۶ درصد برسد. البته این نتایج کدنویسی، توانایی مدل در انتخاب بهترین راه‌حل از میان گزینه‌های تولیدشده توسط سایر مدل‌ها را می‌سنجد و اندازه کوچک مجموعه‌های ارزیابی نیازمند احتیاط در تحلیل نتایج است.

تصمیم‌گیری تک‌مرحله‌ای در میان گزینه‌های محدود

پژوهشگران CLM را یک مدل «سیستم ۱» (System 1) توصیف می‌کنند؛ اصطلاحی که به سازوکار تصمیم‌گیری سریع و تک‌مرحله‌ای اشاره دارد. خروجی این مدل، رتبه‌بندی کاندیداهای مشخص‌شده است و همین ویژگی آن را به گزینه‌ای ایده‌آل برای طبقه‌بندی‌کننده‌ها، مسیریاب‌ها و اعتبارسنج‌های تعبیه‌شده در حلقه‌های اجرایی ایجنت‌ها تبدیل می‌کند.

چک‌پوینت این مدل، ستون فقرات تثبیت‌شده Qwen3-8B را با دو هد نگاشت مجزای ۲۰ میلیون پارامتری برای وضعیت‌ها (States) و اکشن‌ها (Actions) ترکیب می‌کند. در فرایند آموزش، این هدها به‌روزرسانی می‌شوند در حالی که مدل زبانی اصلی دست‌نخورده باقی می‌ماند. هنگام استنتاج نیز هر وضعیت یا اکشن جدید تنها یک بار انکود می‌شود، به یک فضای برداری مشترک نگاشت می‌یابد و از طریق ضرب داخلی مورد مقایسه قرار می‌گیرد.

در سناریوهایی که یک ایجنت به‌طور مکرر از ابزارها، المان‌های رابط کاربری یا حرکت‌های مشخص در بازی استفاده می‌کند، بردارهای اکشن را می‌توان از پیش محاسبه کرد. گرچه هزینه امتیازدهی با افزایش تعداد کاندیداها رشد می‌کند، اما هر مقایسه اضافه در عمل تنها یک عملیات برداری بسیار سبک و کم‌هزینه خواهد بود.

دستورالعمل آموزش سه‌مرحله‌ای

مدل CLM از تابع هدف دوطرفه InfoNCE روی دسته‌هایی از جفت‌های منطبق «وضعیت-اکشن» بهره می‌برد. این تابع زیان، شباهت میان هر جفت صحیح را افزایش داده و شباهت آن با سایر نمونه‌های موجود در دسته را کاهش می‌دهد. همین فرایند به‌صورت معکوس نیز اعمال می‌شود تا هم وضعیت‌ها برای بازیابی اکشن‌ها و هم اکشن‌ها برای بازیابی وضعیت‌ها بهینه‌سازی شوند.