رونمایی از مدل‌های تصمیم‌گیری متن‌باز Kev بر پایه Qwen3

مدل Kev برای پاسخ‌گویی یک‌باره به سوالات ساختاریافته با استفاده از Qwen3

جرد پالمر (Jared Palmer) نسخه جدیدی از مدل Kev را که یک پیاده‌سازی متن‌باز از الگوی مدل تصمیم‌گیری Jev متعلق به شرکت TypeSafe است، در سه اندازه ۰.۶، ۴ و ۸ میلیارد پارامتری بر پایه Qwen3 توسعه داده است. هر یک از این مدل‌ها یک سند و مجموعه‌ای از سوالات ساختاریافته را دریافت کرده و در یک مرحله پیش‌رو (Forward Pass) بدون نیاز به رمزگشایی توکن‌به‌توکن، توزیع احتمالات را برمی‌گردانند.

این طراحی به طور ویژه برای مسیریابی تیکت‌ها، دسته‌بندی اسناد، امتیازدهی ریسک و دیگر گردش‌های کاری با خروجی‌های ساختاریافته و ثابت در نظر گرفته شده است. مدل Kev این وظایف را به عنوان تسک‌های دسته‌بندی (Classification) پردازش می‌کند و از تاخیر و بار پردازشی اضافی ناشی از درخواست از یک مدل هوش مصنوعی مولد برای تولید خروجی JSON جلوگیری می‌کند.

یک مرحله پردازش اولیه و ایزوله‌سازی سوالات

مدل Kev یک آداپتور LoRA و یک هد خوانش (Readout Head) کوچک را به ساختار اصلی Qwen3 اضافه می‌کند. در زمان استقرار، مدل Qwen3 متناظر با آداپتور و هد اختصاصی Kev اجرا می‌شود.

این مدل وضعیت فعلی (مانند یک سند یا تیکت پشتیبانی) و تمام سوالات را در یک توالی از توکن‌ها بسته‌بندی می‌کند. استفاده از یک ماسک توجه بلوک‌علی (Block-causal Attention Mask) به هر سوال اجازه می‌دهد تا به وضعیت اشتراکی توجه کند، اما به طور همزمان توجه بین سوالات موازی را مسدود می‌کند. در نتیجه، مدل می‌تواند تمام سوالات را به صورت موازی و بدون تاثیر یک پاسخ بر دیگری، ارزیابی و امتیازدهی کند.

یک هد اشاره‌گر (Pointer Head) وضعیت پنهان هر گزینه را با یک توکن ویژه <decide> مقایسه می‌کند. سپس تابع Softmax این امتیازات را به یک توزیع احتمال تبدیل کرده و آموزش مبتنی بر آنتروپی متقاطع (Cross-entropy)، خروجی را با نمونه‌های برچسب‌گذاری‌شده همسو می‌کند.

رابط کاربری این مدل از سه طرح و ساختار سوال پشتیبانی می‌کند:

• noul: تصمیم‌گیری به صورت بله یا خیر
• choice: انتخاب از میان ۲ تا ۲۵۵ گزینه
• score: مقیاس‌های مرتب‌شده، مانند امتیازدهی از ۱ تا ۵

هر شاخه از سوالات، شناسه‌های موقعیت خود را پس از اتمام وضعیت اشتراکی مجدداً تنظیم می‌کند؛ بنابراین سوالات اضافه، تنها هزینه‌های مربوط به توکن‌های شاخه و خوانش را به همراه دارند و نیازی به رمزگذاری مجدد سند نیست. زمانی که چندین درخواست به صورت همزمان از یک وضعیت مشترک استفاده می‌کنند، یک حافظه پنهان مبتنی بر کلید-مقدار (Key-Value Cache) می‌تواند آن محاسبات اشتراکی را حفظ کند. بر اساس گزارش‌های منتشرشده، این روش سرعت پردازش را بین ۲ تا ۲.۵ برابر افزایش می‌دهد.