مدل ۳۴۰ میلیونی GLiNER2.5-Decide معرفی شد؛ مسیریابی سریع و ساختاریافته در ایجنت‌های هوش مصنوعی

دسته‌بندی‌کننده ۳۴۰ میلیونی Fastino برای تصمیم‌گیری ایجنت‌ها

آزمایشگاه Fastino مدل GLiNER2.5-Decide را منتشر کرده است؛ یک طبقه‌بندی‌کننده وزن‌باز (Open-weight) با ۳۴۰ میلیون پارامتر که به‌طور ویژه برای تصمیم‌گیری‌های مکرر در جریان‌های کاری ایجنت‌های هوش مصنوعی توسعه یافته است. این مدل متن ورودی را همراه با شمایی از وظایف دسته‌بندی نام‌گذاری‌شده دریافت می‌کند و خروجی‌های ساختاریافته را تنها در یک مرحله پردازش مستقیم (Forward Pass) ارائه می‌دهد. بر اساس گزارش‌های منتشرشده، پاسخ‌های این مدل می‌توانند شامل احتمالات، امتیازات اطمینان و متادیتایی باشند که نشان می‌دهد آیا محدودیت‌های درخواستی برآورده می‌شوند یا خیر.

یک بار پردازش انکودر کل ورودی را می‌خواند و به برچسب‌های ارائه‌شده بدون نیاز به تولید توکن به توکن امتیاز می‌دهد. این نوع طراحی برای عملیات‌های پرتکرار مانند مسیریابی درخواست‌ها، انتخاب ابزارها، اعمال سیاست‌های نظارتی و تعیین زمان مداخله انسان بهینه‌سازی شده است. خروجی این مدل صرفاً به طبقه‌بندی محدود است؛ بنابراین ارائه پاسخ‌های با پایان باز، توضیحات تحلیلی و گفتگوها در حیطه وظایف این مدل قرار نمی‌گیرد.

ارسال پویای برچسب‌ها با هر درخواست

مدل GLiNER2.5-Decide از انکودر DeBERTa-v3-large قدرت می‌گیرد و بر پایه نسخه gliner2-large-v1 فاین‌تیون شده است. معماری DeBERTa نوعی انکودر است که نمای کلی و کاملی از سراسر ورودی می‌سازد و به یک هِد امتیازدهی کوچک امکان می‌دهد تا مستقیماً به هر برچسب پیشنهادی نمره دهد.

فرمت ارسال درخواست، وظیفه و برچسب‌های کاندید را پیش از متن اصلی قرار می‌دهد:

[P] task [L] label1 [L] label2 ... [SEP] text

هر نشانگر [L] یک برچسب را معرفی می‌کند که هِد امتیازدهی آن را در بستر متن مورد ارزیابی قرار می‌دهد. برچسب‌ها در زمان فراخوانی کاملاً پویا و منعطف هستند؛ در نتیجه، برنامه بدون نیاز به بازآموزی مدل می‌تواند دسته‌های خود را تغییر دهد.

همچنین امکان اجرای هم‌زمان چند هِد دسته‌بندی در یک فراخوانی وجود دارد؛ هِد تک‌برچسبی رشته دارای بالاترین امتیاز را خروجی می‌دهد، در حالی که هِد چندبرچسبی تمامی برچسب‌های بالاتر از آستانه تعیین‌شده را بازمی‌گرداند.

from gliner2 import AutoExtractor

model = AutoExtractor.from_pretrained(\"fastino/GLiNER2.5-Decide\")

model.classify_text(
    \"From: compliance@group.example\
Subject: Protocol update - action required today\",
    {
        \"intent\": [\"fyi\", \"request\", \"approval\", \"complaint\", \"security_alert\"],
        \"urgency\": [\"low\", \"normal\", \"high\", \"critical\"],
        \"route\": [\"support\", \"billing\", \"legal\", \"security\", \"finance\"],
    },
)

# {\"intent\": \"request\", \"urgency\": \"high\", \"route\": \"legal\"}