پروژه TypeLLM خروجی بدون خطای JSON در مدلهای زبانی را تضمین میکند

ادغام JSON Schema در فرایند رمزگشایی مدل‌های زبانی با TypeLLM

ابزار TypeLLM با اعمال محدودیت بر فرایند انتخاب توکن‌ها، شرایطی را فراهم می‌کند تا مدل‌های زبانی (LLM) مقادیر منطقی (boolean)، اعداد، رشته‌های متنی و مقادیر شمارشی (enum) را دقیقاً منطبق با زیرمجموعه‌ای پشتیبانی‌شده از JSON Schema تولید کنند. این پروژه متن‌باز با مجوز Apache-2.0، یک سرور SGLang را با کلاینت Python ترکیب کرده و از امکان استدلال اختیاری پیش از ارائه پاسخ نهایی ساختاریافته پشتیبانی می‌کند.

تولید ساختارهای معیوب JSON، مقادیر نامعتبر enum و قالب‌های ناسازگار داده‌ها معمولاً توسعه‌دهندگان را ناچار می‌کند تا منطق پیچیده‌ای برای تجزیه (Parsing)، اصلاح خطا و ارسال درخواست‌های مجدد پیاده‌سازی کنند. در مقابل، ابزار TypeLLM ساختار داده‌های اعلام‌شده را در زمان تولید تضمین کرده و مقادیر خروجی Python را مستقیماً برای استفاده در کد برنامه بازمی‌گرداند. این تضمین بر ساختار داده‌ها و مقادیر مجاز حاکم است؛ هرچند صحت اطلاعات ارائه‌شده همچنان به ظرفیت مدل و نحوه پرامپت‌نویسی وابسته خواهد بود.

تبدیل نوع داده‌ها به قواعد رمزگشایی

توسعه‌دهندگان زمینه (Context) مشترک را تعریف کرده و فیلدهای مورد نیاز خود را مشخص می‌سازند. در هر مرحله از فرایند رمزگشایی، سرور فضای واژگان (Vocabulary) در دسترس را تنها به توکن‌هایی محدود می‌کند که می‌توانند مقداری معتبر بر اساس نوع داده اعلام‌شده ایجاد کنند.

فیلدهای boolean و enum امکان تولید گزینه‌های تعریف‌نشده را ندارند که این امر دسته‌ای کامل از خطاهای اعتبارسنجی را در سیستم‌های زیرین برطرف می‌کند. همچنین رشته‌های متنی باز و اعداد ضمن پیروی از قوانین نوع داده خود، انعطاف‌پذیری طول متغیر را حفظ می‌کنند.