پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

مدل Nimble شرکت Bespoke Labs؛ شکست یک مدل 27B در طبقه‌بندی با استفاده از تنها ۹ میلیارد پارامتر

انتشار:۳۱ شهریور ۱۴۰۵(۶ روز پیش)
۲ دقیقه زمان مطالعه
۰ دیدگاه

استارتاپ Bespoke Labs مدل Nimble را منتشر کرد؛ یک راهکار با وزن‌های باز (open-weight) برای توسعه مدل‌های تصمیم‌گیری نوع‌دار (typed) که از Jev شرکت TypeSafe الهام گرفته است.

مدل Nimble شرکت Bespoke Labs؛ شکست یک مدل 27B در طبقه‌بندی با استفاده از تنها ۹ میلیارد پارامتر

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • استارتاپ Bespoke Labs مخزن متن‌باز Nimble را برای انجام سریع طبقه‌بندی نوع‌دار بدون نیاز به زنجیره افکار (CoT) منتشر کرده است.
  • این مدل که بر پایه Qwen3.5-9B توسعه یافته، با استفاده از آداپتور LoRA توانسته در بنچمارک‌ها به دقت ۹۰٫۱۲ درصدی برسد و در زمینه طبقه‌بندی عملکرد درخشانی ثبت کند.
  • مدل Nimble با حذف خروجی‌های متنی و JSON، خطاهای پردازشی را از بین برده و به طور مستقیم پاسخ‌های نهایی را با استفاده از احتمالات کاندید در اختیار کاربر قرار می‌دهد.

آموزش یک مدل 9B برای طبقه‌بندی سریع و دقیق با Nimble

استارتاپ Bespoke Labs مخزن Nimble را منتشر کرده است؛ یک راهکار با وزن‌های باز (open-weight) برای طبقه‌بندی نوع‌دار (typed) که نیازی به تولید زنجیره افکار (chain-of-thought) ندارد. این پروژه، مدل Nimble را به عنوان یک جایگزین متن‌باز برای Jev از شرکت TypeSafe معرفی می‌کند. آداپتور LoRA این مدل که روی ۲۶۷۶ نمونه آموزش دیده است، در یک بنچمارک محدود و مجزا به تطابق ۹۰٫۱۲ درصدی دست یافته است؛ در حالی که این رقم برای مدل Jev برابر با ۹۳٫۲۱ درصد است.

دریافت خروجی نوع‌دار از لاجیت‌های کاندید

وزن‌های این مدل بر پایه Qwen3.5-9B ساخته شده‌اند و تنها یک هدف را دنبال می‌کنند: با دریافت یک متن و طرحی از سوالات، پاسخ‌های نوع‌دار را همراه با احتمالات کاندید ارائه دهند. این طرح‌ها (Schemas) باید مسطح بوده و فاقد فیلدهای تودرتو باشند. هر فیلد تنها یک مقدار بولی (Boolean) یا یک داده‌نمای (enum) شامل مجموعه‌ای ثابت از رشته‌ها را می‌پذیرد.

مدل Nimble هر پاسخ مجاز را به یک توکن واژگان منفرد نگاشت کرده و لاجیت‌های مدل را برای آن توکن‌ها می‌خواند. سپس تابع Softmax لاجیت‌ها را به یک توزیع احتمال تبدیل می‌کند و کدهای Python پاسخ نوع‌دار را مونتاژ می‌کنند. از آنجا که این مدل هیچ خروجی JSON یا متن توضیحی تولید نمی‌کند، خطاهای تجزیه (parsing failures) و رمزگشایی خودهمبسته (autoregressive decoding) به طور کامل از مسیر درخواست حذف می‌شوند. رتبه‌بندی‌های مرتب‌شده نیز می‌توانند یک مقدار مورد انتظار از توزیع کاندیدها تولید کنند.

جفت‌داده‌هایی که مرز تصمیم‌گیری را آموزش می‌دهند

در این راهکار منتشرشده از احتمالات معلم (teacher probabilities) استفاده نمی‌شود؛ بنابراین شرکت Bespoke مرز تصمیم‌گیری مدل را از طریق روشی به نام «گزینش داده‌های تضادی» (contrastive data curation) شکل می‌دهد. هر جفت داده شامل دو نمونه تقریباً یکسان است که برچسب‌های آنها تنها به دلیل تغییر یک واقعیت مرتبط، با هم تفاوت دارند. سوال، سیاست‌های پایه و شواهد نامرتبط ثابت باقی می‌مانند و این موضوع مدل را مجبور می‌کند تا تغییر واقعیت را با تغییر تصمیم نهایی مرتبط سازد. این خط لوله (pipeline) چهار بررسی مختلف را روی وظایف Choice، Boolean و Score اعمال می‌کند:

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

رکورد ۸۳۳ هزار دانلود ماهانه برای LEGAL-BERT؛ وقتی توسعه‌دهنده‌ها قید مدل‌های گران‌قیمت را می‌زنند!
آخرین اخبار

رکورد ۸۳۳ هزار دانلود ماهانه برای LEGAL-BERT؛ وقتی توسعه‌دهنده‌ها قید مدل‌های گران‌قیمت را می‌زنند!

مدل زبانی تخصصی LEGAL-BERT با ثبت بیش از ۸۳۳ هزار دانلود در ماه روی پلتفرم هاگینگ فیس حسابی خبرساز شده است. این ابزار جمع‌وجور و تخصصی نشان می‌دهد که برای پردازش و تحلیل متون حقوقی، حتماً نیازی به مدل‌های غول‌پیکر و پرهزینه ندارید و گزینه‌های بهینه همچنان در اوج هستند.

۲ دقیقه مطالعه
۰
۶ مهر
جاسوسی هوش مصنوعی در محل کار؛ کارمندان می‌گویند کارفرماها باید قانوناً مچ‌گیری‌هایشان را لو بدهند!
آخرین اخبار

جاسوسی هوش مصنوعی در محل کار؛ کارمندان می‌گویند کارفرماها باید قانوناً مچ‌گیری‌هایشان را لو بدهند!

نظرسنجی‌های تازه نشان می‌دهد که بیشتر کارمندان حس می‌کنند مدیرانشان با ابزارهای هوش مصنوعی تمام حرکات آن‌ها را زیر نظر گرفته‌اند. حالا بیش از ۸۰ درصد شاغلان خواستار تصویب قانونی شده‌اند که شرکت‌ها را مجبور کند هرگونه مچ‌گیری و نظارت هوش مصنوعی در محیط کار را رسماً اعلام کنند.

۳ دقیقه مطالعه
۰
۶ مهر
گزارش داغ مایکروسافت از نفوذ جهانی هوش مصنوعی؛ امارات در صدر و رتبه عجیب آمریکا!
آخرین اخبار

گزارش داغ مایکروسافت از نفوذ جهانی هوش مصنوعی؛ امارات در صدر و رتبه عجیب آمریکا!

مایکروسافت در تازه‌ترین گزارش خود از ضریب نفوذ هوش مصنوعی در جهان پرده برداشت؛ آماری شگفت‌انگیز که نشان می‌دهد امارات و سنگاپور با فاصله‌ای خیره‌کننده پیشتاز دنیا هستند و در مقابل، آمریکا در رتبه ۲۱ جا مانده است. همچنین الگوی استفاده از هوش مصنوعی میان کشورهای غربی و کشورهای در حال توسعه، از تفاوتی عمیق میان کاربردهای روزمره و آموزش پرده برمی‌دارد.

۳ دقیقه مطالعه
۰
۶ مهر