خانواده مدل‌های Timestral میسترال معرفی شدند؛ پیش‌بینی قدرتمند سری‌های زمانی حتی روی پردازنده‌های معمولی

شرکت Mistral AI از صفحه مدل Timestral رونمایی کرد؛ خانواده‌ای متشکل از چهار مدل پایه برای سری‌های زمانی که ابعاد آن‌ها از ۵ میلیون تا ۲۰۹ میلیون پارامتر متغیر است. میسترال گزارش می‌دهد که نسخه پرچمدار این خانواده در بنچمارک‌های معتبری مانند GIFT-Eval، TIME و fev-bench از مدل‌های پیش‌آموزش‌دیده در حالت زیروشات (Zero-Shot) پیشی گرفته است. این مدل‌ها با پشتیبانی از استنتاج روی پردازنده مرکزی (CPU)، گزینه‌ای ایده‌آل برای پیش‌بینی محلی در اختیار توسعه‌دهندگان قرار می‌دهند تا دیگر نیازی به آموزش مجدد مدل برای تک‌تک سری‌های زمانی نداشته باشند.

چهار اندازه مختلف، یک رابط پیش‌بینی یکپارچه

مدل‌های Timestral توالی‌های عددی را در قالب قطعاتی (پچ‌هایی) با اندازه ثابت پردازش می‌کنند. نسخه ۲۰۹ میلیون پارامتری، در هر قطعه ۳۲ گام زمانی را گروه‌بندی می‌کند و مکانیزم توجه (Attention) را در طول ۲۴ لایه ترنسفورمر با ابعاد امبدینگ ۷۶۸، هم در راستای زمان و هم روی متغیرها (سیگنال‌ها یا ستون‌های موازی داده) اعمال می‌نماید.

بزرگ‌ترین نسخه این خانواده می‌تواند تا ۳۲٬۷۶۸ گام تاریخی را به‌عنوان ورودی دریافت کرده و تا ۱٬۰۲۴ گام زمانی را تنها در یک مرحله رفت رو به جلو (Forward Pass) پیش‌بینی کند. این مدل برای افق‌های زمانی طولانی‌تر، پیش‌بینی‌ها را به‌شکل بلوک‌های متوالی تولید کرده و میانه پیش‌بینی هر بلوک را دوباره به‌عنوان کانتکست به ورودی مدل بازمی‌گرداند. این رویکرد بازگشتی افق پیش‌بینی را گسترش می‌دهد، هرچند ممکن است خطاها به‌مرور میان بلوک‌ها انباشته شوند.

هر پیش‌بینی شامل ۲۱ چندک آماری (Quantile) از ۰٫۰۱ تا ۰٫۹۹ است که به برنامه‌ها امکان می‌دهد بازه‌های پیش‌بینی و معیارهای سنجش عدم قطعیت را به‌دقت محاسبه کنند. مدل Timestral ورودی‌های تک‌متغیره یا چندمتغیره، متغیرهای کمکی مربوط به گذشته و ورودی‌های مشخص در آینده (مانند روزهای تعطیل در تقویم یا قیمت‌های برنامه‌ریزی‌شده) را می‌پذیرد. علاوه بر این، متغیرهای دسته‌ای به‌طور خودکار به داده‌های عددی (Target Encoding) تبدیل می‌شوند و داده‌های ناموجود نیز با برچسب NaN در نظر گرفته می‌شوند.

درخشش مدل‌های سبک‌وزن در برابر رقبای بزرگ‌تر

بر اساس نتایج منتشرشده از سوی میسترال، مدل Timestral-209M در ارزیابی GIFT-Eval به میانگین قدر مطلق خطای مقیاس‌شده (MASE) معادل ۰٫۶۵۸ و امتیاز احتمال رتبه‌بندی‌شده پیوسته (CRPS) معادل ۰٫۴۴۶ دست یافت. معیار MASE دقت پیش‌بینی نقطه‌ای را نسبت به یک سطح پایه می‌سنجد، در حالی که معیار CRPS کل توزیع احتمالی پیش‌بینی‌شده را ارزیابی می‌کند. در هر دو معیار، مقادیر کمتر نشان‌دهنده عملکرد بهتر و دقیق‌تر مدل هستند.