موتور پردازشی جدید لیکوئید ای‌آی؛ تا ۲۸ برابر سریع‌تر از vLLM در پردازش بلادرنگ هوش مصنوعی

استارتاپ لیکوئید ای‌آی (Liquid AI) از موتور پردازشی جدیدی به نام Liquid RIPL (کوتاه‌شده عبارت Real-time Inference Pipeline یا پایپلاین استنتاج بلادرنگ) رونمایی کرد. این موتور برای میزبانی و اجرای مدل‌های فونداسیون لیکوئید (LFM) مستقیماً درون مسیر پردازش زنده درخواست‌ها طراحی شده است. به گفته این شرکت، در بارهای کاری منتخب، مدل قادر است پاسخ کامل و تولیدشده را در کمتر از ۵۰ میلی‌ثانیه بازگرداند و در ترافیک‌های سنگین و مداوم، پایداری زمان پاسخگویی را حفظ کند.

تیم‌های مهندسی معمولاً پردازش‌هایی مانند رتبه‌بندی، امتیازدهی به رفتارهای کلاهبردارانه، بررسی تراکنش‌های مالی و دسته‌بندی عبارات جستجو را به الگوریتم‌های درخت تقویت‌شده با گرادیان (Gradient-Boosted Trees) یا مدل‌های انکودر فشرده واگذار می‌کنند؛ زیرا ماهیت خودبازگشت مدل‌های زبانی تأخیر زیادی ایجاد می‌کند و از سقف زمانی مجاز سیستم فراتر می‌رود. هدف موتور RIPL این است که مدل‌های مولد کوچک را دقیقاً وارد همین مسیرهای حساس کند؛ مراحلی از نرم‌افزار که کل برنامه برای ادامه کار باید منتظر دریافت نتیجه آن‌ها بماند.

میلی‌ثانیه‌ها معماری سیستم را تعیین می‌کنند

سیستم‌های رتبه‌بندی نتایج جستجو، بازیابی تبلیغات هدفمند و اعتبارسنجی پرداخت‌های بانکی زیر سقف زمانی فوق‌العاده سفت‌وسختی کار می‌کنند. حتی اگر یک مدل هوش مصنوعی در آزمایش‌های آفلاین معیارهای دقت بهتری ثبت کند، درصورتی‌که صدها میلی‌ثانیه به زمان پاسخگویی هر درخواست اضافه کند، عملاً در محیط عملیاتی غیرقابل استفاده خواهد بود.

سرورهای استنتاج همه‌منظوره مانند vLLM بیشتر روی ظرفیت کلی پردازش (Throughput)، پشتیبانی از طیف گسترده مدل‌ها و دسته‌بندی کارآمد درخواست‌ها (Batching) تمرکز دارند. اما لیکوئید موتور RIPL را به‌طور ویژه پیرامون مدل‌های کوچک‌تر سری LFM2.5 و درخواست‌های کوتاه و حساس به زمان طراحی کرده است. مدل‌های پشتیبانی‌شده در این موتور دامنه‌ای بین ۲۳۰ میلیون تا ۲٫۶ میلیارد پارامتر دارند.

تحلیل بنچمارک‌ها بر اساس ساختار درخواست

بر اساس گزارش‌های منتشرشده، موتور RIPL موفق شده تأخیر صدک ۹۵ (p95) را در بارهای کاری آزمایش‌شده بین ۵٫۶ تا ۲۸٫۴ برابر کمتر از اجرای مدل Qwen3.5 روی فریمورک vLLM به ثبت برساند؛ از جمله در درخواست‌هایی با ۳۲ توکن ورودی و ۳۲ توکن خروجی، یا ۲۵۶ توکن ورودی و ۱۲۸ توکن خروجی. این آزمایش‌ها روی یک پردازنده گرافیکی واحد NVIDIA B200 انجام شده‌اند.

تأخیر صدک ۹۵ بدین معنا است که ۹۵ درصد درخواست‌ها در زمانی کمتر یا مساوی عدد اعلام‌شده تکمیل شده‌اند. این نتایج به‌خوبی نشان می‌دهند که چرا ادعای پاسخگویی زیر ۵۰ میلی‌ثانیه حتماً باید در چارچوب یک مدل خاص، طول پرامپت، تعداد توکن‌های خروجی، حجم درخواست‌های هم‌زمان و نوع پردازنده گرافیکی سنجیده شود؛ چراکه در آزمایش‌های خود لیکوئید نیز فرآیندهای تولید متن طولانی‌تر با مدل‌های بزرگ‌تر به صدها میلی‌ثانیه زمان نیاز داشته‌اند.

در این بنچمارک، بخشی از بهبود عملکرد به خود موتور پردازشی و بخشی دیگر به معماری مدل‌ها نسبت داده شده است. در آزمایش روی مدل یکسان LFM2.5-350M، نمودارهای لیکوئید نشان می‌دهند که RIPL در تمامی ابعاد درخواست سریع‌تر از vLLM ظاهر شده که این موضوع نقش مستقیم بهینه‌سازی موتور را آشکار می‌کند. بااین‌حال، داده‌های ارائه‌شده تماماً آزمایش‌های درون‌شرکتی هستند و هنوز تکرار مستقل این آزمایش‌ها یا مقایسه آن با TensorRT-LLM انجام نگرفته است؛ بنابراین نمی‌توان این نسبت‌ها را به‌شکل یک قاعده جهان‌شمول در تمام بسترها تلقی کرد.

سرعت پردازش و کیفیت انجام وظیفه نیازمند ارزیابی‌های کاملاً جداگانه‌اند. لیکوئید اعلام کرده مدل‌های LFM2 با بهره‌گیری از تقطیر دانش (Knowledge Distillation)، مجموعه‌داده‌های مرتب‌شده بر اساس سختی، فاین‌تیون تحت نظارت، بهینه‌سازی اولویت‌ها و ادغام مدل‌ها، روی ۱۰ تا ۱۲ تریلیون توکن پیش‌آموزش دیده‌اند. مدل LFM2-2.6B در بنچمارک پیروی از دستورات IFEval امتیاز ۷۹٫۵۶ درصد و در بنچمارک ریاضی پایه GSM8K امتیاز ۸۲٫۴۱ درصد را ثبت کرده است. با این حال، چنین امتیازات کلی نمی‌توانند تضمین‌کننده دقت لازم برای وظایف تجاری حساسی مثل رتبه‌بندی، شناسایی کلاهبرداری یا طبقه‌بندی دقیق باشند.

پیاده‌سازی RIPL در سیستم جستجوی شاپیفای

لیکوئید اعلام کرده که پلتفرم تجارت الکترونیک شاپیفای (Shopify) از مدل‌های LFM برای تقویت موتور جستجوی خود استفاده می‌کند و تأخیر این مدل‌ها در محیط عملیاتی به زیر ۲۰ میلی‌ثانیه می‌رسد. طبق این گزارش، سیستم مستقرشده حدود ۵۰ درصد پارامترهای کمتری نسبت به گزینه‌های مورد مقایسه دارد و ۲ تا ۱۰ برابر سریع‌تر اجرا می‌شود؛ البته جزئیات فنی بار کاری و سیستم پایه در این گزارش به اندازه‌ای نیست که امکان راستی‌آزمایی مستقل را فراهم کند.

بارهای کاری متکی بر خروجی‌های بسیار کوتاه

سناریوهای کاری اعلام‌شده برای این موتور همگی فرمت یکسانی دارند: وظایفی با دامنه محدود که یک بافت ساختاریافته را دریافت می‌کنند و خروجی کوتاهی شامل یک پاسخ مختصر، امتیاز عددی، برچسب مشخص یا کد علت ارائه می‌دهند.

لیکوئید بار کاری رتبه‌بندی مجدد را صرفاً از نوع «پیش‌پر کردن» (Prefill-only) توصیف می‌کند؛ یعنی مدل امتیاز نهایی را هم‌زمان با پردازش اولیه پرامپت استخراج می‌کند و دیگر نیازی به مرحله رمزگشایی و تولید توکن‌به‌توکن یک دنباله طولانی ندارد. این الگو بخش بزرگی از هزینه پردازش ترتیبی را که مسبب اصلی کندی مدل‌های زبانی متداول است، به‌کلی حذف می‌کند.

مدلی که تنها یک توکن برچسب در خروجی ارائه می‌دهد می‌تواند جایگزین مناسبی برای مدل‌های کلاسیفایر فشرده سنتی باشد و به تیم‌های نرم‌افزاری امکان دهد وظایف مدل را صرفاً با تغییر پرامپت دگرگون کنند. بااین‌حال، بهره‌برداری عملیاتی همچنان نیازمند سنجش پایداری برچسب‌ها، کالیبراسیون احتمالات، خروجی‌های مخدوش و پایداری دقت در برابر تغییر ساختار پرامپت است.

موتور RIPL علاوه بر این از مدل‌های چندحالته LFM و مدل‌های تصمیم‌گیری سری d1 لیکوئید نیز پشتیبانی می‌کند. بدون شک استقرار چنین سیستم‌هایی در حوزه‌های اعتباری و تراکنش‌های مالی نیازمند کنترل‌های سخت‌گیرانه‌تری مانند حسابرسی‌پذیری، انطباق با سیاست‌ها، آزمون‌های سوگیری، راهکارهای بازگشتی قطعی (Deterministic Fallbacks) و نظارت انسانی در مواقع ضروری خواهد بود.

دسترسی سازمانی با موتوری کاملاً متن‌بسته

مشتریان سازمانی می‌توانند برای استفاده از RIPL روی پردازنده‌های گرافیکی H100، H200، B200 و RTX PRO 6000 انویدیا درخواست دسترسی ثبت کنند. لیکوئید تاکنون جزئیات قیمت‌گذاری، امکان دانلود مستقیم یا نسخه متن‌بازی از این موتور ارائه نکرده است و دسترسی صرفاً از طریق هماهنگی و برای استقرار روی سرورهای اختصاصی مشتریان صورت می‌پذیرد.

ماشین‌حساب تأخیر اختصاصی لیکوئید این امکان را به سازمان‌ها می‌دهد تا بر اساس پردازنده گرافیکی انتخابی، اندازه درخواست و نرخ ترافیک، زمان پاسخگویی سرتاسری را برآورد کنند. این تخمین به تصمیم‌گیری اولیه در تخصیص سخت‌افزار کمک می‌کند، اما آزمایش‌های محیط تولید لزوماً باید تنوع واقعی پرامپت‌ها، جهش‌های لحظه‌ای ترافیک، وضعیت پردازنده در زمان راه‌اندازی اولیه و پایداری پس از بروز خطا را هم در بر بگیرند.

نکاتی که پیش از پیاده‌سازی نهایی باید بررسی شوند

ارزیابی فنی پیش از استقرار باید فاکتورهای زیر را بر اساس داده‌های ترافیک واقعی محک بزند:

• بررسی تأخیر در صدک‌های ۵۰، ۹۵ و ۹۹ در شرایط ترافیک عادی و جهش‌های ناگهانی ترافیک
• ظرفیت عملیاتی پردازش (Throughput) متناسب با توزیع واقعی توکن‌های ورودی و خروجی
• تنظیمات دقت محاسباتی یا کوانتیزاسیون و بررسی اثرات آن بر افت احتمالی کیفیت پاسخ‌ها
• سازگاری با رابط‌های برنامه‌نویسی (API)، ساختار بسته‌بندی مدل، ابزارهای پایش و پایپلاین استقرار
• نیازمندی‌های مربوط به ظرفیت سرور، سازوکار جابه‌جایی در زمان خرابی (Failover) و زمان بارگذاری اولیه مدل (Cold-start)
• اعمال محدودیت‌های دقیق روی فرمت خروجی، کالیبراسیون داده‌ها و تعریف راهکارهای پشتیبان برای تصمیمات ساختاریافته

بهترین کارایی موتور RIPL در سناریوهایی آشکار می‌شود که با پرامپت‌های کوتاه، خروجی‌های بسیار مختصر، یک مدل فشرده LFM و مجموعه‌ای ثابت از پردازنده‌های گرافیکی روبه‌رو هستیم. برنامه‌ریزی برای منابع زیرساختی به درک کاملاً دقیق از ابعاد درخواست‌ها و مشخصات هم‌زمانی ترافیک وابسته است؛ چراکه طبق آمارهای رسمی خود لیکوئید، تأخیر صدک ۹۵ می‌تواند از بازه‌های تک‌رقمی میلی‌ثانیه آغاز شود و تا ۴۴۹٫۱ میلی‌ثانیه ادامه یابد.