موتور استنتاج RIPL از استارتاپ Liquid AI رونمایی شد؛ پاسخ‌دهی فوق‌سریع مدل‌های هوش مصنوعی در کمتر از ۵۰ میلی‌ثانیه

معرفی موتور استنتاج RIPL

موتور استنتاج Liquid RIPL (مخفف Real-time Inference Pipeline) یک موتور پردازش کم‌تأخیر است که توسط استارتاپ Liquid AI معرفی شده است. این سامانه با هدف قرار دادن مستقیم مدل‌های زبانی بنیادین موسوم به LFMs (مخفف Liquid Foundation Models) در مسیر درخواست‌های زنده و بلادرنگ کاربران توسعه یافته است.

بر اساس گزارش Liquid AI، موتور RIPL قادر است پاسخ کامل و نهایی را در کمتر از ۵۰ میلی‌ثانیه تولید و ارسال کند؛ سرعتی خیره‌کننده که حتی هنگام هجوم ترافیک سنگین و مداوم نیز پایدار می‌ماند. این فناوری بارهای کاری حساس سازمانی نظیر رتبه‌بندی نتایج جست‌وجو، سیستم‌های پیشنهاد کالا، تصمیم‌گیری پیرامون کشف تقلب و اعتبارسنجی پرداخت‌ها را هدف قرار داده است؛ بخش‌هایی که تیم‌های فنی تا پیش از این به دلیل کندی سرویس‌دهنده‌های متداول هوش مصنوعی، ناچار بودند از درخت‌های تصمیم‌گیری کلاسیک یا مدل‌های تعبیه بسیار کوچک استفاده کنند.

چرا وجود موتور RIPL ضروری است؟

بیشتر زیرساخت‌های کنونی میزبانی هوش مصنوعی برای مدل‌های همه‌منظوره، پردازش‌های دسته‌ای حجیم و جریان‌های کاری طولانی ایجنت‌ها بهینه‌سازی شده‌اند؛ شرایطی که در آن تأخیر چندثانیه‌ای برای هر درخواست کاملاً پذیرفته است. در نقطه مقابل، پردازش‌های تجاری بلادرنگ بودجه زمانی بر حسب میلی‌ثانیه دارند و کوچک‌ترین تأخیر می‌تواند به کاهش مستقیم نرخ خرید مشتریان در فروشگاه‌های اینترنتی منجر شود.

آمارهای عملکرد و بنچمارک‌ها

آزمون‌های اولیه نشان می‌دهند که معماری RIPL زمان انتظار کاربران را به شکلی چشمگیر کاهش می‌دهد:

پیاده‌سازی در محیط واقعی

• پلتفرم تجاری Shopify در حال پیاده‌سازی مدل‌های LFM در بخش‌های حساس به زمان، از جمله بهبود موتور جست‌وجوی فروشگاه است که روی ترافیک واقعی به تأخیر کمتر از ۲۰ میلی‌ثانیه دست یافته است.
• تیم توسعه Liquid AI اعلام کرده است که مدل‌های LFM با وجود داشتن ۵۰ درصد پارامتر کمتر در مقایسه با سایر رقبا، بازدهی بهتری ارائه داده و ۲ تا ۱۰ برابر سریع‌تر به درخواست‌ها پاسخ می‌دهند.

سخت‌افزارهای سازگار

موتور پردازشی RIPL بر بستر پردازنده‌های گرافیکی قدرتمند NVIDIA مانند مدل‌های H100، H200، B200 و RTX PRO 6000 پشتیبانی و اجرا می‌شود.

نحوه دسترسی و پیاده‌سازی

• استقرار سازمانی: موتور RIPL در حال حاضر برای استقرار مدل‌های سازمانی LFM در دسترس است و شرکت‌ها می‌توانند از طریق سایت Liquid AI با بخش تجاری آن ارتباط برقرار کنند.
• محاسبه‌گر آنلاین سرعت: یک ابزار محاسباتی تعاملی در صفحه اختصاصی محاسبه سرعت RIPL در دسترس کاربران است که به کمک آن می‌توان با انتخاب کارت گرافیک و ابعاد درخواست، زمان پاسخ‌دهی مدل‌های سری LFM2.5 را با افزایش بار ترافیکی مشاهده کرد.
• جزئیات تکمیلی: متن کامل بیانیه فنی را می‌توانید در وبلاگ رسمی Liquid AI مطالعه فرمایید.

این فناوری برای چه کسب‌وکارهایی کاربرد دارد؟

• تیم‌های توسعه جست‌وجو، سیستم‌های پیشنهادگر، مدیریت ریسک و درگاه‌های پرداخت که خواهان اجرای مدل‌های هوش مصنوعی مولد در محدوده زمانی میلی‌ثانیه‌ای هستند.
• سازمان‌هایی که قصد دارند درخت‌های تصمیم‌گیری قدیمی (GBDT) یا مدل‌های تعبیه ساده را با مدل‌های زبانی پیشرفته جایگزین کنند، اما سرعت پایین ابزارهای پیشین مانع آنها بوده است.