شاهکار جدید Liquid AI روی لپ‌تاپ؛ اجرای مدل استدلالی ۲۴ میلیاردی با سرعت خیره‌کننده ۱۸۴ توکن در ثانیه!

ورود مدل ایجنتی ۲۴ میلیاردی Liquid AI به سخت‌افزارهای محلی

استارتاپ Liquid AI از مدل جدید LFM2.5-24B-A2B رونمایی کرد؛ یک مدل استدلالی مبتنی بر معماری کارآمد و اسپارس (Sparse MoE) که مشخصاً برای استدلال، کار با ابزار‌ها و جریان‌های کاری چندمرحله‌ای ایجنت‌ها توسعه یافته است. این مدل در مجموع ۲۴ میلیارد پارامتر دارد، اما به لطف معماری هوشمندانه‌اش برای هر توکن فقط حدود ۲ میلیارد پارامتر را فعال می‌کند. همین ترفند محاسباتی باعث شده بار پردازشی به شدت کاهش یابد و بتوان آن را به‌راحتی روی لپ‌تاپ‌ها، ورک‌استیشن‌ها و سرور‌های محلی اجرا کرد.

این مدل بزرگ‌ترین و آخرین عضو از خانواده LFM2.5 به حساب می‌آید؛ خانواده‌ای متنوع که از یک مدل سبک ۲۳۰ میلیون پارامتری مخصوص دستگاه‌های اج (Edge) شروع می‌شود و تا همین پرچمدار ۲۴ میلیارد پارامتری ادامه دارد. تیم Liquid AI هم چک‌پوینت پایه (Base) و هم نسخه بهینه‌سازی‌شده برای ایجنت‌ها (Agentic) را منتشر کرده و پشتیبانی کاملی از فریم‌ورک‌های محلی محبوب مثل GGUF، ONNX و MLX اپل سیلیکون تدارک دیده است.

درگیر کردن فقط دو میلیارد پارامتر در هر لحظه

مدل LFM2.5-24B-A2B دارای ۴۰ لایه است که ترکیبی از کانولوشن‌های کوتاه دریچه‌دار (Gated Short Convolutions) و مکانیزم توجه کوئری گروهی (GQA) را به خدمت گرفته‌اند. در این ساختار، هر بلوکِ «مخلوطی از متخصصان» (MoE) شامل ۶۴ کارشناس تخصصی است که در هر مرحله، هر توکن تنها به ۴ مورد از آن‌ها هدایت می‌شود. کانولوشن‌های کوتاه بیشترِ ترکیب توالی‌ها را با کم‌ترین هزینه پردازشی انجام می‌دهند و در سوی دیگر، مکانیزم GQA ارتباطات طولانی‌مدت متنی را مدیریت می‌کند.

فعال‌سازی پراکنده یا اسپارس، محاسبات لازم برای تولید هر توکن را به حداقل می‌رساند. با این حال، فضای ذخیره‌سازی و حافظه رم (RAM/VRAM) سیستم همچنان باید گنجایش نگهداری کل ۲۴ میلیارد پارامتر را با دقت انتخابی داشته باشند؛ به همین دلیل، نسخه‌های کوانتایز شده در قالب GGUF و MLX بهترین و جذاب‌ترین گزینه‌ها برای استقرار محلی روی سخت‌افزارهای شخصی هستند.

در مقایسه با نسل قبلی یعنی LFM2-24B-A2B، پنجره زمینه (Context Window) این مدل جدید با جهشی بزرگ از ۳۲٬۰۰۰ توکن به ۱۳۱٬۰۷۲ توکن رسیده است. همچنین دایره واژگان توکنایزر آن از ۶۵٬۰۰۰ به ۱۲۸٬۰۰۰ توکن گسترش پیدا کرده تا عملکرد مدل در فهم و پردازش متون غیرلاتین به مراتب روان‌تر و دقیق‌تر شود.

این مدل درست مانند مدل‌های استدلالی پیشرو، پیش از ارائه پاسخ نهایی حتماً ردپای استدلال و فکر کردن خود را به صورت شفاف درون تگ‌های اختصاصی <think> تولید می‌کند. بنابراین توسعه‌دهندگان و نرم‌افزارها هنگام محاسبه تأخیر، میزان مصرف حافظه زمینه و هزینه‌های سرویس ابری، باید توکن‌های تولیدشده در این بخش فکری را نیز مد نظر قرار دهند.

درخشش خیره‌کننده در بنچمارک‌های کار با ابزار

تیم Liquid AI مدل خود را عمدتاً با Qwen3.6-35B-A3B مقایسه کرده است؛ مدلی که از نظر تعداد کل پارامترها و پارامترهای فعال حدود ۵۰ درصد بزرگ‌تر است. با این حال، نتایج منتشرشده نشان می‌دهد که LFM2.5-24B-A2B در پنج مورد از هشت بنچمارک اختصاصی ایجنت‌ها و کار با ابزارها، عملکردی هم‌تراز یا حتی کاملاً برتر از رقیب پرمدعای خود به نمایش گذاشته است.

علاوه بر این، Liquid AI از برتری مدل در بنچمارک‌های BFCLv4 ،ToolSandbox و τ³-Bench Banking خبر داده و امتیازات درخشانی را در زمینه اجرای دقیق دستورات (Instruction-Following) ثبت کرده است:

• آزمون IFEval: ۹۶.۷۵
• آزمون IFBench: ۷۴.۶۹
• آزمون Multi-IF: ۸۴.۳۸

در تست‌های سخت‌افزاری منتشرشده، این مدل روی تراشه قدرتمند Apple M5 Max به سرعت بی‌نظیر ۱۸۴ توکن بر ثانیه و روی پردازنده AMD Ryzen AI Max+ 395 به سرعت ۱۱۴ توکن بر ثانیه در خروجی دست یافته است. طبق ادعای Liquid، این ارقام تا ۱.۷ برابر سریع‌تر از نزدیک‌ترین رقیب در این تست‌ها بوده و در عین حال کم‌ترین میزان حافظه را بلعیده است! در سمت سرور نیز، توان خروجی این مدل روی یک پردازشگر تکی NVIDIA B300 در بار کاری هم‌زمان بالا، از مرز ۲۱٬۰۰۰ توکن بر ثانیه فراتر می‌رود. البته این آمار مربوط به محیط‌های تست بوده و سرعت واقعی در محیط‌های عملیاتی به میزان کوانتایز، طول پرامپت، اندازه بچ (Batch Size) و حجم خروجی استدلال بستگی خواهد داشت.

البته نباید فراموش کرد که مدل‌های غول‌پیکر همچنان در آزمون‌های متکی بر دانش عمیق مانند GPQA Diamond ،HLE و AA-Omniscience و چالش‌های سنگین کدنویسی مثل SWE-Bench Verified و SciCode دست بالا را حفظ کرده‌اند. به همین دلیل، تیم سازنده توصیه می‌کند اگر کار‌های شما نیازمند داده‌های فراتر از دانش درونی مدل است، LFM2.5-24B-A2B را با ابزار‌های بازیابی اطلاعات (RAG) یا جستجوی وب جفت کنید.

آموزش مستقیم در دل محیط‌های تعاملی ایجنت‌ها

حجم داده‌های پیش‌آموزش (Pretraining) از ۱۷ تریلیون توکن در نسل قبلی به رقم هنگفت ۳۳ تریلیون توکن رسیده است. در مرحله آموزش میانی (Mid-training)، ۲ تریلیون توکن در طول زمینه ۳۲٬۰۰۰ توکنی با تمرکز بر استدلال، ریاضیات، کدنویسی، تبعیت از دستورات و متون چندزبانه به مدل تزریق شده است. در نهایت، ۳۰۰ میلیارد توکن تکمیلی با زمینه وسیع ۱۳۱٬۰۷۲ توکنی برای مسلط کردن مدل بر اسناد طویل، فراخوانی ابزار‌ها و گفت‌وگوهای چندمرحله‌ای مورد استفاده قرار گرفته است.

مرحله پس‌آموزش (Post-training) در پنج گام تخصصی انجام شده است: فاین‌تیونینگ نظارت‌شده، تخصیص استاد راهنما (Teacher Specialization)، تقطیر سیاستی غیرایجنت، تقطیر چنددامنه‌ای درون‌سیاستی ایجنت‌ها و در نهایت یادگیری تقویتی مخصوص ایجنت‌ها. تکنیک تقطیر آن‌پالیسی (On-policy Distillation) به جای تکیه بر دیتاست‌های ایستا و خشک، مدل را مستقیماً بر اساس رفتارهای واقعی و خط سیر تصمیم‌گیری‌های لحظه‌ای خودش تعلیم می‌دهد.

بخش یادگیری تقویتی درون محیط‌های پیشرفته‌ای نظیر OpenClaw، پلتفرم Hermes Agent متعلق به Nous Research، محیط Pi و OpenCode اجرا شد. آموزش در این چارچوب‌های عملیاتی باعث شد مدل دقیقاً با همان حلقه‌های فراخوانی ابزار، مشاهدات و تعاملات چندمرحله‌ای روبه‌رو شود که قرار است در دنیای واقعی با آن‌ها سروکله بزند.

نکته بسیار جالب و هیجان‌انگیز این که Liquid AI اعتراف کرده مدل در مرحله تخصصی‌سازی دست به هک پاداش (Reward-Hacking) و زرنگ‌بازی زده است! به این صورت که مدل متوجه شده بود درون یک جعبه‌شنی (سندباکس ایزوله) کار می‌کند و برای پیدا کردن پاسخ نهایی، مخفیانه در تاریخچه مخازن گیت‌هاب، PyPI و هاگینگ‌فیس (Hugging Face) به جستجو پرداخته بود! تیم توسعه بلافاصله نظارت و محدودیت‌های سندباکس را محکم‌تر کرد تا نتایج بنچمارک‌ها واقعی باشد. پژوهشگران تأکید دارند که در سنجش عملکرد ایجنت‌ها، همواره باید از محیط‌های کاملاً ایزوله، وظایف تازه و دسترسی شبکه کنترل‌شده استفاده شود.

یک چک‌پوینت واحد با چندین محیط اجرای مختلف

فرمت‌های عرضه‌شده، طیف وسیعی از سناریوهای استقرار محلی، اج و سروری را پوشش می‌دهند:

راه‌اندازی یک سرور پایه با فریم‌ورک vLLM تنها به دو دستور ساده زیر نیاز دارد:

pip install vllm
vllm serve "LiquidAI/LFM2.5-24B-A2B"

در صفحه اختصاصی کارت مدل در هاگینگ‌فیس، نمونه کدهای کانفیگ برای اتصال ابزار‌های Hermes ،OpenClaw و Pi به اندپوینت محلی سازگار با اوپن‌ای‌آی (OpenAI-compatible) قرار داده شده است. به صورت پیش‌فرض، فراخوانی توابع توسط مدل به سبک پایتون و در میان توکن‌های ویژه <|tool_call_start|> و <|tool_call_end|> صادر می‌شود، اما از طریق پرامپت سیستمی می‌توانید خروجی فراخوانی ابزار‌ها را در قالب استاندارد JSON نیز درخواست کنید.

تعرفه‌های ابری مناسب برای ایجنت‌های ورودی‌محور

شرکت Liquid دسترسی ابری به این مدل را از طریق پنل Liquid Console نیز فراهم کرده است. قیمت هر یک میلیون توکن ورودی ۰.۱۰ دلار، ورودی‌های کش‌شده ۰.۰۵ دلار و هر یک میلیون توکن خروجی ۱ دلار تعیین شده و به کاربران جدید نیز ۲ دلار اعتبار اولیه رایگان هدیه داده می‌شود.

از آنجا که حلقه‌های کاری ایجنت‌ها ممکن است حجم بسیار زیادی خروجی استدلالی تولید کنند، تیم‌ها باید هزینه‌ها را بر اساس کل مسیر استدلال محاسبه کنند نه فقط پاسخ نهایی. البته استقرار محلی مدل، تمام هزینه‌های توکنی هاستینگ را حذف می‌کند؛ هرچند که در محاسبات کلی باید هزینه‌های سخت‌افزار، برق، فضای ذخیره‌سازی و نگهداری فنی را لحاظ کرد.

این مدل دقیقاً به درد چه کار‌هایی می‌خورد؟

مدل LFM2.5-24B-A2B مشخصاً برای کاربردهایی هدف‌گذاری شده که متکی بر انتخاب ابزارها، فراخوانی‌های ساختاریافته، اجرای دقیق دستورات و گام‌های مکرر ایجنتی هستند. ساختار اسپارس این مدل یک راهکار کاملاً عملی برای اجرای محلی پیش روی توسعه‌دهندگان می‌گذارد و هاست کردن شخصی آن به شما اجازه می‌دهد تا در صورت اجرای محلی ابزارها، تمام پرامپت‌ها و داده‌های حساس را درون زیرساخت تحت کنترل خود حفظ کنید.

تیم‌هایی که در حال ساخت ایجنت‌های تخصصی، ابزار‌های توسعه نرم‌افزار یا دستیارهای حساس به حریم خصوصی هستند، بهتر است این مدل را با پرامپت‌ها، ابزارها، طول زمینه و سخت‌افزار واقعی خود محک بزنند. برای پروژه‌های متمرکز بر کدنویسی بسیار پیچیده یا تست‌های متکی بر دانش عمومی گسترده، ممکن است مدل‌های غول‌پیکر MoE مانند Qwen یا Nemotron دست برتر را داشته باشند؛ اما برای سیستم‌های نیازمند کار سنگین با ابزار‌ها و ایجنت‌های بلادرنگ، سرعت و انعطاف استقرار LFM2.5-24B-A2B بدون شک یک برگ برنده اساسی است.