لیکوئید AI از مدل LFM2.5-24B رونمایی کرد؛ اجرای پرسرعت ایجنت‌های محلی با ۱۸۴ توکن در ثانیه
استارتاپ لیکوئید AI از مدل وزن‌باز LFM2.5-24B-A2B رونمایی کرد که بزرگ‌ترین و آخرین عضو از این خانواده به شمار می‌رود. این مدل با معماری مخلوط متخصصان (MoE) طراحی شده و با فعال‌سازی تنها ۲٫۴۵ میلیارد پارامتر در هر توکن، امکان اجرای فوق‌العاده پرسرعت ایجنت‌های هوش مصنوعی را روی سخت‌افزارهای محلی مانند مک فراهم می‌کند.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- مدل ۲۴ میلیارد پارامتری LFM2.5-24B-A2B در هر توکن تنها ۲٫۴۵ میلیارد پارامتر را فعال می‌کند تا سرعت پردازش را بدون افت کیفیت به اوج برساند.
- این مدل روی تراشه M5 Max اپل به‌سرعت خیره‌کننده ۱۸۴ توکن در ثانیه و روی پردازنده‌های جدید AMD به ۱۱۴ توکن در ثانیه دست می‌یابد.
- پنجره زمینه مدل به ۱۳۱ هزار توکن ارتقا یافته و تمام پاسخ‌ها با یک بلوک استدلال آغاز می‌شوند که آن را برای ایجنت‌های محلی و ابزارمحور ایده‌آل می‌کند.
مدل ۲۴ میلیارد پارامتری لیکوئید AI برای اجرای محلی ایجنت‌ها به میدان آمد
شرکت لیکوئید AI (Liquid AI) از مدل LFM2.5-24B-A2B به‌عنوان بزرگ‌ترین و آخرین عضو از خانواده مدل‌های LFM2.5 رونمایی کرد. این مدل متنی مبتنی بر معماری مخلوط متخصصان (MoE)، در مجموع شامل ۲۴ میلیارد پارامتر است، اما برای پردازش هر توکن تنها حدود ۲٫۴۵ میلیارد پارامتر را فعال می‌کند. مدل جدید از پنجره زمینه (کانتکست) ۱۳۱٬۰۷۲ توکنی پشتیبانی می‌کند و در قالب فرمت‌های متنوعی برای سرورهای مجهز به GPU، پردازنده‌های مرکزی و تراشه‌های اپل سیلیکون عرضه شده است.
در مدل‌های مبتنی بر معماری مخلوط متخصصان، هر توکن تنها از میان زیرمجموعه‌ای از پارامترهای موجود عبور داده می‌شود. این رویکرد حجم محاسبات را در لحظه تولید پاسخ (استنتاج) کاهش می‌دهد، هرچند سیستم اجرایی معمولاً باید تمام وزن‌های مدل را در حافظه بارگذاری کند. بنابراین، تعداد پارامترهای فعال بیش از آنکه بر حجم حافظه ذخیره‌سازی تأثیر بگذارد، سرعت پاسخ‌دهی را دگرگون می‌کند.
- مجموع پارامترها: ۲۴ میلیارد
- پارامترهای فعال در هر توکن: حدود ۲٫۴۵ میلیارد
- پنجره زمینه (کانتکست): ۱۳۱٬۰۷۲ توکن
- فرمت‌های در دسترس: Safetensors ،FP8 ،GGUF ،ONNX و نسخه ۴ بیتی MLX
- کاربرد اصلی: استدلال محلی، استفاده از ابزارها و چرخه‌های چندمرحله‌ای ایجنت‌ها
شرکت لیکوئید از سرعت رمزگشایی (Decode) ۱۸۴ توکن در ثانیه روی تراشه M5 Max اپل و ۱۱۴ توکن در ثانیه روی پردازنده AMD Ryzen AI Max+ 395 خبر می‌دهد. مقایسه‌های منتشرشده از سوی این شرکت، برتری سرعت تا ۱٫۷ برابری و کمترین میزان مصرف حافظه را در میان مدل‌های مخلوط متخصصانِ ارزیابی‌شده نشان می‌دهد. البته متغیرهایی همچون روش کوانتیزاسیون، طول پرامپت، اندازه بچ (Batch Size) و تنظیمات محیط اجرا می‌توانند این نتایج را تغییر دهند.
معماری ۴۰ لایه‌ای؛ فعال‌سازی هم‌زمان چهار متخصص برای هر توکن
مدل LFM2.5-24B-A2B ساختار هیبریدی نسل پیشین خود یعنی LFM2-24B-A2B را حفظ کرده است. این مدل در ۴۰ لایه خود، از ۳۰ بلوک کانولوشن کوتاه با گیت دوگانه و ۱۰ بلوک توجه کوئری گروهی (Grouped-Query Attention یا GQA) بهره می‌برد. کانولوشن‌های کوتاه وظیفه ترکیب بهینه توالی‌های محلی را بر عهده دارند، در حالی که مکانیزم توجه کوئری گروهی ارتباطات طولانی‌مدت‌تر را مدیریت می‌کند و نسبت به توجه چندسرِ کلاسیک، به کش کلید-مقدار (KV Cache) بسیار کوچک‌تری نیاز دارد.
در هر لایه پیش‌خوران (Feed-forward) این معماری، برای هر توکن ۴ متخصص از میان ۶۴ متخصص فعال می‌شوند. این مسیریابی تنک (Sparse Routing) همان رازی است که تفاوت فاحش میان ۲۴ میلیارد پارامتر ذخیره‌شده و ۲٫۴۵ میلیارد پارامتر فعال در لحظه پردازش را توجیه می‌کند.
در مقایسه با نسخه قبلی، پنجره زمینه مدل از ۳۲٬۷۶۸ به ۱۳۱٬۰۷۲ توکن افزایش یافته و دایره واژگان آن نیز از حدود ۶۵ هزار به ۱۲۸ هزار توکن رسیده است. لیکوئید گسترش توکنایزر را به‌صورت مستقیم انجام داده تا کارایی مدل در پردازش متون غیرلاتین بهینه‌تر شود. افزون بر این، داده‌های پیش‌آموزش مدل پایه از حدود ۱۷ تریلیون توکن به ۳۳ تریلیون توکن افزایش یافته است.
در نسخه جدید، هر دور از پاسخگویی دستیار هوش مصنوعی با یک بلوک استدلال (Reasoning Block) آغاز می‌شود؛ در حالی که نسخه قبلی همیشه پیش از ارائه پاسخ نهایی استدلال نمی‌کرد. به همین جهت، برنامه‌هایی که خروجی‌های استریم‌شده را پردازش می‌کنند، متن خام مدل را به کاربر نشان می‌دهند یا وظیفه فراخوانی ابزارها (Tool Calls) را بر عهده دارند، باید وجود این بلوک استدلال را لحاظ کنند و از تفکیک درست مراحل فکر کردن از پاسخ نهایی در سیستم خود مطمئن شوند.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
انقلاب هوش مصنوعی به نفع چه کسانی تمام می‌شود؟ لزوم سرازیر شدن ثروت فناوری به مناطق بحران‌زده
انقلاب هوش مصنوعی در کنار خلق ثروت‌های کلان در سیلیکون‌ولی، پتانسیل نجات محروم‌ترین انسان‌ها را نیز دارد. اکنون زمان آن است که دستاوردهای مالی و تحلیلی این فناوری شگفت‌انگیز، به‌جای تمرکز در کشورهای ثروتمند، هوشمندانه به سمت کانون بحران‌های انسانی و مناطق جنگ‌زده هدایت شوند.
آیا هوش مصنوعی واقعاً می‌تواند جان ۱ میلیارد انسان را بگیرد؟ پاسخ کارشناس ارشد امنیت سایبری
به‌دنبال هشدار جنجالی بیل گیتس مبنی‌بر احتمال وقوع فاجعه‌ای مرگبار توسط هوش مصنوعی، دیوید لینتیکام، کارشناس برجسته امنیت سایبری، به ارزیابی واقع‌بینانه این سناریوی آخرالزمانی پرداخته است. به باور او، تهدیدهای کنونی نه یک هوش مصنوعی خودمختار و جادویی، بلکه سیستم‌های ضعیفی هستند که به دست افراد بی‌کفایت در زیرساخت‌های واقعی به کار گرفته می‌شوند.
چرا استفاده از هوش مصنوعی در کدنویسی شکاف امنیتی نرم‌افزارها را عمیق‌تر می‌کند؟
دستیارهای کدنویسی هوش مصنوعی اگرچه کدهایی بدون نقص ساختاری می‌نویسند، اما نزدیک به نیمی از آن‌ها حاوی رخنه امنیتی هستند. با سرازیر شدن کدهای ماشینی به پروژه‌ها، آسیب‌پذیری‌های نرم‌افزاری اکنون به عامل اصلی نفوذهای سایبری تبدیل شده‌اند و زنگ خطری جدی برای توسعه‌دهندگان به صدا درآورده‌اند.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.