اجرای بومی ایجنت‌های هوش مصنوعی روی کارت گرافیک؛ متا مدل وزنباز Muse Glimmer را منتشر کرد

بخش آزمایشگاه‌های ابرهوش مصنوعی متا (Meta Superintelligence Labs) به‌تازگی گزارش فنی و وزن‌های مدل Muse Glimmer را تحت لایسنس Apache 2.0 منتشر کرده است؛ مدلی ۳۰ میلیارد پارامتری که با هدف اجرای فرآیندهای طولانی ایجنت‌ها روی سخت‌افزارهای رده ورک‌استیشن طراحی شده است. مخاطب اصلی این مدل، توسعه‌دهندگانی هستند که می‌خواهند بدون ارسال پرامپت‌ها و داده‌های خود به APIهای ابری، از قابلیت‌هایی مانند فراخوانی ابزارها، کدنویسی، ورودی‌های چندوجهی و پنجره کانتکست طولانی به‌صورت کاملاً بومی بهره‌مند شوند.

کوانتیزاسیون، اجرای مدل ۳۰ میلیاردی را با ۲۴ گیگابایت حافظه ممکن می‌کند

یک مدل ۳۰ میلیارد پارامتری با وزن‌های ۱۶ بیتی، حتی پیش از محاسبه حافظه کَش کلید-مقدار (KV Cache) و سایر منابع زمان اجرا، به حدود ۶۰ گیگابایت (معادل ۵۵٫۹ گیبی‌بایت) فضا نیاز دارد. با این حال، متا با استفاده از کوانتیزاسیون تقریبی ۴ بیتی وزن‌ها، ردپای حافظه مدل Glimmer را به کمتر از ۲۰ گیگابایت رسانده است؛ موضوعی که امکان استقرار و اجرای آن را روی یک کارت گرافیک ۲۴ گیگابایتی یا سیستم مک با حافظه یکپارچه کافی فراهم می‌سازد.

بر اساس گزارش متا، افت کارایی ناشی از فرآیند کوانتیزاسیون تنها حدود ۱٫۰ درصد است، هرچند این رقم بسته به معیارهای ارزیابی و داده‌های کالیبراسیون می‌تواند متفاوت باشد. این انتشار شامل وزن‌های اصلی BF16 برای استقرار با دقت بالاتر، فرمت GGUF k-quants برای محیط‌های اجرای محلی رایج و بیلدهای ExecuTorch برای دستگاه‌های پشتیبانی‌شده است.

با این حال، حجم کمتر از ۲۰ گیگابایتی فایل وزن‌ها لزوماً تضمین‌کننده دسترسی به کل ظرفیت پنجره کانتکست ۱۲۰ هزار توکنی روی یک کارت گرافیک ۲۴ گیگابایتی نیست؛ چراکه پرامپت‌های طولانی حجم کش کلید-مقدار را به‌شدت افزایش می‌دهند و مواردی چون فریمورک اجرا، انکودر بینایی، بسترهای اتصال ابزارها و دیکودر حدسی نیز حافظه اضافی مصرف می‌کنند. از این رو، توسعه‌دهندگان باید طول کانتکست قابل استفاده را بر اساس سطح کوانتیزاسیون انتخابی، اندازه دسته (Batch Size) و موتور استنتاج خود به‌دقت اندازه‌گیری کنند.

کاهش تأخیر در چرخه‌های فراخوانی ابزار با مدل مکمل DFlash

چرخه‌های پردازش ایجنت‌ها هزینه رمزگشایی خودبازگشتی (Autoregressive) را به‌شدت افزایش می‌دهند؛ زیرا مدل باید به‌طور مداوم توکن‌های استدلال، آرگومان‌های ساختاریافته و اقدامات بعدی را تولید کند. برای حل این چالش، مدل مکمل DFlash در کنار Glimmer قرار گرفته است که با تکیه بر تکنیک رمزگشایی حدسی (Speculative Decoding)، بسته‌هایی از توکن‌ها را پیشنهاد می‌دهد. سپس مدل اصلی این پیشنهادها را به‌صورت موازی ارزیابی کرده، توکن‌های معتبر را می‌پذیرد و موارد ردشده را جایگزین می‌کند.

البته توان عملیاتی واقعی بسته به عواملی نظیر طول پرامپت، طول متن خروجی، نوع کوانتیزاسیون، نرخ پذیرش مدل پیش‌نویس‌کننده، فریمورک اجرا و پهنای باند حافظه متغیر خواهد بود. علاوه‌بر این، میزان تأخیر ایجنت شامل زمان اجرای ابزارها، پردازش پرامپت و عملیات پیش‌پُر کردن (Prefill) مکرر نیز می‌شود؛ بنابراین سرعت تولید توکن تنها بخشی از عملکرد کلی سیستم را نشان می‌دهد.

مدل اختصاصی Muse Spark؛ سرچشمه سیگنال‌های آموزشی Glimmer

متا مدل Glimmer را در مراحل پیش‌آموزش، آموزش میانی و پس‌آموزش از مدل اختصاصی و بزرگ‌تر خود یعنی Muse Spark تقطیر (Distill) کرده است. در فرآیند تقطیر لاجیت‌ها (Logit Distillation)، مدل دانش‌آموز از توزیع احتمالاتی مدل استاد روی توکن‌های احتمالی بعدی یاد می‌گیرد؛ توزیعی که نسبت به آموزش صرف روی خروجی‌های نهایی استاد، حجم اطلاعات بسیار غنی‌تری را منتقل می‌کند.

در مرحله آموزش میانی، از توالی‌های کانتکست طولانی شامل ردپاهای استدلال، ترکیب درهم‌تنیده متن و تصویرها و مسیرهای چندمرحله‌ای فراخوانی ابزارها استفاده شده است. مرحله پس‌آموزش نیز شامل فاین‌تیون نظارت‌شده (SFT)، یادگیری تقویتی، مجموعه‌داده‌های متمرکز بر ایجنت‌ها و تقطیر مبتنی بر خط‌مشی جاری (On-Policy Distillation) بوده است. در این شیوه تقطیر، Glimmer ابتدا بر اساس رفتار فعلی خود سناریوها را تولید می‌کند و سپس از نظارت مدل استاد بهره می‌برد؛ رویکردی که فرآیند آموزش را به شرایط واقعی استقرار در دنیای واقعی بسیار نزدیک‌تر می‌کند.

بنچمارک MCP Atlas؛ شفاف‌ترین معیار برای مقایسه عملکرد

متا مدل Glimmer را در «حالت تفکر» (Thinking Mode) روی بنچمارک‌های متمرکز بر ابزارها، پژوهش، وظایف عمومی ایجنت‌ها و مهندسی نرم‌افزار ارزیابی کرده است. جدول منتشرشده مقایسه‌ای کامل میان سه مدل را در بنچمارک MCP Atlas به نمایش می‌گذارد، در حالی که نتایج سایر رقبا در ردیف‌های دیگر جدول گزارش نشده است.

در بنچمارک گزارش‌شده MCP Atlas، مدل Glimmer با اختلاف ۱۳ امتیازی از Qwen3.6-27B و اختلاف ۲۱٫۳ امتیازی از Gemma4-31B پیشی گرفته است. سایر امتیازات، عملکرد Glimmer را در هر بنچمارک نشان می‌دهند اما رتبه‌بندی مقایسه‌ای کاملی میان مدل‌ها ارائه نمی‌کنند؛ بنابراین ارزیابی‌های عملیاتی در محیط‌های تولیدی باید همان سبک پرامپت‌نویسی، تعاریف ابزارها، تنظیمات استنتاج و معیارهای اتمام وظیفه را بازتولید کنند.

ایجنت‌های بومی و خصوصی؛ بهترین سناریوی کاربردی برای Glimmer

متا مدل Glimmer را برای استدلال‌های طولانی، فراخوانی ساختاریافته ابزارها، بازیابی پس از بروز خطا، کدنویسی و تحلیل چندوجهی بهینه‌سازی کرده است. این شرکت همچنین از پشتیبانی بیش از ۱۰۰ زبان مختلف و سازگاری کامل با فریمورک‌های مطرح ایجنت مانند OpenClaw خبر می‌دهد.

• ایجنت‌های مدیریت مخازن کد: بررسی کدها، ویرایش فایل‌ها، اجرای تست‌ها و رفع خطاها به‌صورت محلی و بدون نیاز به آپلود کدهای اختصاصی روی سرورهای بیرونی.
• دستیارهای چندوجهی: پردازش اسکرین‌شات‌ها، نمودارها و فریم‌های ویدیویی در کنار متن و نتایج ابزارها.
• اتوماسیون محرمانه: کار با فایل‌های شخصی، اسناد داخلی سازمان‌ها و سرویس‌های محلی تحت سطوح دسترسی امنیتی اختصاصی.
• فرآیندهای آفلاین: ادامه فعالیت پایدار در محیط‌های ایزوله یا فاقد اتصال اینترنت.
• سیستم‌های ارزیابی: اجرای چرخه‌های داوری مبتنی بر مدل (Model-as-a-Judge) به‌صورت محلی با هزینه‌های زیرساختی کاملاً قابل پیش‌بینی.

مدل Glimmer از معماری متراکم (Dense) بهره می‌برد؛ بنابراین تمام پارامترهای دیکودر در هر گذر رو به جلو (Forward Pass) مشارکت دارند. این ساختار از پیچیدگی‌های مسیریابی در مدل‌های ترکیبی از متخصصان (MoE) بی‌نیاز است و رفتار مدل را از نظر میزان تأخیر و مصرف حافظه روی یک دستگاه کاملاً قابل پیش‌بینی می‌کند. در عین حال، این ساختار ایجاب می‌کند که برای تولید هر توکن، محاسبات روی کل دیکودر انجام شود.

مجوز Apache 2.0؛ تسهیل استفاده تجاری و توسعه محصولات

لایسنس Apache 2.0 امکان استفاده تجاری، اعمال تغییرات و توزیع مجدد را فراهم می‌کند، شامل واگذاری حق ثبت اختراع (Patent Grant) است و تنها حفظ ارجاعات و هشدارهای کپی‌رایت مربوطه را الزامی می‌داند. از آنجا که متا پیش‌تر وزن‌های خانواده مدل‌های لاما (Llama) را با شروط انحصاری و جامعه‌محور منتشر کرده و مدل Muse Spark را اختصاصی نگه داشته بود، اکنون Glimmer چارچوب حقوقی شفاف‌تر و آشناتری را در اختیار توسعه‌دهندگان محصولات و سیستم‌های داخلی قرار می‌دهد.

با این وجود، مسئولیت استفاده از ابزارهای متفرقه (Third-party)، چالش‌های مربوط به داده‌های آموزشی، لایسنس محیط‌های اجرا، خروجی‌های مدل و مقررات قانونی مربوط به حوزه کاری، کماکان بر عهده شرکت‌های توسعه‌دهنده خواهد بود. افزون بر این، لایسنس مدل هرگز جایگزین کنترل‌های امنیتی پیرامون دسترسی ابزارها، اطلاعات کاربری حساس، دسترسی به فایل‌ها یا کدهای تولیدشده نمی‌شود.

استنتاج محلی؛ تغییر موازنه‌های مهندسی در توسعه هوش مصنوعی

مدل Glimmer بسیاری از قابلیت‌های ایجنت‌های ابری را به محدوده حافظه‌ای می‌آورد که روی سخت‌افزارهای رده‌بالای مصرف‌کنندگان در دسترس است. استنتاج محلی به شرکت‌ها امکان می‌دهد داده‌های حساس را داخل سازمان حفظ کنند، از سناریوهای آفلاین پشتیبانی نمایند و هزینه‌های فزاینده مبتنی بر مصرف API را به حداقل برسانند. در مقابل، مسئولیت برنامه‌ریزی ظرفیت، به‌روزرسانی‌ها، پایش مداوم، مصرف برق و امنیت ابزارها مستقیماً متوجه تیم‌های فنی خواهد بود.

کسب امتیاز ۵۱٫۲ در بنچمارک SWE-Bench Pro نشان می‌دهد که Glimmer گزینه‌ای شایسته برای ایجنت‌های برنامه‌نویسی است؛ در حالی که نتایج به‌دست‌آمده از DFlash نیز اثبات می‌کند تکنیک رمزگشایی حدسی می‌تواند اجرای مکرر چرخه‌های ابزار را بسیار کاربردی‌تر و سریع‌تر کند. با وجود این، انتخاب این مدل برای پروژه‌ها در نهایت به ساختار مخازن کد، پرامپت‌ها، شمای ابزارها، اهداف تأخیر و میزان تحمل افت دقت ناشی از کوانتیزاسیون بستگی دارد.

اقدامات ضروری پیش از استقرار مدل در محیط عملیاتی

1. محاسبه دقیق مصرف کل حافظه: علاوه‌بر وزن‌های مدل، حافظه کش کلید-مقدار، ورودی‌های بینایی، بافرهای زمان اجرا، مدل پیش‌نویس‌کننده و فریمورک ایجنت را لحاظ کنید.
2. بنچمارک نسخه و فرمت انتخابی: بیلدهای BF16 و کوانتیزه‌شده را روی وظایف واقعی خود مقایسه کنید؛ چراکه ارقام کلی ارائه‌شده در بنچمارک‌ها ممکن است افت کیفیت در سناریوهای خاص را پنهان کنند.
3. آزمایش چرخه کامل فرآیندها: به‌جای تکیه صرف بر سرعت تولید توکن در ثانیه، نرخ موفقیت در وظایف، دقت در فراخوانی ابزارها، نحوه مدیریت خطا، زمان تأخیر واقعی و هزینه‌ها را اندازه‌گیری کنید.
4. محدودسازی سطح دسترسی ابزارها: آرگومان‌های ورودی را اعتبارسنجی کنید، اجرای کدها را در محیط ایزوله (Sandbox) انجام دهید، دسترسی‌های امنیتی را به حداقل برسانید و برای اقدامات حساس تأییدیه کاربر را الزامی کنید.
5. بررسی سازگاری فریمورک: اطمینان حاصل کنید که محیط اجرای شما از قالب گفت‌وگوی Glimmer، ورودی‌های چندوجهی، ساختار ابزارها، طول کانتکست و ادغام با DFlash پشتیبانی می‌کند.
6. بررسی تعهدات لایسنس: تمام ارجاعات و هشدارهای الزامی را حفظ کنید و مجوزهای مربوط به کتابخانه‌ها، محیط‌های اجرا و اجزای مدل را به‌صورت مجزا مورد ارزیابی قرار دهید.