پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

کاهش حجم مدل هوش مصنوعی MiniMax H3 به ۸٫۹ گیگابایت، اجرای محلی آن را روی گرافیک‌های خانگی ممکن کرد

انتشار:۱۲ آبان ۱۴۰۵
۲ دقیقه زمان مطالعه
۰ دیدگاه
اشتراک و پسندیدن

توسعه‌دهندگان با انتشار نسخه‌های بهینه‌شده مدل ویدیوساز MiniMax H3 در قالب فرمت GGUF، حجم این سامانه ۲۶ میلیارد پارامتری را تا ۸٫۹ گیگابایت کاهش دادند. این بهینه‌سازی امکان اجرای مستقیم و روان مدل را روی کارت‌های گرافیک معمولی و بدون نیاز به سرویس‌های ابری فراهم می‌کند.

کاهش حجم مدل هوش مصنوعی MiniMax H3 به ۸٫۹ گیگابایت، اجرای محلی آن را روی گرافیک‌های خانگی ممکن کرد

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • نسخه‌های بهینه‌شده مدل MiniMax H3 با کاهش چشمگیر حجم به ۸٫۹ تا ۲۱٫۶ گیگابایت، امکان اجرای محلی آن را در محیط ComfyUI میسر کرده‌اند.
  • اجرای محلی این هوش مصنوعی کاربران را از پرداخت هزینه‌های اشتراک ابری و ماندن در صف‌های طولانی پردازش بی‌نیاز می‌کند.
  • سبک‌ترین نسخه این مدل برای اجرا به حدود ۱۲ گیگابایت حافظه گرافیکی نیاز دارد و در دو حالت مختلف برای تولید ویدیو از تصاویر یا داده‌های مرجع ارائه شده است.

توسعه‌دهندگان جامعه متن‌باز مجموعه‌ای از وزن‌های کوانتیزه‌شده مدل H3 را برای اجرای محلی در محیط محبوب ComfyUI منتشر کرده‌اند. این مجموعه که با عنوان MiniMax-H3-Pruned-GGUF عرضه شده، نسخه هرس‌شده و سبک‌تر مدل را با تکنیک فشرده‌سازی GGUF ترکیب کرده و حجم فایل‌ها را به رقمی بین ۸٫۹ تا ۲۱٫۶ گیگابایت رسانده است.

اجرای محلی مدل H3 هزینه‌های دریافت اشتراک یا استفاده از API، معطلی در صف‌های پردازش ابری و نیاز به بارگذاری فایل‌ها در سرورهای خارجی را از چرخه تولید ویدیو حذف می‌کند. مخزن این نسخه تا زمان نگارش گزارش بیش از ۸۴۰ هزار بار دانلود به ثبت رسانده است، هرچند آمار پلتفرم Hugging Face جابه‌جایی کلی فایل‌ها را می‌سنجد و احتمال دارد دانلودهای تکراری یا فرایندهای خودکار نیز در آن لحاظ شده باشند.

از عرضه ابری تا مسیر اجرای محلی

شرکت MiniMax مدل پیشرفته H3 را به‌عنوان سامانه‌ای چندوجهی با ۲۶ میلیارد پارامتر معرفی کرد؛ سامانه‌ای که ورودی‌های متنی، تصویری، ویدیویی و صوتی را دریافت می‌کند و خروجی‌هایی ویدیویی همراه با صدای استریوی فراگیر تحویل می‌دهد. طبق اطلاعیه رسمی MiniMax درباره H3، این هوش مصنوعی می‌تواند ویدیوهایی تا سقف ۱۵ ثانیه و با وضوح تصویر تا حداکثر 2K خلق کند.

دسترسی اولیه به این مدل تنها از طریق رابط برنامه‌نویسی شرکت سازنده و اپلیکیشن مصرفی Hailuo میسر بود و MiniMax وعده داد وزن‌های قابل دانلود را در آینده عرضه کند. یک مدل ۲۶ میلیارد پارامتری در حالت معمول با دقت محاسباتی FP16 به‌تنهایی نیازمند حدود ۵۲ گیگابایت حافظه است؛ آن هم پیش از احتساب حافظه جانبی مورد نیاز برای محاسبات استنتاج، که چنین باری را کاملاً فراتر از توان پردازنده‌های گرافیکی خانگی قرار می‌دهد. نسخه آماده‌شده توسط کاربران، کار خود را از فایل سبک‌تر مدل پایه آغاز کرده و با کاهش بیشتر دقت عددی، آن را برای استفاده همگانی روی سخت‌افزارهای دردسترس بهینه‌سازی کرده است.

دو حالت پردازشی و پنج سطح فشرده‌سازی

فرمت GGUF یک قالب استاندارد برای ذخیره‌سازی فایل مدل‌های هوش مصنوعی است که از وزن‌هایی با دقت عددی پایین‌تر و بارگذاری مستقیم روی حافظه پشتیبانی می‌کند. کاهش دقت عددی به‌شکل چشمگیری مصرف حافظه موقت و فضای ذخیره‌سازی را کم می‌کند، در حالی که سطوح فشرده‌سازی بالاتر بخش بیشتری از جزئیات عددی را با هزینه سنگین‌تر شدن حجم فایل حفظ می‌کنند.

مخزن منتشرشده برای دو روش اصلی تولید محتوا در مدل H3 فایل‌های مجزایی ارائه کرده است:

حالت
کاربرد و عملکرد
FL2VA
تولید ویدیو و صدا بر پایه فریم‌های آغازین و پایانی، دستورهای متنی و ورودی‌های کمکی.
Ref2VA
استفاده از تصاویر، ویدیوها و فایل‌های صوتی مرجع برای جهت‌دهی و ساخت ویدیو و موسیقی متن.

هر یک از این دو حالت در پنج سطح مختلف فشرده‌سازی و کوانتیزاسیون عرضه شده‌اند:

سطح کوانتیزاسیون
حجم فایل
توصیه مخزن برای سخت‌افزار
Q3_K_M
۸٫۹ گیگابایت
حدود ۱۲ گیگابایت حافظه ویدیویی (VRAM) با فعال‌سازی تنظیمات صرفه‌جویی در حافظه

بازخورد و اشتراک‌گذاری این مطلب

اگر این گزارش برایتان مفید بود، با پسندیدن و اشتراک‌گذاری آن با دیگران، از محتوای تخصصی هوش مصنوعی حمایت کنید.

اشتراک‌گذاری در شبکه‌های اجتماعی:

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

مدل صوتی Breeze-TTS-2 به ۸۶۰ هزار دانلود رسید؛ اجرای تبدیل متن به گفتار بدون نیاز به پایتون
آخرین اخبار

مدل صوتی Breeze-TTS-2 به ۸۶۰ هزار دانلود رسید؛ اجرای تبدیل متن به گفتار بدون نیاز به پایتون

نسخه بهینه‌شده مدل هوش مصنوعی Breeze-TTS-2 با بهره‌گیری از یک موتور مستقل C++، امکان تبدیل متن به گفتار را بدون نیاز به پایتون فراهم کرده است. این ابزار با پشتیبانی از انواع پردازنده‌های گرافیکی و پردازنده مرکزی، بیش از ۸۶۰ هزار بار در پلتفرم Hugging Face دانلود شده است. معماری کارآمد و مستقل این پروژه، استقرار محلی و شخصی‌سازی صدای هوش مصنوعی را برای توسعه‌دهندگان بسیار ساده‌تر می‌کند.

۲ دقیقه مطالعه
۰
۱۲ آبان
درس‌هایی از استراتژی هوش مصنوعی در والمارت و دنیای مد؛ کاهش چرخه طراحی از ۶ ماه به چند هفته
آخرین اخبار

درس‌هایی از استراتژی هوش مصنوعی در والمارت و دنیای مد؛ کاهش چرخه طراحی از ۶ ماه به چند هفته

به‌کارگیری هوشمندانه هوش مصنوعی زمان طراحی پوشاک را از شش ماه به کمتر از هشت هفته کاهش داده است. شرکت‌های پیشرویی مانند والمارت در کنار برندهایی چون Coach با تکیه بر مدل‌های اختصاصی و شبیه‌سازی سریع الگوها، تحولی بنیادین در سرعت زنجیره تولید خود رقم زده‌اند.

۵ دقیقه مطالعه
۰
۱۲ آبان
اپل دسترسی به برنامه‌های دوستیابی و همدم‌های هوش مصنوعی را به کاربران بالای ۱۸ سال محدود کرد
آخرین اخبار

اپل دسترسی به برنامه‌های دوستیابی و همدم‌های هوش مصنوعی را به کاربران بالای ۱۸ سال محدود کرد

اپل با به‌روزرسانی قوانین اپ استور، دسترسی کودکان و نوجوانان را به برنامه‌های دوستیابی و ابزارهای هوش مصنوعی همدم محدودتر می‌کند. طبق این تصمیم جدید، تمام برنامه‌هایی که روابط عاطفی یا چت‌بات‌های همدم ارائه می‌دهند، ملزم به دریافت رده‌بندی سنی بالای ۱۸ سال خواهند بود. این تغییرات به ارتقای ایمنی کاربران خردسال و شفاف‌سازی اشتراک‌گذاری موقعیت مکانی کمک می‌کند.

۲ دقیقه مطالعه
۰
۱۲ آبان