اجرای مدل تبدیل تصویر به ویدیوی Wan2.2 علی‌بابا روی کارت‌های گرافیک ۸ گیگابایتی ممکن شد
تیم QuantStack نسخه‌های بهینه‌سازی‌شده و فشرده مدل تبدیل تصویر به ویدیوی Wan2.2 علی‌بابا را با فرمت GGUF منتشر کرد. این نسخه جدید امکان اجرای محلی این مدل قدرتمند را روی کارت‌های گرافیک خانگی با حافظه ۸ گیگابایتی فراهم می‌کند و با استقبال گسترده جامعه هوش مصنوعی روبه‌رو شده است.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- نسخه فشرده مدل قدرتمند تبدیل تصویر به ویدیوی Wan2.2 علی‌بابا با فرمت GGUF منتشر شد و به بیش از ۸۳۰ هزار دانلود دست یافت.
- با بهینه‌سازی و کاهش حجم وزن‌های مدل، اکنون اجرای محلی آن روی کارت‌های گرافیک خانگی از ۸ تا ۲۴ گیگابایت حافظه امکان‌پذیر شده است.
- این مدل از معماری ترکیب متخصصان با دو شبکه مجزا استفاده می‌کند و کاربران می‌توانند بسته به سخت‌افزار خود، تعادل میان کیفیت و مصرف حافظه را تنظیم کنند.
آمار پلتفرم Hugging Face نشان می‌دهد نسخه تبدیل‌شده مدل Wan2.2-I2V-A14B علی‌بابا توسط تیم QuantStack از مرز ۸۳۱ هزار بار دانلود عبور کرده است. این نسخه که توسط جامعه متن‌باز توسعه یافته است، مدل ۱۴ میلیارد پارامتری تبدیل تصویر به ویدیو را در قالب فایل‌های کوانتایزشده GGUF بسته‌بندی می‌کند تا اجرای محلی آن از طریق کاهش دقت محاسباتی و انتقال بخشی از بار پردازش به پردازنده مرکزی (CPU Offloading)، روی کارت‌های گرافیک مصرفی و خانگی ممکن شود. البته شمارنده Hugging Face صرفاً درخواست‌های دریافت فایل را ثبت می‌کند و ممکن است شامل دانلودهای تکراری نیز باشد.
وزن‌های کامل با دقت استاندارد BF16 برای یک مدل ۲۷ میلیارد پارامتری، پیش از اختصاص حافظه در زمان اجرا برای لایه‌های توجه (Attention)، بخش VAE، انکودر متنی، متغیرهای نهان (Latents) و محیط ComfyUI، به حدود ۵۴ گیگابایت فضا نیاز دارند. انتشار نسخه جدید QuantStack این مدل را در قالب‌های فشرده ۲ بیتی تا ۸ بیتی ارائه می‌دهد. در نتیجه کاربران می‌توانند با سبک‌سنگین کردن میزان دقت و سرعت در برابر مصرف حافظه، گزینه‌های کاربردی متناسب با کارت‌های گرافیک ۸، ۱۲، ۱۶ و ۲۴ گیگابایتی را انتخاب کنند.
معماری دو متخصصه و تغییر معادلات دانلود
طبق توضیحات صفحه رسمی مدل اصلی، این سیستم از معماری ترکیب متخصصان (MoE) با دو شبکه متخصص جداگانه برای نویزهای شدید و نویزهای ضعیف بهره می‌برد. تیم QuantStack برای هر سطح کوانتایزسازی، یک فایل GGUF جداگانه برای هر متخصص ارائه کرده است؛ بنابراین راه‌اندازی کامل مدل به دریافت یک جفت فایل هماهنگ نیاز دارد. این نسخه مشتق‌شده همچنان تحت مجوز متن‌باز اولیه یعنی Apache 2.0 عرضه می‌شود.
سطح فشرده‌سازی | حجم هر متخصص | جفت متخصصان | مزایا و معایب کاربردی |
|---|---|---|---|
Q2_K | ۵.۳ گیگابایت | ۱۰.۶ گیگابایت | کمترین میزان اشغال حافظه، همراه با افت مشهود در بافت‌ها و جزئیات حرکتی |
Q3_K_M | ۷.۱۸ گیگابایت | ۱۴.۴ گیگابایت | مناسب برای سخت‌افزارهای محدود با انتقال بخشی از پردازش به پردازنده |
Q4_K_M | ۹.۶۵ گیگابایت | ۱۹.۳ گیگابایت | تعادل متداول و بهینه میان مصرف حافظه و کیفیت خروجی |
Q5_K_M | ۱۰.۸ گیگابایت | ۲۱.۶ گیگابایت | حفظ جزئیات بیشتر در عین افزایش فشار بر حافظه گرافیکی |
Q6_K | ۱۲ گیگابایت | ۲۴ گیگابایت | کیفیت بسیار بالا، نیازمند انتقال حجم قابل‌توجهی از پردازش در بسیاری از کارت‌ها |
Q8_0 | ۱۵.۴ گیگابایت | ۳۰.۸ گیگابایت | بزرگ‌ترین گزینه و نزدیک‌ترین حالت به کیفیت وزن‌های اصلی |
ستون جفت متخصصان فضای ذخیره‌سازی لازم روی دیسک را برای هر دو فایل تخمین می‌زند. با این حال، اوج حافظه ویدیویی (VRAM) مورد نیاز به استراتژی بارگذاری در ComfyUI، وضوح تصویر، تعداد فریم‌ها، نحوه پیاده‌سازی مکانیزم توجه، حافظه رم سیستم و امکان انتقال بخش‌های غیرفعال به پردازنده مرکزی بستگی دارد. از این رو، حجم فایل فشرده‌شده صرفاً یک نقطه شروع برای برآورد است و کل پیش‌نیازهای سخت‌افزاری را تعیین نمی‌کند.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
معرفی Devin Security 2.0؛ عامل هوشمند Cognition باگ‌های امنیتی را خودکار پیدا و برطرف می‌کند
استارتاپ Cognition با معرفی پلتفرم Devin Security 2.0، عامل هوش مصنوعی خود را به سامانه‌ای جامع برای ارزیابی و برطرف‌سازی خودکار رخنه‌های امنیتی تبدیل کرد. این ابزار جدید با ترکیب مدل‌های پیشرفته امنیتی و ماشین‌های مجازی ابری، آسیب‌پذیری‌های نرم‌افزاری را شناسایی کرده و پس از بازتولید و آزمایش باگ، اصلاحیه نهایی را در قالب پول ریکوئست ارائه می‌دهد.
نفوذ ایجنت‌های هوش مصنوعی استارتاپ Cathedral به سیستم‌های اداری Anthropic در کمتر از ۱۲ ساعت
ایجنت‌های هوش مصنوعی استارتاپ امنیتی Cathedral موفق شدند در کمتر از ۱۲ ساعت به بخشی از سیستم‌های اداری و تجاری Anthropic نفوذ کنند. با این حال، Anthropic تأکید کرده است که این دسترسی کاملاً محدود بوده و مکالمات کاربران با Claude، کدهای منبع و وزن‌های مدل‌های هوش مصنوعی کاملاً در امان مانده‌اند.
استارتاپ ابری General Compute با جذب ۱۰۰ میلیون دلار سرمایه، فرضیه بحران در بازار زیرساخت هوش مصنوعی را رد کرد
استارتاپ ابری General Compute با تکیه بر تراشه‌های اختصاصی استنتاج و تأمین زیرساخت‌های مقرون‌به‌صرفه، موفق به جذب سرمایه ۱۰۰ میلیون دلاری در مرحله سری A شد. این استارتاپ با به چالش کشیدن فرضیه شکست ارائه‌دهندگان ابری نوپا، نشان داد که می‌توان فراتر از اکوسیستم انویدیا نیز به مدل اقتصادی پایداری در حوزه زیرساخت هوش مصنوعی دست یافت.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.