شاهکار فشرده‌سازی برای ComfyUI؛ مدل بینایی ۲۷ میلیاردی Mitsuba فقط با ۷.۳ گیگابایت حافظه!

فشرده‌سازی مدل بینایی ۲۷ میلیاردی Mitsuba برای نوشتن پرامپت در ComfyUI

مدل Mitsuba-ComfyUI-27B-GGUF یک مدل بینایی-زبانی ۲۷ میلیارد پارامتری است که وظیفه تحلیل تصاویر و تولید پرامپت‌های دقیق و بهینه‌سازی‌شده برای مدل‌های تولید تصویر و ویدیو را بر عهده دارد. یک توسعه‌دهنده ژاپنی با نام مستعار isichan-ai، این مدل را که بر پایه Qwen3.8-27B توسعه یافته، برای ساخت تگ‌های استیبل دیفیوژن (Stable Diffusion)، دستورالعمل‌های زمان‌بندی‌شده ویدیویی، پرامپت‌های منفی (Negative Prompts) و توصیف‌های دقیق و پرجزئیات از تصاویر تیون کرده است.

در محیط گراف ComfyUI، میتسوبا می‌تواند یک تصویر و خواسته‌های کاربر برای پرامپت را تحویل بگیرد و متن نهایی را مستقیماً به نود تولید تصویر یا ویدیو بفرستد. به این ترتیب، پایپ‌لاین‌های محلی بدون نیاز به سرویس‌های ابری یا ابزار‌های کپشن‌نویسی خارجی، به یک مرحله پرامپت‌نویسی هوشمند و مسلط به تصویر مجهز می‌شوند. البته توجه داشته باشید که کدنویسی خارج از اهداف طراحی و کاربرد این مدل است.

جای دادن یک مدل ۲۷ میلیاردی در کم‌تر از ۸ گیگابایت!

روش کوانتایزیشن سه‌تایی (Ternary Quantization) هر یک از وزن‌های فشرده‌شده را به سه مقدار تقریبی -۱، ۰ و +۱ محدود می‌کند. ذخیره‌سازی این سه حالت از نظر تئوری فقط به حدود ۱.۵۸ بیت فضا نیاز دارد و همین موضوع راز حجم فوق‌العاده کم فایل‌های GGUF این مدل است. فرمت GGUF استانداردی بسیار محبوب به حساب می‌آید که معمولاً در محیط‌های اجرایی مبتنی بر llama.cpp بارگذاری و اجرا می‌شود.