مدل بینایی EfficientViT-L2؛ کاهش چشمگیر هزینه پردازش تصاویر با وضوح بالا در هوش مصنوعی
آزمایشگاه Han در دانشگاه MIT با ارائه مدل بینایی EfficientViT-L2، راهکاری بهینه برای پردازش تصاویر با وضوح بالا در اختیار توسعه‌دهندگان PyTorch قرار داده است. این معماری با جایگزین کردن مکانیزم توجه خطی به‌جای روش‌های مرسوم، مصرف حافظه و هزینه محاسباتی را به‌شدت کاهش می‌دهد.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- مدل بینایی EfficientViT-L2 با بهره‌گیری از مکانیزم توجه خطی، هزینه پردازش تصاویر با وضوح بالا را به‌طور چشمگیری کاهش می‌دهد.
- این مدل با ۶۳.۷ میلیون پارامتر و مجوز متن‌باز Apache-2.0 اکنون از طریق کتابخانه timm در دسترس توسعه‌دهندگان PyTorch قرار دارد.
- معماری جدید در وظایف سنگینی مانند قطعه‌بندی، تشخیص اشیا و بازسازی تصویر از ایجاد گلوگاه‌های محاسباتی و مصرف بی‌رویه حافظه جلوگیری می‌کند.
مدل EfficientViT-L2 که در آزمایشگاه Han دانشگاه MIT توسعه یافته است، یک دسته‌بند آموزش‌دیده روی مجموعه‌داده ImageNet-1k و یک هسته پایه (Backbone) قابل استفاده مجدد برای استخراج ویژگی‌ها را در اختیار توسعه‌دهندگان PyTorch قرار می‌دهد که هزینه محاسباتی مکانیزم توجه در آن، متناسب با تعداد توکن‌ها به‌صورت خطی افزایش می‌یابد. چک‌پوینت آموزش‌دیده توسط سازندگان با نام efficientvit_l2.r288_in1k از طریق کتابخانه timm در دسترس است، از الگوی ارزیابی با ابعاد ۲۸۸ در ۲۸۸ پیکسل بهره می‌برد و در کارت مدل خود تحت مجوز متن‌باز Apache-2.0 منتشر شده است.
توسعه‌دهندگان می‌توانند از این چک‌پوینت برای دسته‌بندی تصاویر، استخراج امبدینگ‌های تجمیع‌شده یا استخراج ویژگی‌های چندمقیاسی استفاده کنند. مزیت اصلی این معماری در وظایف پردازش متراکم نظیر قطعه‌بندی تصویر (Segmentation)، تشخیص اشیا و بازسازی تصاویر آشکار می‌شود؛ یعنی دقیقاً همان حوزه‌هایی که با بالا رفتن وضوح تصویر، مکانیزم‌های توجه مرسوم در آن‌ها به‌شدت پرهزینه و سنگین می‌شوند. البته نتایج منتشرشده برای پیش‌بینی‌های متراکم، حاصل استفاده از مدل‌ها و بخش‌های خروجی (Heads) اختصاصی EfficientViT برای همان وظایف هستند و نباید آن‌ها را مستقیماً به این چک‌پوینت پایه ImageNet نسبت داد.
کوچک‌سازی ماتریس توکن‌ها با مکانیزم توجه خطی
مکانیزم توجه کامل مبتنی بر Softmax، برای هر N توکن تصویر یک ماتریس تعاملی با ابعاد N در N می‌سازد. به همین دلیل، بار محاسباتی و مصرف حافظه در این روش با افزایش تعداد توکن‌ها به‌صورت تصاعدی (درجه دو) رشد می‌کند. افزایش طول و عرض تصویر، تعداد توکن‌های بسیار بیشتری تولید می‌کند و باعث می‌شود مکانیزم توجه، خیلی زودتر از لایه‌های کانولوشنی به یک گلوگاه پردازشی پرهزینه تبدیل شود.
مدل EfficientViT از مکانیزم توجه خطی مبتنی بر تابع ReLU بهره می‌برد که با بازآرایی روند محاسبات، از تشکیل آن ماتریس تعاملی کامل و سنگین جلوگیری می‌کند. با ثابت نگه داشتن عرض کانال، هزینه مکانیزم توجه تقریباً به‌صورت خطی و متناسب با تعداد توکن‌ها رشد خواهد کرد. در کنار این موضوع، کانولوشن‌های تفکیک‌پذیر عمقی (Depthwise Convolutions) و تجمیع چندمقیاسی، اطلاعات محیط‌های مجاور را اضافه کرده و الگوها را در چندین مقیاس مکانی مختلف ثبت می‌کنند. جزئیات این طراحی توسط تیم پژوهشگران در مقاله کنفرانس ICCV 2023 تشریح شده است.
نگاهی به درون چک‌پوینت L2
چک‌پوینت L2 که توسط طراحان اصلی مدل آموزش دیده است، دسته‌بندی مجموعه‌داده ImageNet-1k را در وضوح ارزیابی پیش‌فرض ۲۸۸ در ۲۸۸ پیکسل هدف قرار می‌دهد. اندازه و نیازمندی‌های محاسباتی گزارش‌شده برای این مدل به شرح زیر است:
شاخص | مقدار | توضیحات |
|---|---|---|
پارامترها | ۶۳.۷ میلیون | وزن‌های یادگرفته‌شده در مدل |
مطالب مرتبط و پیشنهادی
رونمایی استارتاپ Thinking Machines از مدل ۵۹۴ میلیارد پارامتری Inkling 2 Small برای ساخت ایجنت‌ها
آزمایشگاه Thinking Machines از مدل جدید Inkling 2 Small با ۵۹۴ میلیارد پارامتر کل و ۱۷ میلیارد پارامتر فعال رونمایی کرد. این مدل چندوجهی به‌طور ویژه برای ساخت ایجنت‌های هوشمند، کدنویسی و شخصی‌سازی عمیق طراحی شده است و پس از پایان تست‌های امنیتی به‌صورت متن‌باز منتشر خواهد شد.
فین‌تک کانادایی Wealthsimple از Penny رونمایی کرد؛ دستیار هوش مصنوعی برای مدیریت مالی و معاملات بورس
شرکت فین‌تک کانادایی Wealthsimple از دستیار هوشمند جدیدی به نام Penny رونمایی کرده است که انتقال وجه، پرداخت قبوض و معاملات سهام را با زبان طبیعی مدیریت می‌کند. این دستیار هیچ تراکنشی را بدون تأیید مستقیم کاربر انجام نمی‌دهد و به‌زودی به ChatGPT و Claude نیز متصل خواهد شد.
تحقیق و توسعه در Anthropic با کمک هوش مصنوعی دو برابر سریع‌تر شده است
ارزیابی مستقل موسسه METR نشان می‌دهد که استفاده از ابزارهای هوش مصنوعی، سرعت بهبود توانمندی مدل‌های شرکت Anthropic را به دو برابر رسانده است. طبق این بررسی، دستاوردهایی که پیش‌تر به دو سال زمان نیاز داشتند، اکنون تنها در ۱۲ ماه محقق می‌شوند.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.