ثبت ۸۰۰ هزار دانلود برای EfficientNet-B0 RA؛ استقبال توسعه‌دهندگان از مدل‌های کم‌حجم بینایی ماشین

چک‌پوینت EfficientNet-B0 RA در یک ماه اخیر موفق به ثبت بیش از ۸۰۰ هزار دانلود در پلتفرم Hugging Face شد. این مدل با تلفیق معماری کانولوشنی جمع‌وجور EfficientNet-B0 با دستورالعمل آموزشی مدرن‌تر در کتابخانه timm، یک کلاسیفایر ۵٫۳ میلیون پارامتری ImageNet و ستون فقرات استخراج ویژگی کارآمد را برای بارهای کاری استنتاج با محدودیت منابع در اختیار توسعه‌دهندگان قرار می‌دهد.

وزن‌های این مدل از طریق مخزن مشهور timm که توسط رُس وایتمن (Ross Wightman) توسعه یافته، ارائه شده است. نام‌گذاری این بسته به خوبی ساختار آن را توضیح می‌دهد: بخش efficientnet_b0 نشان‌دهنده نوع معماری، ra نمایانگر دستورالعمل آموزشی مبتنی بر RandAugment و in1k بیانگر آموزش مدل روی مجموعه داده ۱۰۰۰ کلاسه ImageNet-1k است.

نگاهی به دستورالعمل آموزشی .ra_in1k

شبکه پایه این مدل از مقاله مرجع EfficientNet به نویسندگی مینگ‌شینگ تان (Mingxing Tan) و کوک وی لی (Quoc V. Le) پیروی می‌کند. معماری EfficientNet عمق، عرض و وضوح ورودی شبکه را به صورت متوازن مقیاس‌بندی می‌کند؛ رویکردی که به تولید مدل‌های کانولوشنی مناسب برای دستگاه‌های همراه با نیاز پردازشی و تعداد پارامتر پایین منجر می‌شود.

چک‌پوینت یادشده از دستورالعمل توسعه‌یافته در کتابخانه timm بهره می‌برد که حاصل آزمایش‌های RandAugment و دستورالعمل نوع «B» تشریح‌شده در مقاله ResNet Strikes Back است. پشته آموزشی این مدل مجموعه‌ای از روش‌های RandAugment، بهینه‌ساز RMSProp، گرم‌کردن نرخ یادگیری (Learning-rate Warmup)، زمان‌بندی مرحله‌ای نرخ یادگیری و میانگین متحرک نمایی (EMA) وزن‌های مدل را در بر می‌گیرد.

تکنیک RandAugment تبدیلات تصادفی متنوعی نظیر چرخش، تغییر زاویه (Shear) و تنظیم رنگ را در طول فرآیند آموزش پیاده‌سازی می‌کند. در همین حال، میانگین متحرک نمایی نسخه‌ای هموارشده از وزن‌های یادگرفته‌شده را نگهداری می‌نماید. ترکیب این تکنیک‌ها بدون نیاز به افزودن لایه‌های جدید یا افزایش هزینه استنتاج، قدرت تعمیم‌پذیری مدل را به میزان چشمگیری بهبود می‌بخشد.