عبور دانلود مدل faster-whisper از مرز ۸۳۰ هزار بار؛ اجرای سریع تشخیص گفتار روی پردازنده‌های لپ‌تاپ
نسخه بهینه‌شده مدل تشخیص گفتار Whisper که توسط SYSTRAN توسعه یافته است، با عبور از ۸۳۶ هزار بار دانلود در پلتفرم Hugging Face به محبوبیت بالایی دست پیدا کرد. این مدل با تکیه بر موتور CTranslate2 امکان تبدیل گفتار به متن را با سرعتی تا چهار برابر بیشتر روی پردازنده‌های معمولی لپ‌تاپ فراهم می‌کند.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- مدل faster-whisper با تبدیل ساختار Whisper به فرمت CTranslate2 بدون نیاز به بازآموزی به سرعتی تا چهار برابر بیشتر از نسخه اصلی دست پیدا می‌کند.
- این مدل سبک با ۷۴ میلیون پارامتر برای اجرا روی پردازنده‌های معمولی لپ‌تاپ و کارت‌های گرافیک اقتصادی بهینه‌سازی شده است.
- کتابخانه مستقل این پروژه به دلیل ادغام با ابزارهای صوتی داخلی، نیاز به نصب جداگانه FFmpeg را در اکثر سیستم‌ها برطرف کرده است.
نسخه بهینه‌سازی‌شده مدل صوتی SYSTRAN با نام چک‌پوینت تبدیل‌شده از مرز ۸۳۶ هزار بار دانلود در پلتفرم Hugging Face عبور کرد. این مدل ۷۴ میلیون پارامتری به‌طور ویژه برای تشخیص گفتار انگلیسی روی پردازنده‌های مرکزی لپ‌تاپ، کارت‌های گرافیک اقتصادی و سرویس‌های حساس به تأخیر زمانی طراحی شده است.
البته شمارنده Hugging Face درخواست‌های خودکار را هم ثبت می‌کند و تعداد نصب‌های فعال را نشان نمی‌دهد، بنابراین نمی‌توان آن را معیاری قطعی برای سنجش سهم بازار تجاری دانست. با این حال، این آمار از استقبال مداوم جامعه فناوری به نسخه‌ای بهینه و کارآمد از مدل base.en متعلق به OpenAI خبر می‌دهد که دومین نسخه کوچک انگلیسی از خانواده Whisper به شمار می‌آید.
بهینه‌سازی زمان اجرا با موتور CTranslate2
تیم SYSTRAN پروژه faster-whisper را با تبدیل معماری موجود و پارامترهای آموزش‌دیده مدل Whisper شرکت OpenAI به ساختار CTranslate2 توسعه داده است. این تبدیل ساختاری هیچ مرحله آموزشی جدیدی به مدل اضافه نمی‌کند، بلکه شیوه اجرای استنتاج را بهینه‌تر می‌سازد.
موتور CTranslate2 با استفاده از اجرای بهینه‌سازی‌شده در محیط‌های C++ و CUDA، ادغام عملگرها، استفاده مجدد از حافظه کَش بخش رمزگشا، به‌کارگیری دستورالعمل‌های پردازشی SIMD در پردازنده‌ها و هسته‌های محاسباتی با دقت کمتر، بار پردازشی را به حداقل می‌رساند. گزارش‌های این پروژه نشان می‌دهد سرعت پردازش در برخی پیکربندی‌ها تا چهار برابر سریع‌تر از نسخه مرجع در PyTorch است و حافظه رم به مراتب کمتری مصرف می‌کند. البته میزان دقیق بهبود سرعت به نوع سخت‌افزار، اندازه بسته داده‌ها، پهنای جستجو در رمزگشایی و نوع محاسبات بستگی دارد.
انتخاب سطح دقت محاسباتی می‌تواند تفاوت‌های اندکی در متن خروجی نهایی ایجاد کند؛ زیرا فرمت‌های FP16 و INT8 در مقایسه با استاندارد ۳۲ بیتی FP32 با تعداد بیت‌های کمتری محاسبه می‌شوند. همچنین مقایسه عادلانه عملکرد مستلزم هماهنگ‌سازی تنظیمات رمزگشایی، به‌ویژه پارامتر جستجوی پرتو یا همان Beam Size است؛ زیرا faster-whisper و نسخه رسمی Whisper شرکت OpenAI ممکن است از مقادیر پیش‌فرض متفاوتی استفاده کنند.
از نصب کتابخانه تا تبدیل گفتار به متن
بسته پایتونی این پروژه به‌سادگی از مخزن PyPI نصب می‌شود و از آنجا که کتابخانه PyAV کتابخانه‌های لازم FFmpeg را برای رمزگشایی فایل‌های صوتی به‌همراه دارد، اکثر سیستم‌ها نیازی به نصب مجزا و دستی ابزار FFmpeg نخواهند داشت.
pip install faster-whisperبا ارسال شناسه base.en، نسخه بهینه‌شده SYSTRAN به‌صورت خودکار دانلود شده و در حافظه موقت محلی Hugging Face ذخیره می‌شود. علاوه بر این، کاربران می‌توانند برای اجرای آفلاین و بدون نیاز به اینترنت، مسیر ذخیره‌سازی محلی فایل‌های مدل را مستقیماً به برنامه معرفی کنند.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
خطر ورود هوش مصنوعی به دانشگاه‌ها؛ وقتی اتوماسیون بار اداری استادان را سنگین‌تر می‌کند
استفاده از هوش مصنوعی در دانشگاه‌ها ممکن است به‌جای کاستن از بار اداری، بوروکراسی و وظایف حاشیه‌ای استادان را افزایش دهد. اگر این فناوری برای خودکارسازی رویه‌های ناکارآمد اداری به کار رود، دانشگاه‌ها از هدف بنیادین خود یعنی پژوهش عمیق، آموزش باکیفیت و پرورش اندیشه نقادانه دور خواهند شد.
شناسایی دقیق باگ‌های پنهان نرم‌افزاری با هوش مصنوعی؛ فریمورک SemLoc ابزارهای سنتی را پشت سر گذاشت
پژوهشگران با توسعه فریمورک SemLoc راهکاری نوآورانه برای رفع یکی از بزرگ‌ترین چالش‌های خطایابی نرم‌افزار ارائه داده‌اند. این سیستم با تبدیل استدلال‌های مدل‌های زبانی به قیدهای اجرایی، باگ‌های معنایی پیچیده را با دقتی به مراتب بالاتر از روش‌های کلاسیک شناسایی می‌کند. این دستاورد گامی ارزشمند در جهت هوشمندسازی فرایند عیب‌یابی و افزایش پایداری کدهای برنامه‌نویسی است.
فروشگاه Home Depot: ایجنت‌های هوش مصنوعی قبل از خرید باید احراز هویت شوند
فروشگاه زنجیره‌ای Home Depot اعلام کرد از خرید خودکار توسط ایجنت‌های هوش مصنوعی استقبال می‌کند، اما این ابزارها ابتدا باید هویت خود و کاربر واقعی را احراز کنند. این غول خرده‌فروشی در حال همکاری با متا برای تدوین پروتکل‌های شناسایی است تا ضمن حفظ ارتباط با مشتریان وفادار، بستری امن برای نسل جدید تجارت الکترونیک فراهم آورد.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.