مدل تبدیل گفتار به متن Parakeet v3 انویدیا بدون نیاز به پایتون و کارت گرافیک اجرا می‌شود
تیم توسعهدهنده handy-computer نسخه کم‌حجم و بهینه‌سازی‌شده GGUF را برای مدل تبدیل گفتار به متن Parakeet v3 انویدیا منتشر کرد. این نسخه امکان اجرای روان و محلی مدل را بدون وابستگی به پایتون یا کارت‌های گرافیک مجزا روی پردازنده‌های معمولی فراهم می‌کند.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- مدل تشخیص گفتار ۶۰۰ میلیون پارامتری انویدیا با تبدیل به فرمت GGUF و ابزار transcribe.cpp اکنون بدون نیاز به پایتون یا کارت‌های گرافیک اختصاصی اجرا می‌شود.
- این تبدیل مستقل به برنامه‌نویسان زبان‌های C و ++C اجازه می‌دهد تبدیل گفتار به متن را به‌صورت بومی روی پردازنده‌های معمولی در ۲۵ زبان پیاده کنند.
- نسخه‌های فشرده‌شده این مدل با کاهش حجم فایل به زیر ۵۰۰ مگابایت، دقت بالای نسخه مرجع را تقریباً بدون افت کیفیت حفظ می‌کنند.
مدل بازشناسی گفتار Parakeet-TDT-0.6B-v3 متعلق به انویدیا اکنون می‌تواند از طریق ابزار transcribe.cpp بدون نیاز به پایتون، فریمورک NeMo یا بستر CUDA اجرا شود. تیم handy-computer این مدل را به فرمت GGUF، که برای استنتاج بهینه در محیط‌های اجرایی بومی طراحی شده، تبدیل کرده و شش سطح دقت مختلف از آن را در یک مخزن مدل منتشر کرده است.
این نسخه یک پورت مستقل به شمار می‌رود و توزیع رسمی انویدیا نیست. با این حال، مسیر بسیار ساده‌تری را برای برنامه‌های مبتنی بر C و ++C فراهم می‌کند تا تبدیل گفتار به متن را به‌صورت محلی روی پردازنده‌های مرکزی، گرافیک‌های یکپارچه و پردازنده‌های گرافیکی سازگار انجام دهند و در عین حال، پوشش ۲۵ زبانه مدل اصلی را به‌طور کامل حفظ کنند.
شش فایل برای یک مدل واحد
این تبدیل بر اساس چک‌پوینت رسمی انویدیا و بر مبنای کامیت 6d590f7 انجام شده است. توسعه‌دهندگان صحت عملکرد این پورت را در مقایسه با پیاده‌سازی اصلی فریمورک NeMo انویدیا ارزیابی و تأیید کرده‌اند.
مدل Parakeet-TDT-0.6B-v3 حدود ۶۰۰ میلیون پارامتر دارد. انکودر Conformer در این مدل فایل صوتی را تحلیل می‌کند و دکودر ترنسدیوسر TDT توکن‌های متنی و اطلاعات زمان‌بندی را تولید می‌نماید. این مدل از فایل‌های صوتی مونو با نرخ نمونه‌برداری ۱۶ کیلوهرتز پشتیبانی می‌کند، امکان ثبت برچسب‌های زمانی را دارد، زبان گفتاری را به‌صورت خودکار تشخیص می‌دهد و علائم نگارشی و حروف بزرگ را هم اعمال می‌کند. این نسخه فقط برای پیاده‌سازی صوتی آفلاین طراحی شده است و از استریم زنده یا ترجمه هم‌زمان پشتیبانی نمی‌کند.
کوانتایزیشن با ذخیره پارامترهای مدل در سطوح دقت پایین‌تر، حجم فایل و حافظه مصرفی را به میزان چشمگیری کاهش می‌دهد. مخزن این پروژه نسخه‌های متعددی ارائه داده که همگی روی مجموعه‌داده آزمایشی test-clean در بنچمارک LibriSpeech سنجیده شده‌اند. در این آزمون، نرخ خطای کلمات یا همان WER پایین‌تر، نشان‌دهنده دقت بالاتر و خطای کمتر در پیاده‌سازی متن است.
نسخه | حجم فایل | نرخ خطا (WER) |
|---|---|---|
F32 | ۲.۵۱ گیگابایت | ۱.۹۵٪ |
F16 | ۱.۲۶ گیگابایت | ۱.۹۵٪ |
Q8_0 | ۷۴۰ مگابایت | ۱.۹۴٪ |
Q6_K | ۶۱۰ مگابایت | ۱.۹۳٪ |
Q5_K_M | ۵۴۹ مگابایت | ۱.۹۲٪ |
Q4_K_M | ۴۸۵ مگابایت | ۱.۹۸٪ |
اختلاف نتایج میان این شش نسخه تنها ۰.۰۶ درصد است، در حالی که تفاوت دقت میان نسخه اصلی F32 و فشرده‌ترین نسخه یعنی Q4_K_M فقط به ۰.۰۳ درصد می‌رسد. نوسانات جزئی میان نسخه‌ها احتمالاً ناشی از خطای آماری آزمون است. خود انویدیا نرخ خطای ۱.۹۳ درصد را روی همین بخش داده گزارش کرده که نشان می‌دهد دقت این نسخه‌های تبدیل‌شده بسیار به پیاده‌سازی مرجع نزدیک است.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
رونمایی از مدل Mistral Large 4؛ ایجنت کدنویسی ۱ تریلیون پارامتری با دسترسی آزاد
شرکت Mistral وزن‌های عمومی مدل جدید Mistral Large 4 را با ۱ تریلیون پارامتر و تمرکز ویژه بر ایجنت‌های کدنویسی و امنیت سایبری منتشر کرد. این مدل بر پایه معماری ترکیبی از متخصصان توسعه یافته است و با مصرف بهینه توکن، گزینه‌ای قدرتمند برای استقرار روی زیرساخت‌های خصوصی به شمار می‌رود.
مدل جدید Qwen3.5-4B-3D-Coder متن را به صحنههای سهبعدی تعاملی در مرورگر تبدیل می‌کند
یک توسعهدهنده مستقل نسخهای اختصاصی از مدل Qwen با نام Qwen3.5-4B-3D-Coder را معرفی کرده است که توصیفات متنی را به صحنههای سهبعدی تعاملی در کتابخانه Three.js تبدیل می‌کند. این مدل سبک با ۴ میلیارد پارامتر، تمام کدهای جاوااسکریپت و صحنه گرافیکی را در قالب یک فایل تکی HTML به کاربر تحویل می‌دهد و روی سیستمعامل محلی نیز قابل اجرا است.
شناسایی دقیق‌تر آزمایش‌های هسته‌ای با هوش مصنوعی؛ تبدیل حسگرهای خاموش به ابزار ردیابی
پژوهشگران با توسعه روشی نوآورانه در هوش مصنوعی، داده‌های حسگرهای خاموش لرزه‌نگاری را به ویژگی‌هایی ارزشمند برای مدل‌های طبقه‌بندی تبدیل کردند. این چارچوب جدید، نرخ رد هشدارهای کاذب در پایش آزمایش‌های هسته‌ای را بدون آسیب به شناسایی رویدادهای واقعی تا دو برابر بهبود می‌دهد.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.