رونمایی Edge0 از Audio8 ASR Infinite؛ مدل هوش مصنوعی برای تبدیل ساعت‌ها گفتار پیوسته به متن

هدف‌گذاری Audio8 ASR Infinite برای تبدیل ۲۴ ساعته گفتار به متن

شرکت Edge0 از مدل متن‌باز Audio8 ASR Infinite با ۴ میلیارد پارامتر تحت مجوز Apache 2.0 رونمایی کرد؛ مدلی برای تشخیص و تبدیل بلادرنگ گفتار به متن (Streaming ASR) که امکاناتی کاربردی را در اختیار توسعه‌دهندگان قرار می‌دهد. طبق اعلام این شرکت، مدل یادشده از رونویسی با مدت‌زمان نامحدود، تاخیر زیر ثانیه، مصرف محدود و کنترل‌شده حافظه و تشخیص معنایی پایان نوبت صحبت پشتیبانی می‌کند. این قابلیت‌ها مشخصاً برای سرویس‌هایی طراحی شده‌اند که میکروفون را ساعت‌ها باز نگه می‌دارند؛ از جمله ابزارهای رونویسی جلسات، تحلیل تماس‌ها و ایجنت‌های صوتی دوطرفه هم‌زمان (Full-Duplex).

توسعه‌دهندگان می‌توانند فرکانس ساعت صوتی را روی ۸۰، ۱۲۰ یا ۱۶۰ میلی‌ثانیه تنظیم کرده و تاخیر رونویسی را بین ۲۴۰ تا ۵۶۰ میلی‌ثانیه مشخص کنند. به این ترتیب، یک چک‌پوینت واحد از چندین بودجه‌ی تاخیر مختلف پشتیبانی می‌کند و به برنامه‌ها اجازه می‌دهد بسته به نیاز خود در زمان اجرا، پاسخ سریع‌تر یا زمینه آکوستیک دقیق‌تر را ترجیح دهند.

چالش حفظ وضعیت در نشست‌های طولانی

سیستم‌های استریمینگ مبتنی‌بر تکه‌تکه کردن داده‌ها (Chunked)، قطعات کوتاه صوتی را پردازش کرده و خروجی‌های آن‌ها را به یکدیگر متصل می‌کنند؛ درحالی‌که سیستم‌های با حفظ وضعیت (Stateful)، زمینه مکالمه را بین مراحل متوالی حفظ می‌نمایند. در جلسات طولانی، وضعیت‌های ذخیره‌شده می‌توانند حجم فزاینده‌ای از حافظه را اشغال کنند و موقعیت‌یاب‌ها (Positional Encodings) از محدوده‌های دیده‌شده در زمان آموزش فراتر روند؛ دو مشکلی که یا دقت مدل را کاهش می‌دهند یا نیاز به ریست دوره‌ای سیستم را تحمیل می‌کنند.

مدل Audio8 تاریخچه توجه (Attention) خود را با یک کش کلید-مقدار چرخان (Rolling KV Cache) محدود می‌کند. این کش ۳۰ ثانیه از بافت متن و صدا را ذخیره کرده، داده‌های قدیمی‌تر را دور می‌ریزد و تعبیه موقعیتی چرخشی (RoPE) را که موقعیت توکن‌ها را درون مکانیزم توجه رمزگذاری می‌کند، به‌طور دقیق بازتنظیم (Re-basing) می‌نماید. این بازتنظیم، پس از هر بار جابه‌جایی کش، موقعیت‌ها را مجدداً به محدوده عددی آشنای مدل بازمی‌گرداند.

• پنجره زمینه (Context Window): ۳۰ ثانیه وضعیت صوتی و متنی چرخان.
• مدیریت موقعیت: بازتنظیم دقیق RoPE پس از خروج زمینه‌های قدیمی از کش.
• نرخ تصمیم‌گیری: ۱۲٫۵، ۸٫۳ یا ۶٫۲۵ گام در ثانیه در ساعت‌های صوتی ۸۰، ۱۲۰ یا ۱۶۰ میلی‌ثانیه‌ای.
• زمان‌بندی خروجی: امکان تولید یک توکن متنی در هر گام ساعتی.

تشخیص نوبت مکالمه فراتر از سکوت محض

سیستم‌های سنتی تشخیص فعالیت صوتی (VAD)، معمولاً تنها وجود یا عدم وجود گفتار را تخمین می‌زنند و در نتیجه، سکوت را سیگنال اصلی پایان نوبت صحبت تلقی می‌کنند. اما Audio8 هدهای VAD معنایی (Semantic VAD) را به ساختار خود افزوده است تا پایان واقعی نوبت صحبت را از مکث‌های ناشی از فکر کردن، تردید و لکنت زبان تشخیص دهد. ایجنت‌های صوتی می‌توانند از این پیش‌بینی‌ها برای تصمیم‌گیری درباره زمان پاسخ‌گویی، بدون اتکا به آستانه سکوت ثابت، استفاده کنند.