روش جدید Abstract Compression حجم توکن‌های صوتی را بدون افت درک مکالمه نصف می‌کند
پژوهشگران روش نوآورانه‌ای به نام Abstract Compression توسعه داده‌اند که توکن‌های صوتی ورودی به مدل‌های بزرگ زبانی را به نصف کاهش می‌دهد. این راهکار با فشرده‌سازی تاریخچه گفت‌وگو در قالب توکن‌های ثابت، بدون اشباع حافظه کَش، دقت تشخیص کلمات کلیدی و اسامی خاص را حفظ می‌کند.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- روش ابداعی Abstract Compression تعداد توکن‌های صوتی ارسالی به مدل‌های چندوجهی را نصف کرده و از اشباع حافظه موقت (KV Cache) جلوگیری می‌کند.
- این فناوری با استفاده از بازنمونه‌گیر توجه متقاطع، نوبت‌های طولانی گفت‌وگو را به تعداد مشخصی توکن خلاصه کرده و سرعت پردازش را افزایش می‌دهد.
- بهره‌گیری از این رویکرد به مدل کمک می‌کند بدون نیاز به حافظه سنگین، اسامی خاص و مکان‌ها را در مکالمات طولانی با دقت بالا تشخیص دهد.
سیستم‌های تشخیص گفتار معمولاً هر پاره‌گفتار را بدون توجه به سرنخ‌های مطرح‌شده در طول مکالمه پردازش می‌کنند؛ مسئله‌ای که باعث می‌شود نام‌های کمترشناخته‌شده، مکان‌ها و اصطلاحات تخصصی به‌سادگی نادیده گرفته شوند. اکنون در مقاله‌ای پژوهشی از پژوهشگران مؤسسه تحقیقاتی Idiap، دانشگاه EPFL و شرکت Uniphore، روش جدیدی به نام Abstract Compression معرفی شده است که با کاهش چشمگیر توکن‌های صوتی ارسالی به مدل بزرگ زبانی چندوجهی، بخش عمده‌ای از دقت به‌دست‌آمده از زمینه گفت‌وگو را حفظ می‌کند.
چرا تاریخچه گفت‌وگو حافظه کَش را اشباع می‌کند؟
مدل‌هایی مانند Phi-4-Multimodal صدا را به توالی‌های بلندی از امبدینگ‌های توکن تبدیل کرده و آنها را به دیکودر متن ارسال می‌کنند. افزودن نوبت‌های قبلی گفت‌وگو، زمینه لغوی و آکوستیک ارزشمندی در اختیار دیکودر می‌گذارد، اما هر توکن اضافه، حجم حافظه موقت کلید-مقدار (KV Cache) را که وظیفه نگهداری وضعیت توجه (Attention) در طول تولید پاسخ را بر عهده دارد، افزایش می‌دهد. در نتیجه، طولانی‌تر شدن توالی‌ها باعث بالا رفتن شدید مصرف حافظه و هزینه‌های محاسباتی می‌شود.
ارزیابی‌ها نشان داد که ارسال ساده نوبت‌های پیشین در لحظه پاسخگویی (استنتاج)، حتی عملکرد ضعیف‌تری نسبت به پردازش تک‌نوبتی ثبت می‌کند. مدل تنها پس از فاین‌تیون نظارت‌شده روی مثال‌های چندنوبتی توانست به‌شکل مؤثری از تاریخچه گفت‌وگو بهره ببرد؛ به‌طوری که بیشترین بهبود در معیار Bias-WER حاصل شد. این معیار، نرخ خطای کلمات را در موجودیت‌های مشخص‌شده از جمله نام‌ها و مکان‌ها اندازه‌گیری می‌کند.
جایگزینی جریان‌های صوتی قبلی با تعداد ثابتی توکن
روش Abstract Compression یک ماژول بازنمونه‌گیر توجه متقاطع (Cross-Attention Resampler) آموزش‌دیده را میان نوبت‌های صوتی گذشته و مدل زبانی قرار می‌دهد. در این معماری، ماتریس‌های پرس‌وجوی آموزش‌دیده که متناسب با شاخص نسبی هر نوبت گفت‌وگو تنظیم شده‌اند، توالی امبدینگ‌های صوتی با طول متغیر را دقیقاً به تعداد مشخصی توکن (K توکن) خلاصه و فشرده می‌کنند.
مطالب مرتبط و پیشنهادی
متا پلتفرم هوش مصنوعی ساندایال را تصاحب کرد؛ جهش به سوی نسل جدید ایجنت‌های تحلیل داده
متا پلتفرم تحلیل داده مبتنی بر هوش مصنوعی ساندایال را تصاحب کرد تا زیرساخت‌های تحلیلی و ابزارهای خودکار خود را تقویت کند. این قرارداد با بازگشت دو مدیر باسابقه به متا همراه است که هدایت بخش ابزارها و ایجنت‌های تحلیل داده را بر عهده خواهند گرفت.
پایان ماه عسل هوش مصنوعی در وال‌استریت؛ بازار دیگر با گزارش‌های مالی درخشان هم قانع نمی‌شود
با وجود انتشار گزارش‌های مالی قدرتمند از سوی شرکت‌های حوزه هوش مصنوعی، وال‌استریت با ریزش سنگین سهام این غول‌ها مواجه شد. این واکنش سرد از تردید فزاینده سرمایه‌گذاران درباره تداوم بازدهی تب هوش مصنوعی حکایت دارد و زنگ خطری جدی برای بیش از نیمی از ارزش بازار بورس آمریکا به صدا درآورده است.
مقایسه ChatGPT و Grok در پاسخ به چالش‌های روزمره زندگی؛ هوش مصنوعی گراک شگفتی‌ساز شد
در یک بررسی میدانی، دو چت‌بات مطرح دنیای هوش مصنوعی یعنی ChatGPT و Grok با ۵ پرسش روزمره و کاربردی در بوته آزمایش قرار گرفتند تا توانایی آنها در حل مسائل واقعی سنجیده شود. در پایان این مقایسه جذاب، مدل هوش مصنوعی گراک با پاسخ‌های مختصر، خودمانی و دقیق توانست برتری خود را ثابت کند.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.