رونمایی از GigaSpeech 3؛ مجموعه‌داده عظیم ۳۹ هزار ساعته برای تبدیل گفتار به متن در لهجه‌های عربی

معرفی مجموعه‌داده GigaSpeech 3

GigaSpeech 3 مجموعه‌داده چندلهج‌های و مقیاسبزرگ SpeechColab برای بازشناسی خودکار گفتار (ASR) در زبان عربی است. این مجموعه شامل حدود ۱۰٫۳ میلیون قطعه صوتی با برچسبگذاری ضعیف و نزدیک به ۳۹ هزار ساعت محتوا در پنج لهجه الجزایری (DZA)، مصری (EGY)، عراقی (IRQ)، سعودی (SAU) و سوری (SYR) است. این مجموعه‌داده در پلتفرم Hugging Face در دسترس قرار گرفته و جزئیات فنی آن در مقاله پژوهشی با شناسه arXiv 2611.02476 و عنوان «توسعه مقیاس بازشناسی گفتار چندلهج‌های عربی با داده‌های برچسبگذاری ضعیف» منتشر شده است. هم‌چنین بنچمارک ارزیابی GigaSpeechBench و درگاه بازبینی متنی VoxLabel این پروژه را همراهی می‌کنند.

داده‌ها و روششناسی پژوهش بر اساس مستندات رسمی پروژه به شرح زیر است:

• برای هر لهجه بین ۵۱ تا ۶۳ ساعت متن دستنویس انسانی به کار گرفته شده تا مدل‌های برچسبگذار یاد‌گیری خودنظارتی (SSL) با ساختار مشابه VietASR آموزش ببینند و سپس فایل‌های صوتی منطبق با همان لهجه از سطح وب را به‌صورت ضعیف برچسبگذاری کنند.
• داده‌های لهجه‌های سعودی و سوری علاوه بر فرآیند انتخاب دقیق، چهار مرحله آموزش به روش دانشآموز پر سر و صدا (Noisy-Student) را پشت سر گذاشته‌اند.
• فایل‌های صوتی در قالب پارت‌ها و آرشیوهای tar بر اساس لهجه به‌همراه فراداده‌های Parquet سازماندهی شده‌اند و حجم کل آن در Hugging Face حدود ۴٫۸۲ ترابایت با بیش از ۱۰٬۲۷۱٬۰۶۶ سطر داده است.
• بر اساس گزارش مقاله پژوهشی، مدل‌های نهایی Zipformer ویژه هر لهجه به نرخ خطای کلمات (WER) میانگین کلان ۲۳٫۸۶ درصد روی ارزیابی پنج لهجه در GigaSpeechBench دست یافته‌اند.
• این پروژه در امتداد سری نام‌گذاری مجموعه‌دادههای پیشین GigaSpeech و GigaSpeech 2 منتشر شده است.

توضیحات و اهمیت پروژه

سیستم‌های بازشناسی گفتار برای لهجه‌های عامیانه عربی سالهاست که با کمبود شدید منابع آموزشی عمومی و بزرگمقیاس مواجه بوده‌اند. مجموعه‌داده GigaSpeech 3 با بهره‌گیری از یاد‌گیری با نظارت ضعیف، پوشش این پنج لهجه را به مقیاس کمسابقه ۱۰ میلیون بخش رسانده و بستری عمومی برای ارزیابی و درگاهی اختصاصی برای بازبینی و تصحیح متن فراهم کرده است.

مجوز و شرایط استفاده

شرایط رسمی استفاده اعلام می‌کند: این مجموعه صرفاً برای پژوهش‌های علمی و ارزیابی آکادمیک در دسترس است و هیچ مجوزی برای استفاده تجاری داده نمی‌شود. حقوق مالکیت صداهای ضبطشده اولیه متعلق به صاحبان اصلی آنها باقی می‌ماند. هم‌چنین توصیه شده است ارزیابی مدل‌ها بر اساس داده‌های مستقل و دقیقی چون GigaSpeechBench صورت گیرد و برچسب‌های ضعیف مجموعه آموزشی به‌عنوان داده مرجع قطعی قلمداد نشوند.

محدودیت‌ها و چالش‌ها

• برچسب‌های ضعیف شامل خطاهای ناشی از بازشناسی یا یکدستسازی متن هستند؛ علاوه بر این، برچسب‌های سطح کشوری برای لهجه‌ها کلی به‌شمار می‌روند و ممکن است با عربی فصیح یا جابهجایی میان زبان‌ها (Code-switching) ترکیب شده باشند.
• گردآوری داده‌ها از سطح وب باعث ایجاد سوگیری‌های موضوعی و جمعیتشناختی در محتوا می‌شود.
• هر یک از آرشیوها و فایل‌های فشرده ممکن است چندین گیگابایت حجم داشته باشند؛ بنابراین بهتر است بر اساس نیاز و از طریق فراداده‌ها دانلود شوند.

مخاطبان و موارد کاربرد

این مجموعه‌داده برای گروه‌های زیر کاربرد مؤثری دارد:

• تیم‌هایی که روی بازشناسی گفتار چندلهج‌های عربی، یاد‌گیری با نظارت ضعیف و زبان‌های کممنبع فعالیت می‌کنند.
• پژوهشگرانی که قصد دارند مدل‌های خود را روی GigaSpeechBench محک بزنند یا از قابلیت یاد‌گیری انتقالی برای پروژه‌هایی نظیر MASC، Casablanca یا SADA استفاده کنند.
• پروژه‌های حاشیهنویسی و دادگان صوتی که برای بازبینی متون از پلتفرم VoxLabel بهره می‌برند.

راهنمای شروع به کار

1. مطالعه مقاله علمی در arXiv به شماره 2611.02476 و بررسی برگه معرفی پروژه در پلتفرم Hugging Face.
2. بارگذاری جریانی فراداده‌ها به‌صورت مستقیم با دستور load_dataset("speechcolab/gigaspeech3", "SAU", split="train", streaming=True) در محیط پایتون.
3. دریافت آرشیوهای tar متناظر با ابزار hf_hub_download از مسیر dialect/audio/{shard}.
4. ارزیابی مدل‌ها روی GigaSpeechBench با توجه به این نکته که استفاده تجاری از این نسخه مجاز نیست.