رونمایی از مدل‌های هوش مصنوعی Dhīr؛ اجرای سبک و آفلاین برای زبان‌های هندی

معرفی مدل‌های Dhīr

Dhīr خانواده جدیدی از مدل‌های بنیادین و فشرده است که توسط استارتاپ ZenteiQ توسعه یافته و فرایند پیش‌آموزش آن در کشور هند انجام شده است (وب‌سایت رسمی پروژه). این خانواده شامل دو مدل متمایز است: مدل متراکم Dhīr 2B با ۲٫۰۳ میلیارد پارامتر و مدل بهینه Dhīr 5B MoE با مجموع ۵٫۰۹ میلیارد پارامتر که بر پایه سازوکار ترکیب متخصصان (MoE) فعالیت می‌کند و در هر توکن تنها ۱٫۷۹ میلیارد پارامتر فعال دارد (انتخاب ۲ متخصص از میان ۱۲ متخصص). هر دو مدل از توکنساز و دستورالعمل آموزشی مشترک بهرهمند هستند، در قالب نسخه‌های بهینه‌سازی شده برای دریافت دستورات عرضه شده‌اند، از پنجره بافت ۱۶٬۳۸۴ توکنی پشتیبانی می‌کنند و به‌طور ویژه برای استفاده آفلاین روی لپتاپها، بردهای توسعه و دستگاه‌های لبه طراحی شده‌اند.

طبق اعلام ZenteiQ، هر دو مدل از پایه در خاک هند آموزش دیده‌اند و توسعه آنها ادام‌های بر فایل‌های وزنی شرکت‌های خارجی نبوده است. فرایند پیش‌آموزش روی تراشه‌های گوگل کلود (Google Cloud TPU v6e) در شهر بمبئی انجام شده و تمامی داده‌ها و فایل‌های وزنی در همین منطقه میزبانی شده‌اند. هر مدل با بیش از ۶ تریلیون توکن آموزش دیده و علاوه بر زبان انگلیسی، از ۱۰ زبان رسمی هندی شامل هندی، بنگالی، تامیل، تلوگو، مراتی، گجراتی، کانادا، مالایالام، پنجابی و اودیا پشتیبانی می‌کند. این دستاورد در چارچوب رویداد طرح ملی IndiaAI Mission در تاریخ ۴ نوامبر ۲۰۲۶ معرفی شد؛ البته در همین رویداد، دسترسی اولیه‌ای به مدل بزرگ‌تر دیگری با نام EKA-1 نیز مطرح شد، اما این گزارش مشخصات خانواده متن‌باز Dhīr را بررسی می‌کند.

بررسی و تحلیل فنی

چالش‌های موجود

محیط‌های عملیاتی مبتنی بر دستگاه‌های لبه و سامانه‌های ایزوله و بدون اتصال به اینترنت، در کنار نیازمندی به زبان‌های چندگانه هندی، به مدل‌های کوچکی احتیاج دارند که به‌شکل محلی اجرا شوند و فرایند آموزش آنها نیز شفاف و قابل راستیآزمایی باشد. خانواده Dhīr با ارائه یک مدل متراکم ۲ میلیاردی و یک مدل ترکیبی ۵ میلیاردی، پاسخگوی این نیاز برای استقرار آفلاین است و کدهای ارزیابی عمومی و تبار وزنی تأییدشده با هش SHA-256 را در اختیار توسعه‌دهندگان قرار می‌دهد.

مزایا و نقاط تمایز

• آموزش کاملاً مستقل از صفر در هند: بر خلاف رویکرد متداول تنظیم مدل‌های پایه‌ای خارجی، این مدل‌های چندمیلیارد پارامتری مولد از ابتداییترین مرحله در داخل هند پیش‌آموزش دیده‌اند.
• عرضه در دو اندازه کاربردی: مدل Dhīr 2B در ۱۳ بنچمارک از ۱۵ بنچمارک تخصصی زبان‌های هندی در رده ابعادی خود پیشتاز است؛ در حالی که مدل ۵ میلیاردی MoE در وظایف عاملی، کدنویسی، مسائل ریاضی و میانگین زبان انگلیسی عملکرد بهتری نشان می‌دهد.
• آمار عملکرد عالی روی سخت‌افزارهای لبه: سرعت پردازش ۴ بیتی با فریمورک llama.cpp روی پردازنده‌های اینتل Iris Xe، شتابدهنده Jetson Orin NX و بردهای رزبری پای ۴ به‌صورت عمومی منتشر شده است.

محدودیت‌ها و نکات احتیاطی

• توسعه‌دهنده به عملکرد ضعیف در بازیابی واقعیت‌های ثبتنشده اشاره کرده و افزوده است که این مدل فاقد حالت استدلال پیشرفته بوده و صرفاً متنی است؛ بنابراین استفاده از آن در حوزه‌های حقوقی، مالی و پزشکی حتماً به سیستم‌های بازیابی اطلاعات و نظارت انسانی نیاز خواهد داشت.
• سنجش دقت مدل در درک و اجرای دستورات تا این لحظه عمدتاً در زبان انگلیسی اندازه‌گیری و منتشر شده است.
• مسیر استفاده سازمانی از این مدل نیازمند دریافت مجوز اختصاصی بوده و با پروژه بزرگ‌تر EKA-1 که در وضعیت دسترسی محدود قرار دارد، متفاوت است.

راهنمای استفاده و کاربردها

این مدل برای چه کسانی مناسب است؟

تیم‌های فنی و پژوهشگرانی که به مدل‌های زبانی دو زبانه (انگلیسی و هندی) با قابلیت اجرای آفلاین روی پردازنده‌های محلی و لبه نیاز دارند، یا تحولات مدل‌های هوش مصنوعی بومی طرح IndiaAI را دنبال می‌کنند، مخاطبان اصلی این خانواده هستند.

نحوه شروع به کار

1. برای بررسی اندازه‌ها، زبان‌های پشتیبان و جدول معیارهای ایمنی، به وب‌سایت اختصاصی پروژه در zenteiq.ai/dhir مراجعه کرده و گزارش فنی رسمی را مطالعه کنید.
2. فایل‌های وزنی مدل را از پیوندهای موجود در سایت دریافت کنید و آن را به‌صورت نسخه کوانتایز‌شده ۴ بیتی با استفاده از llama.cpp روی سخت‌افزار مورد نظر خود اجرا نمایید.
3. برای استقرار در ابعاد سازمانی، مسیر همکاری با ZenteiQ شامل اجرای آزمایشی، سازگارسازی تخصصی و سپس استقرار در بستر ابری، ابر خصوصی، سرورهای محلی یا به‌صورت کاملاً آفلاین تعریف شده است.