هواوی دست و دلباز شد؛ انتشار عمومی کدهای آموزش و یادگیری تقویتی برای مدل قدرتمند openPangu-2.0!
هواوی با متنباز کردن کدهای حیاتی آموزش، تنظیم دقیق و یادگیری تقویتی مدل openPangu-2.0، گام بلندی برای تقویت اکوسیستم هوش مصنوعی بومی خود برداشت. این اقدام به مهندسان و شرکتها اجازه میدهد تا مدلهای زبانی بزرگ را مستقیماً روی تراشههای سری Ascend به شکلی بهینهسازیشده و مستقل آموزش دهند.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهمترین نکات و تحولات این گزارش برای مطالعه سریع
- شاخه تراشههای اسند (Ascend) هواوی کدهای کامل پیشآموزش، تنظیم دقیق (SFT) و یادگیری تقویتی (RL) مدل openPangu-2.0 را در دسترس عموم قرار داد.
- این بسته نرمافزاری شامل دو بخش openPangu-2.0-Training و openPangu-2.0-RL است که مسیر پیادهسازی و آموزش مدلهای هوش مصنوعی روی شتابدهندههای اختصاصی هواوی را هموار میکند.
- این اقدام استراتژیک هواوی به دنبال کاهش وابستگی توسعهدهندگان چینی به ابزارهای انویدیا و ساخت یک اکوسیستم بومی و قدرتمند برای مدلهای زبانی بزرگ است.
بخش سختافزار و تراشههای اسند (Ascend) هواوی در اقدامی جالبتوجه، کدهای مرحله پیشآموزش (Pretraining)، تنظیم دقیق تحت نظارت (SFT) و یادگیری تقویتی پس از آموزش (RL) را برای خانواده مدلهای هوش مصنوعی openPangu-2.0 به صورت کاملاً متنباز منتشر کرد.
پکیج جامع برای آموزش بومی مدلهای زبانی
این مخزن نرمافزاری به دو بخش کلیدی تقسیم شده است: بخش اول با نام openPangu-2.0-Training که فرآیندهای سنگین پیشآموزش و تنظیم دقیق را پوشش میدهد، و بخش دوم تحت عنوان openPangu-2.0-RL که روی الگوریتمهای یادگیری تقویتی تمرکز دارد. برخلاف بسیاری از ارائهها که فقط وزنهای نهایی مدل را منتشر میکنند، هواوی اینبار خط تولید و پایپلاین آموزشی را در دسترس برنامهنویسان قرار داده تا بهترین الگوهای آموزش و استنتاج روی شتابدهندههای NPU این شرکت را در عمل به نمایش بگذارد.
گامی استراتژیک برای استقلال از زیرساختهای انویدیا
خانواده مدلهای openPangu-2.0 بر پایه معماری پیشرفته مخلوط متخصصان (MoE) توسعه یافتهاند و مدلهای قدرتمندی نظیر نسخه ۵۰۵ میلیارد پارامتری پرو با پنجره متنی ۵۱۲ هزار توکنی را شامل میشوند. هدف اصلی هواوی از این اقدام، تقویت جامعه توسعهدهندگان پردازندههای Ascend و ایجاد جایگزینی پایدار و مستقل در برابر سلطه پردازندههای گرافیکی غربی در حوزه هوش مصنوعی است.
مطالب مرتبط و پیشنهادی
رکورد ۸۳۳ هزار دانلود ماهانه برای LEGAL-BERT؛ وقتی توسعهدهندهها قید مدلهای گرانقیمت را میزنند!
مدل زبانی تخصصی LEGAL-BERT با ثبت بیش از ۸۳۳ هزار دانلود در ماه روی پلتفرم هاگینگ فیس حسابی خبرساز شده است. این ابزار جمعوجور و تخصصی نشان میدهد که برای پردازش و تحلیل متون حقوقی، حتماً نیازی به مدلهای غولپیکر و پرهزینه ندارید و گزینههای بهینه همچنان در اوج هستند.
جاسوسی هوش مصنوعی در محل کار؛ کارمندان میگویند کارفرماها باید قانوناً مچگیریهایشان را لو بدهند!
نظرسنجیهای تازه نشان میدهد که بیشتر کارمندان حس میکنند مدیرانشان با ابزارهای هوش مصنوعی تمام حرکات آنها را زیر نظر گرفتهاند. حالا بیش از ۸۰ درصد شاغلان خواستار تصویب قانونی شدهاند که شرکتها را مجبور کند هرگونه مچگیری و نظارت هوش مصنوعی در محیط کار را رسماً اعلام کنند.
گزارش داغ مایکروسافت از نفوذ جهانی هوش مصنوعی؛ امارات در صدر و رتبه عجیب آمریکا!
مایکروسافت در تازهترین گزارش خود از ضریب نفوذ هوش مصنوعی در جهان پرده برداشت؛ آماری شگفتانگیز که نشان میدهد امارات و سنگاپور با فاصلهای خیرهکننده پیشتاز دنیا هستند و در مقابل، آمریکا در رتبه ۲۱ جا مانده است. همچنین الگوی استفاده از هوش مصنوعی میان کشورهای غربی و کشورهای در حال توسعه، از تفاوتی عمیق میان کاربردهای روزمره و آموزش پرده برمیدارد.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.