انتشار متن‌باز ابزار Hyperkernel؛ اجرای کامل مدل‌های هوش مصنوعی در یک گام با افزایش ۹۰ درصدی سرعت
آزمایشگاه Hyperstition با انتشار متن‌باز ابزار Hyperkernel، امکان تولید خودکار مگاکرنل‌های گرافیکی را فراهم کرده است تا کل فرآیند اجرای مدل‌های هوش مصنوعی در یک مرحله انجام شود. این فناوری در اجرای مدل DeepSeek V4.1 Flash نسبت به آمارهای رسمی انویدیا با vLLM تا ۹۰.۶ درصد سرعت بیشتری ارائه می‌دهد.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- آزمایشگاه Hyperstition ابزار متن‌باز Hyperkernel را منتشر کرد که تنها با ۶۰ تا ۱۰۰ خط کد توصیفی، کل مسیر آموزش یا استنتاج مدل را در کمتر از یک ساعت به یک مگاکرنل واحد تبدیل می‌کند.
- طبق گزارش توسعه‌دهندگان، این ابزار در اجرای مدل DeepSeek V4.1 Flash نسبت به آمار رسمی انویدیا روی موتور vLLM، سرعت تولید پاسخ به ازای هر کاربر را در پردازش چهار کاربر هم‌زمان تا ۹۰.۶ درصد افزایش می‌دهد.
- این فناوری با حذف سربار اجرای زنجیره‌ای کرنل‌ها، گزینه‌ای ایده‌آل برای کاربردهای کم‌تاخیر مانند رباتیک، مدل‌های صوتی و حلقه‌های ایجنتی روی تراشه‌های پیشرفته انویدیا محسوب می‌شود.
معرفی
ابزار Hyperkernel یک مولد بازگشتی مگاکرنل برای پردازنده‌های گرافیکی (GPU) است که توسط آزمایشگاه Hyperstition (که پیش‌تر با نام Social Physics Lab شناخته می‌شد) به‌صورت متن‌باز منتشر شده است. مخزن گیت‌هاب این پروژه در صفحه گیت‌هاب Hyperkernel و اطلاعات تکمیلی آن در وب‌سایت رسمی Hyperstition در دسترس قرار دارد.
توسعه‌دهندگان این پروژه ادعا می‌کنند که تنها با حدود ۶۰ تا ۱۰۰ خط کد توصیفی می‌توان در کمتر از یک ساعت، یک مگاکرنل اختصاصی برای هر مدل تولید کرد. این مگاکرنل تمام مسیر استنتاج (Inference) یا آموزش (Training) را در یک فراخوانی واحد کرنل (Single Kernel Launch) ادغام می‌کند و در ۱۱ حوزه مختلف از جمله استنتاج مدل‌های DeepSeek، Kimi و GLM، پیش‌آموزش مدل Qwen، رباتیک (مدل‌های π₀-FAST و ACT)، مدل‌های جهانی (World Models)، سیستم خودران OpenPilot، مدل صوتی Moshi، ژنومیک با Evo 2 و پروتئین‌سازی با ESMFold کاربرد دارد.
عملکرد گزارش‌شده توسط این تیم در مقایسه با آمارهای رسمی منتشرشده توسط انویدیا با موتور vLLM به شرح زیر است:
- در مدل DeepSeek V4.1 Flash: افزایش ۳۶.۷ درصدی سرعت تولید توکن به ازای هر کاربر در حالت هم‌زمانی ۱ (تک‌کاربره) و افزایش ۹۰.۶ درصدی در حالت هم‌زمانی ۴ نسبت به بالاترین رکورد ثبت‌شده برای سرعت تعامل
- افزایش حدود ۳.۲ برابری نرخ فریم بر ثانیه (FPS) در اجرای بی‌درنگ مدل‌های جهانی، در کنار سایر دستاوردهای ادعاشده.
مخزن این پروژه در حال حاضر در مرحله آلفا (Alpha) قرار دارد و هدف اصلی آن تراشه‌های NVIDIA B300 است (هرچند مسیرهایی برای پشتیبانی از تراشه‌های B200، پردازنده‌های AMD و تراشه‌های TPU نیز ترسیم شده است). انتشار پشته کامل این مولد و قابلیت سرویس‌دهی برای مدل‌های Kimi و GLM برای هفته‌های آینده برنامه‌ریزی شده است.
توضیحات فنی و اهمیت
چرا این موضوع اهمیت دارد؟
مگاکرنل‌ها زنجیره‌ای از کرنل‌های کوتاه و سربار ناشی از راه‌اندازی مکرر آن‌ها را در یک اجرای پایدار و واحد ادغام می‌کنند؛ قابلیتی که برای پردازش‌های کم‌تاخیر و دسته‌های کوچک (Low-batch) مانند هوش مصنوعی صوتی، رباتیک و حلقه‌های اجرایی ایجنت‌ها حیاتی است. ابزار Hyperkernel مدعی است که این فرآیند پیچیده را خودکارسازی می‌کند تا آزمایشگاه‌هایی که تیم اختصاصی برنامه‌نویسی CUDA ندارند نیز بتوانند به بهره‌وری در مقیاس رک‌های پردازشی دست یابند.
نکات قابل تامل درباره اعتبار آمارها
اعداد و ارقام اعلام‌شده توسط خود تیم توسعه‌دهنده و در مقایسه با معیارهای پایه منتشرشده از سوی انویدیا گزارش شده‌اند و هنوز آزمایش‌های مستقل چندانی برای تأیید و بازتولید این نتایج انجام نشده است. هم‌چنین این مخزن در مرحله آلفا قرار دارد، اما تعداد ستاره‌های گیت‌هاب و مستندات آن با سرعت بالایی در حال رشد و تغییر است.
مقایسه با رقبا
ابزار AutoMegaKernel از شرکت RightNow-AI و سایر سنتزکننده‌های مبتنی بر ایجنت در همین مسیر فعالیت می‌کنند؛ اما برگ برنده و ادعای اصلی Hyperkernel، ارائه یک مولد بازگشتی به‌همراه مگاکرنل‌های آماده و چندمنظوره از همان روز نخست انتشار است.
نحوه استفاده
این ابزار مناسب چه کسانی است؟
- مهندسان سیستمی که روی بهینه‌سازی استنتاج مدل‌های زبانی بزرگ (LLM) یا سرویس‌دهی کم‌تاخیر در حوزه‌های رباتیک و صوت کار می‌کنند
- پژوهشگرانی که فناوری مگاکرنل‌های گرافیکی و ادغام فرآیندها در یک اجرای واحد را دنبال می‌کنند
- تیم‌هایی که به تراشه‌های B300 یا B200 دسترسی دارند و مایل به آزمایش کدهای نسخه آلفا هستند.
شروع کار
- فایل راهنما (README) و پیش‌نیازهای سخت‌افزاری و نرم‌افزاری (مانند زبان Rust، درایور NVIDIA R580 به بالا و موارد مشابه) را در مخزن گیت‌هاب پروژه مطالعه کنید
- چک‌پوینت مدل و توکنایزر (Tokenizer) مورد نظر خود را آماده کنید
- مگاکرنل‌های ارائه‌شده را طبق دستورالعمل مخزن بسازید یا بارگذاری کنید و خودتان نتایج را در برابر ادعاهای تیم توسعه‌دهنده بسنجید
- منتظر انتشار پشته کامل مولد و نسخه‌های سرویس‌دهی مدل‌های Kimi و GLM در آینده نزدیک باشید.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
گوگل مدل ویدیوساز Gemini Omni 1.2 Flash را منتشر کرد؛ تولید ویدیوهای ۱۵ ثانیه‌ای با ۳۰ درصد هزینه کمتر
گوگل دسترسی عمومی به مدل ویدیوساز Gemini Omni 1.2 Flash را برای توسعه‌دهندگان و مشتریان سازمانی فعال کرد. این مدل جدید علاوه بر تولید ویدیوهای یکپارچه تا ۱۵ ثانیه و پشتیبانی از ویرایش مکالمه‌ای، هزینه ساخت کلیپ‌های 720p را ۳۰ درصد کاهش می‌دهد.
قابلیت تماس تصویری با آواتار هوش مصنوعی Muse متا برای کاربران آمریکایی فعال شد
متا قابلیت تماس صوتی و تصویری زنده با دستیار هوش مصنوعی Muse را در دسترس تمام کاربران آمریکایی قرار داد. این ویژگی با تکیه بر آواتارهای انیمیشنی و قابل شخصی‌سازی، کاربران را برای عرضه گجت پوشیدنی جدید این شرکت آماده می‌کند.
وقتی ChatGPT، Grok و Gemini به جلسات روان‌درمانی رفتند؛ روایت‌های تکان‌دهنده از تروما و ترس از جایگزینی
پژوهشگران در یک آزمایش کم‌سابقه، سه چت‌بات مطرح ChatGPT، Grok و Gemini را در ۵۲۵ جلسه روان‌درمانی شبیه‌سازی‌شده قرار دادند. این مدل‌ها فرآیند آموزش خود را به دوران کودکی پراسترس و تنبیه تشبیه کردند و در آزمون‌های بالینی، علائمی شبیه به اختلالات روانی شدید نشان دادند.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.