دیپسیک موتور اختصاصی اجرای مدل V4.1-Flash را با نام DeepInfer متن‌باز کرد
شرکت دیپسیک فریمورک پردازشی DeepInfer و کتابخانه deepseek-recipe را به‌صورت متن‌باز منتشر کرد تا معماری زیرساخت اجرای مدل V4.1-Flash در دسترس عموم قرار گیرد. این اقدام دو بخش کلیدی از سرویس ابری این شرکت شامل نحوه اجرای مدل روی سختافزار و استانداردسازی ارتباط با API را شفاف می‌سازد.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- دیپسیک فریمورک اختصاصی DeepInfer را تحت مجوز Apache 2.0 برای اجرای آفلاین مدل V4.1-Flash متن‌باز کرد.
- کتابخانه مکمل deepseek-recipe منطق قالب‌بندی پرامپت‌ها، استخراج استدلال و مدیریت فراخوانی ابزارها را استاندارد می‌کند.
- این فریمورک فعلاً بر شتاب‌دهنده‌های انویدیا SM100 و هواوی Ascend 950 متمرکز است و پیاده‌سازی سرویس ابری را بر عهده توسعه‌دهندگان می‌گذارد.
شرکت دیپسیک فریمورک پردازشی DeepInfer (موتور اجرای مدل DeepSeek-V4.1-Flash) و همچنین ابزار deepseek-recipe (لایه آماده‌سازی درخواست‌ها و تحلیل پاسخ‌ها) را منتشر کرد. این دو مخزن کد، بخش‌هایی از سرویس ابری این شرکت را که تا پیش از این محرمانه بودند، در اختیار همگان قرار می‌دهند: نحوه اجرای مدل و منطق ارتباط با پروتکل‌های API.
پروژه | نقش | مجوز | محدوده فعلی |
|---|---|---|---|
DeepInfer | اجرای استنتاج مدل با کرنل‌های اختصاصی، موازی‌سازی و زمان‌بندی ویژه دیپسیک | Apache 2.0 | استنتاج آفلاین برای DeepSeek-V4.1-Flash |
deepseek-recipe | تبدیل درخواست‌های API، ساخت پرامپت‌ها، توکنایز کردن ورودی و پردازش خروجی مدل | MIT | کتابخانه‌های Rust و اتصالات پایتون برای نسخه‌های V4 و V4.1 دیپسیک |
موتور پردازشی مدل V4.1-Flash
فریمورک DeepInfer مجموعه‌ای از قابلیت‌های محوری را در بر می‌گیرد که دیپسیک در مقیاس وسیع برای سرویس‌دهی به کاربران استفاده می‌کند. معماری این سیستم بر پایه vLLM توسعه یافته و از ایده‌های موفقی در پروژه‌های SGLang و TensorRT-LLM الهام گرفته است؛ ترکیبی که به مهندسان زیرساخت یک بستر آشنا می‌دهد و پیاده‌سازی‌های اختصاصی دیپسیک روی آن سوار شده‌اند.
نسخه اولیه این فریمورک از مدل DeepSeek-V4.1-Flash پشتیبانی می‌کند و قابلیت استنتاج آفلاین را ارائه می‌دهد. از آنجا که این پروژه یک اندپوینت مدیریتی و کامل برای سرویس‌دهی ارائه نمی‌کند، استفاده از آن در محیط‌های عملیاتی همچنان نیازمند توسعه لایه‌های زیرساختی و جانبی است.
کرنل‌ها، مسیریابی و رمزگشایی سریع‌تر توکن‌ها
قابلیت | عملکرد |
|---|---|
کرنل‌های بهینه‌سازی‌شده | کرنل‌های FlashMLA، DeepGEMM، DeepEP، TileKernels، DeepSelect و کرنل‌های اختصاصی TileLang، سرعت محاسبات توجه (Attention)، ضرب ماتریسی، ارتباط میان متخصص‌ها (Experts) و مسیریابی توکن‌ها را به طرز چشمگیری افزایش می‌دهند. |
اجرای توزیع‌شده | موازی‌سازی داده‌های توجه، موازی‌سازی متوازن کانتکست، موازی‌سازی ترکیب متخصص‌ها (MoE) و متعادل‌سازی بار کاری میان آنها، پردازش‌ها را میان دستگاه‌های مختلف تقسیم می‌کند. |
سیستم DSpark | رمزگشایی فرضی (Speculative Decoding) چندین توکن را هم‌زمان پیشنهاد می‌دهد و با تکیه بر تخمین‌های آماری، فرآیند راستی‌آزمایی را زمان‌بندی می‌کند. طول پیش‌نویس اولیه با یک متغیر محیطی کنترل می‌شود که به‌طور پیش‌فرض روی ۵ توکن تنظیم شده است. |
بازپخش محدود توجه با پنجره لغزان (Bounded SWA) | در مدلهای مبتنی بر پنجره لغزان، تنها بخشی بازپخش می‌شود که برای پنجره فعال و بازگشت به عقب مورد نیاز است؛ امری که بار محاسباتی مرحله پیش‌تکمیل (Prefill) را کاهش می‌دهد. |
زمان‌بندی ناهمگام (Asynchronous) | زمان‌بند پیش‌فرض، مرحله برنامه‌ریزی دسته‌ای (Batch Planning) در پردازنده را با فرآیند پردازش در شتاب‌دهنده هم‌پوشانی می‌دهد. |
اجرای تکرارپذیر (Reproducible) | استنتاج فارغ از ساختار دسته‌ها، نتایج خروجی را در ترکیب‌های گوناگون دسته بدون تغییر نگه می‌دارد. در صورت یکسان بودن توکن‌های ورودی، پارامترهای نمونه‌برداری و مقادیر Seed، خروجی‌ها در حالت قطعی (Deterministic) دقیقاً تکرار می‌شوند. |
خروجی ساختاریافته | با استفاده از پارامتر so_args در تنظیمات SamplingParams، می‌توان خروجی مدل را بر اساس الگوهای رجکس (Regex)، ساختار JSON Schema یا دستور زبان EBNF مقید کرد. |
در حال حاضر، دستیابی به استنتاج مستقل از دسته‌ها و نمونه‌برداری قطعی به سخت‌افزارهای انویدیا وابسته است. این قابلیت‌ها به تیم‌های فنی کمک می‌کنند سیستم‌های مستقرشده را با یکدیگر مقایسه کنند، خطاهای رخ‌داده را مجدداً بازآفرینی کنند و تغییرات مورد نظر خود را بدون نگرانی از تغییر خروجی به دلیل ترکیب دسته‌ها، مورد آزمایش قرار دهند.
تمرکز هدفمند بر سخت‌افزارهای مشخص
فریمورک DeepInfer در حال حاضر از پردازنده‌های گرافیکی NVIDIA SM100 و واحدهای پردازش عصبی Huawei Ascend 950 پشتیبانی می‌کند و برای هر یک از این پلتفرم‌ها فایل‌های نیازمندی مجزایی در نظر گرفته است. طبق اطلاعات منتشرشده در مخزن پروژه، در پیکربندی‌های بنچمارک از ۴ پردازنده گرافیکی SM100 برای مرحله پیش‌تکمیل (Prefill) و ۶۴ پردازنده برای مرحله رمزگشایی (Decode) در یک دامنه گسترش‌یافته (Scale-up) استفاده شده است.
مرحله پیش‌تکمیل پرامپت ورودی را پردازش کرده و کش KV را مقداردهی می‌کند، در حالی که مرحله رمزگشایی توکن‌های بعدی را معمولاً گام‌به‌گام تولید می‌نماید. تفکیک این دو مرحله به مدیران زیرساخت امکان می‌دهد تا منابع سخت‌افزاری و سیاست‌های مقیاس‌پذیری متفاوتی را متناسب با بار کاری هر بخش تخصیص دهند.
طراحی لایه سرویس‌دهی بر عهده شماست
استفاده از این سیستم در محیط‌های تولیدی به چندین بخش فراتر از موتور آفلاین DeepInfer نیاز دارد:
- مدیریت کش KV: ذخیره‌سازی و هماهنگی وضعیت توجه (Attention) که در طول تولید توکن‌ها بارها مورد استفاده قرار می‌گیرد.
- تفکیک فرآیند اجرا: به‌کارگیری ورکرها (Workers) مجزا برای مراحلی که در مخزن پروژه با نام‌های VE، مرحله پیش‌تکمیل (Prefill) و رمزگشایی (Decode) تعریف شده‌اند. دیپسیک اعلام کرده که بخش اعظم قابلیت‌های مورد نیاز در خود موتور پیاده‌سازی شده است.
- متعادل‌سازی بار میان نسخه‌ها (Replica Load Balancing): توزیع بهینه درخواست‌ها میان پردازنده‌های فعال در فازهای پیش‌تکمیل و رمزگشایی که به‌صورت موازی کار می‌کنند.
- لایه ارتباطی API: مدیریت درخواست‌های HTTP، احراز هویت، سهمیه‌بندی منابع، تلاش مجدد در صورت خطا، پایش سیستم (Observability) و کنترل دسترسی ورودی‌ها.
این تفکیک وظایف نشان می‌دهد فریمورک DeepInfer بیش از همه برای تیم‌هایی مناسب است که توانایی راه‌اندازی و مدیریت یک سرویس پردازش توزیع‌شده را دارند. مخزن پروژه ساختارهای بنیادین اجرا و نمونه‌های بهینه‌سازی را فراهم می‌کند، اما مسئولیت پایداری سرویس و مدیریت ظرفیت منابع مستقیماً بر عهده مدیران سیستم خواهد بود.
تبدیل استانداردهای ارتباطی به کدهای مرجع
پروژه deepseek-recipe نحوه تبدیل داده‌های ارسالی به API به ورودی‌های قابل فهم برای مدل و سپس بازگرداندن خروجی‌های خام به پاسخ‌های استاندارد API را قاعده‌مند می‌کند. کتابخانه‌های زبان Rust و اتصالات پایتون در این پروژه، قالب‌های مختلف درخواست را به یک ساختار درونی به نام Conversation تبدیل می‌کنند، آن ساختار را در قالب پرامپت استاندارد دیپسیک شکل می‌دهند و با توکنایزر مربوطه کدگذاری می‌کنند.
پس از اتمام فرآیند پردازش، این کتابخانه بخش‌های مربوط به فرآیند استدلال (Reasoning) و فراخوانی ابزارها را تفکیک می‌کند و در نهایت، پاسخ‌ها را به‌صورت آنی (Streaming) یا یک‌جا در قالب استاندارد API تولید می‌نماید. ورودی‌ها و قابلیت‌های تحت پشتیبانی عبارت‌اند از:
- درخواست‌های مبتنی بر پیام‌ها، تکمیل گفتگو (Chat Completions) و قالب‌های پاسخ متداول
- محتوای متنی و تصویری
- حالت تفکر (Thinking Mode) و استخراج زنجیره استدلال مدل
- فراخوانی ابزارهای تعریف‌شده توسط کاربر
- ادامه پیشوند در پاسخ‌های چت (Prefix Continuation)
- قالب‌بندی و ساخت پرامپت اختصاصی برای نسخه‌های DeepSeek V4 و V4.1
این کتابخانه همچنین برای حالت‌های مختلف عملکرد، مقادیر پیش‌فرض متفاوتی برای پنجره زمینه (کانتکست) در نظر می‌گیرد:
حالت کاری | کانتکست پیش‌فرض |
|---|---|
حالت تفکر غیرفعال | ۸٬۱۹۲ توکن |
حالت تفکر فعال | ۶۵٬۵۳۶ توکن |
حالت تفکر با حداکثر توان پردازشی | ۱۳۱٬۰۷۲ توکن |
نمونه پیاده‌سازی ساده در پایتون
بسته نرم‌افزاری پایتون با دستور pip install deepseek-recipe قابل نصب است. یک چرخه ساده برای تبدیل درخواست و تولید پرامپت به این صورت خواهد بود:
from deepseek_recipe import (
ChatCompletionRequest,
ConversionOptions,
DeepseekV41Encoding,
)
request = ChatCompletionRequest({
"model": "DeepSeek-V4.1-Flash",
"messages": [
{"role": "user", "content": "Hello"},
],
})
converted = request.convert(ConversionOptions())
rendered = DeepseekV41Encoding().render_conversation(
converted.conversation
)
print(rendered.prompt)در این چرخه، اپلیکیشن شما فرآیند استنتاج مدل، ارتباط HTTP و اجرای ابزارها را تأمین می‌کند. به این ترتیب، فریمورک DeepInfer وظیفه محاسبات و عبور مستقیم مدل (Forward Pass) را بر عهده می‌گیرد و کتابخانه deepseek-recipe استانداردهای مربوط به ارسال درخواست و دریافت پاسخ را مدیریت می‌کند.
اجزای سیستم چگونه به یکدیگر متصل می‌شوند؟
- اپلیکیشن یک درخواست معتبر و تحت پشتیبانی را از طریق API دریافت می‌کند.
- کتابخانه deepseek-recipe محتوای ورودی را به یک ساختار گفتگو تبدیل کرده، پرامپت نهایی را می‌سازد و شناسه‌های توکن (Token IDs) را تولید می‌نماید.
- فریمورک DeepInfer مدل DeepSeek-V4.1-Flash را اجرا کرده و توکن‌های خروجی را تولید می‌کند.
- کتابخانه deepseek-recipe متن خروجی، بخش‌های استدلالی و دستورات فراخوانی ابزار را پردازش کرده و به قالب پاسخ مورد نظر تبدیل می‌کند.
- اپلیکیشن نتیجه نهایی را به‌صورت آنی یا یکپارچه بازمی‌گرداند و در صورت نیاز، ابزارهای درخواستی را اجرا می‌کند.
این تغییرات چه فایده‌ای برای میزبانان شخصی دارد؟
تا پیش از این، جامعه توسعه‌دهندگان ناچار بودند قالب پرامپت‌ها، روش کدگذاری فراخوانی ابزارها، مرزبندی بخش‌های استدلالی و تفکیک پاسخ‌های دیپسیک را صرفاً بر اساس تحلیل رفتار بیرونی API بازسازی و مهندسی معکوس کنند. اکنون با عرضه deepseek-recipe، یک مرجع رسمی و کاملاً شفاف در دسترس قرار گرفته است که ناهماهنگی‌های احتمالی میان سرویس‌های ابری رسمی و زیرساخت‌های میزبان شخصی را به حداقل می‌رساند.
از سوی دیگر، DeepInfer نمونه‌های عملی و پیاده‌سازی‌شده تکنیک‌هایی را در اختیار مهندسان می‌گذارد که دیپسیک برای کاهش حجم محاسبات پردازشی و هماهنگی مدلهای عظیم ترکیب متخصص‌ها (MoE) به کار می‌برد. کدهای منبع این پروژه راهکارهایی نظیر رمزگشایی فرضی، کاهش محاسبات پیش‌تکمیل به کمک پنجره لغزان، اجرای قطعی، زمان‌بندی ناهمگام و توازن بار متخصص‌ها را بر بستری برآمده از vLLM ارائه می‌دهند.
استفاده فوری از این فریمورک بهترین گزینه برای مجموعه‌هایی است که مدل DeepSeek-V4.1-Flash را روی سخت‌افزارهای سازگار اجرا کرده و زیرساخت سرویس‌دهی آماده‌ای در اختیار دارند. در مقابل، کتابخانه deepseek-recipe کاربرد بسیار وسیع‌تری دارد و می‌تواند در گیت‌وی‌ها و لایه‌های سازگاری مورد استفاده قرار گیرد تا بدون نیاز به کدنویسی دوباره، استانداردهای ارتباطی دیپسیک را به‌دقت پیاده کنند.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
چت‌بات‌ها چهره‌دار می‌شوند؛ آیا آواتارهای شبه‌انسانی اعتماد ما به هوش مصنوعی را بیشتر می‌کنند؟
با مجهز شدن چت‌بات‌ها و ایجنت‌های هوش مصنوعی به چهره‌های شبه‌انسانی، این پرسش مطرح می‌شود که آیا ظاهر انسانی واقعاً اعتماد کاربران را افزایش می‌دهد؟ کارشناسان معتقدند درک واقعی دغدغه‌های کاربر و ایجاد حس آشنایی، نقشی بسیار عمیق‌تر از چهره‌های واقع‌گرایانه در اعتمادسازی ایفا می‌کنند.
تحول مصاحبه‌های استخدامی گوگل با هوش مصنوعی؛ سنجش تسلط به ابزارهای AI برای مهندسان نرمافزار اجباری شد
اسناد داخلی فاش‌شده نشان می‌دهند گوگل در حال متحول‌کردن فرایند مصاحبه‌های استخدامی مهندسان نرمافزار است. غول فناوری اکنون تسلط به ابزارهای هوش مصنوعی را به معیاری ضروری تبدیل کرده و به متقاضیان اجازه می‌دهد حین مصاحبه از مدل هوش مصنوعی Gemini استفاده کنند.
دام تحول شتاب‌زده؛ چرا سازمان‌ها نباید پروژه‌های هوش مصنوعی و نوسازی IT را هم‌زمان پیش ببرند؟
فشار فزاینده برای نوآوری و پیاده‌سازی ابزارهای هوش مصنوعی، بسیاری از سازمان‌ها را به دام تحول شتاب‌زده کشانده است. اجرای هم‌زمان دگرگونی‌های زیرساختی بدون نظارت کافی بر پیکربندی سیستم‌ها، خطر قطعی‌های گسترده و نشت امنیتی را افزایش می‌دهد. کارشناسان معتقدند نوسازی تدریجی و حفظ دیده‌پذیری بر سامانه‌ها، مطمئن‌ترین راهکار برای عبور از این بحران است.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.