پردازنده سرور Vera از انویدیا؛ افزایش چشمگیر سرعت و ظرفیت پردازش ایجنت‌های هوش مصنوعی

معرفی پردازنده NVIDIA Vera

پردازنده NVIDIA Vera سری جدیدی از پردازنده‌های مرکزی انویدیا به‌شمار می‌رود که به‌طور ویژه برای کارخانه‌های هوش مصنوعی (AI Factories) و بارهای کاری مبتنی بر ایجنت‌ها طراحی شده است. جزئیات بیشتر این دستاورد در وبلاگ رسمی انویدیا منتشر شده است.

ایجنت‌های هوش مصنوعی تنها به تولید پاسخ‌های متنی ساده محدود نمی‌شوند؛ آنها در محیط وب جستجو می‌کنند، به پایگاه‌های داده کوئری می‌زنند، کدهای برنامه‌نویسی را مینویسند و ارزیابی می‌کنند و در نهایت دست به اقدام‌های عملی می‌زنند. در این چرخه، پردازش مدام میان استنتاج مدل در GPU و اجرای منطق در CPU جابه‌جا می‌شود. با گسترش استفاده از ایجنت‌ها، مراکز داده هوش مصنوعی به پردازنده‌هایی نیاز دارند که علاوه بر ارائه حداکثر سرعت برای هر ایجنت، امکان میزبانی هم‌زمان از تعداد زیادی ایجنت را در سقف مصرف توان معین فراهم کنند.

مهم‌ترین ویژگی‌های اعلام‌شده برای این پردازنده عبارت‌اند از:

• دستیابی به بالاترین توان عملیاتی و سریع‌ترین سرعت پاسخ‌دهی در یک پردازنده: با حضور Vera دیگر نیازی نیست ارائه‌دهندگان ابری میان پردازنده‌های x86 با فرکانس بالا یا متراکم و پرتعداد دست به انتخاب بزنند؛ زیرا هر دو قابلیت در یک چیپ تجمیع شده است.
• بهره‌وری انرژی در مقیاس مراکز داده ۱۰۰ مگاواتی: طبق ارزیابی‌های انویدیا در مقایسه با سریع‌ترین تراشه‌های x86، پردازنده Vera حدود ۱٫۶ برابر ایجنت بیشتری به ازای هر وات انرژی مدیریت می‌کند و هم‌زمان برتری سرعت را حفظ می‌نماید. هم‌چنین در مقایسه با کم‌مصرف‌ترین تراشه‌های x86، سرعت پردازش ایجنت‌ها حدود ۲ برابر سریع‌تر است و بالاترین سطح بهره‌وری در مصرف برق را ارائه می‌دهد.
• نتایج آزمایش‌های اولیه در شرکت‌های همکار: شرکت Perplexity به بهبود ۱٫۵ برابری در کدنویسی خودکار ایجنت‌ها دست یافته است. پلتفرم DeepInfra تا ۲٫۲ برابر مدیریت و هماهنگ‌سازی ایجنت‌ها را سریع‌تر انجام داده است. پایگاه داده ClickHouse در نسخه استاندارد خود به‌شکل کاملاً خطی روی ۱۷۶ هسته این پردازنده مقیاس‌پذیر شده و بالاترین امتیاز سخت‌افزاری بنچمارک ClickBench را کسب کرده است. هم‌چنین استارتاپ DuckLabs بهبود ۱٫۵ برابری نسبت به پردازنده Intel Xeon 6 در بنچمارک TPC-H SF1000 ثبت کرده است. پلتفرم Daytona موفق شد ۱۰۰۰ محیط ایزوله سندباکس را ظرف ۱۰٫۸ ثانیه آماده‌به‌کار کند (در مقایسه با ۸۸٫۴ ثانیه در پردازنده‌های مرسوم x86) و نرخ تکمیل ۱۲٫۷ تسک در ثانیه را در ۲۰۰۰ سندباکس هم‌زمان رقم بزند؛ سرویس Modal نیز تا ۲ برابر توان عملیاتی سندباکس بیشتر به ازای هر هسته به ثبت رساند.

بررسی مسئله و چالش اصلی

جریان‌های کاری ایجنت‌ها وابستگی شدیدی به پردازنده مرکزی دارند که اموری چون جستجو، فراخوانی پایگاه داده، مدیریت محیط‌های سندباکس و هماهنگ‌سازی زنجیره ابزارها را شامل می‌شود. از سوی دیگر، مراکز داده هوش مصنوعی با محدودیت شدید تأمین برق و توان مصرفی روبه‌رو هستند. پردازنده Vera با هدف پوشش هم‌زمان سرعت بالا و تراکم پردازشی طراحی شده است تا مدیران زیرساخت نیازی به تنوع و پیچیدگی مدل‌های مختلف پردازنده نداشته باشند.

تفاوت نقش پردازنده مرکزی (CPU) و پردازنده گرافیکی (GPU)

• پردازنده گرافیکی (GPU): وظیفه استنتاج مدل‌های زبانی، درک الگوها و تولید خروجی هوش مصنوعی را بر عهده دارد.
• پردازنده مرکزی (CPU): فراخوانی ابزارها، ارسال کوئری به دیتابیس، اجرای کدهای محیط ایزوله، مدیریت چرخه حیات سندباکس‌ها و هماهنگ‌سازی کلی جریان کار را مدیریت می‌کند.
• ایجنت‌های هوش مصنوعی به‌طور پیوسته میان این دو پردازنده در حال رفت‌وآمد هستند؛ به همین دلیل در بسیاری از سناریوها، پردازنده مرکزی به گلوگاه اصلی سرعت پاسخ‌دهی و ظرفیت کل سیستم تبدیل می‌شود.

محدودیت‌ها و نکات قابل‌توجه

• تمام آمار و ارقام ارائه‌شده از گزارش‌های رسمی انویدیا و نتایج عملیاتی شرکت‌های همکار استخراج شده‌اند و تنظیمات پایه بر اساس اعلام اختصاصی هر مجموعه است.
• عناوینی چون «سریع‌ترین» یا «بالاترین توان عملیاتی» موقعیت‌یابی تجاری محصول هستند و میزان بهبود واقعی در عمل به نوع بار کاری، پشته نرم‌افزاری و توازن کلی سرور بستگی دارد.
• این خانواده از پردازنده‌ها اختصاصاً برای مراکز داده هوش مصنوعی و ارائه‌دهندگان خدمات ابری و استنتاج طراحی شده‌اند و کاربردی در سیستم‌های دسکتاپ و رایانه‌های شخصی خانگی ندارند.

این پردازنده برای چه کاربرانی طراحی شده است؟

• ارائه‌دهندگان خدمات ابری و زیرساخت‌های استنتاج که در حال احداث کارخانه‌های هوش مصنوعی و پلتفرم‌های میزبانی ایجنت هستند.
• سرویس‌هایی که نیازمند اجرای هم‌زمان تعداد بسیار بالایی از محیط‌های سندباکس، کوئری‌های فشرده تحلیلی و هماهنگ‌سازی پیچیده ایجنت‌ها هستند (نظیر ایجنت‌های کدنویسی و پایگاه‌های داده تحلیلی).

راهنمای شروع و استقرار زیرساخت

1. برای آگاهی از جزئیات بیشتر معماری، گزارش رسمی را در وبلاگ رسمی انویدیا بررسی کنید.
2. بار کاری ایجنت‌های خود (شامل جستجو، دیتابیس، نگارش و تست کد و سندباکس‌ها) را تحلیل کنید تا مشخص شود آیا پردازنده مرکزی گلوگاه سیستم است یا خیر.
3. طراحی زیرساخت سرورها را بر اساس شاخص «تعداد ایجنت به ازای هر وات توان مصرفی» و زمان پاسخ‌دهی هر وظیفه تنظیم کنید، نه صرفاً بر پایه حداکثر تعداد هسته خام پردازنده.
4. مشخصات پلتفرم سرورهای Vera و دستورالعمل‌های رسمی استقرار را از انویدیا و شرکای سخت‌افزاری معتبر آن دریافت کنید.