همکاری انویدیا و اوراکل در توسعه زیرساخت Vera؛ راهکاری تازه برای مهار پردازنده‌های گرافیکی بیکار

انویدیا و اوراکل با عرضه عمومی سیستم‌های Vera Rubin NVL72 و پردازنده‌های مستقل Vera در زیرساخت ابری اوراکل (OCI)، همکاری خود را در حوزه زیرساخت‌های هوش مصنوعی گسترش دادند؛ برنامه‌ای که توسعه سوپرکلاسترهای محاسباتی تا مقیاس چند گیگاوات را نیز در بر می‌گیرد.

بیانیه رسمی این دو شرکت در ۲۷ اکتبر به دو نیاز محاسباتی متفاوت پاسخ می‌دهد: از یک سو توان پردازش گرافیکی لازم برای آموزش و اجرای مدل‌های پیشرفته، و از سوی دیگر ظرفیت پردازنده مرکزی (CPU) که عامل‌های هوشمند یا ایجنت‌ها برای اجرای کد، بازیابی اطلاعات و کار با ابزارهای نرم‌افزاری در فواصل میان فراخوانی مدل‌ها به آن نیاز دارند.

مدیران این دو مجموعه بر این باورند که امکان ارتقا و مقیاس‌پذیری مجزای منابع CPU و GPU می‌تواند ظرفیت‌های بلااستفاده و هدررفت منابع محاسباتی را به حداقل برساند.

برای خریداران سازمانی، این رویداد فراتر از دسترسی صرف به تازه‌ترین سخت‌افزارهای انویدیا است؛ این موضوع پرسشی اساسی را پیش روی سازمان‌ها می‌گذارد که آیا ایجاد توازنی نوین در زیرساخت می‌تواند بازدهی و کار مفید بیشتری از ظرفیت‌های خریداری‌شده به‌همراه داشته باشد یا خیر.

این پرسش به‌ویژه با توجه به یافته‌های آماری تازه‌ای که حاکی از نرخ پایین بهره‌وری پردازنده‌های گرافیکی در سطح سازمان‌ها است، اهمیتی دوچندان پیدا می‌کند.

نرخ بهره‌وری پایین پردازنده‌های گرافیکی در سازمان‌ها؛ آزمونی برای سنجش کارایی

بررسی‌ها و نظرسنجی‌های دوره‌ای اخیر نشان می‌دهد که ۷۹ درصد از ۲۱۸ سازمان مورد مطالعه، نرخ بهره‌وری پردازنده‌های گرافیکی خود را ۵۰ درصد یا کمتر گزارش کرده‌اند؛ با این حال، ۷۰ درصد از همین شرکت‌ها قصد دارند زیرساخت‌های خود را تغییر داده و ارتقا دهند.

این پژوهش سازمان‌هایی با دست‌کم ۱۰۰ کارمند را شامل می‌شود و مشاورانی را نیز در بر می‌گیرد که به نمایندگی از مشتریان خود پاسخ داده‌اند. البته این آمارها حاصل خوداظهاری شرکت‌ها است و بر پایه بررسی مستقیم سخت‌افزاری به دست نیامده است.

برای خریدارانی که همکاری انویدیا و اوراکل را ارزیابی می‌کنند، پیام اصلی روشن است: پیش از خرید تراشه‌های قدرتمندتر، باید ریشه عواملی که مانع استفاده بهینه از منابع فعلی می‌شوند شناسایی شود.

پردازنده گرافیکی قدرتمندی که منتظر اتمام اجرای کدهای ایجنت توسط CPU می‌ماند، مسئله‌ای کاملاً متفاوت با پردازنده‌ای دارد که اصولاً وظیفه‌ای در صف پردازش خود ندارد. پردازنده‌های مرکزی سریع‌تر می‌توانند مشکل نخست را برطرف کنند.

با این حال، پردازنده‌های مرکزی پرسرعت‌تر تقاضای تازه‌ای برای پردازنده‌های بیکار ایجاد نمی‌کنند. به همین ترتیب، اگر گلوگاه اصلی ناشی از کندی سرویس‌های بیرونی، دسترسی به پایگاه‌های داده یا معماری خود نرم‌افزار باشد، ارتقای پردازنده‌ها به‌تنهایی چاره‌ساز نخواهد بود و ریشه مشکل همچنان پابرجا می‌ماند.

این فرضیه‌ها مواردی هستند که هر سازمانی باید پیش از مهاجرت زیرساختی آن‌ها را بیازماید، نه اینکه داده‌های مربوط به نرخ بهره‌وری را دلیلی قطعی برای خرید بدون ارزیابی در نظر بگیرد.

این تمایز، نیازهای تجاری توسعه‌دهندگان مدل‌های پایه را از تیم‌های کاربردی سازمانی جدا می‌کند. شرکتی که مدل‌های پایه را آموزش می‌دهد و تقاضای مستمری برای آموزش و استنتاج دارد، بی‌شک نیازمند ظرفیت پردازشی بیشتر و زیرساخت حمایتی سریع‌تر است. اما سازمانی که پردازنده‌های گرافیکی‌اش اغلب نیمه‌بیکار هستند، باید ابتدا تعیین کند کدام بخش از وظایف قرار است به سیستم جدید منتقل شود و چرا اجرای آن‌ها در معماری تازه مقرون‌به‌صرفه‌تر خواهد بود.

بنابراین معیار سنجش واقعی تنها به سریع‌تر بودن تراشه تازه خلاصه نمی‌شود؛ پرسش کلیدی این است که آیا پیکربندی جدید می‌تواند هزینه کل انجام هر وظیفه را با حفظ سرعت پاسخ‌دهی و پایداری مورد انتظار کاهش دهد یا خیر.

چرا پردازنده‌های مرکزی برای عامل‌های هوشمند حیاتی هستند؟

انویدیا پردازنده Vera را ابزاری تخصصی برای انجام وظایف پیرامون مدل معرفی می‌کند؛ وظایفی چون هماهنگی میان ایجنت‌ها، اجرای کد در محیط‌های ایزوله، پیش‌پردازش داده‌ها و پشتیبانی از الگوریتم‌های یادگیری تقویتی.

یک مدل هوش مصنوعی تصمیم می‌گیرد چه اقدامی باید انجام شود، اما اجرای عملی آن اقدام و بازگرداندن نتایج بر عهده نرم‌افزارهای جانبی است. زمانی که اجرای این فرایندها به گلوگاه تبدیل شود، صرف افزایش سرعت مدل نمی‌تواند زمان کلی فعالیت ایجنت را کوتاه‌تر کند.

بر اساس اطلاعیه فنی اوراکل، پردازنده‌های Vera از طریق سرورهای Bare-metal و ماشین‌های مجازی انعطاف‌پذیر عرضه می‌شوند. ارائه این پردازنده‌ها به‌صورت مستقل به کاربران اجازه می‌دهد خدمات مبتنی بر پردازنده مرکزی را کاملاً تفکیک‌شده از زیرساخت‌های پردازش گرافیکی مستقر کنند.

اوراکل به ادعای انویدیا اشاره می‌کند که از بهبود عملکرد تا ۸۰ درصد در بارهای کاری مرتبط با ایجنت‌ها در مقایسه با پردازنده‌های پیشرو معماری x86 حکایت دارد. اوراکل همچنین شفاف‌سازی کرده که این نتایج حاصل بنچمارک‌های داخلی انویدیا بوده و در آزمایشگاه‌های مستقل سرورهای ابری ثبت نشده است؛ از این رو خریداران باید این رقم را آزمونی اولیه در نظر بگیرند، نه بهبودی تضمین‌شده برای تمامی نرم‌افزارهای خود.

برای سازمانی که به فکر مهاجرت به این بستر است، مناسب‌ترین راهکار اجرای هم‌زمان یک سناریوی یکسان از فعالیت ایجنت روی زیرساخت فعلی و پیکربندی پیشنهادی Vera است. این ارزیابی باید میزان تکمیل موفق وظایف، تأخیر در کل چرخه کاری، مصرف منابع CPU و GPU و در نهایت هزینه تمام‌شده به‌همراه مبالغ مربوط به رابط‌های برنامه‌نویسی مدل‌ها (API) را اندازه‌گیری کند.

مخاطبان معماری جدید: آزمایشگاه‌های هوش مصنوعی و سازمان‌هایی با نیازهای متفاوت

برجسته‌ترین مشتری سرشناسی که نام آن در این رونمایی به چشم می‌خورد، شرکت OpenAI است.

اودای روداراجو، مدیر ارشد فناوری بخش محاسبات OpenAI، در بیانیه مشترک دو شرکت با اشاره به محیط‌های ایزوله اجرای ایجنت‌ها اعلام کرد: «ما پردازنده‌های Vera را در بستر OCI وارد محیط عملیاتی می‌کنیم تا از این بارهای کاری پیچیده در مقیاس وسیع پشتیبانی کنیم.»

حضور OpenAI ضرورت استفاده از این زیرساخت را برای توسعه‌دهندگان مدل‌های بنیادین تأیید می‌کند، اما جامعه مخاطبان این فناوری فراتر از سازمان‌هایی است که مدل‌های اختصاصی آموزش می‌دهند.

اوراکل کاربردهایی نظیر بازیابی اطلاعات، تحلیل داده‌ها، هماهنگی ایجنت‌ها و مدیریت ناوگان پردازنده‌های گرافیکی را از جمله قابلیت‌های کلیدی این بستر می‌داند؛ وظایفی که در بطن پروژه‌های کاربردی هوش مصنوعی هر سازمانی دیده می‌شوند.

تحلیل ساختار پردازشی نشان می‌دهد که ماهیت بارهای کاری معیار بسیار بهتری نسبت به بزرگی یا کوچکی یک سازمان است. شرکتی که حجم انبوهی از کدهای ایجنت یا عملیات بازیابی داده را اجرا می‌کند، حتی بدون آموزش دادن مدل‌های بنیادین نیز دلایل کافی برای بررسی معماری Vera دارد. در نقطه مقابل، مجموعه‌ای بزرگ که بهره‌گیری از هوش مصنوعی را تنها به فراخوانی مدل‌های ارائه‌شده توسط شرکت‌های بیرونی محدود کرده است، انگیزه چندانی برای اختصاص منابع پردازش گرافیکی اختصاصی نخواهد داشت.

از این رو، همکاری اخیر هر دو بازار را پوشش می‌دهد، اما بخش‌های مختلف آن پاسخگوی نیازهای مجزایی هستند. توسعه سوپرکلاسترها مستقیماً سنگین‌ترین بارهای پردازشی مدل‌ها را هدف می‌گیرد، در حالی که عرضه مستقل پردازنده‌های مرکزی، گزینه‌ای هدفمند برای شرکت‌هایی است که به دنبال سرعت بخشیدن به بسترهای نرم‌افزاری پیرامون این مدل‌ها هستند.

پیکربندی کوچک‌تر Rubin همچنان در نقشه راه قرار دارد

در کنار سیستم‌های بزرگ NVL72، اوراکل در حال برنامه‌ریزی برای پیکربندی Rubin NVL8 با ۸ پردازنده گرافیکی و مجهز به تراشه‌های اینتل زئون (Intel Xeon) است. این چینش با هدف پشتیبانی از فرایندهای آموزش، تنظیم دقیق (Fine-tuning) و استنتاج و هم‌زمان حفظ سازگاری با نرم‌افزارهای معماری x86 طراحی شده است.

این گزینه امکان استقرار در مقیاسی کوچک‌تر از رک‌های غول‌پیکر ۷۲ پردازنده‌ای را فراهم می‌کند؛ اگرچه بر اساس بیانیه منتشرشده، NVL8 فعلاً در مرحله برنامه‌ریزی است و هنوز به عرضه عمومی نرسیده است.

اوراکل همچنین تاکید می‌کند که زیرساخت ابری این شرکت می‌تواند به آسانی میان بارهای کاری آموزش و استنتاج جابه‌جا شده و از نسل‌های بعدی پلتفرم‌های انویدیا نیز میزبانی کند. این قابلیت انعطاف‌پذیری لازم را به مشتریان می‌دهد تا متناسب با دگرگونی نیازهای خود، از ظرفیت‌های پردازشی استفاده کنند.

برای تیم‌های خرید و تأمین تجهیزات سازمانی، تفکیک محصولات آماده تحویل از طرح‌های توسعه آتی اهمیت بالایی دارد. گسترش زیرساخت تا مقیاس چند گیگاوات نشان‌دهنده چشم‌انداز بلندپروازانه این شرکت‌ها است، نه حداقل ظرفیتی که هر سازمان ناچار به تهیه آن باشد.

نکاتی که سازمان‌ها پیش از تصمیم‌گیری نهایی باید بررسی کنند

اطلاعیه‌های منتشرشده داده‌های قیمتی و معیارهای عملکردی دقیق برای بارهای کاری خاص ارائه نمی‌دهند تا بتوان بر اساس آن‌ها میزان صرفه‌جویی مالی دقیق هر سازمان را برآورد کرد.

دسترسی منطقه‌ای نیز نیازمند بررسی دقیق است. با وجود اعلام عرضه عمومی، در مطلب فنی اوراکل درباره پردازنده‌های Vera تصریح شده که این سرویس‌ها در سه‌ماهه جاری تنها در مناطق جغرافیایی خاصی در دسترس خواهند بود؛ بنابراین مدیران پیش از هر اقدامی باید نوع نمونه‌ها، موقعیت مراکز داده و ظرفیت‌های قابل رزرو را راستی‌آزمایی کنند.

برای تیم‌هایی که پردازنده‌های گرافیکی آن‌ها پیوسته معطل پایان پردازش‌های CPU می‌مانند، معماری Vera پیشنهادی جذاب و قابل آزمایش است. اما برای مجموعه‌هایی که تقاضای پردازشی کافی برای پر کردن ظرفیت GPUهای فعلی خود ندارند، نخستین گام متفاوت خواهد بود: شناسایی دقیق نیازها، بازنگری در تعهدات خرید ظرفیت ابری و ارزیابی این نکته که آیا تغییر پلتفرم توجیه اقتصادی دارد یا خیر.

انویدیا و اوراکل در حال فراهم ساختن زیرساخت‌های مکمل و ایجاد راهکاری برای متوازن‌سازی مستقل بخش‌های مختلف سامانه‌های هوش مصنوعی هستند. تصمیم نهایی سازمان‌ها برای خرید، به این بستگی خواهد داشت که این انعطاف‌پذیری فنی تا چه اندازه به خروجی ملموس و انجام واقعی کارها منجر می‌شود.