چرا پردازنده‌های گرافیکی گران‌قیمت معطل می‌مانند؟ چالش جدید هوش مصنوعی در ذخیره‌سازی داده‌ها

داشبورد مانیتورینگ پردازنده‌های گرافیکی شما عدد ۷۰ درصد بهره‌وری را نشان می‌دهد. روی کاغذ، کلاستر پردازشی کاملاً مشغول کار است؛ اما در دنیای واقعی، بخش عمده‌ای از این زمان صرف انتظار شتاب‌دهنده‌های گران‌قیمتِ ۴۰ هزار دلاری برای دریافت فایلی می‌شود که در یک ذخیره‌ساز تحت شبکه (NAS) با فاصله چند پرش شبکه (Network Hop) قرار دارد. صف پردازش خالی است و پایپلاین هم مشکلی ندارد؛ مسئله اصلی این است که داده‌ها جای دیگری گیر افتاده‌اند.

این همان حقیقت ناخوشایندی است که در پشت‌پرده بسیاری از پروژه‌های متوقف‌شده یا کند هوش مصنوعی به چشم می‌خورد. سال‌هاست که گلوگاه زیرساخت‌های مدرن هوش مصنوعی دیگر ظرفیت ذخیره‌سازی نیست؛ بلکه چالش اصلی به محل استقرار داده‌ها و نحوه دسترسی به آن‌ها برمی‌گردد. آنچه اکنون بیشترین اهمیت را دارد، مکان ذخیره فایل‌ها، مسیر انتقال سریع آن‌ها به پردازنده‌های گرافیکی (GPU) و میزان کپی‌برداری‌های مکرر در این میان است. از این زاویه، زیرساخت هوش مصنوعی بیش از آنکه با بحران ظرفیت ذخیره‌سازی دست‌به‌گریبان باشد، با یک چالش عملیاتی در مدیریت داده‌ها روبه‌رو است. پلتفرم داده همرسپیس (Hammerspace) دقیقاً با تمرکز بر همین نقطه آغاز شده است. این پلتفرم میان لایه پردازشی و تجهیزات ذخیره‌سازی فعلی سازمان—از سیستم‌های NAS و ذخیره‌سازهای ابریِ مبتنی بر آبجکت گرفته تا درایوهای NVMe نصب‌شده در دل سرورهای گرافیکی—قرار می‌گیرد و دسترسی به تمام این داده‌ها را از طریق یک «فضای نام یکپارچه جهانی» (Global Namespace) امکان‌پذیر می‌کند. این معماری به‌جای آنکه داده‌ها را مدام به سمت پردازنده‌ها جابه‌جا کند، بخش پردازشی را از محل دقیق قرارگیری داده‌ها مطلع می‌سازد.

در نتیجه، همرسپیس به‌جای اینکه هر سیستم ذخیره‌سازی را یک جزیره مستقل و جداگانه در نظر بگیرد، لایه داده را از زیرساخت فیزیکی جدا می‌کند. این کار اجازه می‌دهد آرایه‌های ذخیره‌سازی ناهمگن، دیتاسنترهای مختلف و فضاهای ابری همگی به‌عنوان بخشی از یک محیط داده هماهنگ و یکپارچه کار کنند. اپلیکیشن‌ها و پایپلاین‌های هوش مصنوعی بدون نیاز به نصب نرم‌افزارهای کلاینت اختصاصی یا بازنویسی کدها، از طریق پروتکل‌های استانداردی همچون NFS، SMB و S3 به این اطلاعات دسترسی پیدا می‌کنند.

گلوگاه اصلی پراکندگی داده‌هاست، نه پهنای باند

پراکندگی داده‌ها یکی از بزرگ‌ترین چالش‌ها برای سازمان‌هایی است که وارد مسیر هوش مصنوعی می‌شوند. مجموعه‌داده‌های آموزشی معمولاً میان دپارتمان‌های گوناگون، شعبه‌های مختلف و فضاهای ابری پراکنده شده‌اند.

«جاناتان فلین»، مدیر سیستم‌های کاربردی در همرسپیس، در این باره می‌گوید: «داده‌ها در گروه‌ها، بخش‌ها و جزیره‌های جداگانه‌ای در سراسر شرکت پخش شده‌اند. بسیار به‌ندرت پیش می‌آید که داده‌ها در قالب یک مجموعه‌داده پالایش‌شده و آماده برای آموزش مدل در اختیارتان قرار داشته باشند. ابتدا باید این داده‌ها جمع‌آوری شوند، از سیستمی به سیستم دیگر انتقال یابند و در نهایت پالایش شوند تا بتوان آموزش مدل را روی آن‌ها آغاز کرد.»

این پراکندگی اغلب باعث می‌شود چرخه‌های پردازشی زمان زیادی را صرف کپی کردن و انتقال مرحله‌به‌مرحله فایل‌ها میان سیستم‌هایی کنند که در اصل برای ارتباط با یکدیگر طراحی نشده بودند. هیچ‌یک از این اتلاف وقت‌ها در نمودارهای مرسوم IOPS فضای ذخیره‌سازی خود را نشان نمی‌دهد، اما سرعت پیشرفت آموزش مدل را به‌شکل محسوسی پایین می‌آورد.

طبق گزارش گارتنر، ۵۷ درصد از سازمان‌ها باور دارند که داده‌هایشان برای هوش مصنوعی آماده نیست. جالب‌تر و نگران‌کننده‌تر اینکه دو سوم مدیران ارشد معتقدند در کل مجموعه آن‌ها حتی یک نفر هم وجود ندارد که به تمام داده‌های جمع‌آوری‌شده و نحوه دسترسی به آن‌ها تسلط کامل داشته باشد. شاید باور این آمار دشوار به نظر برسد، اما وقتی به یاد بیاوریم که مهندسان فیس‌بوک نیز قبلاً به همین واقعیت اعتراف کرده بودند، قضیه ملموس‌تر می‌شود: تا زمانی که چیزی را نبینید، نمی‌توانید آن را مدیریت و سازمان‌دهی کنید.

«مایک بلوم»، معمار زیرساخت در همرسپیس، معتقد است پاسخ همیشگی شرکت‌های ارائه‌دهنده خدمات ذخیره‌سازی، اوضاع را بدتر می‌کند. او می‌گوید: «شرکت‌ها معمولاً سراغ فروشنده‌ای می‌روند که قول می‌دهد اگر همه تجهیزات ذخیره‌سازی قدیمی خود را دور بریزند، محصولات برند او مشکل را حل خواهد کرد.» او این کار را شبیه بیرون انداختن نوزاد به‌همراه آب وان حمام می‌داند و می‌افزاید: «آن مجموعه‌داده‌هایی که همه جا پخش شده‌اند، روی هوا شناور نیستند، بلکه دقیقاً روی همین تجهیزات و آرایه‌های ذخیره‌سازی قدیمی قرار دارند.»

حافظه‌های NVMe که پولشان را از قبل پرداخته‌اید

در بیشتر زیرساخت‌های هوش مصنوعی، یک منبع محاسباتی معطل و دست‌نخورده دیگر نیز وجود دارد که کمتر کسی به آن توجه می‌کند: حافظه‌های NVMe تعبیه‌شده در دل خودِ سرورهای گرافیکی. هر سیستم مدرن HGX یا DGX معمولاً با ۸ تا ۱۶ درایو NVMe عرضه می‌شود که هرکدام به ۴ مسیر PCIe متصل هستند. بااین‌حال، تقریباً تمام پلتفرم‌های مدیریت کلاستر تنها به چشم یک حافظه موقت محلی (Scratch Space) به این ظرفیت نگاه می‌کنند؛ فضایی که فقط توسط همان یک سرور قابل استفاده است و سایر گره‌های کلاستر امکان دسترسی به آن را ندارند.

همرسپیس از این منابع به‌عنوان ظرفیت‌های «سرگردان و بلااستفاده» یاد می‌کند؛ ظرفیتی که حجم آن بسیار قابل‌توجه است و به صدها ترابایت در هر سرور می‌رسد و به‌زودی سرورهای گرافیکی ۲ پتابایتی نیز روانه بازار می‌شوند. اگر تمام این درایوها را در یک فضای نام مشترک ادغام کنید، لایه ذخیره‌سازی جدیدی به نام «لایه صفر» (Tier 0) شکل می‌گیرد؛ لایه‌ای که از حافظه‌های خریداری‌شده فعلی استفاده می‌کند و روی همان بستر شبکه‌ای که پیش‌تر راه‌اندازی کرده‌اید به کار می‌افتد.

فلین استدلال می‌کند که این لایه از نظر ساختاری بسیار سریع‌تر از هر دستگاه ذخیره‌سازی اختصاصی و مستقلی است که در بازار به فروش می‌رسد.

او محاسبه می‌کند: «لایه یک معمولاً با محوریت ظرفیت ذخیره‌سازی ساخته می‌شود؛ مثلاً یک شاسی دو یونیتی (2U) با ۲۴ یا ۴۰ درایو NVMe در برخی سیستم‌های دل. این یعنی ۹۶ یا ۱۹۲ مسیر PCIe در کنار یک یا دو کارت شبکه ۴۰۰ گیگابیتی که در بهترین حالت ۱۶ یا ۳۲ مسیر ارتباطی در اختیارتان می‌گذارند. بنابراین میزان اشباع و تراکم درگاه‌ها تنها در همان یک جعبه فوق‌العاده بالاست.»

ادعای جالب‌تر و جسورانه‌تر او این است که لایه صفر، ارزان‌ترین لایه ذخیره‌سازی در کل رک سرور به شمار می‌آید؛ چراکه پردازنده و شبکه از قبل آماده هستند و حافظه‌ها نیز (دست‌کم برای خریداران سرورهای GPU) در فهرست قطعات خریداری‌شده گنجانده شده‌اند. در مقایسه با خرید و راه‌اندازی یک آرایه اختصاصی گران‌قیمتِ تمام‌فلش (All-Flash)، اضافه کردن چند سرور متادیتا و ابزارهای انتقال داده به نودهای گرافیکی فعلی، عملاً هزینه خرید چشمگیری برای سازمان به دنبال ندارد.

یکپارچه‌سازی امکاناتی که در اختیار دارید

کنار گذاشتن و تعویض کامل زیرساخت‌ها نیازمند زمانی طولانی است که اغلب تیم‌ها از آن بی‌بهره‌اند. رویکرد همرسپیس نوعی «یکپارچه‌سازی و جذب تدریجی» است؛ فرآیندی که صرفاً با اَبَرداده‌ها (متادیتا) سروکار دارد: ذخیره‌سازهای NAS موجود اسکن می‌شوند، درخت دایرکتوری در فضای نام جهانی ثبت می‌گردد و نقاط اتصال (Mounts) هدایت می‌شوند، بدون آنکه حتی یک بایت از داده‌ها جابه‌جا شود.

همرسپیس تأکید می‌کند که سرعت استقرار بالا، مزیت اصلی این شیوه است؛ دسترسی به داده‌ها تقریباً بی‌درنگ برقرار می‌شود، حتی در شرایطی که عملیات یکپارچه‌سازی همچنان در پس‌زمینه در جریان باشد.

در لایه زیرین، آرایه‌های ذخیره‌سازی اصلی مانند NetApp، Qumulo یا VAST همچنان به سرویس‌دهی داده‌ها ادامه می‌دهند و هم‌زمان همرسپیس نمایی یکپارچه از تمام آن‌ها ارائه می‌کند؛ موضوعی که پیامدهای کاربردی ملموسی دارد.

اگر فایلی به‌عنوان داده آموزشی برچسب بخورد و وضعیت آن از یک داده آرشیوی در لایه دو به داده‌ای پرکاربرد (Hot) تغییر یابد، یک سیاست خودکار (که همرسپیس آن را هدف یا Objective می‌نامد) می‌تواند بدون هیچ مداخله انسانی، کپی جدیدی از آن را روی لایه صفر بارگذاری کند. فلین توضیح می‌دهد: «هیچ‌کس نیازی به دستور کپی دستی یا اجرای فرمان rsync ندارد؛ همه چیز به‌صورت خودکار در سطح فایل‌سیستم سازمان‌دهی می‌شود.»

همین لایه هماهنگ‌کننده می‌تواند از جریان‌های کاری مبتنی بر تولید با تقویت بازیابی اطلاعات (RAG)، فرآیندهای استنتاج و ایجنت‌های هوش مصنوعی نیز پشتیبانی کند؛ سناریوهایی که در آن‌ها داده‌های پراکنده سازمانی باید بدون نیاز به کپی‌برداری‌های گسترده و پرهزینه، به‌طور مداوم مدیریت، پالایش و در دسترس مدل‌ها قرار گیرند.

به‌محض اینکه فرآیند آموزش مدل تمام شود، نسخه موجود در لایه صفر به‌طور خودکار پاکسازی می‌شود. این پاکسازی اهمیت بالایی دارد؛ چراکه پر ماندن لایه پرسرعت می‌تواند کیفیت خدمات (QoS) را برای سایر پردازش‌هایی که قصد ورود به این فضا را دارند مختل کند.

بلوم می‌گوید: «معماری‌های دیگری که از لایه‌های داغ (Hot) و سرد (Cold) استفاده می‌کنند، معمولاً با چالش انباشتگی در لایه داغ مواجه می‌شوند که این موضوع سلامت پایپلاین پردازشی را به خطر می‌اندازد. رویکرد همرسپیس به‌جای مجبور کردن سازمان‌ها به بازسازی کامل زیرساخت‌ها، فضاهای ذخیره‌سازی، ابری و محاسباتی فعلی را برای کار با هوش مصنوعی عملیاتی می‌کند.»

متکی بر استانداردهای باز و بدون وابستگی انحصاری

رویکرد همرسپیس تمرکز ویژه‌ای روی کلمه «استاندارد» دارد. نتیجه مشترک سامسونگ و همرسپیس که در نوامبر ۲۰۲۵ در میان ۱۰ نتیجه برتر بنچمارک IO500 برای کلاسترهای ۱۰ نودی قرار گرفت، از توزیع استاندارد لینوکس، کلاینت اصلی NFSv4.2، درایوهای اس‌اس‌دی استاندارد NVMe و پروتکل IP-over-InfiniBand استفاده کرده بود. در این آزمون هیچ کلاینت اختصاصی یا ماژول سفارشی برای هسته سیستم‌عامل به کار گرفته نشد. نتایج ارائه‌شده از سوی این شرکت در بنچمارک MLPerf Storage v2.0 نیز مقیاس‌پذیری خطی تا پهنای باند ۴۲۰٫۸ گیگابایت‌برثانیه را برای ۱۴۰ پردازنده گرافیکی در ۵ نود با بهره‌وری گرافیکی بیش از ۹۶ درصد به ثبت رساند.

دستیابی به چنین عملکرد فوق‌العاده‌ای با معماری‌های سنتی NFS ممکن نیست؛ پروتکل‌هایی که در الگوهای دسترسی موازیِ رایج در هوش مصنوعی با افت سرعت شدید مواجه می‌شوند. در عوض، همرسپیس از سیستم موازی NFS موسوم به pNFS بهره می‌برد. در این روش، به‌جای اینکه یک سرور منفرد به‌طور هم‌زمان انتقال اَبَرداده‌ها و خود فایل‌ها را مدیریت کند، یک نقشه ساختاری (Layout Map) ایجاد می‌شود تا کلاینت بتواند داده‌ها را به‌صورت موازی از چندین سرور دریافت کند. این فناوری در سال ۲۰۱۰ به‌عنوان استاندارد رسمی RFC 5661 تصویب شد. همچنین همرسپیس در سال ۲۰۱۸ نقشی کلیدی در گسترش pNFS در نسخه NFSv4.2 و معرفی افزونه Flex Files ایفا کرد؛ افزونه‌ای که امکان سازگاری pNFS با آرایه‌های ناهمگن ذخیره‌سازی، فضاهای ابری و پایگاه‌های چندمرکزی را فراهم ساخت.

پیام مهم‌تر این دستاورد آن است که استفاده از استانداردهای باز و عمومی دیگر در تضاد با کارایی خارق‌العاده در مقیاس هوش مصنوعی نیست؛ موضوعی که فرضیه ضرورت خرید راهکارهای ذخیره‌سازی گران‌قیمت و انحصاری برای بارهای کاری سنگین هوش مصنوعی را زیر سؤال می‌برد.

فلین می‌گوید: «با ارتقای کارایی که در کدهای اصلی پروژه لینوکس تزریق کرده‌ایم، اکنون می‌بینیم که یک فایل‌سیستم با سابقه چند ده‌ساله به چنان سیستم دسترسی موازی قدرتمندی تبدیل شده که می‌تواند به میدان رقابت با نام‌های بزرگی همچون WEKA، Lustre و GPFS بیاید.»

حاکمیت داده‌ها در چند موقعیت جغرافیایی

زمانی که یک فضای نام یکپارچه تمام حافظه‌های محلی، ذخیره‌سازهای ابری و درایوهای NVMe درون سرورهای گرافیکی را پوشش می‌دهد، مسائل حقوقی و حاکمیت داده‌ها مطرح می‌شوند: هر فایل از نظر قانونی اجازه دارد در چه منطقه‌ای ذخیره شود و چه کسانی مجاز به کپی کردن آن هستند؟ این پلتفرم از طریق همان سازوکار سیاست‌گذاری خودکار به این نیاز پاسخ می‌دهد. کافی است یک مجموعه‌داده با برچسب «مخصوص اتحادیه اروپا» مشخص شود تا سیستم مانع انتقال آن به سرورهای آمریکای شمالی گردد. همچنین با برچسب‌گذاری پرونده‌ها مطابق استانداردهای سلامت (مانند HIPAA)، قوانین سخت‌گیرانه عدم دستکاری داده‌ها (یک بار نوشتن و چند بار خواندن) اعمال می‌شود.

از آنجا که این سیاست‌ها در لایه داده اعمال می‌شوند نه در تجهیزات ذخیره‌سازی مجزا، مدیریت و نظارت بر داده‌ها حتی هنگام جابه‌جایی میان ابرها، موقعیت‌های مکانی و لایه‌های گوناگون سرعت پابرجا می‌ماند. این ویژگی با گسترش چرخه‌های پردازش هوش مصنوعی، سامانه‌های استنتاج و ایجنت‌های خودمختار در زیرساخت‌های توزیع‌شده، اهمیت دوچندانی پیدا کرده است.

این موضوع در سال ۲۰۲۶ بسیار مهم‌تر از دو سال گذشته است؛ چراکه این انعطاف‌پذیری عملیاتی، اقتصاد توسعه زیرساخت‌های هوش مصنوعی را دگرگون می‌کند. تأمین حافظه‌های SSD در بازار با محدودیت روبه‌رو شده و قیمت تراشه‌های NAND و DRAM در طول سال‌های ۲۰۲۴ و ۲۰۲۵ به‌دلیل تقاضای گسترده غول‌های فناوری برای سرورهای هوش مصنوعی افزایش یافته است. در شرایطی که دسترسی به حافظه‌های فلش دشوارتر شده، حل چالش انتقال داده با خرید آرایه‌های تمام‌فلش جدید عملاً غیرممکن یا بسیار پرهزینه است. در چنین وضعیتی، استفاده از یک کنترل‌پِلین هوشمند که بار کاری، موقعیت مکانی و سیاست‌های داده را هم‌زمان درک کند، راهکاری حیاتی برای بهینه‌سازی هزینه‌ها به شمار می‌آید.

کاربرد واقعی در مقیاس صنعتی

واضح‌ترین نشانه درباره میزان اهمیت این معماری در دنیای واقعی، شرکت متا است. متا از دو کلاستر عظیم، هرکدام مجهز به ۲۴٬۵۷۶ پردازنده گرافیکی، برای آموزش مدل پیشرفته Llama 3 استفاده می‌کند و پلتفرم همرسپیس را مشخصاً برای عیب‌یابی آنی پردازش‌ها و توزیع بلادرنگ کدها در پایپلاین‌های آموزشی خود به کار گرفته است.

وقتی شرکتی با منابع مهندسی عملاً نامحدود در مقیاسی به این بزرگی با بن‌بست انتقال داده مواجه می‌شود، سایر سازمان‌ها با بارهای پردازشی سبک‌تر نیز قطعاً با این معضل روبه‌رو خواهند شد؛ در این شرایط، نسخه همیشگی «خرید پردازنده‌های گرافیکی بیشتر» هرگز نمی‌تواند مشکلی را که یک لایه پایین‌تر از پردازش رخ می‌دهد حل کند.

فلین به کنایه قدیمی متخصصان شبکه درباره NFS اشاره می‌کند و می‌گوید: «شوخی همیشگی این بود که NFS هرگز برای سرعت بالا ساخته نشده است.» این گزاره در گذشته صحت داشت؛ اما ادعای تازه مبنی بر اینکه یک فایل‌سیستم باز و متکی بر استاندارد می‌تواند زیر پای کارخانه‌های عظیم هوش مصنوعی قرار بگیرد و داده‌های آن‌ها را تأمین کند، نگاه کارشناسان را به این پروتکل باسابقه به‌کلی دگرگون کرده است.

با وجود این پیشرفت‌ها، مشتریان سازمانی احتمالاً ترجیح می‌دهند عملکرد این سیستم را در بنچمارک‌های مستقل و در مقایسه با رقبایی همچون VAST، WekaIO و NetApp در محیط‌های کاری ناهمگن بسنجند؛ آزمایش‌هایی که توسط خود سازندگان پلتفرم طراحی نشده باشند. بااین‌حال، چشم‌انداز این رویکرد بسیار امیدوارکننده به نظر می‌رسد و در حال حاضر، بازنگری در معماری استقرار داده‌ها، مهم‌ترین و درست‌ترین بحثی است که باید در زیرساخت‌های هوش مصنوعی دنبال شود.