چرا انتخاب مدل هوش مصنوعی، اکنون یک تصمیم زیرساختی مهم است؟

با گسترش سبد پروژه‌های هوش مصنوعی در سازمان‌ها، مدیران فناوری بیش از هر زمان دیگری نیاز دارند تا هر بار پردازشی را با ترکیب مناسبی از مدل، ظرفیت محاسباتی و زیرساخت هماهنگ کنند و هم‌زمان تعادلی دقیق میان نرخ بهره‌وری، کارایی، پیش‌بینی‌پذیری و هزینه‌ها به وجود آورند.

هوش مصنوعی سازمانی به‌سرعت در حال تبدیل شدن به مسئله مدیریت سبد فناوری است. هم‌گام با گسترش پروژه‌های هوش مصنوعی، مدیران ارشد فناوری باید هر بار پردازشی را با ترکیب دقیقی از مدل، ظرفیت و زیرساخت هماهنگ سازند. تکیه بر رویکرد «یک مدل و یک شیوه پیاده‌سازی واحد» دیگر واقع‌بینانه نیست؛ زیرا نیازهای کاری مختلف از نظر سطح کارایی، میزان بهره‌وری، قابلیت پیش‌بینی رفتار و هزینه‌های عملیاتی تفاوت‌های بنیادینی با یکدیگر دارند.

ظهور مدل‌های متن‌باز گزینه‌های انتخابی فراوانی را پیش روی سازمان‌ها قرار داده است، اما هم‌زمان تصمیم‌گیری پیرامون ظرفیت پردازنده‌های گرافیکی، زیرساخت سخت‌افزاری و محیط‌های سرویس‌دهی را پیچیده‌تر می‌کند. از این رو، چالش اصلی مدیران فناوری این است که چگونه بارهای پردازشی خود را بدون ایجاد پیچیدگی‌های غیرضروری، با ترکیبی ایده‌آل از مدل، روش پیاده‌سازی و زیرساخت انطباق دهند.

بارهای پردازشی متفاوت، نیازمند مدل‌های استقرار متفاوتی هستند

با گسترش دامنه پروژه‌های هوش مصنوعی، هیچ مدل استقرار واحدی پاسخگوی تمام نیازها نخواهد بود. استنتاج بر پایه پرداخت به ازای مصرف توکن (Pay-per-token) همچنان برای سناریوهایی که انعطاف‌پذیری مصرف در آن‌ها اولویت دارد بسیار کاربردی است؛ در حالی که تخصیص ظرفیت اختصاصی (Dedicated Capacity) برای بارهایی با تقاضای مداوم یا نیازمندی‌های سخت‌گیرانه در زمینه ظرفیت، نرخ تاخیر، توان عملیاتی و پیش‌بینی‌پذیری هزینه‌ها، گزینه‌ای بسیار منطقی‌تر به‌شمار می‌رود.

یکی از راهکارهای مدیریت این تعادل، استفاده از سرویس محاسبات مدیریت‌شده در Microsoft Foundry است. این شیوه پیاده‌سازی مدیریت‌شده به سازمان‌ها امکان می‌دهد تا کنترل تصمیمات حیاتی مؤثر بر کارایی و ابعاد اقتصادی استنتاج (شامل نوع مدل، شتاب‌دهنده، ظرفیت و نقطه بهینه‌سازی عملیاتی) را در دست داشته باشند؛ در حالی که مایکروسافت بخش عمده‌ای از مدیریت محیط زیرساختی سرویس‌دهی را بر عهده می‌گیرد.

هم‌چنین مشتریان می‌توانند متناسب با تغییر نیازمندی‌های پردازشی خود، سرویس محاسبات مدیریت‌شده در Foundry را در کنار سایر شیوه‌های پیاده‌سازی به کار بگیرند.

ظرفیت اختصاصی چگونه معادلات مالی را دگرگون می‌کند؟

انتقال فرایند استنتاج مدل‌های متن‌باز به محیط عملیاتی، هم ساختار هزینه‌ها و هم انتخاب‌های فناورانه را دستخوش دگرگونی اساسی می‌کند.

ظرفیت اختصاصی به معنای تدارک و تخصیص منابع بر پایه نیازمندی‌های پیش‌بینی‌شده است، نه تکیه صرف بر مصرف متغیر و لحظه‌ای. این سازوکار پایه‌ای شفاف در اختیار تیم‌های فنی قرار می‌دهد تا برای ظرفیت دردسترس، نرخ تاخیر و توان عملیاتی برنامه‌ریزی کنند. از سوی دیگر، مدیران بودجه نیز دیدی روشن نسبت به نحوه مصرف زیرساخت و ارتباط میان ظرفیت، نرخ بهره‌وری، کارایی و هزینه‌ها به دست می‌آورند.

با رشد ابعاد استفاده از هوش مصنوعی، این شفافیت زیرساختی به سازمان‌ها معیاری مطمئن می‌دهد تا بارهای پردازشی را بر اساس میزان بهره‌وری، سطح کارایی، پیش‌بینی‌پذیری و هزینه‌های واقعی مقایسه کنند، نه اینکه صرفاً بر قیمت‌های اسمی توکن یا تعرفه‌های کلی زیرساخت تکیه داشته باشند.

در مدل ظرفیت اختصاصی، توجیه اقتصادی به این بستگی دارد که منابع پردازنده‌های گرافیکی تا چه اندازه بهینه‌تر مورد استفاده قرار گیرند؛ هزینه ساعت کاری GPU، نرخ بهره‌وری، توان عملیاتی و حجم کارهای پردازش‌شده، همگی مستقیماً هزینه نهایی هر توکن یا هر درخواست استنتاج را تعیین می‌کنند. همین موضوع سبب می‌شود ویژگی‌های بار پردازشی و حجم تقاضای پیش‌بینی‌شده، نقشی محوری در محاسبه مجموع هزینه مالکیت (TCO) ایفا کنند.

صرف زمان کمتر برای عملیات زیرساخت و تمرکز بیشتر بر توسعه

اجرای مدل‌های متن‌باز روی زیرساخت اختصاصی می‌تواند بار عملیاتی سنگینی به‌همراه داشته باشد؛ از پیکربندی و بهینه‌سازی محیط‌های اجرا گرفته تا نگهداری نرم‌افزار، رفع آسیب‌پذیری‌ها و اعمال به‌روزرسانی‌های امنیتی. یک محیط سرویس‌دهی مدیریت‌شده بخش اعظم این بار سنگین را کاهش می‌دهد و به تیم‌ها اجازه می‌دهد بدون اتلاف وقت برای مدیریت زیرساخت‌های بنیادین، کنترل تصمیمات اثرگذار بر کارایی و هزینه‌ها را به دست داشته باشند.

مدل مناسب نیازمند زیرساخت سخت‌افزاری متناسب است

مدل‌های مختلف نیازمندی‌های زیرساختی متفاوتی را طلب می‌کنند و این تمایزها می‌توانند مستقیماً بر کارایی، تعداد پردازنده‌های گرافیکی مورد نیاز و اقتصاد بار پردازشی اثر بگذارند؛ زیرا حافظه GPU هم توسط وزن‌های مدل و هم توسط ترافیک کاربران هم‌زمان مصرف می‌شود.

شتاب‌دهنده AMD Instinct MI300X گزینه‌ای با حافظه بسیار بالا را در بستر محاسبات مدیریت‌شده در Foundry ارائه می‌دهد؛ این تراشه به ازای هر پردازنده گرافیکی ۱۹۲ گیگابایت حافظه پهن‌باند HBM3 و در یک کلاستر ۸ تایی حدود ۱٫۵ ترابایت حافظه فراهم می‌کند. همین گنجایش بالا باعث می‌شود مدل ۳۲۰ میلیارد پارامتری Z.ai GLM 5.3 Flash تنها با ۴ پردازنده MI300X و با پنجره زمینه ۵۱۲ هزار توکنی در Foundry میزبانی شود. به‌کارگیری پردازنده‌های کمتر برای اجرای یک مدل مشخص، مستقیماً به معنای نیاز به زیرساخت محدودتر و کاهش چشمگیر هزینه‌هاست. تمامی این فرایند توسط ROCm، پشته نرم‌افزاری متن‌باز پردازنده‌های گرافیکی AMD، پشتیبانی می‌شود که امکان اجرای مدل‌های متن‌باز و ابزارهای سرویس‌دهی آن‌ها را روی تراشه‌های Instinct در پلتفرم Foundry فراهم می‌سازد.

بنابراین، انتخاب هوشمندانه شتاب‌دهنده برای هماهنگ‌سازی الزامات زیرساختی، سطح کارایی و توجیه اقتصادی متناسب با بار پردازشی، تصمیمی کاملاً حیاتی به‌شمار می‌رود.

تصمیم‌گیری در سطح سبد پروژه‌ها در مقیاس صنعتی

شرکت مخابراتی AT&T نمونه‌ای بسیار کاربردی از پیاده‌سازی این رویکرد در دنیای واقعی است. پروژه هوش مصنوعی این شرکت در حوزه مخابرات با نام OTel2.0، از بستر محاسبات مدیریت‌شده در Foundry برای پردازش حجم عظیمی از داده‌های تخصصی مخابراتی و پشتیبانی از مدل‌های متن‌باز متنوع در بخش‌های مختلف جریان کاری خود بهره گرفت.

«سرویس محاسبات مدیریت‌شده در Foundry به ما امکان داد در مقیاسی گسترده به ظرفیت پردازنده‌های گرافیکی دسترسی داشته باشیم تا تیم‌هایمان به‌جای اتلاف وقت برای مدیریت زیرساخت، تمام توان خود را بر توسعه پروژه OTel2.0 متمرکز کنند.» (مارک آستین، معاون ارشد بخش علوم داده و هوش مصنوعی در AT&T)

شرکت AT&T به‌جای استاندارد‌سازی تمام بارهای پردازشی خود روی یک مدل واحد یا یک معماری سخت‌افزاری خاص، از چندین مدل متن‌باز و معماری‌های مختلف در قالب ۵۳۰ پردازنده گرافیکی استفاده کرد. حدود ۴۳۰ عدد از این تراشه‌ها، پردازنده‌های AMD Instinct MI300X بودند که با پردازش تقریبی ۱ تریلیون توکن در بستر محاسبات مدیریت‌شده، وظیفه تولید داده‌های آموزشی ساختگی (Synthetic Data) را بر عهده داشتند. طبق اعلام AT&T، بهره‌گیری از مدل‌های متن‌باز برای تولید داده به‌جای فراخوانی مدل‌های اختصاصی پیشرو، ده‌ها میلیون دلار صرفه‌جویی مالی برای این شرکت به‌همراه داشته است.

اهمیت این دستاورد صرفاً در مقیاس عظیم پیاده‌سازی آن خلاصه نمی‌شود، بلکه در به‌کارگیری هم‌زمان مدل‌ها و معماری‌های سخت‌افزاری گوناگون برای بخش‌های مجزای یک پروژه نهفته است. این تجربه دقیقاً همان تصمیمی را بازتاب می‌دهد که امروزه پیش روی مدیران فناوری قرار دارد؛ اینکه چگونه ترکیب‌های مختلفی از مدل‌ها، زیرساخت‌ها و ظرفیت‌های پردازشی می‌توانند بالاترین بازدهی را با منطقی‌ترین هزینه ممکن به ارمغان آورند.

مدیریت زیرساخت هوش مصنوعی به‌عنوان یک سبد راهبردی

با ورود هرچه عمیق‌تر هوش مصنوعی سازمانی به محیط‌های عملیاتی، پرسش راهبردی اصلی این است که چگونه هر بار پردازشی را با ترکیبی از مدل، شیوه استقرار و زیرساختی هماهنگ کنیم که تعادلی دقیق میان کارایی، پیش‌بینی‌پذیری، نرخ بهره‌وری و هزینه‌ها فراهم آورد.

برای پروژه‌هایی که از استنتاج اختصاصی با مدل‌های متن‌باز سود می‌برند، سرویس محاسبات مدیریت‌شده در Foundry ظرفیت اختصاصی را با حفظ کنترل کامل سازمان بر تنظیمات فنی ترکیب می‌کند. از سوی دیگر، تراشه AMD Instinct MI300X زیرساختی با ظرفیت حافظه فوق‌العاده بالا برای مدل‌ها و پردازش‌های سنگین پدید می‌آورد و پیکربندی بهینه‌ای را برای مدل‌هایی نظیر Z.ai GLM 5.3 Flash در دسترس قرار می‌دهد.

این رویکرد برای مدیران فناوری بستری شفاف ایجاد می‌کند تا هم‌زمان با گسترش استفاده از هوش مصنوعی، مخارج زیرساختی را بهتر مدیریت کنند، پیش‌بینی‌پذیری هزینه‌ها و ظرفیت را بالا ببرند و شاخص‌هایی چون مجموع هزینه مالکیت (TCO) و نرخ بازگشت سرمایه (ROI) را با دقتی بسیار بیشتر بسنجند.

بررسی کنید که سرویس محاسبات مدیریت‌شده در Foundry چگونه می‌تواند به شما در انطباق مدل‌های متن‌باز و ظرفیت اختصاصی با بارهای پردازشی در مقیاس صنعتی کمک کند.