بحران خاموش در دنیای فناوری: چرا زیرساخت‌های سازمانی اصلاً برای استنتاج هوش مصنوعی ساخته نشده‌اند؟

سرمایه‌گذاری جهانی روی هوش مصنوعی روزبه‌روز با سرعت سرسام‌آوری بالا می‌رود و طبق آمار‌های مؤسسه IDC، در سال ۲۰۲۵ از مرز ۳۰۰ میلیارد دلار هم عبور کرده است. با این حال، بخش فناوری اطلاعات سازمان‌ها و شرکت‌های بزرگ هنوز در گذشته گیر کرده و تمام تمرکزش را روی آموزش (Training) مدل‌ها گذاشته است؛ یعنی ساختارهایی مثل کلاسترهای عظیم پردازنده‌های گرافیکی (GPU) و توان پردازشی بسیار متراکم که در مرکز توجه قرار دارند.

اما واقعیت این است که حالا بازی عوض شده و استنتاج یا اجرای مدل‌های هوش مصنوعی (AI Inference) دارد به بار کاری اصلی دیتاسنترها تبدیل می‌شود. معماری و زیرساختی که بتواند این مدل‌ها را در مقیاس بالا، به صورت عملیاتی (Production) و در اختیار کاربران و سیستم‌های واقعی قرار دهد، به سرعت به قلب تپنده آینده هوش مصنوعی تبدیل شده است.

تقاضا برای استنتاج هوش مصنوعی سر به فلک کشیده است؛ طبق داده‌های شرکت دیلویت (Deloitte)، در حال حاضر حدود دو سوم کل توان پردازشی به مرحله استنتاج اختصاص دارد و مکنزی (McKinsey) هم پیش‌بینی کرده که تا سال ۲۰۳۰، استنتاج بین ۳۰ تا ۴۰ درصد از کل تقاضای دیتاسنترهای دنیا را تشکیل خواهد داد. اما مسأله اصلی اینجاست: زیرساخت اختصاصی و مناسب برای پاسخ به این حجم از تقاضا اصلاً وجود ندارد!

استنتاج، نسخه کوچک‌شده آموزش مدل نیست!

نیازهای فنی آموزش مدل‌ها با اجرای زنده آن‌ها (استنتاج) از دیدگاه زیرساخت IT، تفاوت از زمین تا آسمان دارند و تقریباً در دو نقطه کاملاً متضاد قرار می‌گیرند. شرکت‌ها برای آموزش هوش مصنوعی دیتاسنترهایی با کلاسترهای عظیم و متمرکز از GPUها ساخته‌اند که چگالی مصرف انرژی وحشتناکی دارند و از اتصالات داخلی فوق‌سریع استفاده می‌کنند تا همه قطعات در یک سالن واحد با بیش‌ترین سرعت ممکن با هم حرف بزنند.

اما استنتاج اصلاً شبیه به آموزش نیست؛ اینجا دیگر با یک پردازش از پیش‌تعریف‌شده طرف نیستیم، بلکه با جریان مداوم و غیرقابل پیش‌بینی درخواست‌های کاربران سروکار داریم. به محض اینکه پرامپت‌ها و درخواست‌ها سرازیر می‌شوند، شما به یک قدرت پردازشی از نظر جغرافیایی توزیع‌شده نیاز دارید که بتواند به صورت لحظه‌ای و بی‌درنگ پاسخگوی این نوسانات باشد.

از آنجا که فرایند استنتاج به صورت ۲۴ ساعته در ۷ روز هفته در جریان است و کاربر نهایی منتظر پاسخی در کسری از میلی‌ثانیه است، این معماری به اتصالات اترنت استاندارد، مراکز پردازش لبه (Edge) توزیع‌شده و شبکه‌هایی با تأخیر فوق‌العاده پایین وابسته است؛ نه پهنای باند بسته و ایزوله‌شده در یک سالن دیتاسنتر. جالب اینجاست که دقیقاً همان تصمیم‌های معماری که یک دیتاسنتر را برای آموزش مدل ایده‌آل می‌کنند، در اجرای بزرگ‌مقیاس استنتاج مثل ترمز عمل کرده و کارایی را نابود می‌کنند!

ساختار هزینه‌ها هم کاملاً با هم فرق دارد. آموزش هوش مصنوعی یک هزینه سرمایه‌ای یک‌باره است؛ وقتی مدل آموزش دید، آن هزینه دیگر پرداخت و تمام شده است. اما سازمان‌هایی که هنوز تمام بودجه‌شان را صرف بهینه‌سازی هزینه‌های آموزش می‌کنند، تازه دارند با این سیلی واقعیت روبه‌رو می‌شوند که پی‌ریزی و فونداسیون اشتباهی را برای خود چیده‌اند.

در نقطه مقابل، استنتاج یک هزینه عملیاتی جاری و همیشگی است که با هر کاربر جدید، هر پرسش و هر تعامل با ایجنت‌ها بزرگ‌تر می‌شود. استنتاج بیش‌تر شبیه یک موجود زنده و نفس‌کش است که باید همگام با این بارهای پردازشی رشد کند؛ همان باری که قرار است آینده اقتصاد هوش مصنوعی را رقم بزند.

ورود ایجنت‌ها و فشار کمرشکن به معماری شبکه

ایجنت‌های خودمختار هوش مصنوعی هم دارند این کمبود زیرساخت را بحرانی‌تر می‌کنند. یک ایجنت مثل چت‌بات‌های ساده نیست که یک جواب تولید کند و کارش تمام شود؛ آن‌ها برنامه‌ریزی می‌کنند، مراحل مختلف را اجرا می‌کنند، ابزار‌های خارجی (Tools) را فراخوانی می‌کنند، با بقیه ایجنت‌ها هماهنگ می‌شوند و خروجی‌ها را بین سیستم‌های گوناگون ردوبدل می‌کنند. اثر موجی این بارهای کاری ایجنتی، ترافیک داده‌های در گردش در شبکه را چند برابر می‌کند و همزمان با رشد عطش بازار برای راهکارهای ایجنتی، نیاز به زیرساخت‌های پشتیبان هم چند برابر خواهد شد.

این رشد از همین حالا پیامدهای سنگینی به همراه داشته است. گارتنر پیش‌بینی می‌کند که تا پایان سال ۲۰۲۶، بیش از ۴۰ درصد از نرم‌افزارهای سازمانی به ایجنت‌های تخصصی مجهز خواهند شد. از سوی دیگر، مؤسسه IDC برآورد کرده که استفاده از ایجنت‌ها تا سال ۲۰۲۷ تا ۱۰ برابر جهش خواهد کرد و حجم توکن‌ها و فراخوانی‌های API هزاران برابر خواهد شد.

استنتاج همچنین ترافیک شمال-جنوب شبکه را به شکلی تصاعدی بالا می‌برد که شبکه‌های سنتی WAN و معماری‌های مرسوم دیتاسنتر اصلاً برای تحمل آن طراحی نشده‌اند. بررسی‌های مکنزی نشان می‌دهد که در حال حاضر بیش‌تر شبکه‌های سازمانی WAN توانایی پشتیبانی از الگوهای ترافیکی داده‌های هوش مصنوعی را ندارند و باید به سرعت تکامل پیدا کنند؛ به ویژه حالا که هوش مصنوعی به دومین اولویت بزرگ سرمایه‌گذاری زیرساختی در دنیا تبدیل شده است.

ترافیک‌های ناگهانی و انفجاری (Burst Traffic) یکی دیگر از چالش‌های نفس‌گیر برای این معماری است. بارهای کاری مبتنی بر ایجنت جریان ثابتی ندارند، بلکه شبیه به رگبارهای ناگهانی و سیل‌آسایی هستند که می‌آیند و می‌روند. یک دستور ساده و هماهنگی ایجنتی ممکن است به طور همزمان ده‌ها درخواست API پشت‌سرهم را به جریان بیندازد.

این اتفاق باعث می‌شود شبکه‌هایی که فقط برای بارهای پردازشی میانگین طراحی شده‌اند، به محض هماهنگی بزرگ‌مقیاس ایجنت‌ها به سقف ظرفیت خود برسند. نتیجه هم مشخص است: تأخیر شدید و افت قابلیت اطمینان، که باعث می‌شود پروژه‌های آزمایشی هوش مصنوعی در سازمان‌ها پیش از رسیدن به مرحله نهایی با کله زمین بخورند! برای پیروزی در عصر هوش مصنوعی، سازمان‌ها باید زیرساخت‌های خود را از پایه و از صفر دوباره بسازند.

پردازنده‌های مرکزی (CPU)؛ ستاره‌های گمنام دنیای استنتاج

ساخت یک معماری سازگار با استنتاج، از بنیادی‌ترین لایه یعنی سخت‌افزار شروع می‌شود. پردازنده‌های مرکزی (CPU) نقشی حیاتی در برنامه‌ریزی، زمان‌بندی، هماهنگی فراخوانی ابزار‌ها و حلقه‌های استدلال چندمرحله‌ای ایفا می‌کنند که شاکله اصلی بارهای کاری ایجنت‌ها هستند.

با این حال، تمرکز جنون‌آمیز صنعت روی بازار GPUها در دوران تب آموزش هوش مصنوعی، حواس همه را از اهمیت حیاتی CPUها در پردازش‌های استنتاج پرت کرد. با افزایش مقیاس بارهای کاری استنتاج، پردازنده‌های مرکزی از یک نقش فرعی به مهره‌ای کلیدی تبدیل می‌شوند و مثل فیلتر و هدایت‌کننده اصلی لایه هماهنگی (Orchestration) عمل می‌کنند.

اگر صرفاً از دیدگاه ایجنتی به قضیه نگاه کنیم، پردازنده‌های سرور با تعداد هسته‌های بالا می‌توانند این بار کاری را بسیار مقرون‌به‌صرفه‌تر از شتاب‌دهنده‌های گران‌قیمت GPU مدیریت کنند. البته نباید فراموش کرد که هیچ‌کدام بدون دیگری زنده نمی‌مانند؛ استنتاج همچنان به قدرت پردازشی GPU نیاز دارد، اما گلوگاه اصلی که اکثر سازمان‌ها از آن غافل مانده‌اند، ظرفیت و توان CPU است.

مثلث طلایی؛ هماهنگی پردازش، شبکه و فضای ذخیره‌سازی

حقیقت تلخ این است که کاربردهای هوش مصنوعی در سازمان‌ها در اکثر موارد بازگشت سرمایه (ROI) ناامیدکننده و فاجعه‌باری داشته‌اند. تازه‌ترین نظرسنجی گارتنر از مدیران زیرساخت و عملیات نشان می‌دهد که تنها ۲۸ درصد از پروژه‌های هوش مصنوعی موفق شده‌اند به بازگشت سرمایه پیش‌بینی‌شده برسند و ۲۰ درصد از آن‌ها با شکست کامل روبه‌رو شده‌اند. علت اصلی این شکست‌ها هم کاملاً واضح است: توقع زیاد و زودهنگام از زیرساختی که اصلاً توان و کشش تحمل چنین باری را نداشته است.

سازمان‌ها چطور می‌توانند از این تله فرار کنند؟ پاسخ ساده است: قبل از شیرجه زدن به سمت ساخت سیستم‌هایی که توان پشتیبانی از آن‌ها را ندارند، باید وقت بگذارند و زیرساخت پایه‌ای خود را آماده کنند. رمز موفقیت در این مسیر، سرمایه‌گذاری واقعی روی ساخت پردازش، شبکه و ذخیره‌سازی اختصاصی است که به صورت منابع مدیریت‌شده و تفکیک‌شده کار کنند.

استنتاج در مقیاس عملیاتی نیازمند این است که هر سه ضلع این مثلث دوشادوش هم کار کنند: توان پردازشی اجرای مدل را بر عهده بگیرد، حافظه و ذخیره‌سازی مشخص کند که کانتکست (Context)، امبدینگ‌ها و داده‌های بازیابی‌شده با چه سرعتی در دسترس قرار می‌گیرند، و شبکه تعیین کند که آیا پردازش و ذخیره‌سازی می‌توانند با حداقل تأخیر با دنیای بیرون ارتباط برقرار کنند یا خیر.

سازمان‌هایی که این تفاوت بنیادین را زودتر درک کنند، برای فاز بعدی تحول هوش مصنوعی بسیار آماده‌تر خواهند بود. آن‌ها به جای اینکه مدام وقت خود را صرف رفع خرابی‌ها و قطعی‌های زیرساخت در مرحله اجرا کنند، تمرکز واقعی خود را روی خلق ارزش و درآمدزایی از طریق استنتاج هوش مصنوعی خواهند گذاشت.