چرا اجرای ایجنت‌های هوش مصنوعی تا ۱۰ برابر گران‌تر از چت‌بات‌ها تمام می‌شود؟

تا سال ۲۰۲۹ میلادی بیش از ۱ میلیارد ایجنت هوش مصنوعی در سراسر جهان مشغول به کار خواهند شد؛ آماری که بر اساس پیش‌بینی موسسه IDC، حدود ۴۰ برابر کل آمار سال ۲۰۲۵ خواهد بود. این سامانه‌های خودکار روزانه رقمی بالغ بر ۳٫۷ تریلیون توکن مصرف کرده و فراخوانی API انجام می‌دهند.

هر یک از این فراخوانی‌ها هزینه‌ای مشخص دارند و میزان مخارج ایجنت‌های هوش مصنوعی مشخص می‌کند که آیا یک کسب‌وکار توان مالی سپردن میلیون‌ها اقدام عملیاتی به این ابزارها را دارد یا خیر. یک فروشگاه خرده‌فروشی را در نظر بگیرید که قصد دارد برای پردازش مرجوعی کالاها از ایجنت‌ها کمک بگیرد. در دموی فروش اولیه، همه‌چیز بسیار ساده به نظر می‌رسد؛ ایجنت سفارش را پیدا می‌کند، قوانین استرداد را می‌سنجد، بازگشت وجه را تأیید کرده و در نهایت برچسب پستی ارسال کالا را برای مشتری می‌فرستد.

با این حال، تصمیم‌گیری برای سرمایه‌گذاری درست زمانی پیچیده می‌شود که ایجنت با رسیدی مفقودشده، خریدی بحث‌برانگیز یا استثنایی بر قوانین مرجوعی روبه‌رو شود. هر بررسی مضاعف، توان محاسباتی و پردازش بیشتری می‌طلبد؛ از سوی دیگر، خطاها و پرونده‌های حل‌نشده پای کارمندان انسانی را دوباره به ماجرا باز می‌کنند. بنابراین، یک خرده‌فروش پیش از گسترش استقرار چنین ابزارهایی، باید هزینه‌های محاسباتی را در کنار دستمزد نیروهای انسانی مورد نیاز ارزیابی کند.

تفاوت بنیادین هزینه‌های آموزش و استنتاج در بودجه هوش مصنوعی

آموزش (Training) و استنتاج (Inference)، دو مرحله اصلی در چرخه حیات مدل‌های زیربنایی هوش مصنوعی و ایجنت‌ها به شمار می‌روند. در مرحله آموزش، مدل الگوها را از داده‌ها می‌آموزد و مهارت‌هایی نظیر درک زبان را در خود شکل می‌دهد. مرحله استنتاج زمانی رخ می‌دهد که فرد یا سیستمی از آن مدل آموزش‌دیده برای انجام کاری مشخص استفاده می‌کند؛ برای نمونه، تفسیر درخواست مرجوعی یک مشتری یا ارزیابی تطابق آن با قوانین فروشگاه.

درک این تمایز فنی برای مدیران کسب‌وکارها اهمیتی حیاتی در حوزه مالی دارد.

آموزش، سرمایه‌گذاری اولیه‌ای است که تنها هنگام به‌روزرسانی یا بازآموزی مدل‌ها تکرار می‌شود؛ اما استنتاج با هر بار به کار افتادن مدل اتفاق می‌افتد؛ نظیر بررسی درخواست استرداد کالا یا بررسی انطباق آن با قوانین بازگشت کالا.

به بیانی ساده: آموزش شبیه به دوران تحصیل در مدرسه یا دانشگاه است و استنتاج، انجام خود کار و شغل در دنیای واقعی.

شرکتی که خدمات هوش مصنوعی را خریداری می‌کند، شاید هرگز مدلی را اختصاصاً آموزش ندهد، اما استفاده روزمره آن همچنان هزینه‌های استنتاجی ایجاد می‌کند که ارائه‌دهنده سرویس باید آن‌ها را از طریق قیمت‌گذاری خدمات جبران نماید.

همین موضوع بودجه هوش مصنوعی شرکت‌ها را به رقابت میان سازندگان تراشه‌های زیرساختی پیوند می‌زند؛ تراشه‌های بهینه‌تر می‌توانند هوشمندسازی گردش‌های کاری بیشتری را توجیه‌پذیر کنند، در حالی که تراشه‌های پرمصرف ممکن است تمام صرفه‌جویی مالی مورد انتظار کسب‌وکار را بر باد دهند.

چرا ایجنت‌های هوش مصنوعی معادلات هزینه استنتاج را دگرگون می‌کنند؟

کاهش قیمت پردازش هوش مصنوعی الزاماً به معنای ارزان‌تر شدن هزینه‌های نهایی نخواهد بود. از آنجا که ایجنت‌ها مراحل بیشتری را طی می‌کنند، موارد استثنایی را موشکافی کرده و کار خود را مجدداً اعتبارسنجی می‌نمایند، مجموع مصرف آن‌ها می‌تواند با سرعتی به‌مراتب بالاتر از افت قیمت‌ها افزایش یابد.

مارک بولیثو (Marc Bolitho)، مدیرعامل استارتاپ Tensordyne، برآورد می‌کند که ایجنت‌ها بین ۵ تا ۱۰ برابر (و گاهی حتی بیشتر) نسبت به چت‌بات‌ها توکن مصرف می‌کنند. ارائه‌دهندگان معمولاً از معیار توکن، که معرف حجم اطلاعات ورودی و خروجی مدل است، برای محاسبه صورت‌حساب استفاده می‌کنند. پیامد این موضوع برای مدیرانی که بودجه استقرار ایجنت‌ها را تدوین می‌کنند این است که صورت‌حساب چت‌بات‌های سال گذشته اصلاً راهنمای مناسبی برای تخمین هزینه‌های ایجنت‌های پیچیده‌تر امسال نیست.

زمان پاسخ‌دهی نیز بخش جدایی‌ناپذیری از همین بودجه‌بندی به حساب می‌آید.

مشتری منتظر تأیید استرداد وجه به پاسخی آنی و بی‌درنگ نیاز دارد، اما برای تولید یک گزارش تحلیلی در طول شب می‌توان تأخیر بیشتری را تاب آورد. مدیران باید از ارائه‌دهندگان بخواهند قیمت‌گذاری بار کاری را بر اساس سرعت مورد نیاز کسب‌وکار شفاف کنند و سپس بسنجند که آیا با افزایش حجم کار و پیچیدگی سناریوها، توجیه اقتصادی مدل همچنان حفظ می‌شود یا خیر.

چرا بازار استنتاج فرصتی طلایی پیش روی رقبای انویدیا می‌گذارد؟

بولیثو معتقد است مزیت رقابتی و نفوذ تسخیرناپذیر انویدیا (Nvidia) بیشتر در حوزه آموزش مدل‌های هوش مصنوعی متمرکز است تا در بخش اجرای روزمره آن‌ها. از دیدگاه او، بازار استنتاج میدان گسترده‌تری را برای رقبای تخصصی باز می‌کند تا بتوانند با برگ برنده قیمت و سرعت، سهم بازار به دست آورند.

انویدیا و AMD هر دو تراشه‌های خود را با نرم‌افزارهایی برای اجرای کارآمدتر مدل‌ها جفت می‌کنند و این رقابت اکنون با شدت تمام آغاز شده است. برای مدیران شرکت‌ها، تفکیک میان آموزش و استنتاج مسیر جدیدی برای تصمیم‌گیری در خرید سخت‌افزار باز می‌کند؛ چراکه سخت‌افزار به کار رفته در آموزش یک مدل، الزاماً بهترین بستر برای اجرای آن نخواهد بود.

کسب‌وکارها می‌توانند از تامین‌کنندگان زیرساخت بخواهند اثبات کنند کدام سیستم دقت و زمان پاسخ‌دهی مورد نیاز را با کمترین هزینه کل برای بار کاری آن‌ها ارائه می‌دهد. در این میان، استارتاپ Tensordyne با دگرگون کردن شیوه انجام محاسبات ریاضی در پردازنده‌های خود، به دنبال فتح همین فرصت بزرگ است.

چگونه بازتعریف محاسبات ریاضی هزینه‌های ایجنت‌ها را کاهش می‌دهد؟

پردازنده Napier ساخت استارتاپ Tensordyne، با تکیه بر لگاریتم‌ها برخی از عملیات ضرب سنگین را به محاسبات جمع ساده تبدیل می‌کند. این پردازنده بخشی از سامانه جامع استنتاج Napier است که توان پردازشی، حافظه و شبکه را یکپارچه می‌سازد.

بخش عمده پردازش‌های مدل‌های هوش مصنوعی شامل ضرب ماتریس‌ها است که فضا و انرژی بسیار زیادی از تراشه می‌بلعد. پردازنده Napier اعداد را در قالب لگاریتم نمایش می‌دهد؛ در این حالت، ضرب دو عدد به جمع آن‌ها تبدیل می‌شود که به تراشه امکان می‌دهد انرژی کمتری بسوزاند و به ازای هر وات، کارایی پردازشی بسیار بالاتری به نمایش بگذارد.

چالش مهندسی در این زمینه، حفظ کارایی این رویکرد در سرتاسر محاسبات پیچیده یک مدل و تبدیل سریع قالب‌های عددی به یکدیگر است. شرکت Tensordyne اعلام کرده است که پیاده‌سازی این شیوه، مساحت فیزیکی مورد نیاز روی تراشه و توان مصرفی برای پردازش را کاهش داده و منابع بیشتری را برای حافظه و سایر عملکردهای حیاتی آزاد می‌گذارد.

مارک بولیثو با تاکید بر این نوآوری می‌گوید: «ما تنها مجموعه‌ای هستیم که از ریاضیات لگاریتمی استفاده می‌کنیم». البته این ادعا نیاز به بررسی دقیق‌تر دارد؛ چراکه بیل دالی (Bill Dally)، دانشمند ارشد انویدیا، پیش‌تر به پتانسیل‌های محاسبات لگاریتمی اشاره کرده بود. با این حال، Tensordyne وجه تمایز خود را اولین شرکتی می‌داند که سیستم عددی لگاریتمی را به‌عنوان محصولی تجاری و عملیاتی برای استنتاج هوش مصنوعی به بازار عرضه کرده است.

این استارتاپ در مقایسه‌های منتشرشده خود با سیستم‌های قدرتمند Nvidia Blackwell، مدعی تا ۱۷ برابر توکن بیشتر به ازای هر وات مصرفی و ۱۳ برابر توان عملیاتی بالاتر شده است. البته باید توجه داشت که این ارقام پیش‌بینی‌های داخلی خود شرکت پیرامون بهره‌وری انرژی و ظرفیت پردازشی هستند، نه نتایجی که به‌طور مستقل از سوی مراجع ثالث تأیید شده یا مستقیماً به همین اندازه در صورت‌حساب نهایی مشتریان تخفیف ایجاد کرده باشند.

پیامد تجاری احتمالی این پیشرفت آن است که کاهش هزینه‌های پردازش به ایجنت‌ها اجازه می‌دهد با بودجه‌ای منطقی، بازبینی‌های بیشتری انجام دهند و پرونده‌های بسیار پیچیده‌تری را مدیریت کنند. با این حال، رسیدن به نتیجه مطلوب تجاری همچنان به‌دقت واقعی ایجنت، ساختار جریان کار و قیمتی که مشتری در نهایت می‌پردازد وابسته خواهد بود.

سنجش هزینه‌های ایجنت بر اساس پرونده‌های حل‌شده واقعی

بار دیگر همان فروشگاه خرده‌فروشی را در نظر بگیرید؛ اگر صرفاً هزینه اشتراک مدل را بر تعداد تلاش‌های ایجنت برای مرجوعی کالا تقسیم کنیم، بخش بزرگی از هزینه‌های واقعی عملیات نادیده گرفته می‌شود. در محاسبات مالی باید هزینه‌های یکپارچه‌سازی، نگهداری، پایش، تلاش‌های ناموفق و همچنین دستمزد کارمندانی که اشتباهات ایجنت را اصلاح کرده یا پرونده‌های حل‌نشده را به پایان می‌رسانند نیز لحاظ شود.

معیار بسیار کارآمدتر، تقسیم کل هزینه‌های عملیاتی بر تعداد مواردی است که بر اساس استانداردهای کیفی فروشگاه به‌طور کامل و موفقیت‌آمیز حل شده‌اند. علاوه بر این، کسب‌وکار باید تعداد دفعات تماس مجدد مشتری با پشتیبانی را پایش کند؛ چراکه یک تعامل ارزان‌قیمت اولیه با ایجنت، در صورتی که مشتری مجبور به تکرار آن شود، به فرآیندی بسیار گران‌قیمت برای سازمان بدل خواهد شد.

این شیوه سنجش، ارزیابی ادعاهای سازندگان زیرساخت را نیز شفاف‌تر می‌کند. تولید توکن بیشتر به ازای هر وات شاید صرفه اقتصادی ارائه‌دهنده خدمات ابری را بالا ببرد، اما خرده‌فروشی که خریدار سرویس است باید این بهینه‌سازی را در قیمت نهایی یا بهبود خدمات خود لمس کند. همچنین شرکتی که تجهیزات سخت‌افزاری را مستقیماً خریداری می‌کند، باید میزان بهره‌برداری واقعی از ظرفیت سیستم را به‌دقت محاسبه نماید.

همین رویکرد درباره زمان صرفه‌جویی‌شده نیز صدق می‌کند. اگر حضور یک ایجنت کارمندان را از درگیری با مرجوعی‌های روتین آزاد می‌کند، مدیران باید تعیین کنند که این نیروها اکنون چه ارزش افزوده‌ای خلق می‌کنند و اثر آن را اندازه‌گیری نمایند. زمان ذخیره‌شده تنها هنگامی توجیه تجاری خواهد داشت که به ایجاد ظرفیت کاری جدید، خدمات‌رسانی بهتر یا پیشگیری از هزینه‌های اضافی در سازمان منتهی شود.

۵ پرسش کلیدی مدیران پیش از تخصیص بودجه برای ایجنت‌ها

داگ لوین (Doug Levin)، پژوهشگر ارشد در مدرسه کسب‌وکار هاروارد، خواستار حسابداری شفاف‌تر برای سرمایه‌گذاری‌های حوزه هوش مصنوعی است. توصیه‌های او در قالب ۵ پرسش کلیدی خلاصه می‌شود که مدیران می‌توانند برای ایجاد پیوند میان تصمیمات توسعه‌ای و نظارت مالی از آن‌ها بهره ببرند:

• هزینه‌های هوش مصنوعی دقیقاً در کدام سرفصل بودجه ثبت می‌شوند؟
• هزینه تمام‌شده برای هر کار یا تسکِ با موفقیت حل‌شده چقدر است؟
• چه کسی مسئولیت مستقیم پاسخگویی در قبال هزینه‌های هوش مصنوعی را بر عهده دارد؟
• استقرار کدام ایجنت‌ها نیازمند تأیید رسمی مدیریت ارشد است؟
• کمیته حسابرسی در چه فواصل زمانی گزارش هزینه‌های هوش مصنوعی را دریافت می‌کند؟

پاسخ به این پرسش‌ها نشان می‌دهد که با افزایش حجم کارهای محوله به ایجنت، هزینه‌ها چگونه تغییر می‌کنند. سیستمی که برای بررسی بازگشت‌های معمولی مقرون‌به‌صرفه است، ممکن است با گسترش به پرونده‌های اعتراضی و نیاز به اعتبارسنجی مکرر و دخالت کارمندان، به ابزاری بسیار پرهزینه تبدیل شود. مدیران پیش از آنکه یک پروژه آزمایشی به سرمایه‌گذاری مایوس‌کننده بدل شود، به شفافیت مالی کافی برای شناسایی این نقاط عطف نیازمندند.

به‌گفته بولیثو، عملکرد پیش‌بینی‌شده برای سیستم Napier در گام نخست با شبیه‌سازی‌ها ارزیابی می‌شود؛ اما برای اثبات اینکه آیا این مزایا در بارهای کاری دنیای واقعی و بدون افت دقت مدل پایدار می‌مانند یا خیر، به آزمایش‌های مستقل روی سخت‌افزارهای نهایی نیاز خواهد بود.

فروشگاهی که در حال ارزیابی این فناوری است، باید سناریوهای دشوار مرجوعی از جمله خریدهای اعتراضی و موارد استثنا را به بوته آزمایش بگذارد. مدیران ارشد پیش از گسترش سرمایه‌گذاری باید شواهد مستندی بخواهند که اثبات کند بهینه‌سازی‌های پردازشی در استنتاج، عملاً به کاهش هزینه تمام‌شده حل هر پرونده منتهی شده و هم‌زمان سطح کیفی مورد انتظار مشتریان از ایجنت‌های هوش مصنوعی را برآورده می‌سازد.