پایان معمای هزینه‌های سرسام‌آور هوش مصنوعی؛ فکتوری مصرف ایجنت‌های کدنویسی را زیر ذره‌بین برد

استارتاپ فکتوری داشبورد تحلیلی جدیدی برای رصد ایجنت‌های کدنویسی معرفی کرد

استارتاپ فکتوری (Factory) از مجموعه ابزار تحلیلی بازطراحی‌شده خود برای درویدها (Droids)، ایجنت‌های هوش مصنوعی مهندسی نرم‌افزار این شرکت، رونمایی کرده است. این داشبورد جدید میزان مصرف اعتبارها را در جلسات مختلف یک سازمان به تفکیک هر مدل و هر کاربر مشخص می‌کند و در کنار آن، گزارش‌های کاملی درباره نرخ پذیرش تیمی، حجم کاری و میزان صرفه‌جویی حاصل از مسیریابی خودکار مدل‌ها ارائه می‌دهد.

• دسترس‌پذیری: هم‌اکنون برای مشتریان پلن‌های تجاری (Business) و سازمانی (Enterprise) فعال است.
• دسترسی: مالکان و مدیران ارشد می‌توانند از منوی پروفایل کاربری خود به بخش آنالیتیکس دسترسی داشته باشند.
• پوشش آماری: ردیابی دقیق اعتبارها، ترکیب مدل‌ها، کاربران، نشست‌ها، پیام‌ها، فراخوانی ابزار‌ها (Tool Calls) و معیارهای کاربران فعال.
• یکپارچه‌سازی: دسترسی مستقیم از طریق داشبورد اختصاصی و ارائه یک API کاربردی برای دریافت گزارش‌های سازمانی در سیستم‌های خارجی.

در دنیای واقعی کدنویسی با هوش مصنوعی، یک جلسه کاری ساده با یک ایجنت ممکن است ده‌ها درخواست به مدل، فراخوانی ابزار و تلاش مجدد (Retry) ایجاد کند؛ به همین خاطر، گزارش کلی هزینه‌های آخر ماه سازمان عملاً هیچ سرنخی از دلایل جهش ناگهانی هزینه‌ها به مدیران نمی‌دهد. اما تفکیک مصرف بر اساس کاربران و مدل‌ها به تیم‌های مهندسی و مالی کمک می‌کند هزینه‌ها را به پروژه‌ها و بارهای کاری واقعی متصل کنند، رفتارهای غیرعادی را موشکافی نمایند و با داده‌هایی شفاف و اتکاپذیر، استراتژی گسترش استفاده از هوش مصنوعی را در شرکت پیاده کنند.

ردگیری دقیق اعتبارها؛ تا سطح هر کاربر و مدل

پلتفرم فکتوری میزان مصرف را در قالب «اعتبار» (Credit) نشان می‌دهد؛ در نمودار مصرف بر حسب زمان (Usage Over Time)، میزان مصرف کل از سهم تک‌تک مدل‌ها تفکیک شده است. همچنین نمودار ترکیب مدل‌ها (Model Mix) سهم اختصاص‌یافته به هر مدل را روی صفحه می‌آورد و گزارش‌های سطح کاربر دقیقاً مشخص می‌کنند چه کسی کار را استارت زده است. البته تبدیل این اعتبارها به مبالغ نهایی صورت‌حساب مالی، به شرایط قرارداد و تعرفه توافقی هر مشتری بستگی دارد.

نمودار تمرکز هزینه (Cost Concentration) روند مصرف تجمعی را در کل سازمان ترسیم می‌کند. فکتوری در یادداشت‌های انتشار خود توضیح داده که در بسیاری از استقرارها، بخش اعظم مصرف معمولاً زیر سر گروه کوچکی از کاربران حرفه‌ای و فرآیندهای خودکارسازی است. این نمودار می‌تواند به‌سرعت نشان دهد که آیا پای یک تسک سنگین اما برنامه‌ریزی‌شده در میان است، یا اینکه یک اسکریپت خودکار بیش از حد انتظار اعتبارها را بلعیده است.

واقعیت ادعای صرفه‌جویی ۶۳ درصدی مسیریاب فکتوری چیست؟

ابزار مسیریاب فکتوری (Factory Router) برای هر درخواست ارسالی، به‌صورت خودکار مناسب‌ترین مدل را انتخاب می‌کند؛ با این قابلیت، توسعه‌دهندگان دیگر مجبور نیستند هر بار میان قیمت و عملکرد مدل‌ها دست به انتخاب بزنند. بخش آنالیتیکس تخمین می‌زند اگر سازمان تمام درخواست‌ها را با تعرفه مدل‌های پرچمدار و گران‌قیمت اجرا می‌کرد چقدر باید هزینه می‌پرداخت و با این مقایسه، میزان صرفه‌جویی حاصل از مسیریابی را شفاف می‌کند.

فکتوری مدعی است که این مسیریاب، هزینه‌های کلی محیط پروداکشن را در مقایسه با نرخ مدل‌های پیشرو تا ۶۳ درصد کاهش می‌دهد، آن هم در حالی که طبق ارزیابی‌های داخلی شرکت عملکرد سطح پرچمدار را حفظ می‌کند. با این حال، در گزارش عمومی منتشرشده جزئیاتی از چارچوب تست‌ها، نحوه توزیع مدل‌ها، بازه ترافیک مورد بررسی، ارائه‌دهندگان مبنا و مفروضات قیمت‌گذاری ذکر نشده است. طبیعتاً سود و صرفه‌جویی واقعی هر مجموعه به ترکیب درخواست‌ها، قیمت لحظه‌ای مدل‌ها و سیاست‌های مسیریابی وابسته خواهد بود.

کنترل‌های سازمانی (Enterprise Controls) با در اختیار گذاشتن سیاست‌ها و مدل‌های پیش‌فرض متمرکز برای مدیران، مکمل عملکرد مسیریاب هستند. این تنظیمات از انتخاب‌های پراکنده و متناقض مدل‌ها جلوگیری می‌کند و گزارش‌های جدید هم نشان می‌دهند اجرای این سیاست‌ها دقیقاً چه اثری روی مصرف گذاشته است.

پیوند سنجش پذیرش با میزان مصرف ابزار

بخش «پذیرش» (Adoption) در این داشبورد ارزیابی می‌کند که آیا تیم‌ها به‌صورت مستمر از ایجنت‌های دروید استفاده می‌کنند و چه حجمی از کار‌ها به دوش این ابزار‌ها سپرده شده است. ترکیب این نما با داده‌های مصرف، زاویه‌دیدهای کاربردی گوناگونی را به مدیران بودجه ارائه می‌دهد:

البته سنجش دقیق بهره‌وری همچنان به شاخص‌های خروجی مستقلی مثل تغییرات پذیرفته‌شده، مدت‌زمان چرخه بررسی پول‌ریکوئست‌ها (PR)، بازنویسی‌ها و رخدادهای پروداکشن نیاز دارد. با این وجود، معیارهای فکتوری پایه‌های تحلیل پذیرش و تخصیص هزینه را تثبیت کرده و داده‌های عملیاتی مورد نیاز برای مقایسه این خروجی‌ها با میزان استفاده از ایجنت‌ها را مهیا می‌سازد.

رابط برنامه‌نویسی Analytics API نیز داده‌های جزئی مصرف در سطح کاربر و مدل را برای سیستم‌های مالی و هوش تجاری (BI) سازمان‌ها مهیا می‌کند. علاوه بر این، در هر کارت داشبورد راهنمایی (Tooltip) تعبیه شده که نحوه محاسبه هر فرمول را شرح می‌دهد تا تیم‌ها هنگام تطبیق گزارش‌های مختلف دچار اختلاف نشوند.

فشار سازمان‌های بزرگ؛ پشت‌پرده این به‌روزرسانی مهم

بر اساس پروفایل رسمی شرکت، استارتاپ فکتوری در سال ۲۰۲۳ توسط متان گرینبرگ (Matan Grinberg) و اینو ریس (Eno Reyes) تأسیس شد. این شرکت در دور سوم جذب سرمایه (Series C) خود به رهبری Khosla Ventures توانست ۱۵۰ میلیون دلار سرمایه تازه با ارزش‌گذاری ۱.۵ میلیارد دلاری جذب کند. طبق این مشخصات، غول‌های نام‌آشنایی نظیر انویدیا (NVIDIA)، ادوبی (Adobe)، ارنست اند یانگ (EY)، پالو آلتو نتورکس و Adyen به‌صورت روزمره از ایجنت‌های دروید استفاده می‌کنند.

در پردازش کار‌های ایجنت‌محور، هزینه‌ها مستقیماً به ریکوئست‌ها، انتخاب مدل، استفاده از ابزار و تلاش‌های مجدد گره خورده است؛ بنابراین نگاه سنتی بر اساس تعداد کاربر یا لایسنس (Seat Count) دیگر به هیچ وجه معیار مناسبی برای برآورد مخارج نیست. تفکیک مصرف تا سطح کاربر و مدل، لایه تخصیص هزینه‌ای شبیه به مدل‌های مدیریت مالی ابری (FinOps) را به برنامه‌های کدنویسی هوش مصنوعی اضافه می‌کند؛ هم‌زمان، داده‌های پذیرش نشان می‌دهند آیا این سرمایه‌گذاری به دست تیم‌های درست رسیده یا خیر. با همه این‌ها، برای ارزیابی جامع بازگشت سرمایه (ROI) همچنان باید در کنار داده‌های تله‌متری فکتوری، قیمت‌گذاری قراردادها و خروجی‌های واقعی تحویل نرم‌افزار را هم لحاظ کرد.