کاهش ۱۰ برابری هزینه هوش مصنوعی در Revolut؛ فینتک بریتانیایی با کنار گذاشتن Claude به میزبانی محلی روی آورد

شرکت Revolut اعلام کرد ظرف کمتر از یک سال موفق شده است با جایگزینی سرویس‌های تجاری گران‌قیمتی مانند Claude با مدل‌های میزبانی‌شده روی سرورهای اختصاصی خود، هزینه استنتاج هوش مصنوعی برای کدنویسی را حدود ۹۰ درصد کاهش دهد.

دیوید ابیتبول (David Abitbol)، مدیر عملیات و زیرساخت این فینتک بریتانیایی، در جریان کنفرانس مهندسی هوش مصنوعی (AI Engineer) در نیویورک توضیح داد که پس از در دسترس قرار گرفتن ابزارهای کدنویسی هوش مصنوعی برای نزدیک به ۲ هزار مهندس این شرکت، زمان کدنویسی ۶۰ درصد و زمان چرخه توسعه محصولات ۷۰ درصد بهبود یافته است. شرکت Revolut ابتدا مدل GLM-5.1 را پیاده‌سازی کرد و سپس به سراغ GLM-5.3 رفت که اکنون روی ۵۶ پردازنده گرافیکی B200 انویدیا اجرا می‌شود.

پیش از مهاجرت به خانواده مدل‌های GLM، شرکت Revolut کار با هوش مصنوعی را در اوایل سال ۲۰۲۵ با پیاده‌سازی Gemini و سپس در اوایل سال ۲۰۲۶ با Claude Code تجربه کرده بود. ابیتبول در این زمینه گفت: «ما نسبت به هزینه‌های هوش مصنوعی به‌شدت بدبین بودیم. مهندسان ماهیانه بین هزار تا ۱۰ هزار دلار توکن مصرف می‌کردند، بدون اینکه بازگشت سرمایه ملموسی داشته باشد؛ به همین دلیل در ابتدا ابزارها را با سقف‌های بودجه‌ای بسیار سخت‌گیرانه عرضه کردیم.»

در آن دوره مهندسان تنها به تعداد محدودی توکن دسترسی داشتند و همین امر سبب شد شرکت امکان میزبانی محلی مدل‌های اختصاصی را بررسی کند. با هزینه ۰٫۳۰ دلار به ازای هر میلیون توکن ورودی و خروجی، هزینه میزبانی مدل GLM 5.1 تقریباً به یک‌دهم استفاده از Codex متعلق به OpenAI یا ابزار Claude Code از شرکت Anthropic رسید. تجربه نشان داد وقتی هزینه توکن‌ها افت چشمگیری پیدا می‌کند، دیگر دغدغه‌ای بابت تعداد توکن‌های مصرفی یا موارد کاربرد آن‌ها باقی نمی‌ماند.

اگرچه سرعت کدنویسی در Revolut افزایش یافت، اما ابیتبول اشاره می‌کند که گلوگاه اصلی مهندسی در واقع خود نوشتن کد نبود؛ بلکه بیشترین دستاورد زمانی حاصل شد که مدل‌های هوش مصنوعی وظایفی هم‌چون عیب‌یابی خطاها و رسیدگی به تیکت‌های Jira و Confluence را بر عهده گرفتند. او در این باره می‌گوید: «وقتی توکن نامحدود در اختیار دارید، آزادی عمل کامل خواهید داشت و دیگر لازم نیست سهمیه توکن‌های خود را برای پایان فصل کاری یا سخت‌ترین وظایف ذخیره کنید.»

مدل GLM 5.1 که توسط توسعه‌دهنده چینی Z.ai به‌صورت وزن‌های باز منتشر شده، به‌هیچ‌وجه مدل کوچکی نیست. این مدل با حدود ۷۵۴ میلیارد پارامتر کل (که برای تولید هر توکن ۴۰ میلیارد پارامتر آن فعال می‌شود)، تنها برای نگهداری وزن‌ها به حدود ۳۸۰ گیگابایت حافظه گرافیکی نیاز دارد و بسته به‌دقت محاسباتی، به ازای هر کاربر فعال بین ۶ تا ۲۶ گیگابایت حافظه دیگر نیز برای نگهداری پنجره زمینه نیاز خواهد بود.

شرکت Revolut برای اجرای مدل GLM-5.3 در مقیاس سازمانی، ۵۶ پردازنده گرافیکی B200 انویدیا را مستقر کرده است که از نظر تعداد تراشه معادل هفت سامانه هشت‌کارتِ DGX B200 محسوب می‌شود. با این حال ابیتبول تأکید می‌کند که بزرگ‌ترین جهش کارایی ناشی از افزایش سخت‌افزار نبود، بلکه حاصل تنظیم دقیق هایپرپارامترهای مدل، بهره‌گیری از کوانتیزاسیون NVFP4، تفکیک فاز پیش‌پر کردن (Prefill) از رمزگشایی (Decode) و تنظیم طول پنجره زمینه بوده است.

یکی از تجربیات مهم تیم فنی این بود که پشتیبانی از پنجره زمینه یک میلیون توکنی لزوماً به معنای کارایی یا ارزش افزوده آن نیست. ابیتبول در این زمینه گفت: «پنجره زمینه بسیار طولانی یک ترفند تبلیغاتی است و باید حسابی مراقب آن باشید؛ حتی اگر بتوانید از یک میلیون توکن پشتیبانی کنید، آنچه در عمل نیاز دارید در محدوده ۲۵۶ هزار توکن است.»

به گفته ابیتبول، به لطف این بهینه‌سازی‌ها شرکت توانست در پنجره‌های زمینه حدود ۲۵۶ هزار توکنی، زمان دریافت اولین توکن را به زیر ۳ ثانیه برساند و سرعت تولید متن را به حدود ۲۰۰ توکن در ثانیه برساند؛ دو معیاری که به گفته او نقطه طلایی بهره‌وری برای مهندسان نرم‌افزار محسوب می‌شوند.

ابیتبول می‌گوید: «هدف اصلی شما باید زمان دریافت اولین توکن زیر ۳ ثانیه باشد. این یک تجربه کاملاً عملی است؛ به محض اینکه زمان پاسخ اولیه از ۵ ثانیه فراتر برود، صندوق پیام‌های من در Slack منفجر می‌شود. از نظر پهنای باند و نرخ تولید توکن، نیازی به وسواس زیاد نیست؛ نرخ ۲۰۰ توکن در ثانیه برای کار تعاملی کاملاً رضایت‌بخش است و مهندسان از آن راضی هستند. سبک کار افراد تغییر کرده است؛ ما دیگر به جریان توکن‌های تفکر خیره نمی‌شویم، بلکه مهندسان چند وظیفه را به‌صورت هم‌زمان اجرا می‌کنند و پس از اتمام کار، نتیجه را بررسی می‌نمایند.»

او هم‌چنین اشاره کرد در صورتی که نرخ تولید توکن اهمیت داشته باشد، مهندسانی که بعد از ساعت ۵ بعدازظهر کار می‌کنند به سرعتی نزدیک به ۸۰۰ توکن در ثانیه دسترسی پیدا می‌کنند.

با این همه، مدل‌های GLM به‌طور کامل جایگزین مدل‌های GPT یا Claude نشده‌اند. مدل چینی صرفاً بر پایه متن توسعه یافته و برای اموری نظیر طراحی رابط کاربری کارایی ندارد؛ از این رو شرکت Revolut از یک سامانه مسیریاب مدل بهره می‌برد تا پرسش‌های نیازمند بینایی ماشین را به مدل‌هایی نظیر Gemini یا GPT Luna هدایت کرده و تولید کد را همچنان روی مدل GLM نگه دارد.

ابیتبول اظهار داشت: «مدل‌های متن‌باز اکنون اولویت اصلی Revolut هستند و توجیه اقتصادی بسیار مساعدی دارند. هزینه‌های ما کاملاً ثابت و قابل پیش‌بینی است، پایان هر ماه با قبض‌های نجومی و غافلگیرکننده مواجه نمی‌شویم و استفاده از مدل‌های پیشروی تجاری به یک استثنا تبدیل شده است.»

با وجود این، ابیتبول اذعان دارد که استفاده از مدل‌های دارای وزن‌باز چینی ممکن است از نظر حریم خصوصی و امنیت نگرانی‌هایی ایجاد کند، اما تأکید می‌کند که نگرانی اصلی مربوط به فراخوانی آن‌ها از طریق رابط‌های برنامه‌نویسی مستقر در خاک چین است؛ در حالی که اجرای مدل‌ها روی زیرساخت محلی یا سرورهای ابری منطقه‌ای هیچ‌گونه دغدغه امنیتی به‌همراه نخواهد داشت.