استارتاپ Fireworks AI: استفاده از تنها یک مدل هوش مصنوعی، هدر دادن سرمایه است

استارتاپ Fireworks AI مشکلی با کمک به شرکت‌ها برای اجرای مدل‌های هوش مصنوعی در دیتاسنترهای داخلی خودشان ندارد، اما راب فرگوسن، معاون این شرکت، معتقد است این کار از نظر اقتصادی اصلاً منطقی نیست.

فرگوسن در یک مصاحبه توضیح داد که هرچند Fireworks AI به‌عنوان ارائه‌دهنده خدمات استنتاج مدیریت‌شده از اجرای مدل‌ها در زیرساخت‌های محلی پشتیبانی می‌کند، اما رویکرد شرکت تشویق مشتریان به دوری از این مسیر است؛ چراکه این موضوع صرفاً به توجیه اقتصادی برمی‌گردد.

او استدلال می‌کند که سخت‌افزارهای پردازش گرافیکی (GPU) آن‌قدر گران‌قیمت هستند که اگر نتوانید از تمام ظرفیت آن‌ها به‌طور مداوم استفاده کنید، خریدشان بهمعنای دور ریختن سرمایه خواهد بود. به گفته او، تأمین ۱۰ هزار پردازنده گرافیکی نیازمند سرمایه‌ای در حدود یک میلیارد دلار است.

فرگوسن می‌گوید: «هیچ سازمانی نمی‌خواهد چنین تجهیزات پرهزینه‌ای بدون استفاده و بیکار در گوشه‌ای از مرکز داده بمانند.»

به گفته فرگوسن، Fireworks AI برای سازمان‌هایی با داده‌ها و حجم‌های کاری بسیار حساس، راهکارهای اختصاصی دارد و سرویسی به نام Sovereign را دقیقاً برای همین هدف ارائه می‌دهد و از همکاری شرکایی مانند مایکروسافت نیز بهره می‌برد. با این حال، او تأکید می‌کند که بخش عمده پروژه‌های استنتاج هوش مصنوعی اساساً به چنین سطح سخت‌گیرانه‌ای از تدابیر حفاظتی نیاز ندارند.

او در ادامه توضیح داد: «رویکرد ایده‌آل و پیشرفته برای همه این است که سبدی متنوع از مدل‌ها در اختیار داشته باشند. در واقع فکر می‌کنم اغلب افراد نمی‌دانند که بهترین مدل دنیا نه یک مدل خاص مانند Astra است و نه Fable؛ بلکه بهترین مدل در حقیقت ترکیبی هوشمند از چندین مدل مختلف است و ما می‌توانیم این ادعا را ثابت کنیم. هدایت هوشمندانه درخواست‌ها میان چند مدل، همیشه نتیجه بسیار بهتری نسبت به تکیه بر یک مدل واحد به‌همراه دارد.»

این دقیقاً همان کاری است که پلتفرم Fireworks AI از طریق سرویس Nexus و رابط برنامه‌نویسی (API) خود در کنار رقبایی چون Together AI، Baseten و DeepInfra انجام می‌دهد. این پلتفرم استنتاج مدیریت‌شده، وظایف پردازشی را به مناسب‌ترین مدل، اشتراک مدل‌های پیشرو یا API متناسب با نیاز ارسال می‌کند.

البته فعالیت این شرکت محدود به یک مسیریابی ساده شبیه به درگاه‌های معمولی هوش مصنوعی نیست؛ بلکه بهمحض دریافت وظایف، آن‌ها را به‌دقت ارزیابی کرده و مستقیماً به بهینه‌ترین مدل ممکن هدایت می‌کند.

فرگوسن در این باره می‌گوید: «ما مسیریاب‌های اختصاصی توسعه می‌دهیم. سیستم خودکار ما پیوسته به‌روزرسانی می‌شود تا میزان دشواری وظایف ورودی را بسنجد و سازگاری و مهارت هر مدل را بررسی کند؛ برای نمونه، این سیستم تشخیص می‌دهد که آیا مدل Kimi در کدنویسی JavaScript نسبت به Python توانایی بهتری دارد یا خیر.»

او معتقد است مزیت رقابتی Fireworks AI تیم مهندسی برجسته آن است؛ تیمی که تخصص خود را از سابقه درخشان بنیان‌گذارانش در توسعه PyTorch، یکی از محبوب‌ترین کتابخانه‌های متن‌باز یاد‌گیری ماشین، به دست آورده است.

او توضیح داد: «ما هم در حوزه آموزش مدل‌ها و هم در بخش استنتاج، کارشناس بهینه‌سازی عملکرد هستیم. گمان می‌کنم بیشتر افراد هنوز متوجه اهمیت محاسبات عددی نیستند. برای نمونه، در مدل‌های مبتنی بر معماری ترکیبی از متخصصان (MoE)، هر متخصص در عمل بر روی یک ماشین مجزا مستقر است.»

او می‌افزاید: «وقتی با چنین ماشین‌های متعددی سروکار دارید، بسیار مهم است که درخواست دقیقاً به همان ماشین هدف بازگردد؛ زیرا در غیر این صورت، ماشین دیگر شاید به پرسش پاسخ دهد، اما پاسخ آن کمی متفاوت خواهد بود. به همین دلیل ما باید با تسلط بر معماری شبکه و توپولوژی سیستم‌ها، داده‌ها را به جایگاه درست بازگردانیم و محاسبات ممیز شناور را برای مقادیر بسیار کوچک مدیریت کنیم. ما باید قادر باشیم تمام این تبادلات را در یک بستر ارتباطی پیچیده و چهبسا در میان ارائه‌دهندگان گوناگون مسیریابی کنیم؛ بنابراین ما متخصصان زیرساخت و سیستم هستیم.»

او معتقد است شرکت‌های بزرگ ارائه‌دهنده زیرساخت ابری (Hyperscalers) تنها پردازنده‌های گرافیکی را در اختیارتان می‌گذارند، اما استفاده حداکثری و بهینه‌سازی آن کاملاً بر عهده خود شما خواهد بود. در مقابل، مزیت Fireworks AI در این است که بهره‌وری از ظرفیت را در مقیاس وسیع به حداکثر می‌رساند و هم‌زمان دقت و سرعت مدل‌ها را حفظ می‌کند.

فرگوسن تأکید می‌کند که در دنیای هوش مصنوعی، در نهایت همه‌چیز به مباحث اقتصادی و مدیریت هزینه‌ها بازمی‌گردد.

او گفت: «سازمان‌ها پیوسته در تلاش‌اند تا کاربردهای تازه‌ای برای هوش مصنوعی بیابند و به پرسش‌هایی نظیر اینکه چه حجمی از کارها را می‌توان به مدل‌های دارای حافظه موقت (کش) سپرد، تا چه اندازه می‌توان از مدل‌های متن‌باز استفاده کرد و چه زمانی به مدل‌های کاملاً تخصصی نیاز است، پاسخ دهند. از همین رو، ما همواره در کنار مشتریان هستیم تا شاخص‌های ارزیابی اختصاصی خودشان را تنظیم کنند.»

به گفته فرگوسن، یکی از دلایل این چالش‌ها آن است که شرکت‌های توسعه‌دهنده مدل‌های پیشرو شفافیت لازم را درباره نرخ استفاده از کش ارائه نمی‌دهند. او اشاره کرد که Fireworks AI در همکاری با یک شرکت علم داده توانست حدود ۹۰ درصد از وظایف پردازشی را از طریق حافظه موقت مدیریت کند.

او تشریح کرد: «وقتی مدل Opus از شرکت Anthropic را بررسی کردیم، متوجه شدیم نرخ کش آن تنها ۳۰ درصد است و سیستم مدام محاسبات هوش مصنوعی را از ابتدا تکرار می‌کرد. در این حوزه، پردازش مجدد و بیهوده داده‌ها بزرگ‌ترین عامل افزایش هزینه‌ها است. اگر پاسخ‌ها از کش خوانده نشوند، هزینه‌ها به شکلی سرسام‌آور بالا می‌رود؛ بنابراین هزینه هر توکن، معیار واقعی نیست، بلکه هزینه تمام‌شده برای هر وظیفه اهمیت دارد؛ نکته‌ای که ارائه‌دهندگان از مشتریان پنهان می‌کنند. ما همواره به مشتریان خود توصیه می‌کنیم هزینه هر وظیفه را معیار قرار دهند؛ زیرا این همان رقم واقعی است.»

فرگوسن عامل مهم دیگری را نیز در محاسبات مالی شرکت‌ها مطرح می‌کند: ارزش داده‌های سازمانی و اینکه آیا این داده‌ها بهرایگان در اختیار شرکت‌ها برای آموزش مدل‌ها قرار می‌گیرد یا خیر.

او می‌گوید: «به باور من، اغلب کسب‌وکارها ارزش واقعی داده‌های اختصاصی خود را بسیار دست‌کم می‌گیرند.»

استارتاپ Fireworks AI سیاست سخت‌گیرانه عدم ذخیره‌سازی داده‌ها (Zero Data Retention) را دنبال می‌کند، اما فرگوسن اشاره می‌کند که بسیاری از شرکت‌های دیگر چنین رویکردی ندارند: «شما باید در ازای داده‌های باارزش خود پاداش دریافت کنید. در ابتدای این موج نوین هوش مصنوعی، کمتر کسی می‌دانست که مدل‌های زبانی در حقیقت اطلاعات را به حافظه می‌سپارند؛ اما اکنون شواهد فراوانی در تأیید این موضوع وجود دارد. اگر قرار است دیگران از داده‌های شما برای آموزش استفاده کنند، باید ارزش مالی آن به شما برگردد.»

با این حال، موضوع صرفاً به هزینه‌ها ختم نمی‌شود. به گفته فرگوسن، فاکتور سرعت نیز از دیگر مواردی است که به اندازه کافی به آن بها داده نشده است.

او می‌گوید: «سرعت، مزیتی کلیدی است که کاربران معمولاً نمی‌دانند می‌توانند آن را به‌عنوان یک مطالبه جدی بخواهند. دریافت آنی پاسخ‌ها تحول بزرگی ایجاد می‌کند و وقتی نتایج به همان سرعتی که پرسش مطرح می‌شود به دست می‌آیند، تجربه کار با ابزارهای هوش مصنوعی کاملاً دگرگون می‌شود.»

اما مزیت اصلی ترکیب و هدایت هوشمند میان چند مدل چیست؟ فرگوسن مدعی است این رویکرد دست‌کم ۵۰ درصد از رقم صورت‌حساب مشتریان را کاهش می‌دهد.

او در پایان خاطرنشان کرد: «ما حتی از کاهش ۶ تا ۸ برابری هزینه‌ها صحبت می‌کنیم. واقعیت این است که حتی اگر شرکت‌ها به استفاده از ابزارهای خاص خود پایبند باشند و ترکیبی از مدل‌های متن‌باز و تجاری اختصاصی را به کار گیرند، می‌توانیم تضمین کنیم که هزینه‌های آن‌ها بلافاصله به نصف خواهد رسید؛ ما از این بابت کاملاً اطمینان داریم و گام بعدی تنها این است که آن‌ها را به استفاده گسترده‌تر از قابلیت‌های متنوع ترغیب کنیم.»