پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

کاهش ۸۰ درصدی هزینه هوش مصنوعی؛ راهکار شرکت Aiven برای جایگزینی هوشمندانه مدل‌ها

انتشار:۴ آبان ۱۴۰۵(۱ ساعت پیش)
۳ دقیقه زمان مطالعه
۰ دیدگاه
اشتراک و پسندیدن

شرکت Aiven توانسته است با راه‌اندازی یک درگاه نرم‌افزاری اختصاصی و مهاجرت هوشمندانه به مدل‌های سبک‌تر با وزن باز، هزینه‌های مصرف توکن هوش مصنوعی خود را تا ۸۰ درصد کاهش دهد. این شرکت قصد دارد با ارائه این درگاه به‌عنوان یک سرویس ابری، به سایر سازمان‌ها نیز در مهار هزینه‌های سرسام‌آور هوش مصنوعی کمک کند.

کاهش ۸۰ درصدی هزینه هوش مصنوعی؛ راهکار شرکت Aiven برای جایگزینی هوشمندانه مدل‌ها

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • شرکت Aiven توانست با انتقال بخش عمده وظایف پردازشی به مدل‌های در دسترس با وزن باز، هزینه توکن‌های هوش مصنوعی خود را ۸۰ درصد کاهش دهد.
  • در این ساختار هوشمندانه، برنامه‌ریزی اولیه پروژه‌ها به مدل‌های پیشرو سپرده می‌شود اما اجرای کارهای روزمره توسط مدل‌های ارزان‌تر انجام می‌گیرد.
  • درگاه مدیریت مدل‌های این شرکت بر پایه فریمورک LiteLLM توسعه یافته و به زودی به‌عنوان سرویسی مستقل برای کنترل هزینه‌ها در دسترس سایر کسب‌وکارها قرار می‌گیرد.

شرکت اروپایی Aiven که در زمینه ارائه پایگاه‌های داده متن‌باز فعالیت می‌کند، اعلام کرد با انتقال فرایندهای داخلی خود به مدل‌های با وزن باز (Open-weight)، توانسته است هزینه‌های مصرف توکن هوش مصنوعی را تا ۸۰ درصد کاهش دهد. این شرکت در حال حاضر روی ساخت درگاهی متمرکز است که به توسعه‌دهندگان امکان می‌دهد در صورت نیاز، مدل‌های مختلف را به‌راحتی با یکدیگر تعویض کنند.

این شرکت مستقر در فنلاند، هسته اصلی کسب‌وکار خود را بر پایه میزبانی و ارائه دیتابیس‌های متن‌باز به‌عنوان سرویس بنا نهاده و طی دو سال اخیر به حوزه یادگیری ماشین و هوش مصنوعی نیز ورود کرده است.

ویله لهتو (Ville Lehto)، معاون راهبرد شرکت Aiven، در گفتگویی توضیح داد که هنگام کار با زیرساخت‌های متن‌باز هوش مصنوعی، ایجاد سیستمی که بتواند روی چندین محیط ابری مختلف به شکلی پایدار اجرا شود کار ساده‌ای نیست. با این حال، هدف این مجموعه از ارائه دسترسی به مدل‌های بزرگ زبانی برای برنامه‌نویسان خود، مدیریت دقیق هزینه‌های توکن و به دست گرفتن کنترل کامل آینده خود در حوزه استفاده از هوش مصنوعی بوده است.

پس از شکل‌گیری بحث‌های گسترده پیرامون پدیده‌ای موسوم به «مصرف حداکثری توکن» (Token-maxxing)، توسعه‌دهندگان بیش از گذشته به کاهش هزینه‌های خود علاقه‌مند شده‌اند. آنها برای دستیابی به این هدف، به استفاده از ترکیبی از مدل‌ها، شامل جایگزین‌های اقتصادی‌تر چینی در برابر مدل‌های پیشروی غربی و همچنین مدل‌های با وزن باز که هزینه‌های به مراتب پایین‌تری دارند، روی آورده‌اند.

مدل‌های با وزن باز، پارامترهای آموزش‌دیده خود، به‌ویژه وزن‌ها و بایاس‌ها را به‌صورت عمومی منتشر می‌کنند؛ بنابراین می‌توان آنها را به‌شکل محلی اجرا کرد یا با هزینه‌ای بسیار کمتر از مدل‌های پیشروی تجاری متعلق به OpenAI و Anthropic میزبانی نمود. از نمونه‌های شاخص این گروه می‌توان به خانواده Llama از متا، سری Qwen از علی‌بابا کلاد، مدل‌های شرکت چینی DeepSeek، مدل‌های Medium 3.5 و Devstral از Mistral AI و همچنین مدل‌های Gemma از گوگل اشاره کرد.

لهتو در این باره می‌گوید: «همان‌طور که در اوایل سال جاری مشاهده کردیم، در زمینه مصرف توکن، گروه کوچکی از کاربران وجود دارند که مصرف بسیار سنگینی دارند. در خصوص هزینه‌های این دسته از کاربران، می‌توان با به‌کارگیری مدل‌های با وزن باز بخش چشمگیری از هزینه‌ها را ذخیره کرد.»

به گفته او، شرکت Aiven بر سر یک دوراهی قرار داشت؛ یا باید بودجه‌های سخت‌گیرانه‌ای برای مصرف توکن اعمال می‌کرد یا اینکه راهکاری هوشمندانه‌تر و کارآمدتر برای مدیریت این مصرف می‌یافت.

آنها مسیر دوم را برگزیدند و یک درگاه نرم‌افزاری داخلی پیاده‌سازی کردند تا توسعه‌دهندگان بتوانند به‌سادگی از مدل‌های با وزن باز استفاده کنند.

لهتو ادامه می‌دهد: «هدف ما این بود که فرایند کاری را تا جای ممکن روان و بدون اصطکاک کنیم. ما می‌توانیم مدل‌های با وزن باز گوناگونی را، چه گزینه‌های غربی و چه نمونه‌های آسیایی، در اختیار کارکنان بگذاریم تا در کنار مدل‌های تجاری پیشرو به کار گرفته شوند. تمرکز ما روی کاربران پرمصرف بود و در این بخش شاهد کاهش حدوداً ۸۰ درصدی مخارج بودیم.»

او همچنین تأکید کرد از آنجا که کارایی مدل‌های با وزن باز و مدل‌های پیشرو متفاوت است، بررسی معیارهای مکمل، از جمله «هزینه به ازای هر تسک»، اهمیت فراوانی دارد.

شرکت Aiven درگاه خود را بر پایه فریمورک متن‌باز LiteLLM طراحی کرده و آن را در زیرساخت خود میزبانی می‌کند. این شرکت قابلیت‌های تازه‌ای نظیر تعیین بودجه‌بندی و مدیریت دسترسی‌ها را به‌همراه سایر بخش‌های متن‌باز به آن افزوده است. اجرای این مدل‌ها هم از طریق پردازنده‌های گرافیکی اجاره‌ای و هم به‌صورت میزبانی اختصاصی توسط خود شرکت انجام می‌شود.

به گفته لهتو، استفاده از مدل‌های پیشروی تجاری در این مجموعه متوقف نشده، اما اکنون صرفاً برای برنامه‌ریزی امور استفاده می‌شود: «وقتی نوبت به اجرای واقعی کارها می‌رسد، به سراغ مدل‌های با وزن باز می‌رویم. در حقیقت بخش اعظم فعالیت‌ها توسط مدل‌های با وزن باز پیش می‌رود، اما حساس‌ترین بخش‌های فرایند و برنامه‌ریزی اولیه با مدل‌های پیشرو انجام می‌گیرد؛ این همان فرمولی است که در حال حاضر بهترین بازدهی را برای ما داشته است.»

شرکت Aiven قصد دارد این درگاه را به‌عنوان یک سرویس تجاری در اختیار مشتریان خود بگذارد تا آنها نیز بتوانند با جابه‌جایی آسان مدل‌های با وزن باز در جریان‌های کاری خود، هزینه‌های پردازش توکن را به‌شکل چشمگیری مدیریت کنند.

لهتو در پایان اشاره می‌کند: «از آنجا که ریشه فعالیت ما در دنیای نرم‌افزارهای متن‌باز است، ارائه چنین ابزاری به‌عنوان یک سرویس سازگار با نیازهای سازمانی، گامی کاملاً طبیعی برای ما به شمار می‌رود.»

در میان مشتریان Aiven نام‌های مطرحی همچون شرکت تجارت الکترونیک آلمانی Conrad، پردازش‌کننده پرداخت بریتانیایی Dojo، شرکت امنیت سایبری Sophos و مجموعه ارتباطی Avaya به چشم می‌خورد. این اقدام نشان می‌دهد Aiven در تلاش است تا خود را به‌عنوان یکی از پیشگامان کاهش هزینه‌های هوش مصنوعی برای سازمان‌ها در بازار تثبیت کند.

بازخورد و اشتراک‌گذاری این مطلب

اگر این گزارش برایتان مفید بود، با پسندیدن و اشتراک‌گذاری آن با دیگران، از محتوای تخصصی هوش مصنوعی حمایت کنید.

اشتراک‌گذاری در شبکه‌های اجتماعی:

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

دولت سوئد استفاده اداری از ChatGPT و Claude را ممنوع کرد؛ نگرانی از درز داده‌های حساس
آخرین اخبار

دولت سوئد استفاده اداری از ChatGPT و Claude را ممنوع کرد؛ نگرانی از درز داده‌های حساس

دولت سوئد استفاده از ابزارهای هوش مصنوعی ChatGPT و Claude را در تمام بخش‌های اداری و دولتی به دلیل نگرانی‌های امنیتی ممنوع کرد. با این حال، استفاده از سرویس‌های تاییدشده مانند Microsoft Copilot به دلیل وجود توافق‌نامه‌های رسمی حفاظت از داده‌ها، همچنان مجاز شمرده می‌شود.

۲ دقیقه مطالعه
۰
۴ آبان
متا برای توسعه زیرساختهای هوش مصنوعی، ۹۵ میلیارد دلار سهام جدید عرضه می‌کند
آخرین اخبار

متا برای توسعه زیرساختهای هوش مصنوعی، ۹۵ میلیارد دلار سهام جدید عرضه می‌کند

شرکت متا قصد دارد با عرضه ۹۵ میلیارد دلار سهام، منابع مالی لازم برای سرمایهگذاری گسترده در زیرساختهای هوش مصنوعی و پروژه‌های ابرهوش را تأمین کند. این غول فناوری با این اقدام، ظرفیت مراکز داده و توان پردازشی خود را برای پشتیبانی از نسلهای آینده مدل‌های هوش مصنوعی بهطور چشمگیری ارتقا می‌دهد.

۱ دقیقه مطالعه
۰
۴ آبان
مدل جدید CyberTiel؛ اجرای کدنویسی امنیت سایبری روی کارت‌های گرافیک ۲۴ گیگابایتی
آخرین اخبار

مدل جدید CyberTiel؛ اجرای کدنویسی امنیت سایبری روی کارت‌های گرافیک ۲۴ گیگابایتی

مدل متن‌باز CyberTiel با ۳۵ میلیارد پارامتر و معماری MoE، امکان اجرای بومی دستیارهای کدنویسی و تست امنیت سایبری را روی کارت‌های گرافیک معمولی ۲۴ گیگابایتی فراهم کرده است. این مدل با حذف امتناع‌های پیش‌فرض و بهینه‌سازی دقیق برای کوانتایزیشن، عملکرد موفقی در ارزیابی‌های حل باگ نرم‌افزاری و چالش‌های امنیت شبکه به ثبت رسانده است.

۲ دقیقه مطالعه
۰
۴ آبان