شاهکار اسنوفلیک در جستجوی معنایی؛ مدل جمع‌وجور Arctic Embed L بالا‌تر از اوپن‌ای‌آی و گوگل ایستاد!
شرکت اسنوفلیک با رونمایی از مدل متن‌باز Arctic Embed L توجه جامعه هوش مصنوعی را به خود جلب کرده است. این مدل ۳۳۵ میلیون پارامتری با عملکرد درخشان در بنچمارک MTEB توانسته مدل‌های نام‌آشنای اوپن‌ای‌آی و گوگل را در جستجوی معنایی پشت سر بگذارد و گزینه‌ای کارآمد برای سیستم‌های RAG ارائه دهد.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- شرکت اسنوفلیک با مدل متن‌باز Arctic Embed L و حدود ۳۳۵ میلیون پارامتر، یک گزینه فوق‌العاده سریع و بهینه را با مجوز تجاری Apache 2.0 برای جستجوی معنایی و سیستم‌های RAG عرضه کرد.
- این مدل در بنچمارک معتبر بازیابی MTEB موفق به ثبت امتیاز ۵۵.۹۸ شد و توانست از رقبای سرشناس و سرویس‌های انحصاری اوپن‌ای‌آی و گوگل پیشی بگیرد.
- با وزن تقریبی ۶۷۰ مگابایت در فرمت FP16، توسعه‌دهندگان می‌توانند این مدل را به‌راحتی سلف‌هاست کرده و از شر هزینه‌های مداوم API خلاص شوند.
شرکت اسنوفلیک (Snowflake) در سال ۲۰۲۴ خانواده مدل‌های Arctic Embed را معرفی کرد که در این بین، مدل Arctic Embed L بزرگ‌ترین عضو انگلیسی این مجموعه به حساب می‌آید. این انکودر متون را به بردارهایی با ۱۰۲۴ بُعد تبدیل می‌کند تا در جستجوی معنایی و سیستم‌های تولید مبتنی بر بازیابی (RAG) به کار گرفته شوند؛ فرآیندی که در آن یک پایگاه داده برداری ابتدا بخش‌های مرتبط را پیدا می‌کند و سپس مدلی دیگر پاسخ نهایی را می‌سازد.
مدل Arctic Embed L با مجوز کاملاً متن‌باز و تجاری Apache 2.0 منتشر شده و حدود ۳۳۵ میلیون پارامتر دارد. البته در مستندات اسنوفلیک به ارقام ۳۳۴ میلیون پارامتر در مجموع و ۳۰۳ میلیون پارامتر بدون احتساب امبدینگ‌های توکن هم اشاره شده که نشان‌دهنده شیوه‌های متفاوت شمارش پارامترهاست. خبر خوب برای توسعه‌دهندگان این است که این مدل در فرمت‌های پرکاربرد Safetensors و ONNX عرضه شده و از کتابخانه‌های محبوبی مثل Sentence Transformers، کتابخانه اصلی Transformers و حتی Transformers.js پشتیبانی می‌کند.
یک مدل ۳۳۵ میلیونی در میان غول‌های پرادعای API
طبق گزارش رسمی اسنوفلیک، این مدل در بنچمارک معتبر بازیابی MTEB به امتیاز میانگین ۵۵.۹۸ در معیار NDCG@10 دست یافته است. معیار NDCG@10 نشان می‌دهد یک سیستم چقدر در قرار دادن مرتبط‌ترین نتایج در میان ۱۰ پاسخ اول هوشمند عمل می‌کند و بنچمارک MTEB هم این عملکرد را در مقیاس ۰ تا ۱۰۰ می‌سنجد. جدول رسمی این مدل، عملکرد Arctic Embed L را با چند غول ارائه‌دهنده سرویس‌های ابری مقایسه کرده است:
مدل | پارامترها | معیار NDCG@10 |
|---|---|---|
snowflake-arctic-embed-l | حدود ۳۳۵ میلیون | ۵۵.۹۸ |
Google gecko-text-embedding | اعلام‌نشده | ۵۵.۷۰ |
OpenAI text-embedding-3-large | اعلام‌نشده | ۵۵.۴۴ |
Cohere embed-english-v3.0 | اعلام‌نشده | ۵۵.۰۰ |
bge-large-en-v1.5 | حدود ۳۳۵ میلیون | ۵۴.۲۹ |
البته باید در نظر داشت که این جدول یک تصویر مقطعی از وضعیت مدل‌ها در زمان انتشار است و با به‌روزرسانی مداوم مدل‌ها و تغییر ارزیابی‌ها، جایگاه لیدربورد هم جابه‌جا می‌شود. علاوه بر این، بنچمارکی مثل MTEB لزوماً نمی‌تواند پیش‌بینی کند که عملکرد مدل روی اسناد، کوئری‌ها، زبان‌ها یا معیارهای اختصاصی کسب‌وکار شما دقیقاً چگونه خواهد بود؛ بنابراین پیش از مهاجرت و جایگزینی سرویس فعلی‌تان، ارزیابی دقیق روی داده‌های تخصصی خودتان همچنان یک ضرورت انکارناپذیر است.
از دیدگاه منابع سخت‌افزاری، مدلی با این ابعاد تنها به حدود ۶۷۰ مگابایت حافظه برای وزن‌های FP16 یا ۱.۳۴ گیگابایت برای وزن‌های FP32 (پیش از احتساب سربار اجرای زنده) نیاز دارد. میزبانی محلی یا سلف‌هاستینگ (Self-hosting) باعث می‌شود هزینه‌های سرسام‌آور پرداخت به ازای هر درخواست API کاملاً حذف شود؛ هرچند همچنان باید هزینه‌های محاسباتی سرور، استقرار، مانیتورینگ و فضای ذخیره‌سازی ایندکس‌ها را در بودجه عملیاتی تیم مد نظر قرار داد.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
مدیرعامل اطلسین: «کار با هوش مصنوعی دیگر تک‌نفره نیست؛ ایجنت‌ها هم‌تیمی شما هستند، نه جایگزین‌تان!»
مدیرعامل اطلسین در رویداد اخیر این شرکت اعلام کرد که دوران کار تک‌نفره با هوش مصنوعی به پایان رسیده و اکنون وارد عصر همکاری چندنفره انسان‌ها و ایجنت‌ها شده‌ایم. او تأکید دارد هوش مصنوعی بدون درک بستر اطلاعاتی (کانتکست) سازمان کارایی چندانی ندارد و ایجنت‌ها نه برای حذف نیروها، بلکه برای پیوستن به تیم‌ها طراحی شده‌اند.
شرط‌بندی پاسکال به داد مدیران رسید: چطور در قمار بزرگ AGI بازنده نباشیم؟
با پررنگ‌تر شدن زمزمه‌های ظهور هوش عمومی مصنوعی (AGI)، مدیران شرکت‌ها سر یک دوراهی بزرگ گیر افتاده‌اند: چقدر باید روی هوش مصنوعی شرط بست؟ جالب اینجاست که پاسخی دقیق و کاربردی برای این معمای مدرن، در نظریه مشهور «شرط‌بندی پاسکال» از قرن هفدهم پنهان شده است.
دستور توقف ساخت دو دیتاسنتر بزرگ گوگل در فنلاند؛ ترمز غول هوش مصنوعی در «تگزاس اروپا» کشیده شد!
سازمان‌های نظارتی فنلاند تنها یک ماه پس از اعلام طرح سرمایه‌گذاری ۱۵ میلیارد دلاری گوگل، دستور توقف ساخت دو دیتاسنتر غول‌پیکر هوش مصنوعی این شرکت را به دلیل نگرانی‌های زیست‌محیطی صادر کردند. فنلاند که به خاطر منابع انرژی پایدار به «تگزاس اروپا» برای میزبانی هوش مصنوعی شهرت پیدا کرده، حالا نشان داده که حتی برای بزرگ‌ترین غول‌های فناوری هم استانداردهای سفت‌وسختی دارد.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.