همکاری Box و انویدیا برای جستجوی هوشمند اسناد؛ پاسخ‌دهی ۴ برابر سریع‌تر با مصرف توکن بسیار کمتر

پلتفرم ابری مدیریت محتوای Box در کنفرانس توسعه‌دهندگان خود که روز پنجشنبه برگزار شد، از قابلیت جدیدی رونمایی کرد که سامانه امبدینگ (Embedding) مدل Nemotron انویدیا را مستقیماً در هسته اصلی محصول خود جای می‌دهد.

این قابلیت تازه که Box Content Retrieval نام دارد، به ایجنت‌های هوش مصنوعی اجازه می‌دهد تا با تکیه بر فراداده‌های (Metadata) تولیدشده توسط مدل Nemotron، به پرسش‌های کاربران با کارایی بسیار بالاتری پاسخ دهند.

به‌گفته شرکت Box، نتیجه ملموس این ارتقا برای کاربران، دریافت پاسخ‌های سریع‌تر، دقیق‌تر و کم‌هزینه‌تر خواهد بود. کری بریسکی (Kari Briski)، معاون بخش نرم‌افزارهای هوش مصنوعی مولد در انویدیا، در همین رابطه اعلام کرد که انتظار می‌رود با این فناوری، پاسخ‌دهی به پرسش‌ها چهار برابر سریع‌تر انجام شود، میزان خطاها ۲۰ درصد کاهش یابد و مصرف توکن‌ها نیز تا ۹۰ درصد کمتر شود.

این سامانه قرار است در اوایل سال آینده میلادی در اختیار تمامی مشتریان سازمانی طرح Enterprise Advance شرکت Box قرار بگیرد.

آرون لوی (Aaron Levie)، مدیرعامل Box، در توضیح این دستاورد گفت: «این قابلیت، دقت و ارتباط نتایج فناوری جستجوی ما را برای ایجنت‌ها به‌شدت ارتقا می‌دهد. اکنون به‌جای اینکه یک ایجنت مجبور باشد کل محتوای هر سند را خط‌به‌خط بخواند، می‌توانیم تنها بخش‌ها و قطعاتی از اسناد را که بیشترین ارتباط را با پرسش کاربر یا وظیفه در حال انجام ایجنت دارند، برایش ارسال کنیم.»

این ویژگی در واقع پیاده‌سازی عملی پروژه Nemotron Embed انویدیا به‌شمار می‌رود که مدل‌های امبدینگ با وزن‌های باز (Open-weight) را برای بهبود سامانه‌های بازیابی خودکار اطلاعات ارائه می‌دهد. آزمایشگاه‌های بزرگ هوش مصنوعی اغلب به چنین مدل‌هایی که از مدل‌های زبانی بزرگ (LLM) برای پیش‌پردازش داده‌ها و آماده‌سازی آن‌ها جهت استفاده بهینه توسط ایجنت‌ها بهره می‌برند، کم‌توجه بوده‌اند. در مقابل، انویدیا در پروژه مدل‌های متن‌باز خود تمرکز ویژه‌ای بر این حوزه داشته است؛ به‌طوری که نسخه اخیر مدل Nemotron که در ماه جولای منتشر شد، توانست رتبه نخست بنچمارک RTEB را که شاخصی برای سنجش کیفیت بازیابی اطلاعات است، از آن خود کند.

شرکت Box می‌گوید این سامانه بیشترین کارایی را در ترکیب با ایجنت‌های فعال خواهد داشت. به‌عنوان نمونه، وکلا و کارشناسان حقوقی می‌توانند به کمک این سیستم جدید، بندهای قانونی و رویه‌های قضایی مرتبط را بسیار راحت‌تر پیدا کنند. از آنجا که امبدینگ‌های Nemotron فراتر از کلمات کلیدی ساده عمل می‌کنند و مفاهیم زیربنایی متن را نقشهبرداری می‌کنند، ابزار جستجو می‌تواند موضوعات حقوقی مرتبط را حتی زمانی که با جمله‌بندی یا زبان متفاوتی نوشته شده باشند، شناسایی و استخراج کند.

اگرچه مدل‌های Nemotron به‌صورت رایگان در دسترس هستند، اما سامانه جدید Box به‌شدت به فراداده‌های از پیش موجود و سیستم کنترل دسترسی و مجوزهای این پلتفرم متکی است؛ موضوعی که بازسازی و کپی‌برداری از چنین سیستمی را از صفر بسیار دشوار می‌کند. آرون لوی در پایان خاطرنشان کرد: «ما عملاً پنج فناوری مختلف را در قالب یک رابط برنامه‌نویسی (API) ساده و یکپارچه ادغام کرده‌ایم.»