موتور جست‌وجوی Exa با رونمایی از Monitors v2، هزینه وب‌گردی ایجنت‌های هوش مصنوعی را ۸۷ درصد کاهش داد

شرکت Exa نسخه جدید سرویس جست‌وجوی زمان‌بندی‌شده خود برای ایجنت‌های هوش مصنوعی را با نام Monitors v2 بازنویسی و منتشر کرده است. هر ناظر (Monitor) در این سازوکار، وب را در بازه‌های زمانی مشخص جست‌وجو می‌کند، سوابق محتواهای تحویل‌داده‌شده قبلی را نگه می‌دارد و تنها زمانی که Exa اطلاعات جدید و مرتبطی بیابد، یک وب‌هوک یا فراخوانی مبتنی بر پروتکل HTTP به سرویس مقصد ارسال می‌کند.

هر مانیتور همچنان بر اساس زمان‌بندی معین اجرا می‌شود و هزینه اجرای خاص خود را دارد. با این حال، فیلتر هوشمند رویدادها نتایج تکراری و در نتیجه فراخوانی‌های مکرر مدل‌های زبانی را که موجب جهش هزینه‌های بررسی دوره‌ای می‌شد، به‌شکل چشمگیری کاهش می‌دهد.

بررسی‌های دوره‌ای چگونه صورت‌حساب‌ها را سنگین می‌کردند؟

عوامل هوشمند معمولاً وب را با تسک‌های زمان‌بندی‌شده (Cron jobs) رصد می‌کنند که هر چند ساعت یک‌بار جست‌وجو را از نو تکرار می‌کنند. هر اجرا هزینه جداگانه‌ای به‌همراه دارد و نتایج تکراری می‌توانند فراخوانی‌های بعدی مدل زبانی را برای دسته‌بندی، مقایسه و خلاصه‌سازی فعال کنند. شرکت Exa به محدودیت تعیین‌شده در ایجنت‌های تجاری اشاره می‌کند که هر کاربر را به تنها ۳ تا ۱۵ تسک زمان‌بندی‌شده محدود می‌کنند، موضوعی که نشان‌دهنده فشار مالی سنگین این جست‌وجوها است.

سرویس Monitors v2 تاریخچه ارسال‌های هر مانیتور را ثبت می‌کند و پیش از ارسال هرگونه اعلان، صفحاتی را که قبلاً پردازش نشده‌اند ارزیابی می‌نماید. صفحه جدید باید حاوی اطلاعاتی مرتبط و تازه برای آن مانیتور خاص باشد. اگرچه اجراهای زمان‌بندی‌شده همچنان با نرخ اعلام‌شده محاسبه می‌شوند، اما این فیلتر مستقیماً از پردازش‌های پرهزینه و غیرضروری بعدی در مدل‌های هوش مصنوعی جلوگیری می‌کند.

سه مرحله ارزیابی پیش از تحویل داده

1. بازیابی (Retrieve): شرکت Exa ایندکس خود را با استفاده از یک بازه زمانی متناسب با دوره‌های زمانی مانیتور جست‌وجو می‌کند.
2. داوری (Judge): صفحاتی که قبلاً بررسی شده‌اند کنار گذاشته می‌شوند و صفحات باقی‌مانده از نظر ارتباط موضوعی، اعتبار منبع، تازگی اطلاعات و همزمانی رویداد با بازه مدنظر ارزیابی می‌گردند.
3. تولید خروجی (Compose): صفحاتی که از مراحل قبل عبور کنند، به یک خلاصه کوتاه یا ساختار JSON مطابق با الگوی مشخص‌شده در outputSchema تبدیل می‌شوند. پاسخ نهایی شامل ارجاعات دقیق به منابع و میزان اطمینان برای فیلدهای ساختاریافته است.

این مراحل به ایجنت هوش مصنوعی اجازه می‌دهد تا به‌جای مقایسه تک‌تک نتایج جست‌وجو با تاریخچه درونی خود، یک بسته داده فشرده و آماده از رویداد را تحویل بگیرد.

پوشش ایندکس فراتر از وب‌سایت‌های خبری

به گفته Exa، مانیتورها کل پایگاه داده این شرکت را جست‌وجو می‌کنند که شامل پرونده شرکت‌ها، محصولات، پادکست‌ها و صفحات عمومی وب می‌شود.

پیکره داده پادکست‌ها شامل متن پیاده‌شده بیش از ۳ میلیون قسمت مختلف است. در نتیجه، یک مانیتور می‌تواند اشاره به نام یک رقیب را درون یک گفت‌وگوی صوتی تشخیص دهد، حتی اگر آن موضوع هرگز در مقاله‌ها یا پست‌های شبکه‌های اجتماعی منتشر نشده باشد.

ایجاد یک مانیتور با تنها یک فراخوانی API

from exa_py import Exa

exa = Exa()
exa.monitors.create({
  \"name\": \"Competitor mentions\",
  \"search\": {
    \"query\": \"Acme Corp product launches, pricing changes, or podcast mentions\"
  },
  \"trigger\": {
    \"type\": \"interval\",
    \"period\": \"1d\"
  },
  \"webhook\": {
    \"url\": \"https://example.com/webhooks/exa\",
    \"events\": [\"monitor.run.completed\"]
  },
})

این فراخوانی شامل پرس‌وجوی جست‌وجو، بازه زمانی روزانه و آدرس نقطه‌پایانی دریافت‌کننده رویدادهای تکمیل مانیتور است. قطعه‌کد بالا با فرض تنظیم پیشین کلیدهای دسترسی Exa و مقداردهی اولیه کلاینت exa_py نوشته شده است.

هنگامی که یک اجرا به کشف به‌روزرسانی معتبری منجر شود، سامانه Exa صفحات جدید، منابع و یک خلاصه متنی یا خروجی ساختاریافته را ارسال می‌کند. توسعه‌دهندگان می‌توانند متادیتاهای دلخواه خود را برای هدایت اعلان‌ها به مشتری، فضای کاری یا جریان کاری درون‌سازمانی مناسب اضافه نمایند. گزینه‌های درخواست و جزئیات بسته داده در راهنمای شروع سریع این پلتفرم در دسترس است.

کاربردهای ایده‌آل برای هشدارهای مبتنی بر رویداد

• حل‌وفصل بازارهای پیش‌بینی: جمع‌آوری شواهد مستند برای سؤالاتی نظیر اینکه تا یک تاریخ مشخص، چند دانشگاه تعطیل شده‌اند.
• هوشمندی سبد سرمایه‌گذاری: رصد بیانیه‌های همکاری، تغییرات مدیران ارشد و رویدادهای جذب سرمایه در میان شرکت‌های زیرمجموعه.
• محرک‌های فروش سازمانی: شناسایی رونمایی محصولات جدید، استخدام‌های کلیدی و دیگر سیگنال‌های تجاری بلافاصله پس از انتشار.
• پایش ریسک و رسانه‌های منتقد: رصد طرف‌های تجاری برای کشف دعاوی حقوقی، اقدامات نهادهای نظارتی و اتهامات کلاهبرداری موثر بر امتیاز ریسک.
• رصد تغییرات محصولات: دریافت هشدار درباره کاهش قیمت‌ها، موجود شدن دوباره کالاها و تغییرات عمده در مشخصات محصولات.

ادعای دقت بالا نیازمند سنجش نرخ پوشش است

شرکت Exa گزارش داده است که در آزمایش‌های تطبیقی نسخه دوم با نسخه اول روی مانیتورهای واقعی، تمام به‌روزرسانی‌های ارسال‌شده توسط نسخه دو مرتبط بوده‌اند؛ در حالی که هشدارهای کلی کمتری ایجاد شده است. با وجود این، متن معرفی محصول اشاره‌ای به تعداد مانیتورهای آزمایش‌شده، مدت‌زمان ارزیابی، معیارهای داوری و نرخ پوشش (Recall)، یعنی سهم رویدادهای معتبری که سیستم موفق به یافتن آن‌ها شده، نکرده است.

تیم‌های مهندسی برای ارزیابی این سرویس می‌توانند آزمون‌های مبتنی بر رویدادهای شناخته‌شده را اجرا کرده یا مانیتورهای فعلی را به‌صورت آزمایشی پایش کنند تا شاخص‌های زیر را بسنجند:

• نسبت هشدارهای مرتبط به کل هشدارهای ارسال‌شده
• هشدارهای تکراری درباره یک رویداد واحد
• رویدادهای معتبری که توسط مانیتور نادیده گرفته شده‌اند
• میزان تاخیر میان زمان انتشار خبر تا تحویل وب‌هوک
• صحت ارجاع به منابع و درستی فیلدهای ساختاریافته
• نحوه مدیریت خطا، تلاش مجدد و بازپخش وب‌هوک‌ها

محاسبه هزینه‌ها در مقیاس عملیاتی

با نرخ‌های جدید، اجرای ۱,۰۰۰ مانیتور به‌صورت روزانه حدود ۳۰,۰۰۰ اجرا در ماه ایجاد می‌کند که هزینه آن تنها ۶۰ دلار خواهد بود. این برآورد البته شامل هزینه‌های فراخوانی مدل‌های زبانی یا سایر خدمات Exa نمی‌شود، هرچند فیلتر هوشمند این سرویس با جلوگیری از ارسال هشدارهای بی‌فایده به ایجنت، هزینه‌های پردازش مدل را نیز به حداقل می‌رساند.

ابزار Monitors v2 از طریق رابط برنامه‌نویسی Exa در دسترس قرار دارد و محدودیت‌ها به‌همراه جزئیات هزینه‌ها در صفحه قیمت‌گذاری این شرکت منتشر شده است.