مهار ایجنت‌های ولخرج با حافظه دائمی؛ کوهیر با نسخه دوم پلتفرم North به جنگ هزینه‌های سرسام‌آور هوش مصنوعی آمد

استارتاپ نام‌آشنای کوهیر (Cohere) در نسخه دوم پلتفرم سازمانی خود موسوم به نورث ۲ (North 2)، دست روی دو چالش بزرگ و کلافه‌کننده شرکت‌ها با ایجنت‌های هوش مصنوعی گذاشته است: هزینه‌های پیش‌بینی‌نشده و فراموشکاری ایجنت‌ها. در این نسخه جدید، امکاناتی مثل سهمیه کاربری، محدودیت نرخ درخواست، سقف مصرف برای کل سازمان و یک بستر هدایت (Harness) بازطراحی‌شده اضافه شده است. به گفته کوهیر، نورث ۲ با تکیه بر قابلیت حافظه پیوسته، زمینه و بافت گفت‌وگوها را میان نشست‌های مختلف زنده نگه می‌دارد و یک کتابخانه اشتراکی از دانش و دارایی‌های سازمانی را در اختیار تیم‌ها می‌گذارد تا ایجنت‌ها از آن تغذیه کنند. همچنین این سیستم را می‌توان در فضای ابری، سرور‌های محلی اختصاصی (On-premise) یا حتی محیط‌های کاملاً ایزوله و بدون اینترنت (Air-gapped) مستقر کرد.

آمار‌های منتشرشده از پایش مدیریت ایجنت‌ها در ماه جولای نشان می‌دهد که ۲۱ درصد از سازمان‌ها تنها زمانی متوجه هزینه‌های سرسام‌آور ایجنت‌ها می‌شوند که کار از کار گذشته و هیچ سازوکار خودکار و بلادرنگی برای توقف ایجنت پیش از رسیدن قبض‌های نجومی ندارند. از طرف دیگر، بررسی لایه‌های کانتکست ایجنت‌ها مشخص کرده که طی شش ماه گذشته، ۶۸ درصد از کسب‌وکارها با پاسخ‌های کاملاً غلط اما با اعتمادبه‌نفس ایجنت‌ها روبه‌رو شده‌اند؛ اشتباهاتی که ریشه آن‌ها در نبود یا ناپایداری داده‌ها و زمینه‌های تجاری در حافظه ایجنت بوده است.

کوهیر نخستین بار در ژانویه ۲۰۲۵ پلتفرم North را به عنوان یک محیط کار امن برای به چالش کشیدن رقبایی مثل مایکروسافت کوپایلوت و گوگل ورتکس ای‌آی (Vertex AI) معرفی کرد. قابلیت‌های تازه نورث ۲ به خوبی نشان می‌دهد که نیاز شرکت‌ها و رویکرد توسعه‌دهندگان به ابزار‌های هوش مصنوعی طی ماه‌های اخیر تا چه اندازه متحول و پخته‌تر شده است.

قابلیت‌های کلیدی نورث ۲: حافظه هوشمند، نظارت دقیق و ایجنت‌های اشتراکی

نسخه جدید North شیوه ساخت ایجنت‌ها، اشتراک‌گذاری آن‌ها در سطح سازمان و نحوه کنترل عملکردشان را به کلی دگرگون کرده است.

بستر هدایت یا هارنس (Harness): یک سیستم مدیریت و ارکستراسیون بازطراحی‌شده که فرایندهای پیچیده و چندمرحله‌ای را به صورت خودکار به پیش می‌برد و در تصمیم‌گیری‌های حساس، انسان را در چرخه نظارت نگه می‌دارد. کاربران می‌توانند تنها با نوشتن پرامپت‌های ساده، ایجنت‌ها و اتوماسیون‌های مدنظرشان را خلق کنند.

اسکیل‌ها و ایجنت‌های اشتراکی: اسکیل‌ها قابلیت‌های قابل‌استفاده مجددی هستند که ایجنت‌ها آن‌ها را صدا می‌زنند تا پرسنل مجبور نباشند یک منطق کاری را چند بار از نو پیاده کنند. همچنین کاربران می‌توانند ایجنت‌ها و جریان‌های کاری خودکار بسازند و آن‌ها را با کل اعضای سازمان به اشتراک بگذارند.

کتابخانه‌های دانش و حافظه: کتابخانه‌ها میزبان دارایی‌ها و اطلاعات اشتراکی سازمان هستند تا هر فرد یا ایجنتی بتواند از آن‌ها استفاده کند. قابلیت حافظه هم به ایجنت‌ها اجازه می‌دهد سوابق و کانتکست تعاملات قبلی را حفظ کنند و دیگر نیازی نباشد با هر بار شروع، همه‌چیز را از صفر یاد بگیرند. پل تیسیر (Paul Teyssier)، معاون بخش هوش مصنوعی محصول کوهیر، اشاره کرده که این حافظه کمک می‌کند اطلاعات برای مدت طولانی‌تری میان ساب‌سشن‌ها و ایجنت‌ها ماندگار شود؛ هرچند او عدد دقیقی برای این ماندگاری اعلام نکرد.

اتوماسیون: به گفته تیسیر، نورث ۲ کنترل‌های ریزدانه‌تر و دقیق‌تری روی مدیریت فرایندهای خودکار سازمانی ارائه می‌دهد. او تأکید کرده که هدف این تغییرات فقط تکرارپذیر کردن کار‌ها نیست، بلکه فراهم کردن ابزار‌های نظارتی و گزارش‌گیری در مقیاس‌های بزرگ سازمانی است.

مدل‌های هوش مصنوعی: نورث این انعطاف را دارد که هم از مدل‌های اختصاصی کوهیر استفاده کند و هم با مدل‌هایی که مشتری از قبل به کار می‌برده هماهنگ شود.

پنل مدیریتی (Admin controls): بخش مدیریت نورث امکان تعیین نقش‌ها، سطوح دسترسی و انتخاب مدل‌های مجاز برای هر بخش را فراهم می‌کند. مدیران شبکه می‌توانند فعالیت‌ها را به صورت لحظه‌ای با جزئیات دقیق زیر نظر بگیرند و میزان مصرف توکن و هزینه‌ها را تا سطح هر کاربر و هر ایجنت تفکیک کنند. سیستم کنترل جریان (Flow control) سطوح مصرف را بر اساس نرخ درخواست و توکن تنظیم کرده و هشدارهای پیشگیرانه به تیم‌ها می‌دهد تا قبل از پر شدن سقف مصرف، غافلگیر نشوند. این پنل به خوبی با سیستم‌های احراز هویت سازمانی موجود یکپارچه می‌شود و حتی می‌توان داده‌های مصرفی را بر اساس مدل، کاربر و دپارتمان به ابزار‌های تحلیل داده اختصاصی سازمان منتقل کرد.

امنیت و گواهی‌ها: بنا بر توضیحات کوهیر، گاردرِیل‌ها و لایه‌های محافظتی سیستم، پرامپت‌ها و پاسخ‌ها را برای پاکسازی اطلاعات هویتی و حساس (PII) اسکن کرده و حملات تزریق پرامپت (Prompt Injection) را شناسایی می‌کنند؛ سازوکاری که مدیریت نورث آن را روی تک‌تک ایجنت‌ها پیاده می‌کند. سیاست‌های اختیارات نیز ایجنت‌ها را فقط به اقدامات مجاز محدود کرده و تصمیم‌های حیاتی را به تأیید انسان موکول می‌کند. کوهیر همچنین به تست‌های امنیتی مداوم از جمله ارزیابی تیم قرمز (Red-Teaming)، پویش آسیب‌پذیری توسط نهادهای مستقل و ثبت دقیق لاگ تمام تغییرات اشاره کرده است. این پلتفرم از نظر استانداردهای امنیتی نیز گواهی‌های معتبر SOC 2 Type 2، ISO 27001 و ISO 42001 را دریافت کرده است.

جیکوب ریداوت (Jacob Rideout)، مدیر ارشد فناوری شرکت امنیت سایبری هیدن‌لیر (HiddenLayer)، در بیانیه‌ای اشاره کرده که گردش‌کار ایجنت‌های تیمش داده‌های تاییدنشده‌ای را از منابع مختلف بخش‌های بازاریابی، مهندسی و عملیات امنیتی دریافت می‌کند.

ریداوت در این باره می‌گوید: «ما فقط زمانی اجازه فعال‌سازی این گردش‌کارها را دادیم که توانستیم عملکرد دقیق ایجنت‌ها را ببینیم و روی کار‌هایی که انجام می‌دهند کنترل کامل داشته باشیم.»

کوهیر بنچمارک‌های عددی دقیقی از عملکرد نورث ۲ ارائه نکرده است. تیسیر معتقد است سنجش عملکرد پلتفرم‌های کاربردی بسیار دشوارتر از مدل‌های زبانی خام است، اما کوهیر در حال آماده‌سازی داده‌هایی است که در آینده به اشتراک بگذارد.

جایگاه نورث ۲ در میدان رقابت

در یک نظرسنجی از مدیران فنی در ماه جولای درباره پلتفرم اصلی مدیریت ایجنت‌ها، مایکروسافت با ۴۱ درصد در صدر ایستاده بود و پس از آن پلتفرم کلود شرکت آنتروپیک با ۲۸ درصد، لنگ‌چین و لنگ‌گراف (LangChain/LangGraph) با ۱۰ درصد و اوپن‌ای‌آی با ۷ درصد در رده‌های بعدی قرار داشتند.

در این میان، غول‌های فناوری نیز هر کدام قابلیت‌های کنترل هزینه را توسعه داده‌اند؛ برای مثال، مدیران کوپایلوت استودیو (Copilot Studio) می‌توانند برای هر ایجنت سقف مصرف ماهانه تعیین کنند. در چت‌جی‌پی‌تی سازمانی (ChatGPT Enterprise) امکان تنظیم سقف‌های پیش‌فرض، گروهی و شخصی وجود دارد و مدیران کلود سازمانی (Claude Enterprise) نیز قادرند محدودیت‌های مصرف را برای سازمان، گروه‌ها و کاربران وضع کنند. البته تمام این سازوکارها صرفاً مصرف درون پلتفرم اختصاصی خودشان را مدیریت می‌کنند.

تیسیر اشاره کرده که بخش‌های مختلف نورث ۲ از جمله مدل، بستر هارنس، موتور جستجو و تعبیه‌ها (Embeddings) قابل‌تعویض هستند و کوهیر با این استراتژی می‌خواهد از وابستگی قفل‌کننده شرکت‌ها به یک ارائه‌دهنده خاص (Vendor lock-in) جلوگیری کند.

کوهیر قیمت‌گذاری ثابتی برای North منتشر نکرده و اعلام کرده هزینه این پلتفرم متناسب با مقیاس و پیچیدگی پیاده‌سازی در سازمان مشتری، از جمله زیرساخت‌های لازم، الگوی مصرف، خدمات پشتیبانی و شخصی‌سازی‌ها تعیین می‌شود.

این تحولات چه معنایی برای دنیای کسب‌وکار دارد؟

در بررسی‌های انجام‌شده، تنها ۳ درصد از شرکت‌ها اعلام کرده‌اند که هیچ‌کدام از ایجنت‌های مستقرشده آن‌ها وارد گردش‌کارهای واقعی و ارکستریت‌شده نشده‌اند؛ موضوعی که نشان می‌دهد دغدغه سازمان‌ها به سرعت از مرحله آزمون‌وخطا به سمت نحوه کنترل، نظارت و استقرار امن ایجنت‌ها تغییر کرده است. محدودیت‌های امنیتی و صدور مجوزها با ۳۷ درصد، بزرگ‌ترین ریسک پلتفرم‌های انحصاری به شمار می‌رود و پس از آن وابستگی به تأمین‌کننده با ۲۳ درصد قرار دارد. جالب‌تر آنکه ۵۳ درصد از شرکت‌ها انتظار دارند تا پایان سال ۲۰۲۶ کنترل پنل‌های ترکیبی (هیبریدی) را به خدمت بگیرند.

کوهیر اکنون برگ برنده North 2 را در جابه‌جایی آسان میان مدل‌ها، کنترل‌های امنیتی در سطح ایجنت و توانایی اجرا در هر محیطی می‌داند؛ از سرویس‌های ابری گرفته تا سرور‌های درون‌سازمانی و پایگاه‌های کاملاً امن و دور از اینترنت.