ایجنت‌های هوش مصنوعی آماده اقدام هستند؛ اما آیا واقعاً کسب‌وکار شما را می‌فهمند؟

یک ایجنت هوش مصنوعی پرداخت صورت‌حساب یک تأمین‌کننده را تأیید می‌کند. فاکتور دقیقاً با سفارش خرید همخوانی دارد، مبلغ کاملاً در چارچوب بودجه است و نام تأمین‌کننده هم از قبل در سیستم ثبت شده. همه گزینه‌ها تیک سبز می‌خورند، اما تصمیم نهایی کاملاً اشتباه است؛ چون قرارداد همکاری همین دیروز منقضی شده بود!

این دقیقاً همان خطری است که سازمان‌ها و شرکت‌های بزرگ امروز با آن دست‌وپنجه نرم می‌کنند. یک ایجنت هوش مصنوعی می‌تواند بر اساس اطلاعاتی که در دست دارد، تصمیمی کاملاً منطقی بگیرد، اما نتیجه کار فاجعه‌بار باشد؛ چرا که اوضاع کسب‌وکار در دنیای واقعی تغییر کرده، بدون اینکه ایجنت روحش از ماجرا باخبر باشد.

دیدگاه معاون ارشد و مدیر بخش اروپا، خاورمیانه و آفریقا در شرکت گایدوایر (Guidewire) درباره این چالش اساسی:

در طول چند سال گذشته، بحث‌های هوش مصنوعی در شرکت‌ها بیش‌تر حول خود مدل‌ها چرخیده است: کدام مدل باهوش‌تر است و کدام‌یک عملکرد بهینه‌تری دارد؟

این وسواس روی مدل‌ها زمانی کاملاً منطقی بود که هوش مصنوعی صرفاً در نقش یک دستیار عمل می‌کرد؛ مثلاً یک کوپایلوت اطلاعات را جست‌وجو و تحلیل می‌کرد یا داده‌ها را خلاصه می‌کرد و سپس نتیجه را تحویل یک انسان می‌داد تا تصمیم نهایی را بگیرد.

اما نظارت انسانی هم یک سد دفاعی بی‌نقص نیست. افراد خیلی وقت‌ها محو لحن مطمئن و قاطع هوش مصنوعی می‌شوند یا چشم‌بسته پای خروجی‌های آن امضا می‌زنند؛ همین ماجرا باعث می‌شود یک پاسخ غلط از سوی دستیار هوش مصنوعی، مستقیماً وارد یک تصمیم‌گیری سرنوشت‌ساز سازمانی شود.

حالا با ورود «هوش مصنوعی ایجنتی» (Agentic AI)، سطح بازی و حساسیت ماجرا به مراتب بالا‌تر رفته است. یک ایجنت می‌تواند بدون اینکه انسانی بین مدل و اقدام نهایی واسطه باشد، پرونده‌های مشتریان را به‌روزرسانی کند، درخواست‌ها را به تأیید برساند، جریان‌های کاری را کلید بزند یا حتی تصمیم‌های تجاری بسیار مهمی اتخاذ کند.

با این تحول، وقت آن رسیده سوالاتی فراتر از «کدام مدل بهتر است؟» مطرح کنیم و محیط پیرامون این مدل‌ها را زیر ذره‌بین ببریم: ایجنت به چه داده‌هایی دسترسی دارد؟ چه قوانینی رفتار آن را مهار می‌کنند؟ مجاز است چه بخش‌هایی را تغییر دهد؟ و اصلاً آیا کانتکست و زمینه اطلاعاتی کافی در اختیار دارد تا بفهمد یک تصمیم معقول و درست در عمل چه شکلی است؟

این سوالات زمانی فوریت پیدا می‌کنند که سیستم می‌تواند یک خروجی اشتباه را مستقیماً به یک اقدام واقعی تبدیل کند؛ یعنی سوابق را تغییر دهد، تراکنش‌ها را تأیید کند یا کل یک فرآیند را به مسیر غلط بفرستد، قبل از اینکه اصلاً کسی متوجه بروز مشکل شود!

حالا پرسش اساسی این است: چطور می‌توان این ریسک بزرگ را به حداقل رساند؟

به هوش مصنوعی کانتکست بیشتری بدهید، نه آزادی عمل بیش‌تر!

شاید در نگاه اول عجیب و دور از انتظار به نظر برسد، اما بخشی از راه‌حل این است که دسترسی هوش مصنوعی را به داده‌ها و فرآیندهای کسب‌وکارتان بیش‌تر کنید.

اگر قرار است یک ایجنت به نمایندگی از شما دست به اقدام بزند، باید اشراف کاملی بر اهداف سازمان، قوانین کاری و البته وضعیت لحظه‌ای کاری که به آن سپرده شده داشته باشد. این لزوماً به معنای دادن دسترسی بی‌قیدوشرط به همه جا نیست، بلکه به این معنی است که ایجنت بتواند اطلاعات درست را به صورت بلادرنگ و زنده ببیند، نه اینکه چشم‌انتظار به‌روزرسانی بعدی در آموزش مدل بماند.

اما اینجا یک مرز بسیار باریک و حیاتی وجود دارد: وقتی از دادن «دسترسی» به ایجنت صحبت می‌کنیم، منظورمان دید بازتر و کانتکست غنی‌تر است، نه لزوماً دادن اختیارات و قدرت عمل بیش‌تر!

یک ایجنت باید بتواند رفتار مشتری، تراکنش، روند کار، قوانین حاکم بر آن و اتفاقات گذشته را به درستی درک کند؛ اما این درک عمیق ابداً به این معنا نیست که باید دستش برای دستکاری و تغییر دادن همه این موارد باز باشد.

این دقیقاً همان تعادل ظریفی است که شرکت‌ها باید به درستی برقرار کنند: کانتکست و درک محیطی گسترده، در کنار اختیارات اجرایی محدود و دقیق.

قرار دادن کانتکست در قلب هوش مصنوعی

اگر ایجنت‌ها برای تصمیم‌گیری درست به کانتکست وسیع نیاز دارند، این کانتکست اصلاً از کجا و چطور باید تأمین شود؟

اینجاست که «کانتکست عملیاتی» به وجه تمایز اصلی تبدیل می‌شود. در حال حاضر خیلی از شرکت‌ها هنوز ایجنت‌های هوش مصنوعی را به صورت جزیره‌ای و تکه‌تکه آموزش می‌دهند؛ به این امید که صرفاً با بارگذاری مدارک و مستندات شرکتی، هوش مصنوعی کم‌کم کانتکست لازم برای اداره و مدیریت بخش‌های مختلف کسب‌وکار را جذب کند.

مشکل اینجاست که این شیوه کارایی بسیار محدودی دارد. یک سند سازمانی شاید متن یک قانون را به ایجنت نشان دهد، اما در بیش‌تر کسب‌وکارها قوانین پر از استثنا هستند. از طرف دیگر، این قوانین مرتباً به‌روزرسانی می‌شوند و همین امر باعث می‌شود اسناد قدیمی خیلی زود گمراه‌کننده شوند.

این موضوع می‌تواند دردسرساز شود؛ زیرا اگر هوش مصنوعی بر اساس مستندات قدیمی یا مثال‌هایی که قوانین در آن‌ها به شکل متفاوتی اجرا شده آموزش ببیند، در نهایت درک کاملاً غلطی از شیوه واقعی چرخش چرخ‌دنده‌های کسب‌وکار پیدا خواهد کرد.

بنابراین اگر آموزش تکه‌تکه راه به جایی نمی‌برد، چاره کار چیست؟

راه‌حل واقعی در مفهومی نهفته است که می‌توان آن را «قرار دادن کانتکست در هسته اصلی» نامید.

این رویکرد یعنی هوش مصنوعی را در دل پلتفرم عملیاتی هسته‌ای سازمان مستقر کنیم و آن را مستقیماً به سیستم‌هایی متصل سازیم که تعهدات در آن‌ها ثبت می‌شوند، قوانین به اجرا درمی‌آیند و تراکنش‌ها به گردش می‌افتند.

در این صورت ایجنت به جای کار کردن با اطلاعات بریده‌بریده، تصویر بسیار کامل‌تری از آنچه رخ داده و آنچه باید رخ دهد به دست می‌آورد. ایجنت‌ها به جای دریافت فهرستی خشک از قوانین، می‌بینند که این قوانین در جریان واقعی کسب‌وکار چطور پیاده می‌شوند.

این دید زنده باعث می‌شود ایجنت‌ها کانتکست بسیار دقیق‌تری درباره این داشته باشند که در هر موقعیت خاص کدام قانون اعمال می‌شود، آیا آن قانون هنوز معتبر است و اصلاً آیا خود ایجنت در آن لحظه اجازه اقدام دارد یا خیر.

البته این بدان معنا نیست که همه ابزار‌های هوش مصنوعی باید در یک نقطه مشترک متمرکز شوند؛ سازمان‌های بزرگ همیشه زیرساخت‌های فناوری گسترده‌ای دارند که در آن‌ها برنامه‌ها و سرویس‌های مختلف دوشادوش هم کار می‌کنند.

نکته مهم‌تر، داشتن یک هسته مرکزی قابل اعتماد است؛ سامانه‌ای که داده‌ها، قوانین، سطوح دسترسی و سوابق مورد نیاز هوش مصنوعی را برای درک کارکرد واقعی سازمان یک‌جا گرد هم آورد.

این معماری نقطه‌شروعی به‌مراتب قدرتمندتر از راه‌اندازی ده‌ها ابزار هوش مصنوعی پراکنده و منزوی در سطح سازمان است که هر کدام فقط بخشی از واقعیت کسب‌وکار را می‌بینند.

مدیریت ریسک و اعتمادسازی هوشمندانه برای هوش مصنوعی

صنعت بیمه یک نمونه درخشان برای درک ضرورت این موضوع است. این صنعت به‌شدت قانون‌محور و مبتنی بر حجم عظیمی از داده‌هاست و یک تصمیم درست در آن می‌تواند به شرایط بیمه‌نامه، وضعیت مشتری، مقررات محلی و مرحله دقیق پرونده خسارت در همان لحظه وابسته باشد.

فرض کنید می‌خواهید به پرونده خسارت یک خانه پس از طوفان رسیدگی کنید. ایجنتی که روی این پرونده کار می‌کند باید متن بیمه‌نامه، تاریخ اعتبار، الحاقیه‌ها، وضعیت پرداخت، برآوردهای هزینه تعمیر، نشانه‌های تقلب و آخرین فعالیت‌های ثبت‌شده روی پرونده را زیر ذره‌بین بگذارد. حال اگر شرایط بیمه‌نامه همین دیروز تغییر کرده باشد، گزارشی که هفته گذشته استخراج شده کاملاً بی‌اعتبار و منسوخ است.

البته این موضوع به معنای ریختن تمام اسناد موجود به داخل مدل نیست. سرازیر کردن اطلاعات نامربوط یا متناقض می‌تواند قابلیت اطمینان ایجنت را پایین بیاورد. هدف نهایی این است که فشرده‌ترین و معتبرترین فکت‌های روز مستقیماً از سیستم‌های مرجع استخراج شوند.

اگرچه صنعت بیمه این حساسیت را به‌خوبی آشکار می‌کند، اما همین فرمول در هر کجای دیگری که هوش مصنوعی وارد فرآیندهای پیچیده سازمانی می‌شود، با قوت پابرجاست.

تزریق حاکمیت و نظارت به دل جریان‌های کاری

اگر کانتکست به ایجنت فهم عمیقی از رویدادها می‌دهد، حاکمیت سازمانی (Governance) مشخص می‌کند که ایجنت در عمل چه اختیاری دارد. به همین دلیل است که این دو بال باید همراه با هم حرکت کنند. در عمل، گذاشتن کانتکست در هسته سیستم یعنی قرار دادن کانتکست و کنترل در یک مکان؛ ساختار نظارتی باید در دل جریان کار بنشیند، نه در حاشیه آن.

در گام اول، به ایجنت کانتکست کافی بدهید تا اوضاع را بفهمد، اما مرزهای اقدام آن را کاملاً شفاف کنید. مثلاً ایجنت ممکن است مجاز به خواندن یک پرونده باشد اما اجازه تغییر آن را نداشته باشد، یا بتواند پیشنهادی ارائه دهد اما حق تأیید نهایی را نداشته باشد، یا تنها تا یک سقف مالی مشخص بتواند به صورت خودکار عمل کند.

در گام بعدی، باید شفافیت کامل برقرار باشد. هر اقدام حساس ایجنت باید لاگ و ردپای روشنی بر جای بگذارد: از اینکه چه داده‌هایی را مبنا قرار داده، چه تصمیمی گرفته و چه تغییراتی ایجاد کرده است. پروتکل‌های امنیتی نیز باید مانع از آن شوند که ایمیل‌ها، پیوست‌ها و سایر ورودی‌های خارجی به عنوان داده‌ها یا دستورات قابل اعتماد در نظر گرفته شوند.

علاوه بر این، با هر تغییر در مدل‌ها یا فرآیندها، باید آزمایش‌های مداوم انجام داد. سازمان‌ها باید پیوسته رفتار ایجنت‌ها را بسنجند و سازوکار مشخصی داشته باشند تا بدانند انسان در چه نقطه‌ای باید بلافاصله وارد عمل شود.

همچنین نباید عنان کار را یک‌شبه به دست هوش مصنوعی سپرد. مسیر را ابتدا با پاسخ به سوالات آغاز کنید، سپس به ارائه پیشنهاد‌ها ارتقا دهید و در نهایت به سمت اقدامات خودکار بروید. دسترسی «فقط‌خواندنی» (Read-only) و اجرای آزمایشی بدون ریسک (Dry runs) به تیم‌ها امکان می‌دهد تا پیش از اجازه دستکاری در سیستم‌ها، رفتار ایجنت را در بوته آزمایش بسنجند.

مدل‌های زیربنایی هوش مصنوعی نیز همواره دستخوش دگرگونی می‌شوند. هدف نهایی باید ایجاد چنان ساختاری از کانتکست و دسترسی‌ها در بستر عملیاتی باشد که با تغییر یا جایگزینی مدل‌ها در آینده، این حصار کنترلی و اطلاعاتی بدون تغییر پابرجا بماند.

سازمان‌هایی که در پیاده‌سازی هوش مصنوعی ایجنتی پیروز میدان می‌شوند، کار را با محدود کردن اختیارات اجرایی کلید می‌زنند و تنها پس از اینکه مدل نشان داد منطق سازمان را مو‌به‌مو و دقیق فهمیده است، دامنه اختیاراتش را گام‌به‌گام گسترش می‌دهند.