چرا ایجنت‌های هوش مصنوعی حتی با داده‌های دقیق تصمیمات اشتباه تجاری می‌گیرند؟

ایجنت‌های هوش مصنوعی سازمانی تنها زمانی می‌توانند تصمیم‌های تجاری قابل اعتمادی اتخاذ کنند که ساختار کسب‌وکار را درک نمایند؛ ساختاری که شامل روابط میان مشتریان، تأمین‌کنندگان، محصولات و اسناد مالی، فرآیندهایی که این داده‌ها در بستر آن‌ها جریان دارند، و قوانینی است که به هر داده معنا می‌بخشند. بدون این بستر زمینه‌ای، یک ایجنت ممکن است به داده‌های کاملاً دقیق و جامع دسترسی داشته باشد، اما همچنان تصمیمی نادرست بگیرد؛ برای نمونه، پرداخت یک صورت‌حساب کاملاً معتبر را مسدود کند، صرفاً به این دلیل که در خود فاکتور رابطه فروشنده با شرکت مادر یا توافقات اعتباری مشخص نشده است.

به‌گفته یاد اورن (Yaad Oren)، مدیر آزمایشگاه‌های SAP در آمریکا و رئیس بخش پژوهش و نوآوری این شرکت، هوش مصنوعی سازمانی به سه نوع دانش تجاری نیاز دارد که مدل‌های زبانی بزرگِ عمومی فاقد آن هستند: نحوه ارتباط نهادهای تجاری با یکدیگر، فرآیند کاری پیرامون هر وظیفه، و موارد استثنا و تغییراتی که در دنیای واقعی عملیات تجاری پیش می‌آیند.

اورن در این رابطه توضیح می‌دهد: «بازیابی داده‌ها تنها با اتکا به نام مشتری و مبلغ کل صورت‌حساب کافی نیست. سیستم باید تمام ارتباطات پیرامون آن مشتری را بداند؛ از جمله اینکه چه تعداد سفارش باز دارد، نرخ رضایتش چقدر است، چه تعداد از محموله‌های او با تأخیر ارسال شده و سفارش‌ها از کدام کارخانه تولیدی تأمین می‌شوند. ایجنت‌ها پیش از آنکه بتوانند استدلال دقیقی ارائه دهند، به یک گراف دانش نیاز دارند تا این روابط را به‌درستی نقشه‌برداری کند.»

درک ساختار کسب‌وکار توسط هوش مصنوعی چه مفهومی دارد؟

هر وظیفه‌ای که به هوش مصنوعی سازمانی محول می‌شود، بخشی از یک فرآیند بزرگ‌تر است؛ خواه پرداخت مالی باشد یا ثبت سفارش، ارسال محموله یا فرآیند جذب و استخدام یک کارمند. آگاهی از فرآیند به ایجنت نشان می‌دهد که دقیقاً در کدام مرحله قرار گرفته، چه گام‌هایی پیش از این طی شده و چه اقداماتی در ادامه باید انجام شوند. در این میان، موارد استثنا معمولاً توسط افرادی ایجاد می‌شوند که این فرآیندها را هدایت می‌کنند و بر اساس قضاوت انسانی خارج از سیستم‌های نرم‌افزاری، کاری را تأیید می‌کنند یا به تعویق می‌اندازند.

اورن می‌گوید: «همه‌چیز دقیقاً مطابق نص صریح قوانین فرآیندها پیش نمی‌رود. سیستم باید تشخیص دهد چه زمانی یک وضعیت استثنایی رخ داده، چگونه باید آن را مدیریت کرد و چطور این شرایط را به‌صورت زمینه‌ای ملموس و قابل‌درک برای پاسخ یا اقدام موردنظر بازتعریف نمود.»

دامنه این درک زمینه‌ای به‌سرعت گسترش پیدا می‌کند. سؤالی که شاید در ابتدا با اطلاعات مشتری مانند کمپین‌های بازاریابی و تخفیف‌ها آغاز شود، ناگهان به پرسشی درباره زمان تحویل کالا (مربوط به بخش مدیریت زنجیره تأمین) و سپس به موضوع وضعیت پرداخت‌ها (مربوط به بخش مالی) تبدیل می‌شود.

اورن تأکید می‌کند: «ارزش واقعی زمانی ایجاد می‌شود که تمام این بخش‌ها را از طریق گراف دانش و هستی‌شناسی (Ontology) به نقشه‌ای جامع از کسب‌وکار پیوند بزنیم. هوشمندی واقعی در هوش مصنوعی دقیقاً از همین نقطه حاصل می‌شود.»

چرا گراف دانش و هستی‌شناسی بهتنهایی کافی نیستند؟

یک گراف دانش می‌تواند تمام فاکتورهای موجود در شرکت را به یکدیگر متصل کند، اما اگر بخش‌های مختلف سازمان تعاریف متفاوتی برای واژه «فاکتور» داشته باشند، ایجنت همچنان با سیگنال‌های ضدونقیض روبه‌رو خواهد شد. برای مثال، در یک دپارتمان ممکن است فاکتور به معنای پرداخت مشتری باشد، در بخشی دیگر به معنای بازپرداخت هزینه سفر، و در دپارتمان سوم قبضی از سوی تأمین‌کننده در نظر گرفته شود. هستی‌شناسی با اختصاص دادن معنایی واحد و یکپارچه به هر اصطلاح در تمام سیستم‌ها و منابع داده، این ابهام بنیادین را برطرف می‌سازد.

اورن در ادامه می‌افزاید: «در ابرشرکت‌هایی با صدها هزار کارمند، این اسناد نه‌تنها باید به یکدیگر پیوند بخورند، بلکه باید به یک زبان مشترک صحبت کنند. هستی‌شناسی یک حقیقت واحد و روایتی هماهنگ برای تمام داده‌های موجود در سازمان به ارمغان می‌آورد.»

پلتفرم هوش مصنوعی تجاری SAP با نام اختصاری BAIP با هدف گردهم‌آوردن داده‌ها و زمینه کسب‌وکار در یک محیط مدیریت‌شده و ساختاریافته طراحی شده است. گراف دانش این پلتفرم روابط میان مشتریان، تأمین‌کنندگان، دارایی‌ها، محصولات، ساختارهای سازمانی و فرآیندهای تجاری را مستند می‌کند و امکان استفاده مجدد از این کانتکست مشترک را برای ایجنت‌های گوناگون فراهم می‌آورد.

با این وجود، اشتراک مفاهیم تنها بخشی از مسیر است. این پلتفرم باید زمینه عملیاتی لازم برای چگونگی اجرای هر وظیفه را نیز مهیا کند؛ مواردی مانند توافق‌نامه‌های سطح خدمات (SLA)، شرایط پرداخت، سیاست‌های مالیاتی و امنیتی، محدودیت‌های منطقه‌ای، قوانین ناشناس‌سازی داده‌ها و سایر قیود سازمانی.

چرا ایجنت‌ها به مدل‌های تخصصی داده‌های تجاری نیاز دارند؟

در لایه‌های زیرین این معماری چالش بزرگ دیگری نیز خودنمایی می‌کند: بخش اعظم داده‌های درون شرکت‌ها از نوع رابطه‌ای (Relational) و تراکنشی هستند که به‌جای زبان طبیعی، در قالب جداول پایگاه داده سازمان‌دهی شده‌اند. مدل‌های زبانی عمومی اساساً برای درک مستقیم و بهینه چنین ساختارهایی طراحی نشده‌اند.

شرکت SAP برای جبران این خلأ، به توسعه مدل‌های پایه جدولی (Tabular Foundation Models) روی آورده است؛ از جمله مدل RPT-1.6 (تبدیل‌کننده پیش‌آموزش‌دیده رابطه‌ای) و مدل TabPFN-3.5 Plus که محصول آزمایشگاه پیشروی هوش مصنوعی این شرکت یعنی Prior Labs است. این مدل‌ها به‌طور اختصاصی برای کار مستقیم با داده‌های ساختاریافته تجاری مهندسی شده‌اند و می‌توانند ویژگی‌هایی مانند مقادیر ناموجود (Missing Values)، داده‌های ترکیبی و فیلدهایی با تنوع آماری بالا (High-Cardinality) را پردازش کنند. همچنین قابلیت هماهنگ‌سازی داده‌های جدولی در هسته هوش مصنوعی SAP، فرآیند انتخاب کانتکست و دسترسی به داده‌ها را در لحظه اجرا مدیریت می‌کند تا این پیش‌بینی‌ها بدون وقفه وارد چرخه‌های عملیاتی واقعی شوند.

اورن در این باره می‌گوید: «داده‌های درون یک کسب‌وکار ماهیتاً رابطه‌ای و تراکنشی هستند؛ بنابراین شما به مدل‌هایی نیاز دارید که این ساختارها را به‌صورت بومی و عمیق بفهمند.»

تحول حاکمیت داده با ورود ایجنت‌ها به فاز تصمیم‌گیری و اقدام

هنگامی که ایجنت‌ها از پاسخ دادن به سؤالات فراتر می‌روند و دست به اقدام عملی می‌زنند، حساسیت ماجرا کاملاً دگرگون می‌شود. یک پاسخ نادرست متنی را می‌توان نادیده گرفت یا ویرایش کرد؛ اما مسدودسازی اشتباه یک پرداخت، رد غیرموجه یک سفارش یا برچسب‌گذاری نادرست ریسک اعتباری می‌تواند بلافاصله به روابط با تأمین‌کننده یا مشتری ضربه بزند و فرآیندهای تجاری را مختل کند.

اورن یادآور می‌شود: «همواره باید درستی خروجی‌ها را ارزیابی و راستی‌آزمایی کرد. درک زمینه کسب‌وکار نه‌تنها دانش بیشتری به هوش مصنوعی می‌بخشد، بلکه مرزها و خطوط قرمز مشخص‌تری را نیز برای آن ترسیم می‌کند. اطلاعاتی که بر این اساس بازیابی می‌شوند، خط‌مشی‌ها، الزامات امنیتی و تمامی فاکتورهای مؤثر بر یک تصمیم‌گیری صحیح را پوشش می‌دهند.»

با استقرار ایجنت‌ها در سیستم‌ها و وظایف مختلف، اهمیت این مرزها دوچندان می‌شود. در پلتفرم BAIP، ایجنت‌ها با هویت‌های مجزا و سطوح دسترسی محدودشده فعالیت می‌کنند و یک مسیر ممیزی دقیق (Audit Trail) تمامی اقدامات، مجریان و حدود اختیارات آن‌ها را ثبت و ضبط می‌کند. افزون بر این، قابلیت‌های هوش مصنوعی مورد ارزیابی‌های اخلاقی و ریسک قرار می‌گیرند و ایجنت‌ها بر اساس هر ویژگی ارزیابی می‌شوند تا اطمینان حاصل شود که کاملاً با سیاست‌های منطقه‌ای، قوانین حریم خصوصی و الزامات رگولاتوری هم‌راستا هستند.

قوانین تجاری باید برای موارد استثنا نیز راهکاری داشته باشند. اورن به مفهومی اشاره می‌کند که در سیستم‌های SAP با عنوان «سند متوقف‌شده» (Parked Document) شناخته می‌شود. برای مثال، پس از یک رویداد شرکتی، مدیر مالی ممکن است پیش از نهایی کردن فاکتورهای پذیرایی، نیازمند تخصیص آن‌ها بین چند سرفصل بودجه مختلف باشد. اگر آن مدیر در مرخصی باشد، ایجنتی که فرآیند را بررسی می‌کند ممکن است متوقف ماندن فاکتور را یک تأخیر خطرناک تشخیص دهد؛ اما با درک زمینه گسترده‌تر کسب‌وکار، سیستم متوجه می‌شود که مسئول مربوطه در مرخصی کاری یا مرخصی والدین است و این وضعیت را به‌جای نقص فرآیندی، به‌عنوان یک استثنای معتبر لحاظ می‌کند.

چهار لایه اصلی در معماری هوش مصنوعی سازمانی

اورن معماری هوش مصنوعی در شرکت‌ها را در قالب چهار لایه مشخص دسته‌بندی می‌کند:

مدل (Model): مدل‌هایی که توانایی تفسیر مستقیم داده‌های رابطه‌ای و تراکنشی ذخیره‌شده در سیستم‌های سازمانی را دارند.

پلتفرم (Platform): لایه‌ای شامل گراف‌های دانش، سطوح معنایی، زمینه کسب‌وکار و ابزارهای حاکمیتی در کنار قابلیت‌های ساخت و مدیریت ایجنت‌ها.

ایجنت‌ها (Agents): ایجنت‌هایی که وظایف محوله را در میان نرم‌افزارها و بخش‌هایی همچون امور مالی و زنجیره تأمین پیش می‌برند و بخش عمده‌ای از جریان تراکنش‌ها را خودکار می‌کنند.

تجربه کاربری (User Experience): درگاه‌های تعاملی که کاربران از طریق آن‌ها با ایجنت‌ها ارتباط برقرار می‌کنند؛ از جمله رابط‌های متنی، صوتی و مصورسازی‌های تعاملی.

در این چارچوب، پلتفرم کلیدی‌ترین لایه برای درک کسب‌وکار به شمار می‌رود. هنگامی که روابط، تعاریف و کانتکست فرآیندها به‌جای قرار گرفتن در برنامه‌های کاربردی جداگانه در پلتفرم متمرکز شوند، امکان استفاده مجدد از آن‌ها توسط تمام ایجنت‌ها فراهم می‌آید. بنابراین، ایجنت بخش مالی و ایجنت زنجیره تأمین نیازی ندارند مفهوم مشتری، تأمین‌کننده یا تراکنش را به‌صورت جداگانه بازتعریف کنند؛ بلکه هر دو از یک درک واحد و مشترک از کل سازمان بهره می‌گیرند. مدیریت حاکمیت داده نیز در همین لایه مستقر است و با افزایش تعداد ایجنت‌ها، امکان ردیابی شفاف تمامی اقدامات را تضمین می‌کند.

شرکت SAP محصولات خود را بر همین چهار لایه منطبق کرده است؛ از مدل‌های پایه جدولی و پلتفرم BAIP گرفته تا ایجنت‌های ژول (Joule) در بخش‌های مختلف مالی و زنجیره تأمین. با این حال، استدلال بنیادی اورن این است که مدل‌ها و ایجنت‌ها هرگز نمی‌توانند به‌تنهایی یک کسب‌وکار را درک کنند؛ آن‌ها بهشدت وابسته به زمینه تجاری از جمله گراف‌های دانش، لایه‌های معنایی و سیستم‌های حاکمیتی هستند. مدل‌ها باید ساختار داده‌های تجاری را بفهمند، ایجنت‌ها به شناخت روابط، تعاریف و کانتکست فرآیندها نیاز دارند، و پلتفرم نیز باید قوانین و مرزهایی را به اجرا بگذارد که نحوه استفاده از این اطلاعات را تعیین می‌کنند.

اورن در نهایت تأکید می‌کند: «مزیت رقابتی ما از دل کانتکست، گراف دانش و مفاهیم معنایی مشترک در داده‌های SAP و فراتر از آن سرچشمه می‌گیرد. من معتقدم هر شرکتی که بخواهد برنامه‌های کاربردی هوش مصنوعی سازمانی را در مقیاس وسیع و با موفقیت پیاده‌سازی کند، به این زیرساخت‌ها نیاز مبرم خواهد داشت.»