چرا مدیریت ایجنت‌های هوش مصنوعی باید از داده‌های سازمانی آغاز شود؟

مدیران اجرایی زمان زیادی را صرف این پرسش می‌کنند که آیا ایجنت‌های هوش مصنوعی برای استقرار در محیط عملیاتی آماده هستند یا خیر؛ اما این نقطه شروع اشتباهی است، زیرا ایجنت‌ها در خلأ عمل نمی‌کنند. کیفیت تصمیمات آن‌ها به شدت به کیفیت داده‌هایی بستگی دارد که استفاده می‌کنند.

بی‌شک امنیت و عملکرد مدل اهمیت دارد، اما این موارد نمی‌توانند ضعف در کنترل اطلاعاتی را که ایجنت می‌تواند استخراج کند، جبران نمایند. پیش از عملیاتی کردن یک ایجنت، سازمان نیازمند ورودی‌های کنترل‌شده، دسترسی‌های مناسب و یک سابقه قابل‌اعتماد از خروجی‌های ایجنت است.

به گفته مدیرعامل Archive360:

اگر به یک ایجنت اطلاعات منسوخ مشتریان، سوابق تکراری یا مطالبی که هرگز به‌درستی طبقه‌بندی نشده‌اند داده شود، با همان داده‌های موجود کار خواهد کرد و تصمیمات ناآگاهانه‌ای را به سرعت در هزاران تراکنش اتخاذ می‌کند.

متأسفانه، شکاف میان پذیرش فناوری و نظارت به سرعت در حال افزایش است. در شتاب برای پیاده‌سازی هوش مصنوعی، بسیاری از سازمان‌ها ایجنت‌ها را پیش از حل مشکلات بنیادین داده‌ها وارد محیط عملیاتی می‌کنند؛ بنابراین جای تعجب نیست که اکثریت قریب‌به‌اتفاق پروژه‌های هوش مصنوعی هیچ بازگشت سرمایه‌ای (ROI) نشان نمی‌دهند.

علاوه بر این، نظارت بر ایجنت‌های هوش مصنوعی تنها به داده‌هایی که ممکن است به آن‌ها دسترسی داشته باشند ختم نمی‌شود. این نظارت شامل داده‌هایی که یک ایجنت تولید می‌کند نیز می‌شود، مانند تصمیمات اتخاذشده، دستورالعمل‌های دریافتی و اسنادی که ایجاد کرده است. از آنجا که هوش مصنوعی در تصمیم‌گیری‌های کلان سازمانی نقش دارد، قابلیت ردیابی و دفاع از عملکرد آن به قابلیت‌هایی حیاتی تبدیل شده‌اند.

سازمان‌هایی که یک بنیان داده قدرتمند می‌سازند، در موقعیت بهتری قرار می‌گیرند تا با اطمینان از مرحله آزمایشی به تولید نهایی حرکت کنند، بی‌آنکه نگران باشند ایجنت‌ها داده‌های با مدیریت ضعیف را به یک بحران سراسری برای شرکت تبدیل کنند.

مسئله داده‌ها در اولویت است

البته مسئله مدیریت داده‌ها مشکل جدیدی نیست. اکثر سازمان‌های بزرگ سال‌ها در تلاش بوده‌اند تا اطلاعات پخش‌شده در پلتفرم‌های عملیاتی، فضاهای اشتراک فایل، آرشیوها و برنامه‌هایی که باید مدت‌ها پیش از رده خارج می‌شدند را ساماندهی کنند. اما از آنجایی که هوش مصنوعی مبتنی بر ایجنت (Agentic AI) می‌تواند به سرعت و در مقیاس وسیع روی این نقاط ضعف عمل کند، این مسئله اکنون فوریت بیشتری یافته است.

پیش از آنکه به یک ایجنت اجازه دسترسی به داده‌ها داده شود، بخش فناوری اطلاعات (IT) باید اطلاعات حساس و تحت نظارت را شناسایی کرده، سیاست‌های طبقه‌بندی و نگهداری را به طور یکپارچه اعمال کند و مشخص نماید کدام منابع برای انجام کار به اندازه کافی به‌روز و قابل‌اعتماد هستند. داده‌های قدیمی نیازمند توجه ویژه‌ای هستند.

برنامه‌های از رده‌خارج‌شده اغلب حاوی تاریخچه تجاری ارزشمندی هستند، اما در عین حال سوابق تکراری، اطلاعات منسوخ و داده‌هایی را در خود جای داده‌اند که مشمول الزامات قانونی نگهداری هستند.

سازمان‌ها همچنین باید زمینه (Context) و ارتباطاتی که به داده‌های قدیمی معنا می‌بخشند را حفظ کرده و سپس مجموعه‌داده‌های منتخب و کنترل‌شده را در دسترس قرار دهند. هوش مصنوعی روی داده‌ها در خلأ عمل نمی‌کند و بدون زمینه پیرامونی، ایجنت‌ها یا در انجام وظایف خود ناکام می‌مانند یا بدتر از آن، تصمیمات اشتباهی گرفته و بر اساس آن‌ها عمل می‌کنند.

دسترسی یک تصمیم تجاری است

اشتباه دیگری که سازمان‌ها مرتکب می‌شوند این است که به ایجنت‌های خود دسترسی به داده‌هایی بیش از حد نیازشان می‌دهند. در واقع، ایجنت‌ها باید تنها به داده‌هایی دسترسی داشته باشند که برای انجام وظایف محول‌شده ضروری است. صرفاً به این دلیل که یک سیستم می‌تواند به یک ایجنت متصل شود، به این معنا نیست که باید متصل شود.

با ایجنت‌ها مانند کارمندان رفتار کنید و از «اصل حداقل دسترسی» (Least Privilege) پیروی نمایید. برای مثال، در حالی که یک ایجنت پشتیبانی مشتریان ممکن است به اطلاعات حساب جاری و تراکنش‌ها نیاز داشته باشد، به احتمال زیاد نیازی به پرونده‌های حقوقی یا سوابق تاریخی کارمندان ندارد. دسترسی باید دقیقاً منطبق بر هدف تعریف‌شده ایجنت باشد.

منشأ داده‌ها نیز اهمیت دارد. یک ایجنت نباید با یک سیستم ثبت فعلی و یک آرشیو مربوط به دهه‌های گذشته به عنوان منابعی با اعتبار یکسان برخورد کند. ایجنت‌ها باید بدانند اطلاعات از کجا آمده‌اند، چه زمانی به‌روزرسانی شده‌اند و چه سیاست‌هایی بر آن‌ها اعمال می‌شود. باز هم، زمینه (Context) اهمیت دارد. بدون زمینه مناسب، ایجنت‌ها اشتباهات پرهزینه‌ای مرتکب خواهند شد.

ثبت عملکرد ایجنت ضروری است

نظارت پس از دریافت داده‌های تأییدشده توسط ایجنت به پایان نمی‌رسد. داده‌های مرتبط با هوش مصنوعی به سرعت در حال تبدیل شدن به اسنادی مهم در دعاوی حقوقی، بررسی‌های انطباق و شکایات مشتریان هستند. برای آمادگی در برابر این موارد، یک سازمان باید بتواند نشان دهد از ایجنت چه کاری خواسته شده، به چه اطلاعاتی دسترسی پیدا کرده، چه سیاست‌هایی اعمال شده و پس از آن چه اتفاقی افتاده است.

پرامپت‌ها (Prompts)، محتوای بازیابی‌شده، خروجی‌ها و تصمیمات نهایی باید به عنوان سوابق تجاری نگهداری شوند. یک بازرس باید بتواند تصمیم هوش مصنوعی را بازسازی کرده و آن را هم تا داده‌های منبع و هم تا شخص یا بخشی که فعالیت را مجاز دانسته، ردیابی کند.

در نهایت، پاسخگویی نمی‌تواند تنها بر عهده تیم فناوری باشد. رهبران امنیت، داده، حریم خصوصی، حقوقی و انطباق همگی نقش دارند، اما یک مالک تجاری مشخص باید مسئولیت نتایج را بر عهده بگیرد. اتوماسیون می‌تواند یک عمل را انجام دهد، اما نمی‌تواند پاسخگوی آن باشد.

آمادگی داده‌ها یک فرآیند فرعی نیست که پس از موفقیت یک طرح آزمایشی هوش مصنوعی به آن پرداخته شود. بلکه بخشی از تصمیم‌گیری برای انتقال آن طرح آزمایشی به مرحله تولید است. اگر سازمانی نتواند به اطلاعات اعتماد کند، دسترسی به آن‌ها را کنترل نماید و تصمیمات ناشی از آن را به وضوح توضیح دهد، ایجنت برای استقلال بیشتر آماده نیست.