سریع‌ترین راه برای نابودی اعتماد به هوش مصنوعی؛ پیامدهای واگذاری وظایف حساس به ایجنت‌ها

تقریباً همه مدیران و فعالان حوزه فناوری از پتانسیل‌های هوش مصنوعی تمجید می‌کنند و با اشتیاق از تحول بزرگی می‌گویند که این فناوری در کسب‌وکارهای سراسر جهان ایجاد خواهد کرد.

به باور تحلیلگران، این دیدگاه تا حد زیادی درست است، اما دو پیش‌شرط حیاتی دارد: نخست آنکه هوش مصنوعی باید برای انجام وظایف درست و مناسب به کار گرفته شود، و دوم اینکه کاربران و کارکنان باید به عملکرد آن اعتماد داشته باشند.

در بسیاری از موارد، سازمان‌ها بدون بررسی و برنامه‌ریزی دقیق اقدام به پیاده‌سازی هوش مصنوعی می‌کنند؛ به‌طوری‌که مدیران با اعتمادبه‌نفس کاذب، وظایفی را به ایجنت‌ها واگذار می‌کنند که اساساً برای آن‌ها طراحی نشده‌اند. این تصمیم اشتباه چالشی جدی به وجود می‌آورد، زیرا بسیاری از کارکنانی که روزانه از ابزارهای هوش مصنوعی استفاده می‌کنند، هنوز آمادگی لازم را برای مدیریت و نظارت بر این ایجنت‌ها کسب نکرده‌اند. اعتماد سازمانی امری تدریجی است که تنها با تجربه عملی و در گذر زمان شکل می‌گیرد.

به گفته مدیر ارشد محصول و فناوری شرکت OutSystems، زمانی که یک سیستم هوش مصنوعی نتایجی منطقی، دقیق و واقعاً کارآمد ارائه می‌دهد، اعتماد کارکنان به آن تقویت می‌شود. با این حال، وقوع حتی یک اشتباه می‌تواند این اعتماد شکننده را در یک لحظه از بین ببرد. اگر کارها به‌درستی پیش نرود، کارمندان به دنبال راه‌هایی برای دور زدن هوش مصنوعی می‌گردند یا استفاده از آن را کاملاً متوقف می‌کنند؛ در چنین شرایطی اگر مدیران دغدغه‌های کارکنان را در بهبود عملکرد ابزارها نادیده بگیرند، تمامی مزایای این فناوری خنثی خواهد شد.

بنابراین، بهترین راهکار برای تحقق کارایی وعده‌داده‌شده توسط هوش مصنوعی، اطمینان از سپردن وظایف درست و مناسب به آن است؛ هرچند این کار آن‌طور که به نظر می‌رسد ساده نیست.

حوزه‌هایی که هوش مصنوعی در آن‌ها می‌درخشد

هوش مصنوعی بر پایه محاسبات آماری و احتمالات کار می‌کند و خروجی‌هایی تولید می‌کند که «به احتمال زیاد» درست هستند. واژه کلیدی در اینجا همان «احتمال» است؛ مفهومی که دلیل اصلی پدیده توهم (Hallucination) در این سیستم‌ها به شمار می‌رود.

ماهیت احتمالی هوش مصنوعی باعث می‌شود تا در مواجهه با داده‌های مبهم و پیچیده عملکرد بسیار قدرتمندی داشته باشد، اما این ویژگی آن را به انتخابی نامناسب برای وظایفی تبدیل می‌کند که خطای پاسخ در آن‌ها پیامدهای جبران‌ناپذیری به همراه دارد.

به‌طور کلی، سه حوزه اصلی وجود دارد که هوش مصنوعی می‌تواند تفاوت‌های ملموسی در آن‌ها رقم بزند: نخست در پردازش اسناد، دوم در پشتیبانی از تصمیم‌گیری‌ها، و در نهایت در شخصی‌سازی خدمات و محصولات.

هوش مصنوعی در انجام وظایف مرتبط با حجم انبوهی از اسناد عملکردی فوق‌العاده دارد. این ابزارها قادرند اطلاعاتی را استخراج، طبقه‌بندی و خلاصه‌سازی کنند که بررسی دستی آن‌ها توسط انسان به ساعت‌ها زمان نیاز دارد. برای نمونه، یک سیستم هوش مصنوعی می‌تواند بندهای قراردادها را با شروط استاندارد مقایسه کند یا حجم عظیمی از ایمیل‌های مشتریان را بر اساس موضوع دسته‌بندی نماید. در این صورت، نیروهای انسانی به جای صرف وقت برای خواندن کل اسناد، تنها به بررسی یافته‌های کلیدی و مهم می‌پردازند.

علاوه بر این، هوش مصنوعی می‌تواند نقش مهمی در پشتیبانی از مدیران برای تصمیم‌گیری ایفا کند، زیرا در تجمیع انبوه داده‌های پراکنده، کشف الگوها و ارائه گزینه‌های پیشنهادی برای اقدامات بعدی بسیار توانمند است.

با این وجود، بسیار مهم است که به یاد داشته باشیم هوش مصنوعی همواره فناوری مناسبی برای اتخاذ تصمیم نهایی نیست. برای مثال، فرآیند خرید تجاری و انتخاب میان تامین‌کنندگان مختلف را در نظر بگیرید.

هوش مصنوعی می‌تواند تمام اطلاعات از جمله سابقه عملکرد تامین‌کنندگان، ظرفیت تحویل، سرعت ارسال و تخفیف‌های ویژه خریدهای مکرر را تحلیل کند و حتی استدلال کند که چرا یک گزینه بهتر از دیگری است؛ اما در نهایت این نیروی انسانی است که باید تصمیم قطعی را اتخاذ کند.

برای بسیاری از کسب‌وکارها، شخصی‌سازی ابزاری بسیار امیدوارکننده است؛ چراکه هوش مصنوعی می‌تواند تعامل محصولات را با نیازهای اختصاصی هر کاربر هماهنگ کند. این حوزه دقیقاً جایی است که کار با احتمالات به برگ برنده هوش مصنوعی تبدیل می‌شود؛ چراکه محتوا تنها باید آن‌قدر خوب باشد که ارتباط موثری برقرار کند تا مخاطب احساس کند توجهی کاملاً اختصاصی و سفارشی دریافت کرده است.

هزینه‌های سنگین واگذاری وظایف نامناسب به هوش مصنوعی

یکی از بزرگ‌ترین دغدغه‌های سازمان‌ها در مدیریت هوش مصنوعی، لحن قاطع و مطمئن پاسخ‌های این سیستم‌ها است؛ حتی زمانی که پاسخ ارائه‌شده کاملاً نادرست است. اگر به چنین خروجی‌هایی اجازه داده شود بدون ارزیابی و اعتبارسنجی وارد فرایند عملیاتی شوند، یک خطای کوچک می‌تواند به‌سرعت در سراسر گردش کار سازمان تکثیر شود.

تصور کنید در تفسیر یک بند قانونی یا جزئیات یک قرارداد خطایی کوچک رخ دهد؛ تا زمانی که فردی متوجه این اشتباه شود، داده نادرست ممکن است در پایگاه‌های داده ثبت شده، به خارج از شرکت ارسال گردد یا حتی در توسعه نرم‌افزارهای جدید مبنا قرار گیرد.

برای درک بهتر محدودیت‌های هوش مصنوعی، تحلیلگران پیشنهاد می‌کنند که این فناوری مانند یک کارآموز فوق‌العاده باهوش، پرتلاش اما نیازمند آموزش در نظر گرفته شود. یک کارآموز همواره به نظارت و هدایت همکاران باسابقه و باتجربه نیاز دارد. مهم‌تر از همه، دسترسی چنین فردی به داده‌های محرمانه و حساس باید به‌شدت محدود باشد و افزایش اختیارات او تنها پس از اثبات صلاحیت در تصمیم‌گیری‌های درست صورت گیرد.

سیستم‌های هوش مصنوعی نیز باید با همین چارچوب مدیریت شوند. سطح دسترسی و اختیارات آن‌ها تنها زمانی باید ارتقا یابد که شایستگی خود را اثبات کرده باشند و حتی پس از آن نیز نظارت انسانی نباید متوقف شود.

نمونه بارز اهمیت مدیریت صحیح هوش مصنوعی، نقش آن در توسعه نرم‌افزار است. هوش مصنوعی می‌تواند حجم عظیمی از کدها را با سرعتی سرسام‌آور تولید کند، اما این سرعت بالا تضمین‌کننده کیفیتی هم‌سطح با کدهای نوشته‌شده توسط برنامه‌نویسان باتجربه نیست.

در واقع، مدیریت حجم انبوه کدهای تولیدشده توسط هوش مصنوعی به یک چالش جدی برای متخصصان فناوری اطلاعات تبدیل شده است. بر اساس گزارش موسسه پژوهشی Gartner، افزایش شدید مصرف توکن و گرایش ارائه‌دهندگان به مدل‌های قیمت‌گذاری مبتنی بر مصرف، هزینه‌های کدنویسی با هوش مصنوعی را به‌شدت بالا برده و توسعه‌دهندگان را مجبور کرده است تا در زمینه چگونگی و زمان استفاده از مدل‌ها بسیار گزینشی‌تر عمل کنند.

طراحی مدل با هوش مصنوعی، نه سپردن کنترل ماشین‌آلات به آن

مهم‌ترین تصمیم معماری در هر سیستمی، تعیین لایه‌ای است که به هوش مصنوعی اجازه استدلال داده می‌شود. پرریسک‌ترین بخش، لایه‌های عمیق پیاده‌سازی است؛ جایی که یک اشتباه جزئی می‌تواند بحران‌های فنی پیچیده و پرهزینه‌ای ایجاد کند.

رویکرد منطقی این است که از هوش مصنوعی برای پردازش منطق کسب‌وکار، ایده‌ها و قوانین تجاری استفاده شود؛ زیرا در این سطح، بررسی و درک پیشنهادات هوش مصنوعی برای انسان‌ها بسیار ساده‌تر است.

زبان‌های ویژه‌دامنه‌ای (DSL) و دیگر مفاهیم انتزاعی در توسعه مدل‌محور (Model-Driven Development) می‌توانند این مرزبندی و جداسازی را ممکن سازند. در این چارچوب، هوش مصنوعی به ساخت یا بهینه‌سازی مدل‌های کلان برنامه کمک می‌کند و سپس توسعه‌دهنده به ارزیابی مدل می‌پردازد، پیش از آنکه پلتفرمی قطعی آن را به نرم‌افزاری اجرایی تبدیل کند.

هوش مصنوعی می‌تواند نحوه انجام کارها را پیشنهاد دهد، اما لزومی ندارد مسئولیت اجرای تک‌تک مراحل به آن سپرده شود.

لایه‌های انتزاعی به توسعه‌دهندگان کمک می‌کنند و در سیستم‌های مبتنی بر ایجنت‌ها به ابزاری حیاتی برای کنترل تبدیل می‌شوند. این رویکرد سیستم‌های پیچیده را ساده‌تر کرده و مانع از تبدیل خطاهای کوچک به بحران‌های بزرگ می‌شود؛ در نتیجه ارزیابی و رفع اشکال خروجی‌های هوش مصنوعی به‌مراتب آسان‌تر خواهد شد.

تخصص انسانی؛ ارزشمندتر از هر زمان دیگر

با گسترش روزافزون هوش مصنوعی، نقش توسعه‌دهندگان نیز بازتعریف خواهد شد. آن‌ها همچنان به نوشتن کد خواهند پرداخت، اما بخش عمده‌ای از زمان کاری آن‌ها به نظارت بر سیستم‌ها، بررسی خروجی‌ها و شناسایی خطاها اختصاص خواهد یافت؛ تغییری که فرصت کسب مهارت‌های تازه‌ای را برای برنامه‌نویسان فراهم می‌آورد.

توسعه‌دهندگان بیش از پیش در سطح سیستم‌ها و معماری نرم‌افزار فعالیت خواهند کرد، منطق تجاری را تحلیل می‌کنند، الگوها را می‌شناسند و درباره همخوانی و یکپارچگی کدهای تولیدشده با هوش مصنوعی درون ساختار کلی برنامه قضاوت خواهند کرد.

شرکت خودروسازی Ford یکی از مجموعه‌هایی است که در این زمینه پیشگام بوده و اکنون ثمره این رویکرد را مشاهده می‌کند. این شرکت به‌تازگی ۳۵۰ مهندس باسابقه را برای آموزش همکاران جوان‌تر و ارتقای ابزارهای هوش مصنوعی و اتوماسیون به خدمت گرفته است.

این تحول زمانی رخ داد که مشخص شد ابزارهای هوش مصنوعی بدون بهره‌گیری از تخصص نیروهای باتجربه، قادر به ارائه نتایج مطلوب نیستند. اکنون این مهندسان کهنه‌کار در نقش حسابرسان داخلی عمل می‌کنند؛ طرح‌ها را بازبینی کرده و ایرادات احتمالی را پیش از بروز بحران در خطوط تولید کارخانه‌ها شناسایی می‌کنند.

ترکیب توانایی هوش مصنوعی در تحلیل داده‌ها و کشف الگوها با دانش عمیق و تجربه نیروی انسانی، ابزاری بسیار مقتدر می‌سازد؛ همکاری متقابلی که ضامن کارایی واقعی سیستم‌ها است، نه اتکای انفرادی به هر یک از آن‌ها.

ایجاد اعتماد؛ گام‌به‌گام و هدفمند

سازمان‌ها همچنین باید در برابر وسوسه یا فشار ناشی از استقرار فراگیر ایجنت‌ها صرفاً به دلیل پیروی از رقبا ایستادگی کنند. مدیران ارشد در مواجهه با هوش مصنوعی باید هر موقعیت را با دقت و موشکافی ارزیابی نمایند.

در این راستا، پاسخ به سه پرسش کلیدی ضروری است: نخست اینکه آیا از هوش مصنوعی صرفاً برای ارائه پیشنهادات استفاده می‌شود یا اجرای خودکار وظایف به آن سپرده شده است؟ دوم اینکه آیا فردی وجود دارد که بتواند پیش از سرایت خطا، خروجی‌های سیستم را بررسی و اصلاح کند؟ و در نهایت، اگر سیستم با اطمینان کامل نظری بدهد که در واقعیت اشتباه است، چه عواقبی سازمان را تهدید خواهد کرد؟

پاسخ به این پرسش‌ها میزان اختیارات واگذارشده به این فناوری را مشخص می‌کند. برای مثال، ابزاری که متن اسناد را خلاصه‌سازی می‌کند شاید تنها به یک بازبینی گذرا نیاز داشته باشد، اما سیستمی که استراتژی‌های تجاری پیشنهاد می‌دهد، حتماً نیازمند تایید رسمی و ثبت‌شده یک مدیر ارشد است.

آغاز به‌کارگیری هوش مصنوعی در وظایف مشخص و کاربردی، به کارکنان نشان می‌دهد که این فناوری تا چه اندازه می‌تواند در کارایی آن‌ها اثرگذار باشد. این رویکرد فرصتی برای سازمان‌ها فراهم می‌آورد تا داده‌ها، قوانین و فرایندهای خود را ساماندهی کنند. با مشاهده عملکرد مثبت سیستم و شناخت شفاف محدودیت‌های آن، اعتماد کارکنان به‌صورت پایدار افزایش می‌یابد.

نکته کلیدی در ایجاد محیط کاری مشترکی نهفته است که در آن انسان و ماشین هر کدام بر حوزه‌های تخصص خود تمرکز کنند. هوش مصنوعی در تحلیل داده‌های کلان و استخراج الگوها بی‌نظیر است؛ در مقابل، انسان‌ها در درک چشم‌انداز کلی، تشخیص مغایرت‌ها و پذیرش مسئولیت اقدامات، توانایی غیرقابل جایگزینی دارند.

بدترین مأموریت برای هوش مصنوعی، واگذاری وظایفی است که خطای آن‌ها پیامدهای سنگین به همراه دارد، کسی پیش از وقوع آسیب خروجی را بررسی نمی‌کند یا سیستم با اعتمادبه‌نفس بالا نظری نادرست صادر می‌کند. سازمان‌هایی که این تفکیک هوشمندانه را رعایت کنند، با گذر زمان اعتماد کافی برای اعطای خودمختاری بیشتر به ایجنت‌ها را به دست خواهند آورد؛ در حالی که غفلت از این اصل ممکن است کل استراتژی هوش مصنوعی یک شرکت را با شکستی بزرگ مواجه سازد.