تب تند شرکت‌ها برای ایجنت‌های هوش مصنوعی؛ اما وقت خرابکاری، مسئولیت با کیست؟

• گزارش جدید آی‌بی‌ام از اشتیاق شدید شرکت‌ها برای استفاده از هوش مصنوعی و در عین حال سردرگمی در مدیریت و نظارت بر آن خبر می‌دهد.
• خرابکاری‌ها و خطاهای هوش مصنوعی حالا دیگر مستقیماً به اتاق جلسات هیئت‌مدیره و مدیران ارشد کشیده شده است.
• مدیران هنوز سر این موضوع که در صورت بروز فاجعه یا خطای هوش مصنوعی چه کسی باید تاوان بدهد، به هیچ توافقی نرسیده‌اند.

کسب‌وکارها این روز‌ها بیش از هر زمان دیگری برای توسعه و پیاده‌سازی هوش مصنوعی سرودست می‌شکنند؛ اما پژوهش‌های جدید نشان می‌دهد که درک درست خطرات، چالش‌ها و نظارت بر این فناوری حسابی از این موج هیجان عقب مانده است.

طبق گزارش شرکت آی‌بی‌ام (IBM) که از بیش از ۳ هزار مدیر ارشد در منطقه اروپا، خاورمیانه و آفریقا (EMEA) نظرسنجی کرده، مشخص شده که ۸۰ درصد آن‌ها در یک سال گذشته با یک حادثه جدی مربوط به هوش مصنوعی سر و کار داشته‌اند؛ حوادثی مثل از کار افتادن یا تصمیم غلط ایجنت‌ها، افشای اطلاعات محرمانه، خطاهای محاسباتی بزرگ یا رخنه‌های امنیتی هوش مصنوعی که کارشان مستقیماً به میز هیئت‌مدیره و مدیران عامل کشیده شده است.

با وجود همه این دردسرها، کم‌تر از نیمی از سازمان‌ها (تنها ۴۰ درصد) اعلام کرده‌اند که قصد دارند در واکنش به این خطرات، چارچوب‌ها و سیاست‌های حکمرانی و نظارتی خود را تغییر دهند. این آمار نشان می‌دهد که یک خلاء نظارتی و مدیریتی بزرگ و نگران‌کننده بیخ گوش کسب‌وکارها شکل گرفته است.

چالش بزرگ نظارت بر هوش مصنوعی

این ماجرا زمانی نگران‌کننده‌تر می‌شود که بدانیم هوش مصنوعی به ستون فقرات فرایندهای کاری بسیاری از شرکت‌ها تبدیل شده و روزبه‌روز مسئولیت‌های مهم‌تر و حساس‌تری را بر عهده می‌گیرد.

یافته‌های این نظرسنجی نشان می‌دهد که سه چهارم شرکت‌کنندگان (۷۵ درصد) انتظار دارند ایجنت‌های هوش مصنوعی تا سال ۲۰۲۷ به سطحی از استقلال در تصمیم‌گیری برسند. با این حال، فقط ۳۷ درصد از آن‌ها معتقدند که ساختار نظارتی فعلی‌شان کشش و توان مدیریت گسترده ایجنت‌های هوش مصنوعی را دارد.

نکته جالب اینجاست که تقریباً همه مدیران ارشد (۹۸ درصد) به‌طور رسمی مسئولیت خطرات هوش مصنوعی را در سطح هیئت‌مدیره مشخص کرده‌اند و حتی ۲۶ درصد از آن‌ها یک کمیته اختصاصی هوش مصنوعی در هیئت‌مدیره تشکیل داده‌اند. این موضوع نشان می‌دهد مدیران متوجه خطر شده‌اند، اما هنوز تا رسیدن به یک راهکار جامع و عملیاتی فرسنگ‌ها فاصله دارند.

یکی از مهم‌ترین چالش‌ها، تعیین چارچوب‌های پاسخ‌گویی حقوقی برای زمانی است که ایجنت‌های هوش مصنوعی خودسرانه یا مستقل تصمیم می‌گیرند؛ موضوعی که مدیران هنوز درباره مسئولیت قانونی آن به دو دسته کاملاً متضاد تقسیم شده‌اند.

برای حل این بحران، اقدامات مختلفی مطرح شده است: ایجاد قراردادهای رسمی که سهم شرکت‌های توسعه‌دهنده هوش مصنوعی را در صورت خطای ایجنت مشخص کند (۳۳ درصد)، تعیین سقف مداخله اضطراری نیروهای انسانی (۳۲ درصد)، نظارت لحظه‌ای و ثبت ردپای تصمیم‌ها و اقدامات ایجنت‌ها (۳۰ درصد) و فراهم کردن امکان توقف فوری و سراسری فعالیت ایجنت در کل سازمان (۲۹ درصد).

آنا پائولا آسیس (Ana Paula Assis)، معاون ارشد و رئیس هیئت‌مدیره آی‌بی‌ام در مناطق اروپا، خاورمیانه، آفریقا و آسیا-پاسیفیک، در این رابطه می‌گوید: «بحث‌های مربوط به هوش مصنوعی دیگر از مرحله پذیرش اولیه و استفاده ساده عبور کرده و اکنون به فاز حکمرانی، نظارت و مسئولیت‌پذیری رسیده است.»

او در ادامه تأکید کرد: «هم‌زمان با حرکت سازمان‌ها از دستیارهای ساده هوش مصنوعی به سوی ایجنت‌های کاملاً خودمختار، دیگر نمی‌توان با بحث نظارت و حکمرانی مثل یک رفع تکلیف اداری یا تشریفات انضباطی ساده برخورد کرد؛ بلکه این موضوع به یک الزام حیاتی برای بقای کسب‌وکار و خلق ارزش واقعی تبدیل شده است.»

به گفته این مدیر ارشد آی‌بی‌ام: «شرکت‌هایی برنده نهایی بازی خواهند بود و بیش‌ترین سود را از هوش مصنوعی می‌برند که بتوانند این فناوری را همراه با شفافیت، اعتماد و پاسخ‌گویی پیاده کنند. این یعنی نظارت باید دقیقاً در ذات سازوکار ایجنت‌ها تعریف شود؛ همراه با مرزهای شفاف برای اختیارات آن‌ها، تعیین دقیق مقصر هنگام بروز خطا، و ابزار‌های کنترلی قدرتمندی که در لحظه کار کنند.»