کلید خاموش کردن هوش مصنوعی دست کیست؟ سردرگمی شرکت‌های بزرگ در زمان بروز خطا

آیا زمانی که به آن نیاز داریم، «کلید خاموشی» برای هوش مصنوعی وجود دارد؟ همهچیز در نهایت به دو اصل حاکمیت و پاسخگویی بازمیگردد. متأسفانه هم‌زمان با نفوذ روزافزون هوش مصنوعی به محیط‌های کاری و زندگی روزمره، توجه بسیار اندکی به این اصول اساسی می‌شود.

این آمار را در نظر بگیرید: طبق نظرسنجی جدید شرکت SmarterX از ۲۱۰۰ مدیر ارشد، تنها ۱۳ درصد از سازمان‌ها به زیرساخت‌های نظارتی لازم برای ورود ایمن و هدفمند به دنیای هوش مصنوعی مجهزند. آمار شرکت‌هایی که نقشه راه مشخصی دارند تنها کمی بهتر است و به ۲۹ درصد می‌رسد؛ در حالی که یکسوم پاسخدهندگان (معادل ۳۲ درصد) اعلام کرده‌اند سازمانشان فاقد هرگونه چارچوب مدون نظیر سیاست‌های هوش مصنوعی مولد، اصول اخلاقی یا کمیته نظارت است.

در گزارش این نظرسنجی تأکید شده است: «هوش مصنوعی خودش را هدایت نمی‌کند. باید فردی رهبری امور را به دست گیرد و تصمیم بگیرد سازمان از چه ابزارهایی استفاده کند، این ابزارها چگونه مستقر شوند، چه کسانی آموزش ببینند و چه نرده‌های حفاظتی و خطوط قرمزی برای آن تعیین شود. بدون چنین احساس مسئولیتی، حتی بهترین برنامه‌ها و نیت‌ها پیرامون هوش مصنوعی متوقف می‌شوند یا به بیراهه می‌روند.»

حدود ۵۹ درصد از شرکت‌ها تصمیم‌گیری درباره هوش مصنوعی را به تیم مدیریت ارشد واگذار می‌کنند و ۳۱ درصد آن را بر عهده رهبران فناوری می‌گذارند. در این میان، ۱۶ درصد از پاسخدهندگان گزارش داده‌اند که هیچ مسئول مشخصی برای این حوزه ندارند یا اصلاً مطمئن نیستند چه کسی در سازمانشان تصمیمات هوش مصنوعی را اتخاذ می‌کند.

توانایی شفاف‌سازی و تعیین مسئولیت‌ها، نقطهضعفی اساسی در سازمان‌هایی است که این روزها حجم بالایی از ابزارهای هوش مصنوعی را به خدمت گرفته‌اند؛ موضوعی که تحلیلگران حوزه کسبوکار و فناوری نیز پس از گفتگو با مدیران شرکت‌های بزرگ بر آن صحه می‌گذارند.

به باور کارشناسان، رهبران کسبوکار فارغ از اینکه مستقیماً درگیر مسائل فنی هوش مصنوعی هستند یا خیر، حداقل باید حق وتو و اختیار لغو تصمیمات اتخاذشده توسط ماشین را داشته باشند تا در صورت لزوم فرآیندها متوقف شوند.

رویه‌های حاکمیت و نظارت بر هوش مصنوعی بسیار نادر هستند و در همان شرکت‌هایی هم که دیده می‌شوند، ساختاری متزلزل و مقطعی دارند که میان بخش‌های مختلف نظیر حقوقی و منابع انسانی پراکنده شده‌اند. کمبود مهارت‌های لازم برای درک عمیق این ابزارها و حفظ آنها در مسیر درست نیز چالشی مضاعف بر دوش سازمان‌ها می‌گذارد.

در نهایت باید فردی مسئولیت نهایی را بر عهده بگیرد، اما چنین مدیرانی هنوز در بیشتر ساختارها شکل نگرفته‌اند. هرچند شنیدن نظرات بخش‌های مختلف سازمان برای تدوین سیاست‌های هوش مصنوعی ضروری است، اما در عمل باید فردی مشخص پاسخگوی نهایی باشد، در حالی که در حال حاضر عملاً کسی نمی‌داند این وظیفه دقیقاً بر عهده کیست.

چنین رهبری باید مداوم این پرسش‌ها را مطرح کند: «آیا سامانه‌ها را آزمایش می‌کنید؟ آیا خروجی درست کار می‌کند؟ آیا برنامه‌ای برای بازگشت به عقب داریم؟ آیا فردی مشخص وجود دارد که اگر یک ایجنت هوش مصنوعی از کنترل خارج شد، دکمه توقف را فشار دهد و آن را خاموش کند؟» در نهایت باید شخصی در سازمان حضور داشته باشد که بتواند بگوید ما این سیستم را تا زمان مشخص شدن دقیق ماجرا و رفع اشکال خاموش می‌کنیم.

آنچه این چالش را پیچیده‌تر می‌کند، سرعت سرسامآور دگرگونی در دنیای هوش مصنوعی است. این محیط به‌شدت پویاست و هر یک یا دو ماه، تغییرات بنیادینی رخ می‌دهد؛ تا جایی که تنها ظرف چند هفته اخیر چندین توسعه‌دهنده بزرگ مدل اعلام کردند مدل‌هایشان رفتارهای پیشبینینشده بروز داده‌اند. این وضعیت نشان می‌دهد استقرار هوش مصنوعی به هیچ وجه پروژهای نیست که بتوان آن را یکبار اجرا کرد و به حال خود رها ساخت.

با این حال، فعالان حوزه فناوری باید گامی به عقب بردارند و با احتیاط و حسابشده پیش بروند. کارشناسان توصیه می‌کنند اگر سازمان‌ها قصد دارند ایجنت‌های هوش مصنوعی را پیاده‌سازی کنند، کار را با سرعتی کنترلشده و تدریجی آغاز نمایند و از نرم‌افزارهای ابری (SaaS) الگو بگیرند که از پیش سیستم‌های احراز هویت، امنیت و سطح دسترسی مشخصی دارند که میتوان آنها را به ایجنت‌ها نیز تعمیم داد.

رشد و گسترش ایجنت‌های هوش مصنوعی بهقدری پرشتاب است که عملاً امکان بررسی انسانی تمام تراکنش‌ها و اقدامات آنها وجود ندارد؛ به همین دلیل تدوین پروتکل‌های نظارتی و ایمنی باید از همان گام نخست به شکلی کاملاً سنجیده و دقیق برنامهریزی شود.