هوش مصنوعی سایه در کمین شرکت‌ها؛ چرا کارمندان استفاده از هوش مصنوعی را از مدیران پنهان می‌کنند؟

دلایل متعددی وجود دارد که چرا کارمندان استفاده از هوش مصنوعی برای پیشبرد وظایف شغلی خود را از مدیران پنهان می‌کنند؛ موضوعی که بسیار فراتر از تصور اغلب سازمان‌ها رخ می‌دهد. این وضعیت در ادبیات مدیریت فناوری «هوش مصنوعی سایه» (Shadow AI) نامیده می‌شود؛ پدیده‌ای که در آن، ابزارهای هوش مصنوعی به شکلی زیرپوستی و اعلام‌نشده توسط نیروهای وابسته به این فناوری به کار گرفته می‌شوند.

شاید در نگاه اول چنین به نظر برسد که اگر کارها به موقع و به درستی پیش می‌روند، چه تفاوتی دارد که کارمند از هوش مصنوعی استفاده کرده باشد یا چوب جادو؟ در نهایت کار انجام شده و پیشرفت حاصل شده است. اما واقعیت به این سادگی و خوش‌بینانه نیست. اتکای مخفیانه کارکنان به هوش مصنوعی برای انجام بخشی از وظایف یا حتی تمام مسئولیت‌های شغلی‌شان، با پیامدهای منفی و خطرات فراوانی همراه است. رهبران سازمان‌ها باید آگاهانه مجموعه خود را از دام هوش مصنوعی سایه دور کنند و این فناوری را در بستری شفاف، قانون‌مند و کنترل‌شده به کار بگیرند.

بررسی موشکافانه این پدیده، ابعاد پیچیده و لایه‌های پنهان ورود هوش مصنوعی به سازمان‌های امروزی را روشن می‌سازد.

کاربرد هوش مصنوعی در سازمان‌ها

سازمان‌های امروزی با شتابی کم‌سابقه به سوی پیاده‌سازی هوش مصنوعی هجوم آورده‌اند. گاهی این شتاب‌زدگی بدون ارزیابی‌های لازم صورت می‌گیرد؛ بی‌آنکه بررسی شود آیا به‌کارگیری این فناوری در فلان بخش توجیه منطقی دارد یا واقعاً به بهره‌وری و اثربخشی نیروها کمکی می‌کند یا خیر. مدیران اغلب در دام چشم‌وهم‌چشمی‌های شرکتی گرفتار می‌شوند؛ با این توجیه که اگر سایر رقبا در حال استفاده از ابزارهای هوش مصنوعی هستند، آن‌ها نیز نباید از قافله عقب بمانند.

به‌طور کلی می‌توان به‌کارگیری هوش مصنوعی در سازمان‌ها را به دو دسته اصلی تقسیم کرد:

• ۱. استفاده شفاف و رسمی (Aboveboard): در این حالت، هوش مصنوعی کاملاً آشکار، با اطلاع و تحت نظارت رسمی شرکت به کار گرفته می‌شود.
• ۲. استفاده پنهانی و زیرمیزی (Under-the-table): این همان پدیده‌ای است که با نام هوش مصنوعی سایه شناخته می‌شود؛ وضعیتی که در آن کارمندان به ابزارهای هوش مصنوعی تکیه می‌کنند اما آن را از دید دیگران مخفی نگه می‌دارند تا کسی متوجه ماجرا نشود.

در مسیر شفاف، یا شرکت مستقیماً از کارکنان می‌خواهد از ابزارهای هوش مصنوعی استفاده کنند، یا خود کارمندان داوطلبانه و با افتخار این فناوری را به کار می‌گیرند تا همراهی خود را با نوآوری نشان دهند. برخی شرکت‌ها حتی به افرادی که پیش‌قدم می‌شوند و با اتکا به هوش مصنوعی عملکرد خود را ارتقا می‌دهند پاداش می‌دهند. در مقابل، شرکت‌هایی هم هستند که هرچند ابتکارات فردی در این زمینه را تشویق نمی‌کنند، اما جلوی آن را هم نمی‌گیرند و تصمیم‌گیری را به خود کارمندان واگذار می‌کنند. با این حال، کارمندی که دست به ریسک می‌زند باید تبعات احتمالی آن را نیز بپذیرد؛ چراکه در صورت بروز هرگونه خطا، ممکن است از ترفیع شغلی بازبماند یا به دلیل بلندپروازی بیش از حد، موقعیت کاری خود را از دست بدهد.

وقتی استفاده از هوش مصنوعی به بیراهه می‌رود

به‌کارگیری هوش مصنوعی در محیط کار می‌تواند همان‌قدر که مفید است، زیان‌بار هم باشد. حتی در استفاده‌های شفاف و رسمی نیز این احتمال همواره وجود دارد که خروجی هوش مصنوعی نتیجه معکوس بدهد و کارمندان به شیوه‌ای به آن اتکا کنند که کیفیت نهایی کار آسیب ببیند. یکی از آفت‌های همیشگی این است که افراد تصور کنند خروجی هوش مصنوعی «همیشه بی‌نقص و درست است»؛ در نتیجه در مواقع لزوم، پاسخ‌ها را بازبینی، ویرایش یا اصلاح نمی‌کنند.

رسوایی اخیر پدیده‌ای به نام «توکن‌مکثینگ» (Token-maxxing) نیز نشان می‌دهد که چگونه استفاده رسمی از هوش مصنوعی می‌تواند از کنترل خارج شود. برخی شرکت‌ها که مشتاق بودند استفاده از هوش مصنوعی را به حداکثر برسانند، به‌جای تعریف شاخص‌های معنادار، صرفاً حجم استفاده از هوش مصنوعی را به‌عنوان معیار کارایی در نظر گرفتند؛ شاخصی که معمولاً با تعداد توکن‌ها یا واژگان پردازش‌شده توسط هوش مصنوعی سنجیده می‌شود. کارمندان نیز با پی بردن به این معیار نامعقول، با وادار کردن هوش مصنوعی به اجرای حلقه‌های بی‌فایده و مکالمات طولانی و بی‌اثر، مصرف توکن را به‌شکل سرسام‌آوری بالا بردند تا در گزارش‌ها فعال‌تر به نظر برسند؛ اقدامی که هزینه‌های سنگینی روی دست شرکت‌ها گذاشت.

با این حال، نکته مثبت استفاده شفاف و رسمی این است که در صورت بروز انحراف یا خطا، امکان شناسایی به موقع آسیب‌ها وجود دارد. سازمان می‌تواند به وضوح آنچه را در جریان است رصد کند و چه با واکنشی سریع و چه تدریجی، مفید یا مضر بودن ابزار را تشخیص دهد و در صورت نیاز ترمز را بکشد یا چراغ سبز نشان دهد.

ابعاد پنهان هوش مصنوعی سایه

اکنون این وضعیت را با هوش مصنوعی مخفیانه مقایسه کنید. پی بردن به وجود هوش مصنوعی سایه برای مدیران بسیار دشوارتر است. اگر این ابزارهای اعلام‌نشده به منافع یا عملکرد سازمان آسیب برسانند، اثبات اینکه پای هوش مصنوعی در میان بوده به چالشی بسیار بزرگ تبدیل می‌شود؛ زیرا کارمندی که آگاهانه استفاده از این فناوری را مخفی می‌کند، معمولاً ردپای آن را نیز ماهرانه پاک می‌سازد.

در چنین شرایطی، مدیران ممکن است تقصیر را به گردن افراد یا عوامل دیگری بیندازند؛ چراکه آن‌ها تنها نشانه‌هایی را بررسی می‌کنند که در میدان دیدشان قرار دارد و به احتمال زیاد اصلاً به ذهنشان خطور نمی‌کند که ریشه اصلی خطا یا افت کیفیت، استفاده غلط از یک چت‌بات یا ابزار هوش مصنوعی پنهان بوده است.

هوش مصنوعی سایه چقدر رواج دارد؟

ابعاد این پدیده تا چه حد گسترده است؟ در مقاله‌ای که در نشریه Harvard Business Review با عنوان «چرا کارمندان درباره استفاده از هوش مصنوعی شفاف نیستند» منتشر شد، نکات قابل‌توجهی به چشم می‌خورد:

• «مطالعه بین‌المللی شرکت KPMG و دانشگاه ملبورن با بررسی بیش از ۴۸ هزار پاسخ‌دهنده نشان داد که ۵۷ درصد از کارمندان اعتراف کرده‌اند استفاده خود از هوش مصنوعی در محیط کار را پنهان می‌کنند.»
• «بیشتر سازمان‌ها در مواجهه با هوش مصنوعی سایه به رویکردهای سخت‌گیرانه نظارتی، مانند تدوین سیاست‌های استفاده، انتشار فهرست ابزارهای مجاز و پایش عملکرد کارکنان متوسل شده‌اند.»
• «پژوهش‌ها نشان می‌دهد محرک کمتردیده‌شده در پنهان‌کاری هوش مصنوعی، عامل «اعتماد سازمانی» است؛ به این معنا که کارمندان نگران‌اند در صورت افشای روش‌های مبتنی بر هوش مصنوعی خود، چه بر سر جایگاه شغلی، حجم کاری و ارزیابی عملکردشان خواهد آمد.»
• «در رابطه با هوش مصنوعی، کارمندان نیازمند انگیزه‌ای برای به اشتراک‌گذاری، مسیری ساده برای این کار و مهارت کافی برای تبدیل یک فرآیند کاری فردی به ابزاری قابل استفاده برای سایر همکاران هستند.»

این پژوهش نگاه کسانی را تغییر داد که وجود هوش مصنوعی سایه را باور نداشتند یا حجم آن را بسیار ناچیز می‌پنداشتند. نکته کلیدی دیگر، نقش انکارناپذیر اعتماد سازمانی در شکل‌گیری این پدیده بود؛ کارمندانی که به سازمان خود و نحوه واکنش مدیران اعتماد چندانی ندارند، ترجیح می‌دهند استفاده از ابزارهای هوش مصنوعی را از چشمان کنجکاو مخفی نگه دارند.

چرا استفاده از هوش مصنوعی به ضرر کارمندان تمام می‌شود؟

اما چه عواملی باعث می‌شود کارکنان استفاده از هوش مصنوعی را پنهان کنند؟

یکی از دلایل رایج، نگرانی از قضاوت دیگران است؛ کارمند بیم دارد که همکاران یا مدیران او را فردی کم‌توان یا فاقد شایستگی کافی برای انجام وظایفش تصور کنند. اگر مدیر ببیند کارمندی از هوش مصنوعی کمک می‌گیرد، شاید گمان کند او به‌تنهایی از عهده کارها برنمی‌آید. این ذهنیت منفی می‌تواند فرصت‌های رشد و ترفیع شغلی را به خطر بیندازد؛ بنابراین کارمند ترجیح می‌دهد بی‌سرصدا و به دور از چشم دیگران کارش را پیش ببرد.

عامل دیگر، بدبینی فزاینده به محتوای بی‌کیفیت یا اصطلاحاً «آشغال‌های هوش مصنوعی» (AI Slop) است؛ عبارتی که به محتواهای بی‌مایه و سطحی تولیدشده با هوش مصنوعی مولد اطلاق می‌شود. تصور رایج این است که اگر کارمندی گزارش هفتگی شرکت را دستی آماده کند، کاری دقیق و عمیق تحویل داده است، اما اگر همان گزارش به کمک هوش مصنوعی تهیه شده باشد، لابد سرهم‌بندی‌شده، توخالی و غیرقابل دفاع خواهد بود. با آنکه این قضاوت نوعی ساده‌انگاری است و کیفیت کار تماماً به شیوه استفاده از مدل بستگی دارد، اما ترسی پنهان از برچسب خوردن باعث می‌شود کارکنان این موضوع را پنهان کنند.

یکی از بزرگ‌ترین نگرانی‌های کارکنان، ترس از جایگزینی با هوش مصنوعی است. اگر کارمندی نشان دهد که هوش مصنوعی قادر است بخش زیادی از مسئولیت‌های شغلی‌اش را به‌راحتی انجام دهد، مدیران ممکن است به این نتیجه برسند که دیگر نیازی به تخصص او نیست. در واقع، استفاده علنی از هوش مصنوعی ممکن است شبیه شلیک به پای خود به نظر برسد؛ کارمندی که قصد نوآوری داشته، با اثبات اینکه ماشین می‌تواند وظایفش را انجام دهد، عملاً شغلش را به خطر می‌اندازد؛ طنز تلخی که کارکنان را به‌شدت محتاط می‌کند.

هیزم بر آتش؛ وقتی شفافیت تاوان دارد

فرض کنید کارمندی مسیر هوش مصنوعی سایه را انتخاب کرده و از قضا بهره‌گیری او از این ابزارها نتایج فوق‌العاده‌ای برای سازمان به‌همراه داشته است. کارمند پس از مدتی تصمیم می‌گیرد صادقانه با مدیران صحبت کند و ماجرا را در میان بگذارد. در ذهن او، این کار خدمت بزرگی به شرکت بوده و راه را برای پذیرش هوش مصنوعی هموار کرده است؛ پس لابد پاداش و تشویق چشمگیری در انتظارش خواهد بود.

اما آیا واکنش مدیران همیشه مثبت است؟ لزوماً خیر. چه بسا مدیریت از اینکه کارمند مخفیانه و بدون هماهنگی از هوش مصنوعی استفاده کرده به‌شدت خشمگین شود. عدم رعایت دستورالعمل‌های امنیتی و اقدام خودسرانه ممکن است به قیمت توبیخ یا حتی اخراج کارمند و مدیر مستقیم او تمام شود؛ صرفاً به این دلیل که این اقدام بدون تأییدیه رسمی و نظارت صورت گرفته است.

بخش تلخ‌تر ماجرا آنجاست که سازمان‌ها معمولاً پس از کنار گذاشتن کارمند خاطی، همان شیوه نوآورانه را رسماً می‌پذیرند و به کار می‌گیرند! فردی که پیشگام این تحول بوده با برچسب نافرمانی سازمانی کنار گذاشته می‌شود، در حالی که راهکار ابداعی او به‌عنوان استانداردی تازه در شرکت باقی می‌ماند.

شرکت‌ها باید هوشمندانه‌تر رفتار کنند

این نمونه نشان می‌دهد که گذار از هوش مصنوعی سایه به یک بستر رسمی تا چه اندازه حساس است. سازمان‌هایی که تمام تمرکز خود را بر جریمه و سرکوب هوش مصنوعی پنهان می‌گذارند، فقط باعث می‌شوند کارکنان استفاده از آن را به لایه‌های عمیق‌تر و تاریک‌تری ببرند. شرکت‌ها باید در ایجاد اعتماد سازمانی تعادلی ظریف برقرار کنند تا مواجهه با هوش مصنوعی سایه، به صدور احکام تنبیهی شتاب‌زده ختم نشود.

این رویکرد را می‌توان «اصل گلدیلاکس» (تعادل طلایی) در مواجهه با هوش مصنوعی سایه نامید؛ به این معنا که نه باید بیش از حد سهل‌گیر بود و نه بیش از حد سخت‌گیر. از یک سو، مدیران نباید چشم خود را بر استفاده‌های خودسرانه ببندند یا آن را تشویق کنند؛ چراکه نصب ابزارهای ناشناخته می‌تواند خطرات امنیتی، آلودگی‌های بدافزاری یا نقض جدی حریم خصوصی داده‌های شرکت را به دنبال داشته باشد. فضای سازمان نباید به گونه‌ای شود که هرکس هر ابزاری را بدون ارزیابی وارد شبکه کاری کند.

از سوی دیگر، فرآیند تأیید ابزارهای رسمی هوش مصنوعی نیز نباید چنان پیچیده و دست‌وپاگیر باشد که کارمندان را از ارائه درخواست دلسرد کند. در بسیاری از سازمان‌ها، گرفتن مجوز استفاده از یک ابزار ساده هوش مصنوعی مستلزم عبور از هفت‌خوان بوروکراسی و فرم‌های اداری بی‌پایان است. طبیعی است کارمندی که متوجه کارایی این ابزارها در پیشبرد وظایفش شده، ترجیح می‌دهد به‌جای گرفتار شدن در باتلاق بروکراسی، مخفیانه کارش را پیش ببرد.

خطرات نگران‌کننده هوش مصنوعی سایه

تصور کنید کارمندی ماه‌هاست به‌صورت پنهانی از هوش مصنوعی برای انجام امور روزمره‌اش استفاده می‌کند؛ راندمان کاری او عالی است و مدیران نیز کاملاً از عملکردش رضایت دارند. حال این کارمند شرکت را ترک می‌کند و فرد جدیدی برای تصدی همان موقعیت استخدام می‌شود. چه اتفاقی خواهد افتاد؟

کارمند تازه‌وارد خبر ندارد که کلید سرعت و کیفیت همکار قبلی، ابزارهای هوش مصنوعی بوده است؛ در نتیجه بدون دسترسی به این ابزارها در انجام کارها به مشکل برمی‌خورد. مدیران شگفت‌زده می‌شوند که چرا کارمند جدید نمی‌تواند همان بازدهی و سرعت نفر قبلی را داشته باشد. در چنین سناریویی، چه بسا شرکت نیروی جدید را به تصور ناتوانی اخراج کند و به دنبال گزینه‌ای دیگر برود؛ چرخه‌ای معیوب که بارها و بارها تکرار می‌شود.

اما ابعاد نگران‌کننده به همین‌جا ختم نمی‌شود. فرض کنید کارمند مستعفی تمام تکنیک‌ها، دستورها و روش‌های کار با هوش مصنوعی را که در شرکت قبلی صیقل داده، با خود به شرکت جدید یا حتی رقیب ببرد. شرکتی که هزینه آزمون‌وخطا و زمان یادگیری او را پرداخت کرده بود، از دستاوردهای آن بی‌نصیب می‌ماند و یک مزیت رقابتی مهم ناخواسته به رقبا واگذار می‌شود.

به این موارد، پیامدهای حقوقی پیچیده را هم اضافه کنید: اگر کارمندی داده‌های محرمانه شرکت را وارد سامانه‌های عمومی هوش مصنوعی کرده باشد یا مدل‌های شخصی‌سازی‌شده‌ای را با داده‌های درون‌سازمانی بسازد و با خود ببرد، پای انواع دعاوی حقوقی، سرقت مالکیت فکری و افشای اسرار تجاری به میان خواهد آمد.

واقعیت سازمان‌ها؛ توصیه‌هایی برای مدیران

کم نیستند مدیرانی که قاطعانه ادعا می‌کنند در سازمان آن‌ها چیزی به نام هوش مصنوعی سایه وجود ندارد، چراکه اصلاً اجازه چنین کاری را به کسی نمی‌دهند! با این حال، در بررسی‌های میدانی مشخص می‌شود که حتی در چنین محیط‌های سخت‌گیرانه‌ای نیز در عرض چند ساعت می‌توان موارد متعددی از کاربرد غیررسمی هوش مصنوعی را در میان کارمندان مشاهده کرد. کارکنان به‌خوبی می‌دانند که در صورت اطلاع مدیران مجازات خواهند شد، اما در عین حال با انگیزه انجام بهتر کارها، به این مسیر ادامه می‌دهند.

برای برون‌رفت از این چالش، سه راهکار اساسی به مدیران پیشنهاد می‌شود:

• ۱. پذیرش واقعیت و افزایش آگاهی: بپذیرید که صرف‌نظر از بخش‌نامه‌ها یا سخت‌گیری‌های سازمانی، هوش مصنوعی سایه هم‌اکنون در شرکت شما جریان دارد. به‌جای ایجاد فضای رعب و سرکوب، با شیوه‌های هوشمندانه این جریان پنهان را شناسایی کنید.
• ۲. بیرون کشیدن هوش مصنوعی از سایه‌ها: با الهام از اصل گلدیلاکس، فضایی متعادل برای آشکارسازی فعالیت‌ها فراهم کنید؛ به طوری که به‌جای توبیخ و تنبیه، قوانین شفاف و منطقی برای رسمیت بخشیدن به ابزارهای مفید تدوین شود.
• ۳. تسهیل مسیر رسمی استفاده از ابزارها: فرآیند تأیید ابزارهای مجاز هوش مصنوعی را آن‌چنان ساده و سریع کنید که کارمندان برای افزایش بهره‌وری خود، نیازی به پناه بردن به روش‌های پنهانی احساس نکنند.

در پایان باید به جمله‌ای از گرگوری مگوایر، نویسنده سرشناس، اشاره کرد که می‌گوید: «چشم‌ها همیشه مجذوب روشنایی می‌شوند، اما سایه‌ها حرف‌های بیشتری برای گفتن دارند.» این دیدگاه در دنیای هوش مصنوعی نیز بسیار راه‌گشاست. پیچیدگی جالب هوش مصنوعی سایه در این است که گاهی ارزش و بهره‌وری این کاربردهای غیررسمی بسیار بیشتر از پروژه‌های پرطمطراق و رسمی است! شاید انتظار داشته باشیم که استفاده‌های رسمی همواره ارزشمندتر باشند، اما همیشه این‌طور نیست. چه‌بسا هم‌اکنون در لایه‌های پنهان سازمان شما، ابتکارات فوق‌العاده‌ای با هوش مصنوعی در حال انجام باشد؛ ابتکاراتی که اگر با خرد مدیریتی هدایت شوند، می‌توانند تاریکی سایه‌ها را به روشنایی موفقیت بدل سازند.