پشت پرده سوءاستفاده کارمندان از هوش مصنوعی؛ از تب توکن‌مکثینگ تا پرونده سیب‌های گندیده!

این روز‌ها یکی از چالش‌های داغ و دردسرساز در شرکت‌ها، نحوه استفاده نادرست و مخرب کارمندان از ابزار‌های هوش مصنوعی هنگام انجام کار‌های روزمره است؛ موضوعی که حسابی به سردردی بزرگ تبدیل شده و ضررهای سنگینی به سازمان‌ها می‌زند. شاید در نگاه اول تعجب کنید و بپرسید مگر کارمندان چطور از هوش مصنوعی سوءاستفاده می‌کنند؟ پیش‌فرض همیشگی مدیران این است که پرسنل با عقل، درایت و برای بهره‌وری بیش‌تر سراغ این فناوری می‌روند، اما متأسفانه در دنیای واقعی همیشه اوضاع این‌قدر گل‌وبلبل نیست!

برای ریشه‌یابی این ماجرا می‌توان به یک تحقیق دانشگاهی کلاسیک و سرشناس درباره رفتارهای غیراخلاقی کارکنان نگاه کرد. یافته‌های این پژوهش نشان می‌دهد کج‌روی و خطاهای کاری معمولاً از سه منشأ آب می‌خورد: «سیب‌های گندیده» (افراد خطاکار)، «پرونده‌های بد» (موقعیت‌های خاص و وسوسه‌کننده) و «بشکه‌های آلوده» (محیط و فرهنگ ناسالم سازمانی). همین الگوی سه‌گانه، مو‌به‌مو برای سوءاستفاده از هوش مصنوعی مدرن در شرکت‌ها هم صدق می‌کند. بنابراین، سازمان‌ها باید هرچه سریع‌تر برای استفاده از هوش مصنوعی چارچوب و قانون بگذارند تا جلوی این رفتارهای نادرست گرفته شود یا دست‌کم در همان مراحل اولیه کشف و مهار شوند.

بیایید این موضوع و زوایای مختلف آن را موشکافانه‌تر بررسی کنیم تا ببینیم چطور فناوری‌های جدید به دست کارمندان به بیراهه می‌روند.

هوش مصنوعی در محیط کار

مسیر پیاده‌سازی و پذیرش هوش مصنوعی در سازمان‌ها همواره جاده‌ای پرپیچ‌وخم و پر از دست‌انداز بوده است. از زمان معرفی و غوغای چت‌بات ChatGPT در اواخر سال ۲۰۲۲، شرکت‌ها با شتابی جنون‌آمیز به سمت ابزار‌های هوش مصنوعی مولد و مدل‌های زبانی بزرگ (LLM) هجوم بردند. باوری فراگیر شکل گرفت که اگر شرکتی با تمام توان به سمت هوش مصنوعی نرود، رقبای زیرک گوی سبقت را می‌ربایند، سهم بازار را تصاحب می‌کنند و چند گام جلوتر می‌افتند. طبیعی است هیچ مدیری دلش نمی‌خواهد از این غافله عقب بماند یا متهم شود که در تب‌وتاب تحول هوش مصنوعی، پشت فرمان خوابش برده بود!

موج اولیه ورود هوش مصنوعی به شرکت‌ها اغلب به شکلی شتاب‌زده، بی‌برنامه و کاملاً باری‌به‌هرجهت انجام شد. بعضی از شرکت‌ها صرفاً به کارکنان خود چراغ سبز نشان دادند تا سراغ نسخه‌های عمومی مدل‌های زبانی مانند ChatGPT، Claude، Grok، Copilot و Gemini بروند. اما طولی نکشید که مدیران ارشد متوجه شدند این کار می‌تواند کابوسی هولناک برای حریم خصوصی و امنیت اطلاعات محرمانه تجاری رقم بزند؛ چون این ابزار‌های عمومی برای محافظت از داده‌های حساس شرکتی طراحی نشده بودند. البته این تنها مشکل نبود و چالش‌های پیچیده‌تری هم سر برآوردند.

در نهایت، شرکت‌ها و توسعه‌دهندگان هوش مصنوعی به این نتیجه رسیدند که استفاده اصولی از این ابزار‌ها باید در بستری سازمان‌یافته، هدفمند و امن صورت گیرد. از همین رو، حساب‌های کاربری شرکتی و کنترل‌شده در اختیار پرسنل قرار گرفت تا از نسخه‌های اختصاصی و ایمن هوش مصنوعی استفاده کنند. این اقدام مدیران را تا حدی آسوده‌خاطر کرد و آن‌ها تصور کردند دیگر خطری بابت درز اطلاعات به هوش مصنوعی‌های عمومی تهدیدشان نمی‌کند.

خیال باطلی که خیلی زود نقش بر آب شد!

اما صرف اینکه کارمندان به یک مدل زبانی شرکتی و ایمن دسترسی دارند، تضمینی برای استفاده درست و بهینه‌شان از آن نیست. به عنوان نمونه، اخیراً پدیده‌ای عجیب به نام «توکن‌مکثینگ» (Token-maxxing یا ماکسیمم کردن مصرف توکن) باب شد؛ جریانی که در آن کارکنان تلاش می‌کردند تا جای ممکن آمار استفاده خود از هوش مصنوعی سازمان را بالا ببرند. مدیران هم با فرضی ساده‌لوحانه گمان می‌کردند اگر کارمندی هزینه‌های سنگین و حجم بالایی از منابع هوش مصنوعی را مصرف می‌کند، حتماً عملکرد بهتری دارد و کار باارزشی انجام می‌دهد؛ تصوری که به هیچ وجه درست نبود!

برخی کارمندان برای اینکه مصرف توکن خود را بالا نشان دهند، دستورات تکراری و بی‌فایده به هوش مصنوعی می‌دادند یا کار‌های طولانی و فرسایشی برایش تعریف می‌کردند که کوچک‌ترین سودی برای اهداف سازمان نداشت. تمام هدفشان این بود که موتور هوش مصنوعی الکی بچرخد و این‌طور جلوه دهند که سرشان حسابی شلوغ است و دارند کار مفیدی انجام می‌دهند! در این گرداب بی‌حاصل، مدیران ارشد هم بی‌تقصیر نبودند؛ زیرا گهگاه نمودارهای مصرف هوش مصنوعی را بالا و پایین می‌کردند و برای کسانی که بیش‌ترین استفاده ظاهری را داشتند، دست‌مریزاد می‌گفتند و تشویقشان می‌کردند. در واقع، هیچ‌کس نمی‌پرسید این همه مصرف توکن چه نتیجه‌ای داشته، و فقط صعودی بودن نمودار مصرف برایشان مهم بود.

خلاصه کلام اینکه این سبک از استفاده، هیچ ربطی به اهداف شرکت نداشت و کمکی به پیشرفت کار نمی‌کرد. شاید چنین رفتاری در نگاه اول خنده‌دار یا یک شوخی احمقانه به نظر برسد، اما همین «حرکت به ظاهر بی‌ضرر» صورت‌حساب‌های نجومی روی دست شرکت‌ها گذاشت، در حالی که در ازای این هزینه‌های سنگین عملاً هیچ خروجی ملموس و مفیدی عایدشان نشد.

سوءاستفاده از هوش مصنوعی اصلاً چطور شکل می‌گیرد؟

بیایید این مسئله را ریشه‌یابی کنیم که چرا استفاده از هوش مصنوعی در محیط‌های کاری به بیراهه می‌رود. در همان ماجرای توکن‌مکثینگ، پرسنل کاری را انجام می‌دادند که تصور می‌کردند وظیفه‌شان است یا از سمت مدیرانشان به آن ترغیب می‌شدند. حالا سؤال اخلاقی پیچیده اینجاست: اگر شما کاری را انجام دهید که شخصِ مدیر یا بالادستی‌ها رویش اصرار دارند، آیا باز هم مرتکب سوءاستفاده شده‌اید؟ این دقیقاً یک دوراهی اخلاقی بغرنج است.

فرض کنید متوجه شده‌اید پروژه‌ای که با هوش مصنوعی تعریف شده کاملاً بیهوده است یا حتی به شرکت ضربه می‌زند؛ آیا باید جلوی دستور مافوق مقاومت کنید؟ کارمندان در چنین موقعیتی در برزخ عجیبی گیر می‌افتند: از یک طرف باید به دستورات گوش دهند و از طرف دیگر خوب می‌دانند انجام آن کار پوچ است یا منافع شرکت را به باد می‌دهد.

برای ساده‌تر شدن موضوع و درک بهتر ماجرا، می‌توان سوءاستفاده از هوش مصنوعی را به دو حالت کلی تقسیم کرد:

• ۱. سوءاستفاده ناخواسته و سهوی: در این حالت، کارمند واقعاً فکر می‌کند در حال استفاده درست و سودمند از هوش مصنوعی به نفع شرکت است، اما ناخواسته و از سر ندانم‌کاری، مسیر غلطی را پیش می‌گیرد و به شرکت آسیب می‌زند.
• ۲. سوءاستفاده عمدی و خودآگاه: اینجا کارمند کاملاً می‌داند رفتارش غلط است و آگاهانه دست به سوءاستفاده می‌زند، با این امید که مچش باز نشود و کسی بو نبرد!

شاید بتوان برای دسته اول کمی تخفیف قائل شد؛ کارمندی که صادقانه فکر می‌کرده در حال خدمت به شرکت است، هرچند به خاطر اشتباهش از بازخواست کامل معاف نمی‌شود، اما نیت پلیدی نداشته است. اما برای دسته دوم جای هیچ‌گونه مماشاتی نیست؛ آن‌ها علناً در حال سوءاستفاده و خالی کردن جیب شرکت هستند و ماجرا همین‌جا تمام است!

وقتی کارمندان به بیراهه می‌روند: مثلث رفتارهای غیراخلاقی

برای درک عمیق‌تر این پدیده، بد نیست نگاهی کلی‌تر به ریشه‌های رفتارهای غیراخلاقی در محیط کار بیندازیم و سپس دوباره به دنیای هوش مصنوعی برگردیم.

یکی از مقالات مرجع و معتبر در حوزه روانشناسی سازمانی که سال ۲۰۱۰ در نشریه معتبر Journal of Applied Psychology به قلم جنیفر کیش-گفارت، دیوید هریسون و لیندا تروینیو منتشر شد، عنوان جالب «سیب‌های گندیده، موقعیت‌های وسوسه‌انگیز و بشکه‌های آلوده» را بر خود دارد. در بخشی از این پژوهش نکات کلیدی زیر مطرح شده است:

• «ما در این مقاله در پی ارائه تصویری شفاف‌تر، نظری و تجربی از منابع گوناگون تأثیرگذار بر رفتارهای غیراخلاقی در محیط کار هستیم.»
• «این پژوهش با فراتحلیل داده‌های بیش از ۳۰ سال تحقیق علمی، پیش‌زمینه‌های تصمیم‌گیری غیراخلاقی را در سه سطح بررسی می‌کند: ویژگی‌های فردی (سیب‌های گندیده)، ابعاد و ماهیت مسئله اخلاقی (پرونده‌ها و موقعیت‌های بد) و محیط سازمانی حاکم بر کار (بشکه‌های آلوده).»
• «مجموع داده‌ها نشان می‌دهد نه تنها این سه عامل بستر رفتارهای ناشایست را شکل می‌دهند، بلکه تصمیمات کاری در موارد متعددی به جای دودوتاچهارتا کردن‌های حساب‌شده و منطقی، از روی هیجان‌های لحظه‌ای و الگوهای رفتاری خودکار و تکانشگرانه رقم می‌خورند.»
• «این موضوع نشان می‌دهد علاوه بر نگاه سنتی "محاسبات عقلانی اخلاقی"، باید زاویه دید جدیدی به نام "تکانه‌ها و محرک‌های آنی اخلاقی" را هم جدی گرفت.»

نکته تکان‌دهنده‌ای که این پژوهش بر آن دست می‌گذارد، این است که برخی ویژگی‌های شخصیتی، استعداد خطاکاری را در افراد دوچندان می‌کند. مثلاً کارمندی با گرایش‌های ماکیاولیستی، بسیار بیش‌تر مستعد دور زدن قوانین سازمان است. از طرفی، افرادی که نگرش اخلاقی نسبی‌گرایانه دارند، معمولاً اعمال نادرست خود را با شرایط توجیه می‌کنند و اصلاً احساس نمی‌کنند کار خطایی مرتکب شده‌اند!

سیب‌های گندیده، موقعیت‌های وسوسه‌انگیز و بشکه‌های آلوده در دنیای هوش مصنوعی

استعاره هوشمندانه «سیب‌های گندیده، پرونده‌های بد و بشکه‌های آلوده» بهترین عینک برای تحلیل سوءاستفاده‌های عمدی از هوش مصنوعی در شرکت‌ها است. بیایید هر سه بعد را با مثال‌های ملموس ورق بزنیم:

• ۱. سیب‌های گندیده (Bad Apples): فرض کنید یکی از کارشناسان فروش متوجه می‌شود چند مشتری کلیدی قصد تمدید قراردادشان را ندارند. او برای اینکه تارگت سه‌ماهه خود را حفظ کند، با استفاده از هوش مصنوعی مولد اسناد تمدید جعلی اما کاملاً واقعی می‌سازد و به شرکت تحویل می‌دهد. این فریبکاری کاملاً از عدم صداقت فردی نشأت گرفته و نمونه بارز یک "سیب گندیده" در سازمان است.
• ۲. موقعیت‌های وسوسه‌انگیز و بغرنج (Bad Cases): مدیری با تماس فوری بالادستی روبه‌رو می‌شود که باید ظرف چند دقیقه ارزیابی عملکرد یکی از کارمندان دردسرساز را ارسال کند. او با عجله از هوش مصنوعی می‌خواهد متنی برایش بنویسد؛ خروجی کار بسیار تندتر و ناعادلانه‌تر از واقعیت از آب درمی‌آید، اما به دلیل فشار زمانی شدید، همان را می‌فرستد. این فرد در تنگنای شرایط کاری گیر افتاده و از مرز اخلاق عبور کرده است؛ مثالی عینی از یک پرونده و موقعیت نادرست.
• ۳. بشکه‌های آلوده و فرهنگ ناسالم سازمانی (Bad Barrels): مدیریت ارشد تصمیم می‌گیرد معیار ارتقای شغلی کارمندان را «تعداد گزارش‌های هفتگی» بگذارد! کارمندان هم برای عقب نماندن، با هوش مصنوعی سیل‌آسا گزارش‌های حجیم تولید می‌کنند و بدون بررسی دقیق تحویل می‌دهند. در نتیجه، کوهی از گزارش‌های توخالی، غیردقیق و زرد روی میز مدیران جمع می‌شود. در این سناریو، خود سیستم و ساختار سازمان مشوق سوءاستفاده از هوش مصنوعی بوده؛ یک بشکه کاملاً آلوده!

ماجرا زمانی پیچیده‌تر می‌شود که هر سه ضلع این مثلث به صورت هم‌زمان در یک شرکت رخ دهند: مدیریتی که با سیاست‌های غلط کارمندان را به تولید محتوای بی‌کیفیت تشویق می‌کند (بشکه آلوده)، ضرب‌الاجل‌های فشرده‌ای که اخلاق کاری را به چالش می‌کشد (موقعیت بد) و کارمندانی که از فرصت برای کلاهبرداری شخصی استفاده می‌کنند (سیب‌های گندیده). هم‌زمانی این سه فاکتور می‌تواند شرکتی را از درون متلاشی کند.

راهکار نجات: مهار بحران سوءاستفاده با حاکمیت هوش مصنوعی

یک مسیر برای حل این بحران، تمرکز بر بعد انسانی معادله است: چطور چنین افراد خطاکاری استخدام شده‌اند؟ چرا موقعیت‌های کاری تا این حد غیرواقعی و پرتنش طراحی شده‌اند؟ و مدیران کجای کار را اشتباه رفتند که کارمندان به این مسیر کشیده شدند؟ همه این‌ها سؤالاتی حیاتی هستند که نیاز به بازنگری دارند.

اما سوی دیگر ماجرا، خود ابزار هوش مصنوعی است که به عنوان کاتالیزور این خرابکاری‌ها عمل می‌کند. اگر چارچوب نظارتی و حاکمیت هوش مصنوعی (AI Governance) به‌درستی در سازمان پیاده شود، کنترل‌ها و ممیزی‌های دقیق جلوی انحراف را می‌گیرند؛ از مسدود کردن ساخت اسناد جعلی با ابزار‌های هوش مصنوعی گرفته تا جلوگیری از تولید گزارش‌های ماشینی بدون بازبینی انسانی.

آیا شرکت شما سازوکاری برای اطمینان از صحت، دقت، حریم خصوصی و امنیت داده‌ها در استفاده از ابزار‌های هوش مصنوعی پیاده کرده است؟ چه کسی در سازمان پاسخگوی استفاده مسئولانه از این فناوری است؟ آیا کارمندان راهی برای گزارش رفتارهای مشکوک یا نادرست دارند؟ اگر سازمانی برای این سؤال‌ها پاسخی نداشته باشد، زنگ خطری جدی به صدا درآمده که نشان می‌دهد حاکمیت هوش مصنوعی در آنجا تقریباً صفر است!

دنیایی که در آن زندگی می‌کنیم: بیداری قبل از فاجعه

همان‌طور که اشاره شد، هجوم شتاب‌زده شرکت‌ها به سمت هوش مصنوعی اغلب بدون برنامه‌ریزی و درک عمیق از خطرات احتمالی آن رخ داد. مدیران کسب‌وکارها اکنون باید چشمان خود را به روی این واقعیت باز کنند که هوش مصنوعی نیازمند مدیریت خردمندانه و نظارت مستمر است. نباید اجازه داد این فناوری شگفت‌انگیز به پاشنه آشیل سازمان تبدیل شود و بقای شرکت را تهدید کند. تدوین یک استراتژی جامع حاکمیت هوش مصنوعی شامل دستورالعمل‌ها، پروتکل‌های امنیتی و ابزار‌های نظارتی شفاف، دیگر یک گزینه نیست، بلکه ضرورتی حیاتی برای بقاست.

و به عنوان نکته پایانی، نقل‌قول معروفی به بنجامین فرانکلین نسبت داده می‌شود که می‌گوید: «دست‌های بیکار، اسباب‌بازی شیطان هستند.» اگر به کارمندان خود دسترسی به هوش مصنوعی قدرتمند بدهید اما هدف، آموزش و نظارت درستی برایشان تعریف نکنید، زمینه را برای سوءاستفاده‌های خطرناک فراهم کرده‌اید. هوشمندانه و با درایت، افسار هوش مصنوعی سازمانتان را به دست بگیرید!