قوانین هوش مصنوعی در محیط کار؛ راهکاری حیاتی برای جلوگیری از بحران‌های بزرگ شرکتی

با گسترش روزافزون هوش مصنوعی، وجود سیاست‌ها و دستورالعمل‌های مشخص در شرکت‌ها اهمیتی دوچندان پیدا کرده است تا اطمینان حاصل شود کارکنان از این فناوری به روشی درست و در مسیر اهداف واقعی سازمان استفاده می‌کنند. در غیر این صورت، مدل‌های هوش مصنوعی به‌جای آنکه بهره‌وری نیروها را بالا ببرند، ناخواسته می‌توانند سازمان را به ورطه بحران بکشانند. بدترین سناریوهای ممکن شامل افشای فایل‌ها و اطلاعات محرمانه مشتریان، انتشار آمارهای ساختگی و ارائه مشاوره‌ها و تصمیم‌گیری‌های شبهه‌ناک است.

سیاست‌های درست برای حاکمیت هوش مصنوعی

یکی از نخستین گام‌های مؤثر برای جلوگیری از تحقق چنین سناریوهایی، پایه‌ریزی سیاست‌های حاکمیتی مرتبط با هوش مصنوعی پیش از ورود رسمی آن به محیط کار است. کریس کلاف (Chris Cluff)، مدیرعامل شرکت خدمات حقوق و دستمزد Paper Trails، در این زمینه توضیح می‌دهد: «حاکمیت قدرتمند نقطه‌ای است که حتماً باید پیش از پیاده‌سازی ابزارها کار را از آنجا شروع کنید. ما در سازمان خود فقط اجازه استفاده از ابزارهای دارای لایسنس رسمی را می‌دهیم. محصولات فاقد مجوز مانند حساب‌های شخصی ChatGPT در سطح فایروال ما مسدود شده‌اند. فرآیند نظارتی ما انتظارات را شفاف می‌کند و کنترل‌های خودکار به وجود می‌آورد. هرگونه اتوماسیون مبتنی بر هوش مصنوعی پیش از به‌کارگیری در یک سامانه ثبت می‌شود و تمام فراخوان‌ها و اجراهای آن ثبت و بررسی می‌گردند. رمزهای عبور هرگز نباید وارد ابزارهای هوش مصنوعی شوند، حتی ابزارهایی که از پیش تأیید شده‌اند.»

به گفته کلاف، این شرکت دوره‌ای آموزشی در داخل سازمان راه‌اندازی کرده است تا کارکنان بهترین راهکارهای استفاده از ابزارها را بیاموزند و پیش از دسترسی به مدل Claude، تعهدنامه سیاست‌های سازمانی مربوط به آن را امضا کنند. شرکت Paper Trails علاوه بر محدود کردن استفاده از هوش مصنوعی به پرسنل مشخص، نحوه تعامل آن‌ها با Claude را نیز زیر نظر می‌گیرد. او می‌گوید: «تا کنون نتایج بسیار موفقی گرفته‌ایم. فرآیند تازه نظارت بر اتوماسیون، از همان روز اول اثربخشی خود را نشان داد و مانع از آن شد که مدیر مالیات ما مدل Claude را به نرم‌افزار حقوق و دستمزد متصل کند و تنظیمات مالیاتی مشتریان را دست‌کاری نماید.»

این نظارت به سازمان اجازه داد تا فعالیت‌های تیم را با شفافیت بررسی کند و همین امر زمینه گفت‌وگو با کارکنان را درباره بهترین روش‌های استفاده از فناوری و نحوه اعمال سیاست‌ها فراهم آورد. کلاف در ادامه توضیح می‌دهد: «ما در ابتدا بی‌شک قوانین را بسیار سخت‌گیرانه و سریع وضع کردیم، اما این کار به شناسایی برخی موارد حساس کمک کرد که اتفاق مثبتی بود. اکنون به‌آرامی در حال تعدیل برخی از این قوانین هستیم. ما عملکرد ابزارها را به‌دقت بررسی می‌کنیم و پیش از تصویب هر برنامه‌ای که با داده‌های حساس سرکار دارد، سازوکارهای کنترلی پیرامون آن به وجود می‌آوریم.»

تجربه نشان می‌دهد وضع قوانین و کنترل‌های سفت‌وسخت در ابتدای مسیر و سپس تعدیل منطقی آن‌ها در صورت لزوم، بسیار عاقلانه‌تر از آن است که پس از وقوع یک بحرانِ قابل پیشگیری، به سراغ وضع قوانین شتاب‌زده و تشدید فشارها برویم.

سیاست‌های هوش مصنوعی را به دست شانس نسپارید

تمامی قوانین و سیاست‌های هوش مصنوعی باید مکتوب باشند، به‌شکل منظم در جمع کارکنان مورد بحث و بازبینی قرار گیرند و توسط نیروهای تازه استخدام‌شده نیز خوانده و امضا شوند.

شرکت نظارت بر هوش مصنوعی Trustible، نیروهای خود را از به‌کارگیری این فناوری برای اموری که خودشان مهارت انجام مستقل آن را ندارند منع کرده است. اندرو گامینو-چئونگ (Andrew Gamino-Cheong)، مدیر ارشد فناوری و هم‌بنیان‌گذار این شرکت، تأکید می‌کند: «ما نمی‌خواهیم تیم منابع انسانی ما به سراغ کدنویسی با هوش مصنوعی برود یا تیم فنی دستورالعمل‌های استخدامی جدید تعریف کند. این قاعده تضمین می‌کند افرادی که بر هوش مصنوعی نظارت دارند، از صلاحیت و مهارت واقعی برای سنجش کیفیت خروجی برخوردارند.»

پیش از آنکه مسئولیتی برای نظارت بر فناوری به افراد واگذار شود، آن‌ها باید قابلیت‌ها و چالش‌های بالقوه این ابزارها را به شکلی کامل درک کنند. برای هر کاربری عملاً غیرممکن است که متوجه خطاهای هوش مصنوعی شود، مگر آنکه ماهیت آنچه تولید می‌شود را از پیش بشناسد.

کاتلین والش (Kathleen Walch)، مدیر بخش هوش مصنوعی در مؤسسه مدیریت پروژه (PMI)، در این زمینه بیان می‌کند: «شرکت‌ها نباید چارچوب‌های هوش مصنوعی خود را حول یک ابزار خاص یا توانمندی‌های فعلی آن تدوین کنند. در مقابل، این سیاست‌ها باید بر پایه‌هایی ماندگار مانند استفاده مسئولانه، حفاظت از داده‌ها، پاسخگویی انسانی، نظارت کافی و سنجش ریسک استوار شوند. چنین رویکردی شالوده‌ای استوار پدید می‌آورد که حتی با دگرگونی و ارتقای فناوری در طول زمان، همچنان کارایی خود را حفظ می‌کند.»

برای کمک به کارکنان در درک و اجرای بهتر قوانین، نمونه‌های واقعی و مطالعات موردی از نحوه عملکرد مقررات به آن‌ها ارائه دهید؛ به‌عنوان مثال نشان دهید که سازوکارهای نظارتی چگونه مانع از انتشار غیرمجاز اطلاعات می‌شوند، از حریم خصوصی محافظت می‌کنند و اسناد اختصاصی شرکت را در امان نگه می‌دارند. والش یادآور می‌شود: «حاکمیت هوش مصنوعی باید به‌عنوان یک فرآیند مستمر در نظر گرفته شود، نه یک اقدام مقطعی یا تصمیمی حاشیه‌ای که تازه پس از ورود ابزارهای جدید گرفته می‌شود. سازمان‌ها باید پیوسته کاربردهای واقعی هوش مصنوعی، ریسک‌های نوظهور، تجربیات کارکنان و کارآمدی موانع حفاظتی فعلی را بررسی کنند. فناوری مدام در حال دگرگونی است، بنابراین مجموعه‌ها نیز باید سازوکاری برای یادگیری مداوم و همگام‌شدن با آن داشته باشند.»

در همین راستا، مؤسسه مدیریت پروژه سندی با عنوان استاندارد هوش مصنوعی در مدیریت سبد پروژه‌ها، برنامه‌ها و پروژه‌ها تدوین کرده است. این استاندارد شامل هشت اصل راهنما برای رفتارها و تصمیم‌گیری‌های مسئولانه در حوزه هوش مصنوعی، الگوهایی برای بازبینی خروجی‌ها و مرزبندی‌های اخلاقی و قانونی است.

این استانداردها مسئولیت نهایی کار را مستقیماً متوجه کاربرانی می‌دانند که از مدل‌های هوش مصنوعی استفاده می‌کنند. والش در جمع‌بندی صحبت‌های خود تأکید می‌کند: «کارکنان در قبال ارزیابی دقت، درستی و تبعات خروجی‌هایی که با کمک این ابزارها تولید می‌کنند، مسئولیت کامل دارند. تمام نیروها باید درک کنند که استفاده از هوش مصنوعی، مسئولیت صحت یا نتیجه کار را از دوش آن‌ها برنمی‌دارد و متوجه ابزار نمی‌کند.»

پایبندی به سیاست‌ها و خطوط قرمز امنیتی را نباید به دست شانس سپرد. مدیران ارشد کسب‌وکارها باید یک یا چند مسئول مشخص را برای نظارت بر کاربرد صحیح فناوری تعیین کنند، با هر بار به‌روزرسانی یا جایگزینی مدل‌ها ارزیابی‌های تازه انجام دهند، از ساده و قابل‌فهم بودن سیاست‌ها برای پرسنل مطمئن شوند و بازخوردهای کارکنان را برای بهبود آموزش‌ها به کار گیرند. همچنین باید از پیش مشخص شود که در صورت سوءاستفاده از هوش مصنوعی، چه محدودیت‌هایی باید بر دسترسی‌ها اعمال شود و در صورت علنی شدن خطایی ناشی از این ابزارها، کدام شخص یا بخش باید مسئولیت پاسخگویی را بر عهده بگیرد.

سازمان‌ها باید دست‌کم سالی یک‌بار و همچنین با ورود، ارتقا یا جایگزینی هر ابزار جدید، سیاست‌های هوش مصنوعی خود را مورد بازبینی جامع قرار دهند. برای حفظ آمادگی حداکثری در زمان بحران، شرکت‌ها بهتر است از قبل بیانیه‌ها و قالب‌های ازپیش‌تأییدشده‌ای آماده داشته باشند تا در صورت رسانه‌ای شدن اشتباهات هوش مصنوعی، بلافاصله بتوانند با شخصی‌سازی سریع، موضع رسمی و شفاف سازمان را اطلاع‌رسانی کنند.