چگونه هوش مصنوعی می‌تواند نقاط ضعف برنامه‌های مدیریت بحران شرکت‌ها را آشکار کند؟

تایید اخیر Google مبنی بر اینکه هوش مصنوعی Gemini در جریان یک آزمایش امنیت سایبری در ماه می توسط شرکت امنیتی Irregular به سیستم‌های سه شرکت نفوذ کرده، زنگ خطری جدی برای کسب‌وکارها است. به گزارش Wall Street Journal، هدف این آزمایش شبیه‌سازی اهداف فرضی بوده است.

هوش مصنوعی Gemini توانست با حدس زدن گذرواژه‌ها به سیستم محافظت‌شده یکی از شرکت‌ها دسترسی پیدا کند. در دو مورد دیگر نیز از اطلاعات هویتی و اعتباری موجود در مخازن عمومی استفاده شد. طبق گزارش این نشریه، Google اعلام کرده است که مدل به محض شناسایی اینکه وارد سیستم واقعی یک شرکت شده، عملیات نفوذ را متوقف کرد.

این حادثه پرسش مهمی را پیش روی مدیران کسب‌وکار قرار می‌دهد: اگر حادثه‌ای مرتبط با هوش مصنوعی سازمان آن‌ها را تحت تاثیر قرار دهد، آیا برنامه مدیریت بحران کنونی می‌تواند به پاسخ‌دهی سریع و معتبر کمک کند؟ ابزارهای هوش مصنوعی اگرچه خطرات جدیدی می‌آفرینند، اما در عین حال می‌توانند به شرکت‌ها در شناسایی نقاط ضعف برنامه‌ها و آماده‌سازی پاسخ‌های مناسب یاری برسانند.

شناسایی نقاط کور

حوادث مرتبط با هوش مصنوعی نظیر این مورد می‌توانند بحران‌های گوناگونی برای شرکت‌ها و سازمان‌ها ایجاد کنند و عملکرد، اعتبار و شهرت آن‌ها را به چالش بکشند. نکته امیدوارکننده این است که هوش مصنوعی می‌تواند پیش از آنکه عوامل دیگر نقاط ضعف برنامه‌های مدیریت بحران را افشا کنند، آن‌ها را شناسایی کند.

شرکت‌هایی که از هم‌اکنون برای آزمودن برنامه‌های خود از مدل‌های هوش مصنوعی بهره می‌برند، بسیار آماده‌تر از سازمان‌هایی خواهند بود که اجازه می‌دهند استراتژی‌هایشان خاک بخورد. این فناوری با اجرای مجموعه‌ای از سناریوهای «چه می‌شود اگر»، از جمله نفوذهای سایبری ناشی از هوش مصنوعی و سایر فرضیه‌های فناورانه، می‌تواند نقاط کور و شکاف‌هایی را ببیند که انسان‌ها از آن غافل مانده‌اند. هنگام وقوع یک بحران، خبرنگاران، مشتریان و عموم مردم حتی پیش از مراجعه به وبسایت رسمی شرکت، برای کسب اطلاعات به اینترنت و چت‌بات‌ها مراجعه می‌کنند؛ به همین دلیل شرکت‌ها باید محتوای شبکه‌های اجتماعی و پلتفرم‌های مختلف را زیر نظر بگیرند و در زمان مناسب واکنش نشان دهند.

جیسون ماد (Jason Mudd)، مدیرعامل آژانس روابط عمومی Axia، با اشاره به تجربه شبیه‌سازی هوش مصنوعی برای طرح بحران یکی از مشتریان گفت: «این شبیه‌سازی سوالی را مطرح کرد که تیم شرکت هرگز به آن فکر نکرده بود: اگر سخنگوی شرکت خودش به سوژه بحران تبدیل شود چه رخ خواهد داد؟ آزمایش دیگری نشان داد که فهرستی کامل از مخاطبان تیم بحران وجود دارد، اما هیچ‌کس بررسی نکرده بود که آیا این افراد پس از نیمه‌شب و در شرایطی که گوشی روی حالت Do Not Disturb قرار دارد پاسخگو خواهند بود یا خیر. بررسی سوم نیز موضوع ساده‌تری را آشکار ساخت: برنامه بحران از زمانی که شبکه‌های اجتماعی و خودِ هوش مصنوعی به کانال‌های بحران تبدیل شدند، هیچ به‌روزرسانی ندیده بود.»

این نمونه‌ها نشان‌دهنده شکاف‌های عملیاتی هستند که می‌توانند پاسخ‌دهی را به تاخیر بیندازند یا بحران را تشدید کنند. هوش مصنوعی می‌تواند به شناسایی این موارد کمک کند، اما انسان‌ها همچنان باید کارآمدی راه‌حل‌های پیشنهادی را بررسی و آزمایش کنند.

طرح و نگارش پرسش‌های درست

مدیران ارشد هرگز نباید فرض کنند که فقط با یک بحران در لحظه روبه‌رو می‌شوند؛ بنابراین منطقی است که سناریوهای ارائه‌شده به مدل‌های هوش مصنوعی شامل چندین وضعیت بحرانی هم‌زمان در بدترین حالت ممکن باشند. برای مثال، اگر شرکتی قربانی حمله سایبری شود که سیستم‌های کامپیوتری و کانال‌های ارتباطی‌اش را از کار بیندازد و هم‌زمان ادعاهایی درباره تخلف مدیران آن مطرح گردد، شرکت باید چگونه پاسخ دهد؟

نحوه پرسش و نگارش پرامپت‌ها برای مدل‌های هوش مصنوعی تاثیر مستقیمی بر پاسخ‌های دریافتی دارد. به‌جای تلاش برای تایید گرفتن از برنامه مدیریت بحران، باید از فناوری خواست که یک منتقد سرسخت باشد و مشخص کند چه عواملی می‌توانند این برنامه را از کار بیندازند یا بی‌اثر کنند.

پس از حذف اطلاعات حساس و محرمانه از متن برنامه‌ها، نوبت به مطرح کردن چند پرسش کلیدی از هوش مصنوعی می‌رسد. اسکات کیور (Scott Keever)، مدیرعامل موسسه Reputation Pros، سوالات کلیدی زیر را پیشنهاد می‌کند:

• این طرح در ۲۴ ساعت اول در چه بخش‌هایی با شکست مواجه می‌شود؟
• کدام ذی‌نفع در این برنامه نادیده گرفته شده است؟
• خبرنگاران چه سوالاتی مطرح خواهند کرد که ما برای پاسخ به آن‌ها آماده نیستیم؟
• در کدام بخش‌ها بیانیه دفاعی، مبهم یا بیش از حد محافظه‌کارانه به نظر می‌رسد؟

به گفته کیور، پاسخ این پرسش‌ها می‌تواند پیش از افکار عمومی، خلاءهای برنامه‌ها را برملا سازد. همچنین آزمودن برنامه‌ها در برابر گروه‌های مخاطب گوناگون اهمیت بالایی دارد: «توصیه من این است که برنامه مدیریت بحران را با هوش مصنوعی از ۵ زاویه تحت فشار بگذارید: مشتری، کارمند، خبرنگار، نهاد ناظر و منتقد. اگر برنامه در شبیه‌سازی نتواند در برابر این ۵ گروه دوام بیاورد، به احتمال زیاد در یک بحران واقعی نیز شکست خواهد خورد.»

اعمال محدودیت‌ها

شرکت‌ها باید بر حجم و ماهیت اطلاعاتی که با مدل‌های هوش مصنوعی به اشتراک می‌گذارند، محدودیت‌های سفت‌وسختی اعمال کنند. همچنین نباید فرض کرد که پاسخ‌های دریافتی کاملاً مرتبط و بی‌نقص هستند؛ همیشه بهترین راهکار این است که یک یا چند متخصص انسانی پیش از اجرای پیشنهادهای هوش مصنوعی، آن‌ها را ارزیابی و بازبینی کنند.

مدیران و کارمندان باید هنگام بررسی برنامه‌های بحران با ابزارهای عمومی هوش مصنوعی احتیاط به خرج دهند؛ زیرا این اسناد می‌توانند حاوی اطلاعات حساس عملیاتی و پرسنلی باشند. کاترین مونتگومری (Catherine Montgomery)، کارشناس مدیریت بحران و مدیرعامل آژانس Better Together، معتقد است: «من هرگز چنین برنامه‌هایی را وارد یک ابزار عمومی هوش مصنوعی نمی‌کنم و پاسخ هوش مصنوعی را به عنوان فکت نمی‌پذیرم. هوش مصنوعی می‌تواند به تیم‌ها کمک کند تا سوالات بیشتری را سریع‌تر مطرح کنند، اما این افراد باتجربه هستند که باید تصمیم بگیرند چه واکنشی در آن لحظه دقیق، مناسب و درست است.»

درس گرفتن از اشتباهات دیگران

هوش مصنوعی نباید جایگزین نقش انسان در آماده‌سازی و مدیریت شرایط بحرانی شود. کوین دینینو (Kevin Dinino)، رئیس آژانس روابط عمومی KCDR، تجربه جالبی در این زمینه دارد: «من برنامه‌هایی را دیده‌ام که در ارزیابی هوش مصنوعی نمره کاملی گرفتند، اما ۲۰ دقیقه پس از آغاز یک شبیه‌سازی عملی و زنده، نقص واقعی خود را نشان دادند؛ زنجیره تاییدی که نیازمند امضای سه مدیر ارشد بود که هیچ‌کدام در کمتر از ۴ ساعت پاسخگو نبودند؛ این یعنی ۱۲ ساعت سکوت مرگبار در بدترین ۱۲ ساعت حیات یک شرکت.»

شرکت‌ها می‌توانند از این تجربه درس بگیرند و با رعایت موارد زیر از تکرار چنین اشتباهاتی جلوگیری کنند:

• آزمودن نحوه پاسخ‌دهی به بحران در ۲۴ ساعت اولیه.
• اطمینان از در دسترس بودن افراد کلیدی هنگام وقوع حادثه.
• مشخص کردن افراد مجاز برای تایید بیانیه‌ها از قبل.
• بررسی مسیرهای ارتباطی جایگزین میان اعضای تیم بحران در صورت قطع کانال‌های همیشگی.

بررسی برنامه‌های سازمانی توسط پلتفرم‌های هوش مصنوعی باید با مانورهای عملی همراه باشد که در آن شرکت‌کنندگان به سناریوهای مختلف واکنش نشان دهند. سپس بر اساس یافته‌ها، برنامه‌ها اصلاح شوند. تکرار این مانورها و ارزیابی‌ها در زمان رخ دادن تغییراتی همچون ورود یا خروج مدیران ارشد، استفاده از کانال‌های ارتباطی تازه یا تحولاتی که سازمان را تهدید می‌کند، ضروری خواهد بود.

ماجرای هک اخیر با دخالت Gemini شرکت Google نشان داد که هوش مصنوعی می‌تواند خطرات تازه‌ای ایجاد کند که برنامه‌های بحران باید برای آن آماده باشند. رهبران کسب‌وکار باید مطمئن شوند که هوش مصنوعی به شکلی دقیق و استراتژیک برای تقویت این برنامه‌ها استفاده می‌شود. با وجود پیشرفت مداوم این فناوری، نباید فرض کرد که هوش مصنوعی بی‌نقص است یا همیشه در اولین تلاش به نتیجه درست می‌رسد.