ورود هوش مصنوعی به سیستم هشدارهای اضطراری؛ آیا جامعه آماده اعتماد به چت‌بات‌ها است؟

اوایل ماه جاری میلادی، پس از آنکه طوفان ایسایاس (Isaias) با درجه شدت ۳ به سواحل خلیج مکزیک رسید، لورا مایرز، کارشناس مدیریت بحران، تماسی از یک هواشناس در آلاباما دریافت کرد. مایرز مدیر مرکز ایمنی عمومی پیشرفته در دانشگاه آلاباما است و به‌طور مداوم با مدیران بحران ایالتی و محلی منطقه خود گفتگو می‌کند. آن هواشناس به مایرز گفت که یکی از مسئولان محلی مدیریت بحران، تصویری گرافیکی منتشر کرده که نشان می‌دهد طوفان ایسایاس ممکن است سواحل آلاباما را با جریان هوای پرسرعت و مخرب (موسوم به استینگ جت) تهدید کند.

اما مشکل کجا بود؟ مسئول بحران این تصویر را با کمک یک چت‌بات هوش مصنوعی تولید کرده بود و اطلاعات آن از نظر علمی و هواشناسی صحت نداشت.

مایرز در این باره می‌گوید: «مدیر بحران آن منطقه قصد داشت توجه مسئولان و اهالی را به خطرات احتمالی جلب کند و به همین دلیل از هوش مصنوعی کمک خواسته بود. سیستم همان کاری را که او خواسته بود انجام داد، اما نتیجه از نظر هواشناسی کاملاً نادرست بود.»

بیشتر سازمان‌های مدیریت بحران به کارکنان خود اجازه استفاده از هوش مصنوعی مولد را نمی‌دهند، اما مایرز و بسیاری از کارشناسان دیگر هم‌نظرند که استفاده از این فناوری در ادارات محلی و ایالتی مقابله با بلایا بسیار فراگیر شده است. صدها شرکت در حال بازاریابی ابزارهای هوش مصنوعی برای مدیران بحران هستند تا در اموری مانند ارزیابی خسارت سیل و هماهنگی منابع از آن‌ها استفاده شود؛ با این حال، اطلاع‌رسانی عمومی یکی از حوزه‌هایی است که بیشترین جذابیت را برای کارمندان دولت و استارتاپ‌ها دارد.

علت این موضوع کاملاً مشخص است: بیشتر مدیران بحران در ارسال سریع هشدارها و ارتباط موثر با مردم هنگام وقوع بلایا عملکرد ایده‌آلی ندارند. این ضعف ربطی به تخصص آن‌ها ندارد، بلکه ناشی از ویژگی‌های انسانی است. انسان‌ها در نگارش هشدارها معمولاً از اصطلاحات تخصصی و نامأنوس استفاده می‌کنند، با این فرض اشتباه که مردم از پیش همه‌چیز را می‌دانند اطلاعات حیاتی را جا می‌اندازند و جزییات غیرضروری را اضافه می‌کنند که تمرکز شهروندان را از نکات اصلی منحرف می‌سازد.

جنت ساتن، پژوهشگر حوزه بلایای طبیعی در دانشگاه آلبانی که داشبوردی جامع شامل الگوهای استاندارد برای هشدارهای بحران طراحی کرده است، می‌گوید: «بسیاری از سازمان‌ها از نظر منابع مالی و تعداد نیروی انسانی در مضیقه شدید قرار دارند. آنها اهمیت این موضوع را درک می‌کنند، اما معمولاً زمانی اطلاع‌رسانی را در اولویت قرار می‌دهند که کار از کار گذشته است. آنها صرفاً تلاش می‌کنند کارشان را پیش ببرند بدون اینکه خطایی فاجعه‌بار رخ دهد.»

مدیران بحران، مسئولان دولتی هستند که فرماندهی عملیات امداد، نجات و بازسازی را بر عهده دارند. در سطوح ایالتی و محلی، این نیروها و نهادهای منطقه‌ای هستند که خط مقدم دفاع در برابر حوادث شدید آب‌وهوایی را تشکیل می‌دهند، نه آژانس‌های فدرال. از این رو، مدیران بحران همواره تاکید می‌کنند که «اعتماد، باارزش‌ترین دارایی ماست»؛ اعتمادی که در تک‌تک پیام‌ها و هشدارهای عمومی شکل می‌گیرد یا به‌سادگی از بین می‌رود.

با افزایش بسامد و شدت بلایای اقلیمی، نمونه‌های متعددی از ضعف ارتباطات انسانی ثبت شده که روند امدادرسانی را مختل کرده است. به‌عنوان مثال، در سال ۲۰۱۶ دو منطقه همجوار در کالیفرنیا برای مهار یک آتش‌سوزی جنگلی مشترک، دو دستور متناقض صادر کردند؛ یکی دستور «تخلیه اختیاری» داد و دیگری «تخلیه اجباری». در سال ۲۰۱۹ در استرالیا نیز مقامات هنگام هشدار درباره آتش‌سوزی‌های جنگلی از عبارت مبهم «رصد و اقدام» استفاده کردند که دولت بعدها اعتراف کرد باعث «سردرگمی شدید» مردم شد، زیرا هیچ‌کس مفهوم دقیق آن را درک نمی‌کرد.

در برخی موارد، ضعف در انتقال پیام مرز میان مرگ و زندگی است. این اتفاق در مونتسیتو کالیفرنیا پس از آتش‌سوزی توماس در سال ۲۰۱۷ رخ داد. چند هفته پس از آتش‌سوزی، بارندگی شدید موجب رانش مرگبار زمین شد. مسئولان محلی نتوانستند ابعاد واقعی خطر را به ساکنانی که هنوز از حادثه قبلی دچار شوک روحی بودند و از پدیده «خستگی ناشی از هشدارهای پی‌درپی» رنج می‌بردند منتقل کنند. مدیریت منطقه پیامی برای افراد حاضر در محدوده «تخلیه اختیاری» آتش‌سوزی ارسال کرد و از آنها خواست «مراقب تغییر شرایط باشند و در صورت لزوم آماده ترک محل شوند». در حالی که بخش اعظم ساکنان باید فوراً منطقه را ترک می‌کردند، اما به دلیل لحن پیام تصور کردند خروج اختیاری است؛ عده‌ای دیگر نیز حاضر نبودند برای دومین بار در طول یک ماه خانه‌های خود را تخلیه کنند. در نتیجه این رانش گل‌ولای، ۲۳ نفر جان باختند و بیش از ۱۶۰ نفر مجروح شدند.

ساتن تاکید می‌کند دولت‌هایی که هشدارهای ضعیف و نامفهوم صادر می‌کنند، خیلی زود اعتماد عمومی را از دست می‌دهند: «آنها فرصت تبدیل شدن به صدایی معتمد و اطمینان‌بخش را که می‌تواند جان انسان‌ها را حفظ کند، تباه می‌سازند.»

از نظر تئوری، نگارش هشدارهای بحران یک کاربرد بی‌نقص برای هوش مصنوعی، به‌ویژه سیستم‌های هوش مصنوعی مولد است که در سال‌های اخیر با سرعتی خیره‌کننده تکامل یافته‌اند. آژانس مدیریت بحران فدرال آمریکا دوره‌های آموزشی متعددی برای تدوین هشدارهای استاندارد برگزار می‌کند، اما بسیاری از مدیران هنگام وقوع حادثه واقعی تمام آموزه‌های خود را فراموش می‌کنند. در مقابل، یک مدل زبانی بزرگ هرگز دچار دستپاچگی نمی‌شود. این مدل‌ها می‌توانند صدها هزار نمونه هشدار را در چند دقیقه بررسی کنند، تمام پژوهش‌های انجام‌شده درباره بهترین واکنش‌ها در سناریوهای مشابه را تحلیل نمایند و سپس در کسری از ثانیه متن نوشته‌شده توسط انسان را اصلاح و بهینه‌سازی کنند.

راب دیل، هواشناس سابق که مدیریت اداره بحران اینگهام در میشیگان را بر عهده دارد، می‌گوید: «اگر در تمام طول عمر کاری خود فقط یک بار ۱۵ سال پیش پیامی هشدارآمیز فرستاده باشید، و حالا ناگهان با نشت گازهای سمی شیمیایی، زنگ مداوم تلفن‌ها و صدای آژیر مواجه شوید، یادآوری تمام آموزش‌ها کار سختی خواهد بود؛ در چنین وضعیتی، هوش مصنوعی بدون تردید عملکردی بسیار بهتر از شما خواهد داشت.»

دیل تاکنون به‌صورت آزمایشی از هوش مصنوعی برای پیش‌نویس چند هشدار تمرینی استفاده کرده، هرچند هنوز مجبور به ارسال پیام واقعی نشده است. اینگهام منطقه‌ای آرام در مرکز میشیگان به شمار می‌رود و از طوفان‌های سهمگین یا آتش‌سوزی‌های مهیب در امان است. با این حال او تاکید می‌کند که اگر حادثه‌ای رخ دهد، از واگذاری تدوین پیش‌نویس پیام به چت‌بات هیچ ابایی ندارد، مشروط بر اینکه تأیید نهایی و کنترل ارسال در دست خودش باقی بماند.

برخی کارشناسان معتقدند این فناوری هم‌اکنون نیز برای استقرار و عملیاتی شدن آماده است. استارتاپ EM1 که نرم‌افزارهای هوش مصنوعی ویژه مدیران بحران تولید می‌کند، با بهره‌گیری از تحقیقات ساتن مدلی اختصاصی را آموزش داده است که به گفته مدیران شرکت، کیفیتی بالاتر از عملکرد تقریباً تمام مدیران بحران انسانی دارد. این استارتاپ مدل اختصاصی خود را در سناریوهای مختلف از جمله آتش‌سوزی و سونامی ارزیابی کرده و نشان داده است که این ابزار در اکثر آزمون‌های ارزیابی، هم‌تراز یا فراتر از توانایی‌های انسان عمل می‌کند.

ساتن برای نشان دادن شیوه کار این ابزار، نمونه‌ای عینی را مطرح کرد؛ در این آزمایش، متن هشداری واقعی که اخیراً توسط یکی از بخش‌های نیومکزیکو درباره طغیان و سیل رودخانه سن خوان صادر شده بود در اختیار مدل قرار گرفت.

متن پیام اولیه بسیار ناقص و شتاب‌زده بود: «شکسته شدن دیواره رودخانه. آب در حال بالا آمدن است. فوراً تخلیه کنید. پارک مک‌گی برای اسکان افراد، حیوانات خانگی و کاروان‌ها باز است.» ساتن از مدل اختصاصی استارتاپ EM1 خواست این پیام را ارزیابی و بازنویسی کند. این ابزار در عرض چند ثانیه متنی به مراتب استانداردتر تحویل داد که تمام معیارهای حیاتی اطلاع‌رسانی در بحران را پوشش می‌داد.

متن بازنویسی‌شده توسط هوش مصنوعی چنین بود: «بخش سن خوان: آب ناشی از سیل در نزدیکی [نام منطقه] در حال افزایش است. ساکنان محدوده [منطقه تخلیه]: فوراً به سمت مناطق مرتفع حرکت کنید. از تردد پیاده یا با خودرو در مسیر سیلاب خودداری فرمایید. پارک مک‌گی برای پذیرش شهروندان و حیوانات خانگی آماده است. برای دریافت آخرین اخبار به [منبع رسمی اطلاع‌رسانی] مراجعه کنید.» این مدل هوش مصنوعی نقایص جدی پیام اولیه را به درستی شناسایی و برطرف کرد؛ در متن اولیه مشخص نبود پیام از طرف چه نهادی صادر شده است، محل دقیق سیلاب نام برده نشده بود، گروه هدف برای تخلیه تعیین نشده بود و توصیه‌ای برای خروج ایمن وجود نداشت. افزون بر این، غلط املایی فاحشی در متن اصلی دیده می‌شد و هیچ منبعی برای کسب اطلاعات تکمیلی به مردم معرفی نشده بود.

استارتاپ EM1 تاکنون با حدود ۱۰۰ سازمان دولتی و منطقه آموزشی قرارداد امضا کرده است، اما هنوز هیچ‌یک از آن‌ها ارسال خودکار هشدارها هنگام حوادث شدید آب‌وهوایی را به این سیستم نسپرده‌اند. در حال حاضر، این نهادها صرفاً در کارگاه‌های آموزشی و مانورهای آمادگی داخلی از این نرم‌افزار استفاده می‌کنند. با این حال کارشناسان اطمینان دارند که بسیاری از مدیران بحران، حتی بدون اعلام رسمی، برای تنظیم پیام‌های خود از چت‌بات‌ها کمک می‌گیرند. به گفته ساتن، مدیرانی که در دوره‌های آموزشی او شرکت می‌کنند، بارها هشدارهایی باکیفیت ارائه داده‌اند که در عرض چند ثانیه با استفاده از ابزارهایی مانند ChatGPT یا Gemini آماده شده‌اند.

سارا میلر، استاد مدیریت بحران در کالج پیرس فلوریدا و مدرس مرکز ملی آموزش آمادگی در برابر بلایا، می‌گوید: «پذیرش رسمی هوش مصنوعی در سازمان‌ها هنوز پایین است، اما تردیدی نیست که کارکنان به‌صورت غیررسمی از آن استفاده می‌کنند. آنها با حساب‌های کاربری شخصی یا نسخه‌های رایگان به این ابزارها متصل می‌شوند.»

در نگاه اول، معادله ساده به نظر می‌رسد: اگر هوش مصنوعی سریع‌تر و دقیق‌تر از انسان عمل می‌کند و تفاوت یک هشدار مناسب با پیامی ضعیف ممکن است به قیمت جان انسان‌ها تمام شود، منطقاً باید در هر موج گرما، آتش‌سوزی و سیل از هوش مصنوعی بهره گرفت. با این حال، حتی کارشناسانی که به آینده چت‌بات‌ها بسیار خوش‌بین هستند، هشدار می‌دهند که این انتقال ناگهانی می‌تواند نتیجه معکوس داشته باشد. شهروندانی که نسبت به هوش مصنوعی بدبین هستند یا اساساً به نهادهای دولتی اعتماد چندانی ندارند، ممکن است در برابر هشدارهایی که نشانه‌های تولید با هوش مصنوعی دارند جبهه بگیرند. به‌عنوان مثال در سیراکیوس نیویورک، اتحادیه کارکنان بخش دولتی به دلیل استفاده شهرداری از سیستم هوش مصنوعی برای پاسخگویی به تماس‌های غیرفوری شماره ۹۱۱، علیه دولت محلی اقامه دعوی کرد.

جینی کاتز، بنیان‌گذار شرکت مشاوره‌ای HazAdapt که به مدیران بحران در استفاده درست از فناوری کمک می‌کند، معتقد است: «انسان‌ها به پیام‌هایی اعتماد می‌کنند که واقعی و دلسوزانه به نظر برسند؛ محتوای تولیدشده با هوش مصنوعی حس همدلی و اصالت واقعی را منتقل نمی‌کند.» علاوه بر این، سرعت بالای چت‌بات‌ها ممکن است مدیران بحران را به ارسال مکرر و انبوه پیام‌ها ترغیب کند که این امر خطر پدیده بی‌حسی به هشدارها را به‌شدت افزایش می‌دهد.

مشابه سایر حوزه‌های کاربرد هوش مصنوعی، کارشناسان مقابله با بلایا تاکید دارند که کارآمدی این نرم‌افزارها مستقیماً به مهارت فرد استفاده‌کننده وابسته است. یک مدیر بحران باتجربه می‌تواند با بهره‌گیری از چت‌بات‌ها روند نگارش پیام‌های هشدار را به‌سرعت پیش ببرد، اما یک نیروی کم‌تجربه که در اضطراب بحران دستپاچه شده است، توانایی اعتبارسنجی خروجی مدل‌هایی مانند ChatGPT یا Claude را ندارد و ممکن است هشدارهای گمراه‌کننده منتشر کند.

با اینکه فناوری کنونی تا استقلال کامل و بی‌نیازی از حضور کارشناس انسانی فاصله زیادی دارد، کمبود شدید نیرو در ادارات مدیریت بحران مانع از گسترش استفاده از آن نشده است. با این همه، کارشناسان بر این باورند که برای قضاوت درباره پیامدهای گسترش محتوای هوش مصنوعی بر اعتماد عمومی به نهادهای دولتی، هنوز خیلی زود است.

جاستین اسنیر، بنیان‌گذار استارتاپ Preppr که نرم‌افزارهای هوش مصنوعی به سازمان‌های مدیریت بحران ارائه می‌دهد، این پرسش بنیادین را مطرح می‌کند: «اگر هشداری از طرف یک انسان برایتان ارسال شود و هشداری مشابه از سوی یک رایانه، به نظر شما کدام‌یک دقت بالاتری دارد؟»

او در پاسخ می‌گوید: همه چیز به نوع نگاه و نگرش فردی که پیام را دریافت می‌کند بستگی دارد.