گم شدن کوهنوردان با توصیه‌های چت‌بات‌ها؛ خطرات مرگبار اعتماد نابجا به هوش مصنوعی

زمانی که سه کوهنورد جوان از روی دیواره‌ای صخره‌ای در کوه شاستا واقع در شمال کالیفرنیا درخواست کمک کردند، زنجیره‌ای از تصمیم‌های اشتباه را پشت سر گذاشته بودند. آن‌ها غذای کافی همراه نداشتند و آمادگی بدنی خود را نیز بیش از حد تخمین زده بودند. این افراد به‌جای آنکه در ساعات پایانی بعدازظهر و پیش از رسیدن به قله بازگردند، ساعت ۱۹:۳۰ به قله رسیدند و ناچار شدند در تاریکی شب مسیر فرود را در پیش بگیرند. به اعتراف خودشان، بخشی از این عدم آمادگی و برنامه‌ریزی ضعیف به اعتماد آن‌ها به چت‌بات هوش مصنوعی گوگل یعنی Gemini مربوط می‌شد. صبح روز بعد، آن‌ها در منطقه‌ای صعب‌العبور و ناهموار از کوهستان گم شده بودند و زانوی یکی از کوهنوردان نیز به‌شدت آسیب دیده بود.

نیک مایرز، مدیر برنامه خدمات جنگلداری ایالات متحده در مرکز کوهنوردی و بهمن‌شناسی کوه شاستا که به این درخواست کمک پاسخ داده بود، در این باره می‌گوید: «ما با افراد زیادی روبه‌رو می‌شویم که بدون آمادگی به کوه می‌آیند یا هیچ تحقیقی انجام نمی‌دهند. البته باید به تلاش این افراد احترام گذاشت، چون دست‌کم سعی کرده بودند اطلاعاتی کسب کنند؛ اما تصور می‌کنم تفکر منطقی خود را کاملاً خاموش کرده بودند.»

این سه جوان ۲۰ ساله تنها کسانی نیستند که با تکیه بر هوش مصنوعی در مناطق طبیعی دچار اشتباه می‌شوند. به گفته مایرز، یکی دیگر از گردشگران کوه شاستا چادر خود را درست در کنار تابلوی «کمپینگ ممنوع» برپا کرده بود و اصرار داشت که حق دارد آنجا بماند، زیرا هوش مصنوعی به او گفته بود مجاز به این کار است. تیم نجات هم‌چنین با مردی در ابتدای یک مسیر کوهپیمایی مواجه شد که با نقشه‌ای تولیدشده توسط هوش مصنوعی سرگردان بود؛ نقشه‌ای که نشانه‌های برجسته جغرافیایی را در سمتی کاملاً اشتباه از کوه مجاور نشان می‌داد. در بریتیش کلمبیا نیز یک تیم بالگرد امداد، کوهنوردی ۱۶ ساله را از روی لبه‌ای خطرناک در مسیر کوه کراون نجات داد. این نوجوان برای برنامه‌ریزی سفر خود از چت‌بات Claude توسعه‌یافته توسط Anthropic استفاده کرده بود. بازتاب این خبر در رسانه‌های آمریکا و کانادا سر و صدای زیادی به پا کرد، هرچند این کوهنورد بعدها گفت که علاوه بر چت‌بات، از گوگل مپس و اپلیکیشن محبوب کوهنوردی AllTrails نیز کمک گرفته بود.

چیپ جنکینز، مدیر پارک ملی گرند تتون در وایومینگ، اشاره می‌کند که طی یک سال گذشته آمار بازدیدکنندگانی که گزارش داده‌اند برای دریافت اطلاعات سفر از هوش مصنوعی استفاده کرده‌اند، با رشدی چشمگیر مواجه شده است: «این رقم از صفر به ۲۶ درصد رسیده است و پیش‌بینی می‌کنم این روند صعودی متوقف نشود.»

مایرز توضیح می‌دهد که هنوز مشخص نیست آیا گسترش استفاده از هوش مصنوعی لزوماً به افزایش حوادث در مناطق دورافتاده و عملیات‌های جست‌وجو و نجات منجر می‌شود یا خیر. دفتر او که بر منطقه‌ای حفاظت‌شده و پهناور در شمال کالیفرنیا نظارت دارد، سالانه به‌طور میانگین حدود ۱۲ عملیات امداد انجام می‌دهد و به نظر می‌رسد سال ۲۰۲۶ نیز سالی معمولی باشد. در واقع، تماس‌ها با تیم‌های جست‌وجو و نجات در وایومینگ در مقایسه با سال ۲۰۲۵ کاهش یافته و تاکنون در سال ۲۰۲۶ تنها ۳۱۲ تماس ثبت شده است، در حالی که این رقم در کل سال ۲۰۲۵ به ۴۶۶ مورد و در سال ۲۰۲۴ به ۳۷۷ مورد می‌رسید.

برخی از نیروهای باتجربه امداد و نجات معتقدند چت‌بات‌های هوش مصنوعی تنها جدیدترین ابزاری هستند که راه‌های تازه‌ای برای به دردسر افتادن پیش پای مردم می‌گذارند. حدود یک دهه پیش، زمانی که کوهنوردان، کوله‌گردها و علاقه‌مندان به طبیعت‌گردی مقاصد، ایده‌ها و اطلاعات سفر خود را از اینستاگرام و سایر شبکه‌های اجتماعی دریافت می‌کردند نیز گاه با عواقب مرگباری روبه‌رو می‌شدند. پیش از آن نیز اتکای کورکورانه به گوگل مپس یا آنتن‌دهی تلفن‌های همراه باعث انحراف گردشگران از مسیر اصلی می‌شد.

جیم ماس، وکیل امور گردشگری و داوطلب امداد و نجات در کلرادو، می‌گوید: «طی دو دهه گذشته، تبلیغات رسانه‌ای گسترده‌ای برای تشویق مردم به حضور در طبیعت شکل گرفت و در نتیجه شاهد حضور جمعیت بیشتری در این محیط‌ها هستیم.» او در ادامه می‌افزاید هنوز کاملاً روشن نیست که توصیه‌های شبهه‌ناک یک ربات چه تأثیری بر رفتار این خیل عظیم جمعیت خواهد گذاشت.

مراجعه به چت‌بات‌های هوش مصنوعی برای مسیریابی و راهنمایی، خطرات منحصربه‌فردی به‌همراه دارد. به گفته کریس فلاتمن، استاد رایانش انسان‌محور در دانشگاه کلمسون در کارولینای جنوبی که درباره تعامل هوش مصنوعی و عملیات‌های امدادی پژوهش کرده است، چت‌بات‌ها می‌توانند دچار «توهم» شوند و اطلاعات غلط را بسیار قانع‌کننده و در قالب واقعیتی قطعی جلوه دهند؛ رویدادی که به پدیده‌ای به نام «تسلیم شناختی» دامن می‌زند.

فلاتمن توضیح می‌دهد: «وقتی انسان‌ها با سیستم‌های هوش مصنوعی تعامل می‌کنند، ممکن است آنچنان غرق پاسخ‌های آن شوند که تفکر نقادانه شخصی را به‌کلی کنار بگذارند.» هنگامی که هوش مصنوعی در موضوعی ناآشنا خود را یک کارشناس کارکشته جا می‌زند، «شما نمی‌توانید به‌راحتی ادعای واهی آن را تشخیص دهید، چراکه خودتان تخصص لازم را ندارید.» زمانی هم که تفکر نقادانه را متوقف کنید، به‌کارگیری دوباره آن بسیار دشوار خواهد بود؛ به‌ویژه در موقعیت‌های استرس‌زایی که در طبیعت وحشی رخ می‌دهد.

به گفته فلاتمن و سایر کارشناسان، چت‌بات‌ها تمایل دارند همان پاسخی را بدهند که کاربر مایل به شنیدن آن است و این کار را با لحنی کاملاً مقتدرانه انجام می‌دهند، بدون اینکه اعتبار منابعشان اهمیتی داشته باشد. مدل‌هایی مانند Claude یا ChatGPT ممکن است به یک پرسش با راهنمایی‌ها و دستورالعمل‌های مفصلی پاسخ دهند که بسیار موثق به نظر می‌رسند؛ اما در حقیقت از بحث‌های کاربران در ردیت و ویدیوهای قدیمی یوتیوب گردآوری شده‌اند یا حتی ممکن است کاملاً ساختگی باشند.

فلاتمن خاطرنشان می‌کند تیک‌تاک و اینستاگرام شاید تنها برای مخاطب الهام‌بخش باشند، اما هوش مصنوعی گرایش دارد علاوه بر تشویق و ترغیب، دستورالعمل‌های گام‌به‌گام (چه درست و چه نادرست) ارائه دهد: «هوش مصنوعی قصد ندارد با فریبکاری افراد را راهی کوهستان کند، اما این اتفاق پیامد طبیعی تکامل و رواج ابزاری از این دست به‌شمار می‌رود.»

صرف‌نظر از اینکه کوهنوردان از چه منابعی استفاده می‌کنند، توصیه متخصصان همواره یکسان است: هنگام سفر به منطقه‌ای ناشناخته، حتماً اطلاعات خود را با منابع معتبر و رسمی مانند نقشه‌ها و وب‌سایت‌های به‌روزشده سازمان‌های جنگلداری و منابع طبیعی، انجمن‌های کوهنوردی یا کتاب‌های راهنما بسنجید. حتی از این هم بهتر، به‌صورت حضوری با یک راهنمای واقعی، محیط‌بان یا مأمور جنگلبانی گفت‌وگو کنید.

مایرز در پایان یادآور می‌شود: «اگر قصد ورود به مناطقی را دارید که یک خطا در آن‌ها می‌تواند به قیمت جانتان تمام شود، باید برنامه‌ریزی سفر را واقعاً جدی بگیرید.»