چگونه مانع افت مهارت‌های خود با هوش مصنوعی شویم؟ درسی از تجربه خلبانان

خلبانان خطوط هوایی چندین دهه است که به سیستم‌های هدایت خودکار (Autopilot) اتکا می‌کنند. این تجربه طولانی‌مدت اکنون می‌تواند درس‌های ارزشمندی برای نیروهای کاری به‌همراه داشته باشد که روزبه‌روز وابستگی بیشتری به ابزارهای هوش مصنوعی پیدا می‌کنند.

استیون شاو (Steven Shaw)، استادیار کالج کینگز لندن و یکی از نویسندگان پژوهشی پرارجاع پیرامون پدیده «تسلیم شناختی»، میان اتکای خلبانان به اتوماسیون پرواز و واگذاری تفکر و کارهای روزمره به هوش مصنوعی توسط کارمندان، شباهت‌های مستقیمی ترسیم کرده است.

شاو در جریان سخنرانی خود در نشست اخیر اجلاس OxGen گفت: «سیستم خلبان خودکار سال‌های بسیار متمادی در هواپیماها حضور داشته است؛ با این حال، خلبانان ابتدا پرواز به شیوه دستی را به‌شکل کامل می‌آموزند و سپس یاد می‌گیرند که چگونه از خلبان خودکار به شکلی استراتژیک و هدفمند بهره ببرند.»

دستورالعمل‌های هوانوردی فدرال نیز خلبانان را تشویق می‌کنند تا گاهی سیستم هدایت خودکار را خاموش کنند تا مهارت‌های پرواز دستی در آنها پویا و زنده بماند.

این رویکرد سابقه‌ای طولانی در صنعت هوانوردی دارد. اداره هوانوردی فدرال آمریکا (FAA) در یک هشدار ایمنی در سال ۲۰۱۳ گوشزد کرد که استفاده مداوم و بی‌وقفه از سیستم‌های پرواز خودکار می‌تواند به افت توانایی خلبان در مهار سریع هواپیما در شرایط بحرانی و نامطلوب منجر شود.

این سازمان در هشدار سال ۲۰۱۷ خود بار دیگر بر اهمیت پرواز دستی تأکید کرد و به خطوط هوایی پیشنهاد داد خلبانان را تشویق کنند تا در صورت مساعد بودن شرایط پرواز، به‌صورت دوره‌ای تمرینات خود را بدون سیستم خلبان خودکار انجام دهند.

شاو با اشاره به خطرات ناشی از برون‌سپاری مکرر وظایف فکری و شناختی به هوش مصنوعی هشدار داد: «حتی افراد متخصص و کارکشته نیز در معرض خطر افت و تضعیف مهارت‌های خود قرار دارند.»

هشدار این پژوهشگر در شرایطی مطرح می‌شود که گروهی از رهبران فناوری، پژوهشگران هوش مصنوعی و سیاست‌مداران نیز نسبت به تضعیف توانایی‌های بنیادین تفکر در نیروی کار به دلیل اتکای مفرط به هوش مصنوعی هشدار داده‌اند.

الکساندریا اوکاسیو کورتز (Alexandria Ocasio-Cortez)، نماینده کنگره آمریکا، در سخنرانی اخیر خود هشدار داد که هدف نهایی توسعه کنترل‌نشده هوش مصنوعی این است که قدرت تفکر مستقل را از افراد بگیرد تا آنها کاملاً به ماشین وابسته شوند.

مدیرعامل OpenAI، Sam Altman، در ماه ژوئیه اعلام کرده بود یکی از خطرات نادیده‌گرفته‌شده هوش مصنوعی «آتروفی و تحلیل توان شناختی» است؛ در همین حال، آرتور منش (Arthur Mensch)، مدیرعامل استارتاپ فرانسوی Mistral، سال گذشته تأکید کرد بزرگ‌ترین خطر این فناوری می‌تواند «افت مهارت نیروهای متخصص» باشد.

پیش از نوشتن پرامپت، فکر کنید

پژوهش‌های اولیه نشان می‌دهند که افراد با چه سرعتی فرایند تفکر خود را به هوش مصنوعی واگذار می‌کنند.

ویوین مینگ (Vivienne Ming)، پژوهشگر هوش مصنوعی و عصب‌پژوه، در ماه مارس با اشاره به نتایج یکی از آزمایش‌های خود با حضور ۷۲ شرکت‌کننده اعلام کرد حدود ۹۰ تا ۹۵ درصد افراد، یا برای تولید پاسخ کاملاً به هوش مصنوعی وابسته بودند یا از آن صرفاً برای تأیید فرضیات خود استفاده می‌کردند، به‌جای آنکه خروجی مدل را به چالش بکشند و تفکر خود را عمق ببخشند.

او در تحلیل این وضعیت خاطرنشان کرد: «روند غالب در میان کاربران، جایگزین کردن ماشین به‌جای اندیشیدن است.»

یافته‌های تحقیقاتی استیون شاو نیز بر همین خطر تأکید دارد؛ اینکه افراد پاسخ‌های دریافتی از هوش مصنوعی را بدون سنجش نقادانه و تفکر مستقل به‌سادگی می‌پذیرند.

در آزمایش‌هایی با حضور ۱٬۳۷۲ شرکت‌کننده مشخص شد که افراد در حدود ۸۰ درصد موارد توصیه‌های هوش مصنوعی را پذیرفتند؛ حتی زمانی که پاسخ‌های ارائه‌شده توسط مدل عمداً و به‌شکل گمراه‌کننده نادرست بودند.

شاو این پدیده را «تسلیم شناختی» می‌نامد.

توصیه او برای در امان ماندن از این تله ذهنی کاملاً شفاف است: پیش از آنکه از هوش مصنوعی درخواست کمک کنید، ابتدا قضاوت و تحلیل شخصی خود را شکل دهید.

او در جریان این گردهمایی گفت: «ابتدا خودتان فکر کنید و سپس به سراغ نوشتن پرامپت بروید.»

شاو هشدار می‌دهد که آغاز کار با هوش مصنوعی می‌تواند دامنه ایده‌ها و خلاقیت مستقلی را که ذهن انسان به آنها فکر می‌کند به‌شدت محدود کند.

سایر صاحب‌نظران نیز توصیه‌های مشابهی دارند. گیتا راجان (Geetha Rajan)، از مدیران ارشد سابق پذیرش فناوری در PwC، پیش‌تر توضیح داده بود که همواره پیش‌نویس اولیه کارهای خود را شخصاً می‌نویسد و سپس از هوش مصنوعی برای صحت‌سنجی اطلاعات و به چالش کشیدن استدلال‌هایش بهره می‌گیرد.

رایان دیس (Ryan Deiss)، مدیرعامل مجموعه DigitalMarketer نیز از قانونی تحت عنوان «۱۰-۸۰-۱۰» دفاع می‌کند؛ طبق این الگو، انسان ۱۰ درصد اولیه کار یعنی تدوین ایده و نقشه راه را به عهده می‌گیرد، هوش مصنوعی ۸۰ درصد میانی را تولید و اجرا می‌کند و در نهایت انسان برای ۱۰ درصد پایانی بازمی‌گردد تا با اعمال قضاوت و بازبینی نقادانه، نتیجه را صیقل دهد و نهایی کند.