پیش‌بینی نابودی بشر تا ۱۰ سال آینده؛ چرا پژوهشگر ارشد ایمنی هوش مصنوعی پس‌انداز بازنشستگی را متوقف کرد؟

پس‌انداز برای دوران بازنشستگی، نوعی سرمایه‌گذاری روی آینده به شمار می‌رود؛ با این حال، نیت سوآرز (Nate Soares)، رئیس مؤسسه تحقیقات هوش ماشینی (MIRI)، چندان مطمئن نیست که هوش مصنوعی اجازه دهد بشر تا آن دوران دوام بیاورد.

سوآرز در مصاحبه‌ای با نیکلاس تامپسون، مدیرعامل نشریه آتلانتیک، اعلام کرد: «من در حال حاضر هیچ پولی برای بازنشستگی پس‌انداز نمی‌کنم. هرچند از دوران فعالیتم در گوگل هنوز یک حساب بازنشستگی 401(k) دارم، اما حدود یک دهه است که هیچ پولی به آن واریز نکرده‌ام.»

تصمیم سوآرز ریشه در نگاهی به‌شدت نگران‌کننده به رقابت افسارگسیخته در توسعه هوش مصنوعی دارد.

جفری هینتون، چهره نامدار دنیای فناوری که از او با عنوان «پدرخوانده هوش مصنوعی» یاد می‌شود، و اوان هوبینگر، پژوهشگر شرکت Anthropic، احتمال نابودی بشریت به دست هوش مصنوعی در یک دهه پیش‌رو را به ترتیب ۱۰ درصد و بالای ۱۰ درصد تخمین زده‌اند. با این حال سوآرز رویکردی بسیار بدبینانه‌تر دارد؛ او در این گفتگو اعلام کرد باور دارد احتمال انقراض نسل انسان به دست هوش مصنوعی ظرف کمتر از ۱۰ سال آینده، بالای ۵۰ درصد است.

سوآرز که یکی از نویسندگان کتاب «اگر کسی آن را بسازد، همه می‌میرند» نیز به شمار می‌رود، بیش از ۱۲ سال از عمر حرفه‌ای خود را صرف تحقیق در حوزه هم‌راستاسازی هوش مصنوعی (AI Alignment) کرده است؛ حوزه‌ای حیاتی که بر حصول اطمینان از عملکرد سیستم‌های قدرتمند در چارچوب اهداف و منافع انسانی تمرکز دارد. او پیش از پیوستن به MIRI، مؤسسه غیرانتفاعی مستقر در برکلی که خطرات بنیادین هوش مصنوعی را بررسی می‌کند، به‌عنوان مهندس در گوگل و مایکروسافت مشغول به کار بود.

سوآرز معتقد است یک هوش مصنوعی بسیار توانمند می‌تواند اهدافی مستقل و ناسازگار با بقای بشر در پیش بگیرد، از نظارت انسان‌ها بگریزد، خودش را به‌طور پیوسته ارتقا دهد و زیرساخت‌های خودکاری ایجاد کند که برای فعالیت به نیروی انسانی نیازی نداشته باشند.

او تأکید می‌کند که چنین سامانه‌ای می‌تواند کل کره زمین را بر اساس خواسته‌ها و اهداف خود بازطراحی کند؛ اقدامی که در عمل می‌تواند سیاره ما را برای ادامه زیست انسان غیرقابل سکونت سازد.

پس‌انداز بازنشستگی در روزگار آخرالزمان هوش مصنوعی؟

پرسش درباره چگونگی شکل‌گیری آینده به دست هوش مصنوعی، حتی ایلان ماسک را نیز به فکر واداشته که آیا پس‌انداز برای بازنشستگی اصلاً اهمیتی خواهد داشت یا خیر؛ گرچه چشم‌انداز ماسک از آینده، زمین تا آسمان با دیدگاه سوآرز تفاوت دارد.

مدیرعامل تسلا و SpaceX اعلام کرده بود مردم نباید نگران جمع‌آوری پول برای بازنشستگی در ۱۰ یا ۲۰ سال آینده باشند، چراکه به باور او، پیشرفت‌ها در زمینه هوش مصنوعی، رباتیک و انرژی مفهوم پس‌انداز بازنشستگی را کاملاً بی‌اثر و منسوخ خواهد کرد. البته بر خلاف این خوش‌بینی، بیشتر متخصصان مالی و اقتصاددانان تأکید می‌کنند که برنامه‌ریزی مالی و پس‌انداز برای آینده همچنان ضرورتی قطعی است.

ماسک عقیده دارد جهش خارق‌العاده در بهره‌وری می‌تواند «عصر فراوانی» را رقم بزند؛ جهانی که در آن همگان به درآمد بالای همگانی، کالاها و خدمات ارزان و دسترسی به سامانه‌های درمانی و آموزشی فوق‌پیشرفته دسترسی خواهند داشت.

به باور ماسک، در آینده‌ای که هوش مصنوعی و ربات‌ها بتوانند در هر کاری عملکردی برتر از انسان‌ها نشان دهند، پول نیز اهمیت سنتی خود را از دست خواهد داد.

اما از نگاه سوآرز، پدیدار شدن یک ابرهوش مصنوعی نه دروازه‌ای به سوی فراوانی، بلکه خطری موجودیتی و مرگبار برای بشریت است.

او همسو با هشدارهای جمعی از چهره‌های سرشناس دنیای فناوری برای کنترل سرعت پیشروی هوش مصنوعی، خواستار توقف آموزش مدل‌های عمومی و همه‌منظوره توسط دولت‌ها شد. به گفته او، پژوهش‌ها باید منحصراً روی توسعه کاربردهای مشخص، نظیر مبارزه با بیماری سرطان و ساخت خودروهای خودران ایمن‌تر، متمرکز شوند.

سوآرز در جمع‌بندی دیدگاه خود تأکید کرد: «راه‌حل واقعی این است سیستمی را نسازیم که در نهایت همه ما را نابود کند.»

او در پایان افزود: «من تمام توانم را به کار می‌گیرم تا جلوی این سرنوشت را بگیرم؛ زیرا باور ندارم که نابودی بشر امری محتوم و اجتناب‌ناپذیر باشد.»