قضاوت انسانی قدرتمندترین فناوری در عصر هوش مصنوعی است؛ چرا نباید تصمیم‌گیری مرگ و زندگی را به ماشین‌ها سپرد؟

در اوکراین، یک پهپاد روسی هدایت‌شده با هوش مصنوعی جان سه غیرنظامی از جمله یک دانشجوی ۱۹ ساله را در یک پمپ‌بنزین گرفت. در غزه نیز یک ابزار اطلاعاتی مبتنی بر هوش مصنوعی به نیروهای اسرائیلی کمک کرد تا یکی از فرماندهان حماس را مکان‌یابی کنند؛ حمله هوایی پس از آن به کشته شدن این فرمانده و طبق برآوردهای مستقل، دست‌کم ۱۲۵ انسان دیگر انجامید.

دو جنگ متفاوت و شرایطی گوناگون، اما در دل هر دو یک پرسش عمیقاً نگران‌کننده نهفته است: در شرایطی که ماشین‌ها روزبه‌روز بیشتر در تصمیم‌گیری‌های مرگ و زندگی دخالت داده می‌شوند، آیا در حال نادیده گرفتن انسان‌هایی هستیم که جانشان در آستانه نابودی قرار دارد؟

همین پرسش حیاتی بود که هالا توماسدوتیر (Halla Tómasdóttir)، رئیس‌جمهور ایسلند را بر آن داشت تا در این ماه، توجهات را به خانه‌ای کوچک و سفیدرنگ در ریکیاویک، پایتخت ایسلند، جلب کند.

چهل سال پیش، رونالد ریگان و میخائیل گورباچف در خانه هوفدی (Höfði House) دیدار کردند؛ رهبرانی که نمایندگی دو ابرقدرت هسته‌ای رقیب را بر عهده داشتند؛ کشورهایی که دهه‌ها بی‌اعتمادی میانشان فاصله انداخته بود. آنها در نهایت بدون هیچ توافقی آنجا را ترک کردند، اما تمایلشان به گفت‌وگو، شنیدن و تصور آنچه تا پیش از آن غیرممکن به نظر می‌رسید، بستر را برای کاهش تاریخی سلاح‌های هسته‌ای هموار کرد.

رئیس‌جمهور ایسلند آن روزها را به وضوح به یاد می‌آورد؛ زمانی که به عنوان یک دانشجوی بورسیه جوان در ایالات متحده زندگی می‌کرد و دیدار دو رهبر بزرگ جهان را در زادگاه کوچک خود به تماشا نشسته بود. او می‌گوید هرگز تصور نمی‌کرد چهل سال بعد، در مقام رئیس‌جمهور ایسلند، بار دیگر به همان خانه بازگردد تا از نسل جدید رهبران جهان بخواهد شجاعت گفت‌وگو را در خود پیدا کنند.

درس ماندگار اجلاس ریکیاویک صرفاً به سلاح‌های هسته‌ای یا دیپلماسی سنتی محدود نمی‌شود؛ این رویداد گواهی بر قدرت فوق‌العاده ارتباط انسانی و گفت‌وگو بود؛ درسی که امروز بیش از هر زمان دیگری نیازمند بازخوانی آن هستیم.

بشریت تاکنون هرگز چنین ابزارهای پیشرفته‌ای برای برقراری ارتباط در اختیار نداشته است، با این حال توانایی ما برای درک متقابل بیش از پیش شکننده به نظر می‌رسد. در کسری از میلی‌ثانیه میان قاره‌ها پیوند برقرار می‌کنیم، اما اغلب ترس، خشم و بی‌اعتمادی عمیقی میان ما فاصله می‌اندازد.

فناوری‌های نوین ما قادرند پزشکی، آموزش و رفاه انسانی را متحول کنند؛ اما هم‌زمان می‌توانند به درگیری‌ها دامن بزنند، دموکراسی را تضعیف نمایند و کنترل انسان بر سرنوشت خود را با مخاطره جدی روبه‌رو سازند.

پرسش‌های حیاتی در عصر هوش مصنوعی

به لطف فناوری‌های نوظهوری مانند هوش مصنوعی، قدرت بشر رشدی تصاعدی داشته است؛ اما آیا خرد و آگاهی ما نیز همپای این قدرت رشد کرده است؟

طی هفته‌های اخیر، کشور ایسلند تلاش کرده است این پرسش را نه در قالب یک نشست تشریفاتی دیگر، بلکه در سفری از یادآوری گذشته به سوی گفت‌وگو، و از گفت‌وگو به سوی مسئولیت‌پذیری جمعی واکاوی کند.

این مسیر با برگزاری یک نمایشگاه سیار از موزه یادبود صلح هیروشیما و شنیدن اظهارات یکی از بازماندگان بمباران اتمی آغاز شد. با گذشت بیش از ۸۰ سال، او هنوز پدیدار شدن ناگهانی آنچه را «هزار خورشید تابان» توصیف می‌کند، به وضوح در یاد دارد؛ انفجاری که ویرانی غیرقابل‌تصور، دهه‌ها بیماری جانکاه و داغ ننگ اجتماعی بازماندگان را به همراه داشت. هیچ بحثی پیرامون بازدارندگی هسته‌ای نباید جان انسان‌های نهفته در پشت این واژه‌ها را نادیده بگیرد.

سپس با حضور کارشناسان برجسته فناوری از جمله تریستان هریس (Tristan Harris) و آزا راسکین (Aza Raskin)، فرصت‌ها و خطرات هوش مصنوعی بررسی شد. مسئله محوری این نشست صرفاً توانمندی‌های هوش مصنوعی نبود، بلکه این بود که ما باید اجازه انجام چه کارهایی را به این فناوری بدهیم و چه کسانی صلاحیت این تصمیم‌گیری را دارند.

با این همه، شاید حیاتی‌ترین و اثرگذارترین گفت‌وگوها فرسنگ‌ها دورتر از سالن‌های رسمی همایش شکل گرفت.

در سراسر ایسلند، جوانان از دیگر شهروندان دعوت کردند تا گوشی‌های هوشمند خود را کنار بگذارند و برای بحث درباره آینده‌ای که خواهان ساختنش هستند، دور یک میز بنشینند. دانش‌آموزان، والدین، پدربزرگ‌ها و مادربزرگ‌ها، معلمان و همسایگان درباره آموزش، حس تعلق، فناوری، طبیعت و صلح با یکدیگر به گفت‌وگو پرداختند.

نسل جوان انتظار نداشت بزرگسالان با پاسخی آماده برای تمام مسائل حاضر شوند؛ آنها فقط می‌خواستند صدایشان شنیده شود، جدی گرفته شوند و در تصمیماتی که تا مدت‌ها پس از کنار رفتن رهبران فعلی بر زندگی‌شان سایه خواهد افکند، سهمی داشته باشند.

جوانان به حقیقتی پی برده بودند که اغلب ما آن را به دست فراموشی می‌سپاریم: تصمیماتی که فرسنگ‌ها دورتر از جامعه هدف و افراد متأثر از آن گرفته می‌شوند، به‌ندرت عاقلانه از آب درمی‌آیند.

مشاهده این بلوغ فکری و احساس مسئولیت در میان نسل جوان، تجربه‌ای سرشار از تواضع و در عین حال لبریز از امید برای آینده به شمار می‌رود.

چراکه گفت‌وگو چیزی فراتر از تبادل دیدگاه‌ها است؛ گفت‌وگو در والاترین شکل خود، نوعی به‌رسمیت شناختن طرف مقابل به شمار می‌آید: «من تو را می‌بینم؛ تجربه تو ارزشمند است؛ آینده تو اهمیت دارد؛ و حتی زمانی که با هم اختلاف‌نظر داریم، در ساختن آینده‌ای که پیش رو است مسئولیتی مشترک داریم».

الزامات و بهای گفت‌وگو

هدف گفت‌وگو لزوماً دستیابی به اجماع نظر نیست، بلکه هدف اصلی ایجاد ارتباط است؛ و ارتباط نقطه‌ای است که اعتماد از آنجا جوانه می‌زند. بدون اعتماد، حتی نبوغ‌آمیزترین راه‌حل‌ها نیز در مرحله اجرا ابتر می‌مانند و ریشه نمی‌دوانند.

این روحیه بار دیگر به خانه هوفدی راه یافت؛ جایی که رهبرانی از دنیای سیاست، فناوری، علم، تجارت و جامعه مدنی گرد هم آمدند تا مشخص کنند رهبری مسئولانه در دنیای امروز چه الزاماتی دارد.

حاصل این گردهمایی، صدور بیانیه «فراخوان ریکیاویک» (A Call from Reykjavík) بود؛ بیانیه‌ای که به امضای سه زن در کسوت ریاست‌جمهوری رسید و درهای آن به روی سایر رهبرانی که خواهان پیوستن به این ابتکار عمل هستند باز است. این بیانیه خواستار اعمال «کنترل معنادار انسانی» بر فناوری‌های پیشرفته است، بر حفظ قاطعانه تصمیمات مربوط به جنگ و سلاح‌های هسته‌ای در دست انسان‌ها تأکید دارد، و صلح و پاسخگویی در قبال نسل‌های آینده را در کانون وظایف رهبری قرار می‌دهد.

روز بعد، در نشستی عمومی به مدیریت کریستین امان‌پور (Christiane Amanpour)، روزنامه‌نگار نام‌آشنا، ناتاشا پیرتس موسار (Nataša Pirc Musar) رئیس‌جمهور اسلوونی، مری رابینسون (Mary Robinson) رئیس‌جمهور پیشین ایرلند و هالا توماسدوتیر رئیس‌جمهور ایسلند، به بررسی انتخاب‌ها و چالش‌های سرنوشت‌ساز پیش روی بشریت نشستند.

چهل سال پس از آنکه دو مرد قدرتمند در ریکیاویک با یکدیگر دیدار کردند، سه زن—در واقع سه رهبر جهان—گرد هم آمدند تا آن گفت‌وگوی ناتمام را پی بگیرند. انگیزه این دیدار نه ادعای داشتن تمام پاسخ‌ها بود، چراکه هیچ‌کس به تنهایی همه پاسخ‌ها را در دست ندارد، بلکه از این رو بود که پیشرفت جمعی مستلزم شنیده شدن صداها و دیدگاه‌های متنوع‌تر و اراده‌ای راسخ برای شنیدن ورای اختلافات است؛ و همچنین از این رو که آینده هرگز نباید صرفاً به دست‌اندرکاران فعلی قدرت منحصر بماند.

گفت‌وگو هرگز جایگزینی تساهل‌آمیز یا آسان برای شیوه رهبری مقتدرانه نیست، بلکه بی‌تردید یکی از سخت‌ترین، سنگین‌ترین و مسئولیت‌پذیرترین الگوهای رهبری به شمار می‌رود.

گوش سپردن به دیدگاه فردی که عمیقاً با او مخالفیم شجاعتی راستین می‌طلبد؛ همان‌طور که اعتراف به نادانسته‌ها مستلزم تواضع است. همچنین مقاومت در برابر تقلیل دادن چالش‌های پیچیده انسانی به شعارها، دشمن‌تراشی‌ها یا پاسخ‌های سطحی و عوام‌فریبانه، به صلابت اخلاقی و استقامت روحی نیاز دارد.

گفت‌وگو هرگز به معنای دست کشیدن از ارزش‌ها، توجیه تجاوزگری یا سر فرود آوردن در برابر بی‌عدالتی نیست؛ همان‌گونه که هرگز جایگزین اقدام و عمل واقعی نخواهد بود. گفت‌وگو خشت اول در ساخت بنای اعتماد و درک متقابلی است که زمینه‌ساز اقدامات سازنده و ماندگار می‌شود.

جنگ‌افزارهای هدایت‌شده با هوش مصنوعی

جنگ‌ها در اوکراین و غزه، بهای انسانی هولناک جنگ‌افروزی را بار دیگر به جهان یادآور می‌شوند. ورود هوش مصنوعی به جنگ‌ها، بعد نگران‌کننده دیگری به این فاجعه افزوده است: خطر انداختن فاصله‌ای عمیق‌تر و بی‌سابقه‌تر میان کسانی که تصمیمات مرگبار را اتخاذ می‌کنند و انسان‌هایی که با عواقب ویرانگر آن زندگی می‌کنند.

ما هرگز نباید قضاوت، پاسخگویی و وجدان انسانی را تسلیم الگوریتم‌ها و ماشین‌ها کنیم.

اما فناوری به‌تنهایی نه ریشه تمام معضلات است و نه می‌تواند راه‌حل نهایی باشد. ما پیش از هر چیز به زیرساخت‌های انسانی مستحکمتری نیاز داریم: شبکه‌ای از روابط پایدار، نهادهای کارآمد، ارزش‌های مشترک و عادات همکاری مشترک که امکان واکنش دسته‌جمعی به خطرات را برایمان فراهم کنند.

ما باید نسل آینده را نه‌تنها به مهارت‌های فنی، بلکه به ظرفیت‌های عمیق انسانی مجهز سازیم تا آینده را شکل دهند: گوش دادن، تفکر نقادانه، همدلی، شجاعت اخلاقی و توانایی همکاری مشترک. در عصر ماشین‌های هوشمند، شاید همین ویژگی‌های انسانی اساسی‌ترین مهارت‌های بقای ما باشند.

ایسلند سرزمینی کم‌جمعیت و کشوری کوچک است و نمی‌تواند سمت‌وسوی امور بین‌المللی را تعیین کند. با این حال، شاید همین مقیاس کوچک یادآور حقیقتی باشد که قدرت‌های بزرگ گاه آن را از یاد می‌برند: هیچ ملتی نمی‌تواند آینده‌ای سرشار از صلح را به‌تنهایی بسازد.

چهل سال پیش، ریکیاویک ثابت کرد که حتی عمیق‌ترین شکاف‌ها و اختلافات نیز لزوماً سرنوشت ما را رقم نمی‌زنند. امروز، جهان بیش از گذشته به خلق «لحظه تاریخی دیگری در مقیاس ریکیاویک» نیاز دارد؛ لحظه‌ای که نباید به یک خانه تاریخی، یک نشست دیپلماتیک یا شمار اندکی از رهبران جهان محدود بماند.

ما به این روحیه در پارلمان‌ها، اتاق‌های مدیریت، کلاس‌های درس و بطن جوامع، در میان نسل‌ها و در بین ملت‌های درگیر مخاصمه نیاز داریم؛ در هر جایی که ترس جای کنجکاوی را گرفته است، هر نقطه‌ای که انسان‌ها از گوش دادن بازمانده‌اند، و هر کجایی که سرعت رشد قدرت از خرد و دانایی پیشی گرفته است.

جهان امروز از کمبود هوش، داده یا بلندپروازی رنج نمی‌برد؛ آنچه به شکلی ملموس از آن محروم مانده‌ایم، شجاعت برقراری ارتباط واقعی و پیوند انسانی است.

مسلماً گفت‌وگو به‌تنهایی نجات‌بخش بشر نخواهد بود؛ اما بی‌تردید بدون گفت‌وگو نیز راهی برای نجات خود پیش رو نخواهیم داشت.

آینده را صرفاً قدرت فناوری‌ها یا پیشرفته بودن سلاح‌هایمان رقم نخواهد زد، بلکه کیفیت گفت‌وگوهای ما و شجاعت اخلاقی در انتخاب‌هایی که پس از آن در پیش می‌گیریم، معمار فردای بشریت خواهد بود.

خوشبختانه هنوز برای تغییر مسیر فرصت باقی است؛ و هنوز ما انسان‌ها یکدیگر را داریم.