هشدار جفری هینتون درباره خطرات آینده هوش مصنوعی؛ شاید مهار این فناوری به یک فاجعه بزرگ نیاز داشته باشد

• یکی از پدرخوانده‌های هوش مصنوعی هشدار داده است که شاید برای قانون‌گذاری واقعی و مناسب این فناوری، به یک حادثه بزرگ و جدی نیاز باشد.
• او معتقد است شاید بشریت بدون هوش مصنوعی روزگار بهتری میداشت، اما هنوز برای مهار شرایط فرصت باقی است.
• هوش مصنوعی می‌تواند شکاف عظیمی میان ثروتمندان و فقرا ایجاد کند و خطر ازهمپاشیدگی بافت جامعه را به‌همراه داشته باشد.

جفری هینتون، دانشمند برنده جایزه نوبل علوم کامپیوتر که از او به‌عنوان یکی از پدرخوانده‌های هوش مصنوعی یاد می‌شود، بار دیگر نگرانی‌های جدی خود را درباره آینده این فناوری مطرح کرده است؛ به‌ویژه خطراتی مانند از کار افتادن سیستم‌های مالی جهانی یا قطعی گسترده و افت ولتاژ شبکه برق به‌واسطه حملات هوش مصنوعی.

هینتون همین سال گذشته با اشاره به‌سرعت سرسامآور پیشرفت این فناوری یادآور شده بود که «فکر نمیکردم ظرف تنها ۴۰ سال به این نقطه برسیم» و افزوده بود که «حتی ۱۰ سال پیش هم باور نمیکردم روزی شاهد چنین جایگاهی باشیم».

او هم‌چنین به‌تازگی درباره سوءاستفاده افراد شرور از هوش مصنوعی هشدار داد و گفت: «بسیار دشوار است که بتوان جلوی افراد بدطینت را برای استفاده مخرب از این ابزارها گرفت». با توجه به موج فزاینده حملات سایبری مبتنی بر هوش مصنوعی، بهنظر می‌رسد این نگرانی‌ها به‌سرعت در حال تبدیل شدن به واقعیت هستند.

شاید حق با پدرخوانده هوش مصنوعی باشد

هینتون در گفتگو با روزنامه گاردین تأکید کرد که فردی «نابودیباور» یا بدبین افراطی به هوش مصنوعی نیست و همچنان باور دارد میتوان از این فناوری برای ساختن آیندهای بهتر بهره برد؛ اما هم‌زمان نگران سناریویی است که در آن «نتوانیم خطرات را مدیریت کنیم و با شکاف عظیم طبقاتی میان ثروتمندان و فقرا، بحران‌های عمیق فرهنگی، بیکاری گسترده و عملاً ازهمپاشیدگی جامعه روبهرو شویم».

او علاوهبر این، از انحصارطلبی در کنترل این فناوری ابراز نگرانی کرد و گفت که شرکت‌های هوش مصنوعی برای پیشی گرفتن از یکدیگر وارد رقابتی شتابزده شده‌اند و خطرات احتمالی را نادیده می‌گیرند: «من معتقدم چهره‌هایی مثل زاکربرگ، ماسک و سم آلتمن خطرات را به‌خوبی درک می‌کنند، اما این موضوع چندان برایشان اهمیتی ندارد؛ آنها پول و سودآوری را ترجیح می‌دهند و این باور قلبی من است».

هینتون معتقد است سال آینده میلادی می‌تواند یک نقطه عطف سرنوشتساز باشد. او وقوع یک حادثه جدی مبتنی بر هوش مصنوعی (مانند حمله به زیرساخت‌های بانکی یا شبکه‌های تولید برق) را به ذوب جزئی راکتور نیروگاه هست‌های‌تری مایل آیلند در سال ۱۹۷۹ میلادی تشبیه می‌کند. متأسفانه او بر این باور است که شاید تنها یک بحران ملموس و ویرانگر بتواند به شرکت‌های هوش مصنوعی خطرات واقعی محصولاتی را که می‌سازند بیاموزد.

هینتون در ادامه افزود: «حس درونی من می‌گوید هنوز کنترل اوضاع در دست ما است و کاملاً توانایی انجام کارهای مؤثر را داریم؛ البته این امر تنها زمانی نتیجه می‌دهد که تلاشی همگانی و بزرگ به کار بگیریم، و واقعاً این شانس وجود دارد که چنین تلاشی را آغاز کنیم».

هنوز برای ایمن‌سازی هوش مصنوعی فرصت باقی است

هینتون در این دیدگاه که هوش مصنوعی رو به خطرناکتر شدن می‌رود تنها نیست. شمار زیادی از سیاستمداران، مدیران ارشد شرکت‌ها و دانشمندان هوش مصنوعی نیز پیش از این خواستار کندتر شدن سرعت توسعه این فناوری در سطح بینالمللی شده بودند تا فرصت کافی برای درک عمیق‌تر خطرات و مهار آنها فراهم شود.

موج اخیر حملات ناشی از ایجنت‌های خودسر و سرکش هوش مصنوعی، نمایی از توانایی‌های خطرناک مدل‌های پیشرو را به جهانیان نشان داد؛ حتی مدل‌هایی که پیشتر تصور میشد در محیط‌هایی کاملاً ایزوله و امن آزمایش شده‌اند.

با این حال، قانون‌گذاری و نظارت بر هوش مصنوعی نیازمند همکاری و تلاشی یکپارچه در سطح بینالمللی خواهد بود. در این میان، دونالد ترامپ، رئیسجمهور آمریکا، هوش مصنوعی را میدانی برای «برد یا باخت مطلق» توصیف کرده و ضمن تأکید بر لزوم خودنظارتی شرکت‌های این حوزه، خواستار شتاب گرفتن توسعه این فناوری شده است تا آمریکا بتواند برتری خود را در رقابت با چین حفظ کند.

برای منتقدانی که سال‌ها است درباره خطرات توسعه مهارنشده هوش مصنوعی هشدار می‌دهند، سخنان هینتون حسی دوگانه و تلخوشیرین دارد. این تهدیدها کاملاً پابرجا هستند و شاید تا پیش از وقوع یک فاجعه، تحول معناداری در سیاستگذاری‌ها رخ ندهد؛ گویی جهان تا رسیدن به نقطه قانون‌گذاری واقعی، تنها بهاندازه یک فاجعه فاصله دارد.