هشدار تازه جفری هینتون؛ شاید بهتر بود هوش مصنوعی را هرگز توسعه نمی‌دادیم

نام جفری هینتون این روزها بیش از هر زمان دیگری در محافل رسانه‌ای و علمی شنیده می‌شود؛ دانشمندی که پژوهش‌های بنیادینش سنگ‌بنای فناوری هوش مصنوعی مدرن را شکل داد، اما اکنون به یکی از صریح‌ترین منتقدان مسیر کنونی آن تبدیل شده است.

او در جریان گفتگویی با فایننشال تایمز، به پیش‌بینی ذی‌نفعان مالی اصلی در روند توسعه مداوم هوش مصنوعی پرداخت و گفت: «این پدیده بیکاری گسترده و جهش سرسام‌آوری در سود شرکت‌ها ایجاد خواهد کرد. این فناوری شمار اندکی از افراد را بسیار ثروتمندتر و اکثریت جامعه را فقیرتر می‌کند؛ این مسئله تقصیر هوش مصنوعی نیست، بلکه ساختار نظام سرمایه‌داری است.»

هینتون هم‌چنین در پادکست The Diary Of A CEO دیدگاه‌های خود را درباره سوءاستفاده از هوش مصنوعی و خطرات پیرامون آن تشریح کرد. او خاطرنشان ساخت: «بخشی از خطرات از سوءاستفاده انسان‌ها ناشی می‌شود که عمده خطرات و تمام ریسک‌های کوتاه‌مدت را در بر می‌گیرد؛ اما بخش دیگر به این برمی‌گردد که هوش مصنوعی فوق‌العاده هوشمند شود و دریابد که دیگر نیازی به انسان ندارد.»

اکنون این دانشمند برجسته بار دیگر با هشداری صریح و تأمل‌برانگیز به تیتر اخبار بازگشته است. در ادامه به مهم‌ترین نکات مطرح‌شده در تازه‌ترین گفتگوی او می‌پردازیم.

ضرورت تشکیل یک نهاد نظارتی فدرال برای مهار مدل‌های هوش مصنوعی

هینتون در گفتگوی اخیر خود با روزنامه گاردین شفاف‌سازی کرد که خود را یک بدبین افراطی در حوزه هوش مصنوعی نمی‌داند و قلباً باور دارد این فناوری پتانسیل خلق دستاوردهای فوق‌العاده‌ای در آینده را دارد. با این حال، او این نگاه خوش‌بینانه را با هشداری تکان‌دهنده متعادل کرد و گفت: «شاید بهتر بود که ما هرگز دست به ساخت و توسعه آن نمی‌زدیم.»

هینتون در ادامه بحث درباره مدیران شرکت‌های پیشرو که مداوم نسخه‌های پیشرفته‌تری از مدل‌های اختصاصی خود را روانه بازار می‌کنند، پاسخی کاملاً بی‌پرده داد و گفت: «من فکر می‌کنم مارک زاکربرگ، ایلان ماسک و Sam Altman خطرات را به‌خوبی درک می‌کنند، اما کمترین اهمیتی به آن نمی‌دهند؛ باور من این است که آن‌ها فقط به دنبال کسب درآمد بیشتر هستند.» او در ادامه این مصاحبه، ایده تشکیل یک آژانس فدرال نظارتی را مطرح کرد که با دقت بر عملکرد هوش مصنوعی نظارت کند و مطمئن شود شرکت‌های توسعه‌دهنده، مدل‌ها را در ایمن‌ترین حالت ممکن منتشر می‌سازند.

او تأکید کرد: «ما به نهادی مشابه سازمان غذا و داروی آمریکا (FDA) در حوزه دارویی نیاز داریم؛ جایی که شرکت‌ها پیش از عرضه مدل‌های هوش مصنوعی، مجبور باشند شواهد و داده‌های آماری محکمی به یک مرجع مستقل ارائه دهند که ثابت کند سودمندی این مدل‌ها بیشتر از زیان آن‌ها است. ما با ماجرای داروی تالیدومید در دهه ۱۹۵۰ میلادی که موجب نقص‌های مادرزادی شدیدی در نوزادان شد، فهمیدیم که عرضه آزادانه یک محصول پرخطر به بازار و سپس دادگاهی کردن سازندگان آن، راهکار درستی نیست؛ اما آنچه غول‌های فناوری اکنون می‌گویند در واقع تکرار همان اشتباه تلخ تالیدومید است.»

یکی دیگر از اظهارات تکان‌دهنده هینتون در گفتگو با شبکه CNN مطرح شد. او هشدار داد در صورتی که این فناوری مهار نشود، خطر نابودی بشریت یک تهدید کاملاً واقعی خواهد بود: «اگر راهکاری برای ایمن‌سازی آن پیدا نکنیم، این احتمال واقعی وجود دارد که ما را به نابودی بکشاند. ما هرگز در طول تاریخ چیزی هوشمندتر از خودمان نساخته‌ایم و نمی‌دانیم مواجهه با چنین پدیده‌ای چگونه خواهد بود.» او در ادامه افزود ادامه توسعه این سامانه‌ها پیش از آنکه بیاموزیم چگونه در کنار آن‌ها زندگی کنیم، حماقتی محض است.

جمع‌بندی و نگاهی به آینده

دیدگاه‌های انتقادی هینتون با موج گسترده‌ای از نارضایتی شهروندان و رأی‌دهندگان آمریکایی نسبت به گسترش بی‌رویه این فناوری همخوانی دارد. بر اساس داده‌های پایگاه آماری Data Centers on the Ballot، در انتخابات اخیر ۳۷ مصوبه قانونی با هدف محدود کردن ساخت و توسعه مراکز داده هوش مصنوعی رأی مثبت آورده و تنها یک مصوبه موافق با گسترش این مراکز به تصویب رسیده است.

در حالی که تلاش‌های دولت ترامپ برای شتاب‌بخشی به توسعه هوش مصنوعی و نام‌گذاری آن تحت عنوان «ابرهوش» خبرساز شده، افکار عمومی در آمریکا مقاومت شدیدی در برابر این سیاست‌ها نشان داده‌اند؛ به‌طوری‌که طبق داده‌های منتشرشده در این وب‌سایت، در حال حاضر ۹۰٫۵ درصد از مردم با توسعه بی‌ضابطه مراکز داده مخالف هستند. با وجود تمام نگرانی‌های تلخی که هینتون در مصاحبه با گاردین ابراز کرد، او همچنان روزنه‌ای از امید را برای اراده بشر و مهار این فناوری باز می‌داند.

هینتون در پایان خاطرنشان کرد: «احساس درونی من می‌گوید که ما هنوز کنترل اوضاع را در دست داریم و به‌احتمال قوی قادر خواهیم بود کاری انجام دهیم. البته این امر تنها زمانی نتیجه‌بخش خواهد بود که تلاشی همه‌جانبه و عظیم به کار ببندیم، و احتمال زیادی وجود دارد که در نهایت این تلاش بزرگ را عملی کنیم.»