ابر هوش مصنوعی چیست و چقدر تا ظهور آن فاصله داریم؟ بررسی کارشناسانه آینده ASI

فهرست مطالب

1. ابر هوش مصنوعی (ASI) چیست؟
2. چقدر تا دستیابی به ابر هوش مصنوعی فاصله داریم؟
3. هوش مصنوعی چگونه از AGI به ابرهوش می‌رسد؟
4. ابرهوش مصنوعی چه درهایی را به روی ما باز می‌کند؟
5. خطرات پیشی گرفتن هوش مصنوعی از انسان چیست؟
6. آیا توسعه ایمن ابر هوش مصنوعی ممکن است؟
7. پرسش‌های متداول (FAQ)

واژه «ابرهوش» یا «ابر هوش مصنوعی» این روزها سردرگمی، تردید و نگرانی‌های زیادی به وجود آورده است. اخیراً از این عبارت حتی به‌عنوان یک برندسازی تازه برای هوش مصنوعی استفاده می‌شود؛ تا جایی که کاخ سفید به تمام وزارتخانه‌ها و سازمان‌های فدرال دستور داده است در مکاتبات و اسناد رسمی خود به‌جای هوش مصنوعی (AI)، از واژه «ابر هوش مصنوعی» (Super Intelligence) استفاده کنند. با این حال، این اصطلاح مدت‌هاست برای توصیف سطحی بسیار بالاتر از هوش مصنوعی به کار می‌رود؛ مرحله‌ای فراتر از توانمندی‌های انسان که هنوز محقق نشده است. برای بسیاری از تحلیلگران این حوزه، ابر هوش مصنوعی فناوری نوظهوری است که در آینده جهان و کسب‌وکارها را به شکلی غیرقابل پیش‌بینی متحول خواهد کرد؛ تحولی که هم حامل وعده‌هایی شگفت‌انگیز است و هم خطراتی بزرگ به‌همراه دارد.

ابر هوش مصنوعی (ASI) چیست؟

هنوز هیچ تعریف مورد توافقی درباره اینکه ابر هوش مصنوعی دقیقاً چیست، چه چهره‌ای خواهد داشت یا چه زمانی از راه می‌رسد وجود ندارد. این مفهوم قرار است مرحله بعدی تکامل هوش مصنوعی را نشان دهد؛ مفهومی که در کنار اصطلاحات پرکاربرد دیگری مانند «هوش جامع مصنوعی» (AGI)، «ابرهوش مصنوعی» یا «فوق‌هوش» (Hyperintelligence) مطرح می‌شود یا حتی با آن‌ها رقابت می‌کند.

در حال حاضر AGI محتمل‌ترین گام بعدی پس از هوش مصنوعی امروز دانسته می‌شود؛ یعنی ماشین‌هایی که می‌توانند در تمامی حوزه‌ها از هر جنبه‌ای از دانش انسانی پشتیبانی کنند. اما ابر هوش مصنوعی (ASI) گام بعدی است و می‌توان آن را نسخه‌ای خارق‌العاده از AGI دانست؛ سامانه‌ای که توانایی‌های انسان را به‌مراتب فراتر از مدل‌های فعلی یا برنامه‌ریزی‌شده ارتقا می‌دهد و با یادگیری پیوسته و بدون کوچک‌ترین نیاز به دخالت انسان، مدام خودش را بهبود می‌بخشد.

در تحلیلی از اندیشکده بروکینگز آمده است: «مدل‌های هوش مصنوعی به‌محض اینکه دستور بهبود خود را دریافت کنند، از توان یادگیری برترشان برای پیشرفت با سرعتی بسیار بالاتر از انسان‌ها بهره خواهند برد. در نتیجه، از طریق فرآیند خوداصلاحی بازگشتی، خیلی زود ظرفیت‌های انسانی را پشت سر می‌گذارند.»

چقدر تا دستیابی به ابر هوش مصنوعی فاصله داریم؟

ابر هوش مصنوعی پروژه‌ای در حال توسعه است و احتمالاً چندین سال تا ورود آن به جریان اصلی دنیای پردازش فاصله داریم. طبق گزارش گلدمن ساکس، توسعه چنین سامانه‌ای «دست‌کم به دو جهش بزرگ نسبت به پیشرفته‌ترین دستاوردهای کنونی نیاز دارد». از دیدگاه این گزارش، فناوری هوش مصنوعی در حال حاضر بیش از آنکه به سمت ابرهوش واقعی حرکت کند، مسیری به‌سوی «اتوماسیون فوق‌پیشرفته» (Super-automation) را طی می‌کند.

تا این لحظه هیچ مسیر شفاف و مدونی برای دستیابی به ابر هوش مصنوعی از سوی شرکت‌های پیشرو ارائه نشده است؛ هرچند استفاده از اصطلاح ابرهوش به‌جای هوش مصنوعی توسط نهادهای دولتی ایالات متحده ممکن است کاربرد این واژه را در رسانه‌ها و میان مردم گسترش دهد.

با این وجود، بسیاری از صاحب‌نظران هم‌عقیده‌اند که یک پیشرفت فناورانه که بتوان آن را ابر هوش مصنوعی واقعی نامید، هنوز رخ نداده است. آکانکشا شاران، مهندس ارشد نرم‌افزار در متا، در این رابطه می‌گوید: «هوش مصنوعی در تشخیص الگوها فوق‌العاده عمل می‌کند و ما شاهد پیشرفت خیره‌کننده‌ای در ریاضیات، برنامه‌نویسی و میزان کانتکستی هستیم که یک سیستم می‌تواند هم‌زمان پردازش کند؛ اما من آنچه امروز در اختیار داریم را ابرهوش نمی‌نامم.»

پیشرفت به‌سوی هر سامانه‌ای شبیه به ابرهوش، به‌جای پیروی از نقشه‌راهی شفاف و خطی، احتمالاً روندی نامتوازن خواهد داشت. جنیفر لی، مدیرعامل شرکت اینترادیِم، در این باره معتقد است: «من بعید می‌دانم پیشرفت ما در مسیری گام‌به‌گام و منظم رخ دهد که ابتدا از هوش مصنوعی کنونی به AGI برسیم و بعد مستقیم وارد ابرهوش شویم؛ دنیای فناوری به‌ندرت تا این حد منظم و تمیز تکامل پیدا می‌کند.»

هوش مصنوعی چگونه از AGI به ابرهوش می‌رسد؟

کارشناسان این حوزه مزایای گوناگونی را با ظهور این فناوری پیش‌بینی می‌کنند. هم‌زمان با حرکت هوش مصنوعی به‌سوی ابرهوش، این مسیر پر از اکتشافات پیاپی، روش‌های جدید کاری، شیوه‌های نوین دسترسی به دانش و تحلیل آن، و رشد شبکه‌های هوشمندی از سیستم‌ها و ایجنت‌های هوش مصنوعی خواهد بود.

جایگزینی نیروی کار و تحول اشتغال

یکی از اهداف اصلی اتوماسیون در طول دهه‌های گذشته و به‌ویژه هوش مصنوعی در عصر حاضر، کاهش کارهای روزمره و تکراری با هدف افزایش بهره‌وری انسان‌ها بوده است. ابر هوش مصنوعی قادر خواهد بود وظایف بی‌شماری را بر عهده بگیرد که فراتر از توان سامانه‌های هوش مصنوعی امروزی هستند.

ظهور ابرهوش مصنوعی باعث صرفه‌جویی چشمگیری در نیروی کار می‌شود و اثرات اقتصادی گسترده‌ای بر جای خواهد گذاشت؛ به‌طوری‌که هم صنایع تولیدی و هم خانوارها از آن بهره‌مند می‌شوند. راویندرا بهارگاوا، مهندس ارشد در شرکت UPS، پیش‌بینی می‌کند: «هزینه‌های تولید با حضور ربات‌های انسان‌نما که به‌صورت ۲۴ ساعته و هفت روز هفته در کارخانه‌ها کار می‌کنند، کاهش خواهد یافت و خروجی تولید با قیمتی بسیار کمتر افزایش می‌یابد.»

گسترش مرزهای تخیل انسان

نوآوری همواره در چارچوب ابزارها و منابع موجود محدود بوده است. با ورود گسترده هوش مصنوعی، مسیرهای تازه‌ای پیش روی تخیل و خلاقیت انسان گشوده شد و اکنون ابر هوش مصنوعی نوید می‌دهد که این مرزها را بیش از پیش جابه‌جا کند.

ابرهوش مصنوعی حل مسئله را به سطوحی کاملاً جدید خواهد رساند و دامنه تفکر انسان را وسعت می‌بخشد. جنیفر لی تأکید می‌کند این فناوری در «حل مسائلی که به‌تنهایی برای انسان بیش از حد پیچیده‌اند، نقش مهمی بازی خواهد کرد؛ مسائلی مانند تحلیل حجم عظیمی از داده‌ها، کشف الگوها و ارتباطاتی که شاید هرگز نبینیم، و آزمودن راهکارهای احتمالی با سرعت و مقیاسی که دستیابی به آن برای انسان غیرممکن است.»

پیوند و همکاری متقابل ایجنت‌ها

بر اساس گزارشی در نشریه MIT Technology Review، ابر هوش مصنوعی بستری برای پیوند دادن ایجنت‌های هوش مصنوعی فراهم خواهد ساخت تا اهداف خود را هماهنگ کنند، داده‌های گمشده را بازیابی نمایند و در گذر زمان دیدگاه‌های عمیق‌تری بسازند.

با آغاز تعامل میان ایجنت‌های فوق‌هوشمند، مرزها و جزیره‌های مجزای اطلاعاتی که مانع چرخش دانش می‌شدند از میان خواهند رفت. اودو اسگلاوو، معاون بخش هوش مصنوعی کاربردی در شرکت SAS، در این باره پیش‌بینی می‌کند: «مهم‌ترین اثر بلندمدت هوش مصنوعی احتمالاً کمک به حفظ دانش، به‌کارگیری تخصص‌ها و درس گرفتن از نتایج به دست آمده خواهد بود.»

ابرهوش مصنوعی چه درهایی را به روی ما باز می‌کند؟

ابر هوش مصنوعی می‌تواند افق‌های بی‌شماری از دانش را پیش چشم ما بگشاید. در حال حاضر نیز هوش مصنوعی چشم‌اندازها و مسیرهای جدیدی را در تحقیقات علمی، پزشکی، برنامه‌ریزی شهری، مدیریت حمل‌ونقل و زمینه‌های بی‌شمار دیگر باز کرده است؛ اما ابرهوش این قابلیت‌ها را به سطحی به‌مراتب بالاتر خواهد رساند.

به‌عنوان نمونه، پژوهش‌های تغییرات اقلیمی از جمله حوزه‌هایی است که با شتاب گرفتن هوش ماشین جهش بزرگی تجربه خواهد کرد. در حالی که مطالعات و پیش‌بینی‌های فعلی همواره با محدودیت‌های ناشی از هزینه‌ها و توان پردازشی روبه‌رو بوده‌اند، توانایی‌های فزاینده هوش مصنوعی درک عمیق‌تری از نیروهای شکل‌دهنده به اکوسیستم زمین ارائه می‌دهد. آیلا سیمپسون، دانشمند ارشد مرکز ملی تحقیقات جوی، در همایش دانشگاه استنفورد در این رابطه اظهار داشت: «امروز فرصت‌های فراوانی برای مقایسه مدل‌ها با مشاهدات واقعی داریم؛ چراکه سابقه رصدی طولانی‌تری در اختیار ماست و نشانه‌های تغییرات اقلیمی روزبه‌روز پررنگ‌تر می‌شوند.»

شاران در ادامه اشاره می‌کند که ارائه روش‌های نوین برای سنجش و بهبود مدل‌های اقلیمی، «دقیقاً از جنس مسائلی است که با حجم عظیمی از داده‌ها، سیستم‌های متعدد به‌هم‌پیوسته، بازه‌های زمانی بسیار طولانی و پیامدهای بالقوه مرگبار برای بشریت سر و کار دارد. اگر سامانه‌ای واقعاً به مرحله ابرهوش برسد و به یادگیری مداوم ادامه دهد، دستاوردهایش فراتر از تمام مسائلی خواهد بود که امروز به آن‌ها فکر می‌کنیم.»

برخی از چشم‌اندازها و امکاناتی که ابر هوش مصنوعی نوید می‌دهد عبارت‌اند از:

• پیش‌بینی دقیق‌تر روندهای اقتصادی
• پایش مداوم و بهینه‌سازی لحظه‌ای زنجیره‌های تأمین
• پیش‌بینی دقیق‌تر وضعیت آب‌وهوا در بازه‌های زمانی بلندمدت
• مصرف انرژی کارآمدتر و قابل پیش‌بینی‌تر
• دستیابی به بینش‌های عمیق‌تر در پروژه‌های پیچیده‌ای چون نقشه‌برداری ژنوم انسان
• حل معادلات و مسائل دشوار ریاضی در سطوح بالا
• مدل‌سازی و حتی پیش‌بینی زلزله و دیگر بلایای طبیعی
• کشف سریع‌تر و هدفمندتر داروها و روش‌های درمانی جدید
• ایجاد سامانه‌های حمل‌ونقل ایمن‌تر و قابل اتکاتر

خطرات پیشی گرفتن هوش مصنوعی از انسان چیست؟

اندیشمندان برجسته‌ای چون هنری کیسینجر و نیک بوستروم درباره پیامدهای فراتر رفتن هوش ماشین از هوش انسان، که در برخی حوزه‌های محدود همین حالا نیز رخ داده، هشدار داده‌اند.

این پدیده گاهی به‌عنوان نیرویی بالقوه خطرناک تلقی می‌شود؛ کیسینجر در کتاب خود با عنوان پیدایش: هوش مصنوعی، امید و روح انسان (Genesis) درباره پتانسیل مخرب آن بر جامعه هشدار داد و بوستروم نیز در اثر سال ۲۰۱۴ خود، کتاب ابرهوش: مسیرها، خطرات، راهبردها (Superintelligence)، روایتی هشداردهنده از پیامدهای آسیب‌رسان سبقت گرفتن هوش ماشین از انسان ترسیم کرد.

بر اساس گزارش اندیشکده بروکینگز، متفکران برجسته دیگری نیز درباره قدرت بالقوه سیستم‌های ابرهوشمند هشدار داده‌اند؛ گزارشی که یادآور می‌شود اثر کوتاه‌مدت هوش مصنوعی به این بستگی دارد که چه کسی آن را کنترل می‌کند، در حالی که سرنوشت بلندمدت آن به این وابسته است که آیا اصولاً قابل کنترل خواهد بود یا خیر.

فرسایش و زوال تخصص‌های انسانی

اتکای فزاینده به هوش مصنوعی که با ورود ابرهوش دوچندان خواهد شد، ممکن است تخصص‌های انسانی را به حاشیه براند و به پدیده مهارت‌زدایی منجر شود. دکتر آنجلی جوگشوار، مهندس ارشد بینایی ماشین در Circle Optics، می‌گوید: «هرچه هوش مصنوعی، AGI و ابرهوش باهوش‌تر شوند، انسان‌ها کم‌هوش‌تر می‌شوند.»

شاید بزرگ‌ترین خطر ابرهوش این باشد که انسان‌ها دیگر نتایج و تصمیمات خروجی سیستم را زیر سؤال نبرند. جنیفر لی در این زمینه هشدار می‌دهد: «هرچه یک سامانه توانمندتر شود، پذیرفتن بی‌چون‌وچرای درستی پاسخ‌هایش آسان‌تر خواهد بود. حال تصور کنید زمانی که سیستم خود را به‌مراتب قدرتمندتر از هر انسانی نشان می‌دهد، این مسئله چقدر دشوارتر می‌شود. ما باید با دقت و وسواس تعیین کنیم کدام تصمیمات را می‌توان به ماشین سپرد و کدام مسئولیت‌ها باید در دستان انسان باقی بماند.»

در این نقطه، اصول اعتبارسنجی خروجی‌های هوش مصنوعی همچنان به قوت خود باقی خواهند بود: باید به پاسخ‌های ماشین توجه موشکافانه داشت و برای بررسی نتایج وقت گذاشت. از نشانه‌های بارز خطای سیستم می‌توان به ارجاعات نامشخص و مبهم، تاریخ‌های منقضی‌شده و ارائه پاسخ‌های متفاوت در صورت تکرار سؤال اشاره کرد.

بی‌میلی به زیر سؤال بردن تصمیمات ماشین

ظهور ابر هوش مصنوعی و وابستگی فزاینده به آن ممکن است به واگذاری بیش از حد اختیارات تصمیم‌گیری به ماشین‌ها ختم شود؛ تا جایی که تصمیمات انسانی را لغو کنند و افراد دیگر تمایلی به نقد سیستم نداشته باشند. جوئل نیب، مدیر ارشد تحول در شرکت 8x8، می‌گوید: «ما پیش از آنکه خودمان مشخص کنیم چه مسائلی واقعاً اهمیت دارند، این پرسش بنیادین را به ماشین‌ها واگذار خواهیم کرد.»

اگرچه ابرهوش مصنوعی سرعت تصمیم‌گیری را به‌شدت افزایش خواهد داد، اما این احتمال وجود دارد که از اهداف اولیه انسان منحرف شود. چالش اصلی اینجاست که ما انسان‌ها در حال حاضر حتی نمی‌توانیم نقش‌ها و وظایفی را که ابرهوش بر عهده خواهد گرفت تصور کنیم. تحلیل گلدمن ساکس اشاره می‌کند: «انسان‌ها تنها می‌توانند نسخه‌ای بزرگ‌تر یا سریع‌تر از خودشان را تصور کنند که مسائل را با سرعت یا کیفیت بالاتری حل می‌کند؛ چیزی که باید آن را اتوماسیون فوق‌پیشرفته نامید نه ابرهوش.»

از دست رفتن مهار سیستم‌ها

با ارتقای چشمگیر قدرت و سرعت تصمیم‌گیری، این خطر وجود دارد که ابر هوش مصنوعی اختیارات بالاتری را در سازمان‌ها به دست بگیرد و حتی تصمیمات مدیران انسانی را وتو کند. همین حالا نمونه‌هایی از مدیریت نیروی انسانی توسط هوش مصنوعی مانند رانندگان تاکسی‌های اینترنتی وجود دارد؛ اما ابرهوش می‌تواند این دامنه را به اعماق تمامی محیط‌های کاری گسترش دهد.

حفظ انسان نه‌تنها در چرخه فرآیندها، بلکه در جایگاه هدایت و تصمیم‌گیری نهایی، به سازوکارهای نظارتی و حاکمیتی سنجیده‌ای نیاز دارد. اسگلاوو در این خصوص توضیح می‌دهد: «هوش مصنوعی که یک تراکنش مشکوک را علامت‌گذاری می‌کند، با سامانه‌ای که خود مستقیماً اجازه مسدود کردن آن را دارد کاملاً متفاوت است. سرعت ارائه اطلاعات از سوی ابرهوش ممکن است از توانایی ما در راستی‌آزمایی و نظارت بر نتایج فراتر رود. در چنین فضایی، بخشی از اصطکاک و کندی فرآیندها که معمولاً سعی داریم از تصمیم‌گیری‌ها حذف کنیم، شاید به‌جای یک نقص، حکم یک کمربند ایمنی نجات‌بخش را پیدا کند.»

آماده نبودن زیرساخت‌های بشری

سیستم‌ها و فرآیندهای فعلی ما ممکن است آمادگی پذیرش این جریان پرشتاب دانش را که ابرهوش مصنوعی تولید خواهد کرد نداشته باشند.

در حالی که مدل‌ها، ایجنت‌ها و توان استدلال هوش مصنوعی روزبه‌روز بهتر می‌شوند و ما را به ابرهوش نزدیک‌تر می‌کنند، دنیز مویکو، هم‌بنیان‌گذار و مدیرعامل شرکت Ravel، خاطرنشان می‌کند: «زیرساخت‌های پیرامونی این فناوری با سرعتی کاملاً متفاوت حرکت می‌کنند. شبکه‌های برق، مراکز داده، چارچوب‌های امنیتی، مدل‌های حکمرانی، شیوه‌های مدیریت نیروی کار و حتی نهادهای مدنی ما برای جهانی طراحی نشده‌اند که هوش و اتوماسیون با چنین سرعتی در آن مقیاس‌پذیر شوند. در حال حاضر ما تنها یک مؤلفه یعنی خود هوش را با سرعتی باورنکردنی ارتقا می‌دهیم، در حالی که سایر زیرساخت‌ها در هماهنگ شدن با آن با چالشی جدی روبه‌رو هستند.»

سرعت سرسام‌آور در انجام اقدامات اشتباه

درست مانند سیستم‌های امروز، میزان اتکاپذیری ابرهوش نیز به داده‌های آموزشی و همچنین نظارت مستقیم انسان بر نوع وظایف محوله وابسته است. بدون این مؤلفه‌ها، سامانه‌های ابرهوشمند تنها خروجی‌ها و اقدامات اشتباه را با سرعتی برق‌آسا رقم خواهند زد.

پیش از این دیده‌ایم که چگونه اختلال در الگوریتم‌های معاملاتی بازارهای مالی می‌توان ظرف چند دقیقه بازارهای بورس را به سقوط بکشاند. تصمیمات و اقدامات فوق‌سریع ابر هوش مصنوعی نیز می‌تواند اثرات ویرانگر مشابهی بر شبکه‌ها و زیرساخت‌های شرکتی بگذارد. شاران هشدار می‌دهد: «در سیستم‌های بزرگ، حتی یک اشتباه به‌ظاهر کوچک می‌تواند اثرات دومینووار داشته باشد. ما نباید امنیت را فدای سرعت کنیم؛ بلکه به گاردریل‌های محکم، قابلیت نظارت‌پذیری دقیق و راهکارهایی برای متوقف کردن یا معکوس ساختن اقدامات پیش از تبدیل شدن به بحرانی غیرقابل کنترل نیاز داریم.»

آیا توسعه ایمن ابر هوش مصنوعی ممکن است؟

توسعه ایمن ابر هوش مصنوعی نیازمند حضور انسان در چرخه نظارت و تصمیم‌گیری است. توسعه‌دهندگان باید اقدامات لازم برای تضمین ایمنی هوش مصنوعی را به‌دقت فرا بگیرند و کاربران نیز باید قدرت این ابزارها را به‌شکلی ایمن و کنترل‌شده به خدمت بگیرند.

چالشی دشوارتر، آموزش و آماده‌سازی نیروی انسانی برای همزیستی و کار با سیستم‌های ابرهوشمند است. درست همان‌طور که مدل‌های هوش مصنوعی با یادگیری مداوم تکامل می‌یابند، انسان‌ها نیز به یادگیری مستمر نیاز خواهند داشت. مویکو در این زمینه می‌گوید: «ما به نظام‌های آموزشی و شغلی جدیدی نیاز داریم که به انسان‌ها در همکاری شانه به شانه با هوش مصنوعی کمک کند؛ در کنار چارچوب‌های حاکمیتی و نظارتی که بدون سرکوب نوآوری، اعتماد عمومی را تقویت نمایند.»

ابرهوش مصنوعی در اشکال گوناگون خود ممکن است روزی محقق شود، اما پیش از آن باید چالش‌های بنیادی هوش مصنوعی امروزی از ایمنی داده‌ها تا روش‌های آموزش حل و فصل شوند. اجتناب‌ناپذیر است که ماشین‌ها وظایف بیشتری را به دوش بکشند و با خودآموزی ارتقا پیدا کنند؛ اما تنها در سایه حاکمیت مسئولانه و تعیین گاردریل‌های ایمن است که این فناوری پتانسیل‌های بی‌نظیر خود را بدون به خطر انداختن بشریت به نمایش خواهد گذاشت.

پرسش‌های متداول (FAQ)

بر اساس شواهد و تحلیل‌های کنونی، ابر هوش مصنوعی هنوز وجود ندارد و ممکن است تا دستیابی به آن سال‌ها فاصله داشته باشیم. هرچند هوش مصنوعی امروزی در انجام وظایفی خاص از انسان بهتر عمل می‌کند، اما به گفته جنیفر لی: «این موضوع با هوشی که در تمامی ابعاد از توانایی انسان فراتر برود کاملاً متفاوت است. سامانه‌های امروزی می‌توانند نتایجی خیره‌کننده خلق کنند و در عین حال خطاهای بسیار مضحک و پیش‌پاافتاده‌ای مرتکب شوند. اشتباه بزرگ مدیران این است که منتظر رسیدن AGI یا ابرهوش بمانند تا هوش مصنوعی را دگرگون‌کننده تلقی کنند؛ در حالی که برای بازتعریف محیط کار نیازی به هیچ‌کدام نداریم. همین قابلیت‌های فعلی و مدل‌هایی که به‌زودی می‌آیند برای وادار کردن شرکت‌ها به بازنگری در ساختار مشاغل، مهارت‌ها و مدیریت کافی است؛ تحولی که باید از همین امروز آغاز شود.»

متخصصان بر سر این نکته هم‌عقیده‌اند که ما هنوز حتی برای چالش‌های هوش مصنوعی امروز آماده نیستیم، چه رسد به ابر هوش مصنوعی.

روش‌های کاری، نحوه تعامل و سازوکارهای پاسخگویی در قبال اقدامات ماشین‌ها همچنان در حال شکل‌گیری است. آدام سلیگمن، مدیر ارشد فناوری در Workato، معتقد است: «صنعت فناوری سرمایه‌گذاری هنگفتی روی بخش تفکر و استدلال هوش مصنوعی انجام داده، اما در بخش عملیاتی که کارها باید در نرم‌افزارها و سیستم‌ها پیاده‌سازی شوند، بسیار کمتر سرمایه‌گذاری کرده است.»

هوش مصنوعی در حال حاضر در گرفتن برخی تصمیم‌ها یا ارائه خروجی‌های سریع بسیار توانمندتر از انسان ظاهر شده و ابرهوش این سرعت را دوچندان خواهد کرد؛ با این حال، حتی پیشرفته‌ترین سامانه‌های هوش مصنوعی نیز نمی‌توانند جایگزین حس کنجکاوی انسان شوند.

کن آرچر، فیلسوف و مدیر بخش هوش مصنوعی مسئولانه در مایکروسافت، در همایش اخیر دانشگاه هاروارد خاطرنشان کرد: «از روزهای نخست پیدایش هوش مصنوعی همواره این رویا وجود داشت که تمام دانش را به شکلی چنان شفاف و تفکیک‌شده سامان دهیم که بتوان آن را مکانیکی کرد. اما این دیدگاه ذات اندیشیدن را نادیده می‌گیرد؛ انسان بودن با محدودیت‌های ذاتی ما تعریف می‌شود و همین محدودیت‌ها اساس عقلانیت و تفکر ما را می‌سازند، چراکه ما می‌دانیم همواره حقایق بیشتری برای کشف کردن وجود دارد.»

لی می‌افزاید: «هوش با قضاوت اخلاقی یکی نیست، همان‌طور که توانایی فنی با مسئولیت‌پذیری برابر نخواهد بود. هوشِ فراتر به‌هیچ‌وجه از اهمیت ارزش‌های انسانی یا بار مسئولیت ما کم نمی‌کند؛ بنابراین هدف اصلی باید این باشد که مطمئن شویم این فناوری قدرتمند همواره در خدمت انسان‌ها و اهداف بشریت باقی می‌ماند.»

یک انفجار اطلاعاتی و جهش در هوش مصنوعی در جریان است و ابر هوش مصنوعی این رشد را به شکلی تصاعدی گسترش خواهد داد. در مقاله‌ای پژوهشی از دانشگاه کمبریج که به قلم ۲۲ دانشمند برجسته از جمله جفری هینتون و آنتون کورینک منتشر شده، هشدار داده شده است که چنین انفجاری می‌تواند به پیامدهایی پیش‌بینی‌نشده ختم شود.

نویسندگان این مقاله علمی تأکید می‌کنند: «دستاوردهایی که روزگاری سال‌ها زمان می‌برد، اکنون ظرف چند ماه یا حتی کمتر به دست می‌آید. به‌عنوان نمونه، سامانه‌های هوش مصنوعی در مسیری قرار دارند که ظرف چند سال آینده بیشتر بخش‌های تحقیق و توسعه خود را خودکار کنند. این جهش بزرگ اگرچه دستاوردهای هوش مصنوعی را بسیار زودتر به ثمر می‌رساند، اما خطراتی سهمگین نیز دارد: شتاب توانمندی‌ها ممکن است بسیار فراتر از ظرفیت انطباق جامعه حرکت کند، بشریت مهار سیستم‌های فوق‌انسانی را از دست بدهد و توازن قدرت میان دولت‌ها، شرکت‌ها و نهادهای قانونی به‌شدت تضعیف شود.»