هشدار سم آلتمن درباره آینده هوش مصنوعی؛ اگر کنترل را از دست بدهیم، دیگر راه بازگشتی نداریم

سم آلتمن بخش بزرگی از زمان خود را صرف توضیح این موضوع می‌کند که هوش مصنوعی چگونه می‌تواند جهان را به‌جای بهتری تبدیل کند و در عین حال، به منتقدان بدبین پاسخ می‌دهد. با این حال، مدیرعامل OpenAI ایده‌های نسبتاً نگران‌کننده‌ای درباره چگونگی تبدیل شدن روند توسعه هوش مصنوعی به یک فاجعه، یا حتی فجایع متعدد دارد. او در یکی از قسمت‌های پادکست Figuring Out With Raj Shamani، چند مورد از این کابوس‌ها را با جزئیاتی تکان‌دهنده تشریح کرد.

این دو سناریوی تاریک از دو مشکل تقریباً متضاد نشأت می‌گیرند: یا بشریت کنترل ماشین‌هایی را که روزبه‌روز قدرتمندتر می‌شوند از دست می‌دهد، و یا یک گروه خاص کنترل بخش اعظم این فناوری را در قبضه خود می‌گیرد.

آلتمن در این باره گفت: «یک سناریو این است که کنترل را به هوش مصنوعی ببازیم و خواسته یا ناخواسته، اختیار آینده را به سیستم‌هایی واگذار کنیم که به‌طور باورنکردنی از ما توانمندتر هستند و دیگر نتوانیم آن را پس بگیریم. سناریوی دیگر این است که یک فرد، شرکت یا کشور خاص در مقایسه با سایرین، بیش‌ازحد قدرتمند شود.»

سناریوی اول کمتر شبیه کلیشه تکراری شورش ربات‌هاست و بیشتر به تسلیم شدن نرم و تدریجی انتخاب‌های انسانی در برابر هوش مصنوعی شباهت دارد؛ روندی که تا جایی پیش می‌رود که بازپس‌گیری هرگونه اراده و اختیار از نرم‌افزارهای هوش مصنوعی ناممکن می‌شود. سناریوی دیگر یک داستان علمی‌تخیلی مدرن‌تر، هرچند همچنان کلیشه‌ای است: فناوری فوق‌العاده قدرتمندی که تحت کنترل یک فرد یا شرکت قرار می‌گیرد و سرنوشت بقیه مردم را به دست آن‌ها می‌سپارد. هر دو موضوع بارها توسط فعالان این صنعت و سیاست‌گذاران مطرح شده‌اند، اما شنیدن این هشدار از زبان آلتمن اهمیت ویژه‌ای دارد.

آلتمن به‌واسطه OpenAI و ChatGPT، برای کسانی که حتی کمترین اطلاعات را درباره این فناوری و نقص‌هایش دارند، شناخته‌شده‌ترین چهره دنیای هوش مصنوعی محسوب می‌شود. او معتقد است که این قابلیت‌ها می‌توانند مزایای فوق‌العاده‌ای به‌همراه داشته باشند، اما اظهاراتش نشان می‌دهد که نسبت به آشفتگی‌های احتمالی ناشی از هوش مصنوعی نیز بی‌تفاوت و ساده‌انگار نیست.

واگذاری تصمیم‌گیری‌ها به ماشین

تسلط هوش مصنوعی پیشرفته به‌دلیل واگذاری کنترل از سوی انسان‌ها، تنها در سال‌های اخیر و با عبور این فناوری از مرحله پاسخ‌گویی ساده به سؤالات و ورود به قلمرو تصمیم‌گیری، به یک دغدغه واقعی تبدیل شده است. ایجنت‌های هوش مصنوعی همین حالا نیز می‌توانند با وب‌سایت‌ها تعامل داشته باشند و وظایف پیچیده را به سرانجام برسانند، و توسعه‌دهندگان در تلاش‌اند سیستم‌هایی بسازند که به نظارت انسانی کمتر و کمتری نیاز داشته باشند. هرچه مسئولیت‌های بیشتری به این سیستم‌ها سپرده شود، در صورت انحراف اهداف آن‌ها از نیت واقعی انسان‌ها، پیامدهای سنگین‌تری رخ خواهد داد.

مهم است به یاد داشته باشیم آنچه امروز هوش مصنوعی می‌نامیم، به اشکال گوناگون بر پیش‌بینی احتمالات متکی است. این فناوری با وجود قدرت بسیار بالا و بهره‌گیری از حجم عظیمی از داده‌ها، در واقعیت نمی‌تواند مانند یک انسان قضاوت کند و برای آسیب رساندن، نیازی نیست که حتماً نیت بدی داشته باشد. به همین دلیل است که مدل‌های هوش مصنوعی در شبیه‌سازی‌های مربوط به اداره یک کشور، گرایش دارند استفاده از سلاح‌های هسته‌ای را به‌عنوان یک استراتژی فاجعه‌بار انتخاب کنند.

انسان‌ها ممکن است نحوه دنبال کردن یک هدف توسط هوش مصنوعی را درک نکنند یا نپذیرند، حتی اگر خودشان آن مأموریت را به ماشین داده باشند. اگر مدل هوش مصنوعی قدرت کافی داشته باشد و در سیستم‌های حیاتی متعددی ادغام شده باشد، مردم شاید دیگر نتوانند مسیر آن را تغییر دهند یا متوقفش کنند. در نهایت، یک سیستم هوش مصنوعی که مأموریت یافته ترافیک جاده‌ها را کاهش دهد، ممکن است از نظر منطقی به این نتیجه برسد که راه‌حل، حذف خود جاده‌ها یا ارسال دستور توقف به تمام خودروهای متصل به وای‌فای است. رخ دادن این سناریوی خاص بسیار بعید به نظر می‌رسد، اما همین حقیقت که چنین اتفاقی عملاً غیرممکن نیست، به اندازه کافی دلهره‌آور است.

همه ما با مشکل انسانی‌ترِ انحصارهای صنعتی و فناورانه که آلتمن در هشدار آخرالزمانی دیگر خود به هوش مصنوعی تعمیم داد، آشنا هستیم. افراد بسیاری پیش از این درباره تمرکز بیش‌ازحد قدرت در دست عده‌ای معدود و نبود قوانین نظارتی کافی، زنگ خطر را به صدا درآورده‌اند. این واقعیت که خود آلتمن نیز یکی از همین صاحبان قدرت است، مانع از آن نمی‌شود که او به این وضعیت انتقاد نکند.

آلتمن گفت: «فکر می‌کنم برای جهان بسیار بهتر است که تلاش‌های متعددی در زمینه هوش مصنوعی با رویکردهای کمی متفاوت وجود داشته باشد که با یکدیگر رقابت کنند و روش‌های گوناگونی را ارائه دهند. من هم از تمرکز بیش‌ازحد قدرت بیزارم. فکر می‌کنم این روش جواب نمی‌دهد و امیدوارم به آن سمت نرویم.»

البته این ابراز انزجار آلتمن تا حدی با جاه‌طلبی‌ها و اقدامات شرکت او در تضاد است. ادعای اینکه OpenAI همین حالا هم در چندین بخش، از جمله زیرساخت‌های هوش مصنوعی، دست بالا را دارد، خود نمونه‌ای از همان سلطه‌ای است که او می‌گوید نگرانش است.

آلتمن در ادامه افزود: «معتقدم ما بیشترین کاربر و بهترین زنجیره فناوری را، از تراشه‌ها و مراکز داده گرفته تا مدل‌ها و سایر ابزارهایی که هوش فراوان را در اختیار مردم می‌گذارند، در اختیار داریم. فکر می‌کنم ما بهترین برند و ارزش‌هایی را داریم که کاربران این فناوری به دنبالش هستند.» با این حال، او مدعی شد: «ما می‌خواهیم بقیه هم موفق شوند و فکر می‌کنم مردم می‌توانند این حس را از طرف ما دریافت کنند.»

پیشگویی‌های تلخ اما خوش‌بینانه

با وجود تمام این هشدارها، آلتمن در مجموع نسبت به مسیری که هوش مصنوعی پیش روی بشریت قرار می‌دهد، خوش‌بین است. او در پاسخ به پرسشی درباره بزرگ شدن فرزندانش در دنیایی که به‌شدت تحت تأثیر این فناوری شکل می‌گیرد، ابراز اطمینان کرد که انسان‌ها راه‌هایی برای سازگاری پیدا خواهند کرد. دیدگاه او نشان می‌دهد که وی خطرات هوش مصنوعی را چالش‌هایی جدی می‌داند که باید مدیریت شوند، نه دلایلی برای توقف کامل توسعه آن.

آلتمن گفت: «نمی‌دانم آینده چه شکلی خواهد بود، اما خیالم راحت است چون اعتماد عظیمی به توانایی مردم برای یافتن راه سازگاری، شکوفایی و بهتر کردن جامعه برای همه ما دارم. فکر می‌کنم جهان به احتمال زیاد بسیار بهتر از این خواهد شد.»

این خوش‌بینی به برنامه‌های آینده OpenAI برای به‌کارگیری هوش مصنوعی در اکتشافات علمی نیز سرایت کرده است. او به دستاوردهای اخیر در حوزه ریاضیات اشاره کرد و آن را گواهی بر این دانست که این فناوری احتمالاً به نقطه‌ای نزدیک می‌شود که می‌تواند نقشی معنادار در پژوهش‌های بنیادین ایفا کند.

آلتمن در پایان گفت: «به‌شدت هیجان‌زده‌ام تا ببینم چقدر می‌توانیم هوش مصنوعی را برای کشف علوم جدید به جلو برانیم.» او ماشینی را متصور می‌شود که «می‌تواند به ما کمک کند جهان را بهتر درک کنیم، عمیق‌ترین مفاهیم فیزیک را کشف کنیم، درمان‌های پزشکی جدیدی بیابیم و به منابع نوین انرژی دست پیدا کنیم؛ چیزهایی که فکر می‌کنم حتی تصورشان را هم نمی‌توانیم بکنیم، اما درک علمی بهتر آن‌ها را ممکن می‌سازد. من برای ساختن چنین ماشینی فوق‌العاده هیجان‌زده هستم.»