چرا غول‌های هوش مصنوعی چیزی ساختن که خودشون هم ازش وحشت دارن؟ ناگفته‌های شنیدنی کوین روز

چرا سازندگان هوش مصنوعی فناوری عجیبی ساختن که خودشون هم ازش وحشت دارن؟

یکی از اتفاقات عجیب دوران هوش مصنوعی اینه: بسیاری از آدم‌هایی که بیش‌ترین وحشت رو از قدرت هوش مصنوعی دارن، همون کسانی هستن که بزرگ‌ترین شرکت‌های هوش مصنوعی رو اداره می‌کنن!

کوین روز، روزنامه‌نگار باسابقه فناوری، معتقده این وضعیت همیشه وجود داشته است. به گفته او، بسیاری از مردانی که هدایت موج هوش مصنوعی رو در دست دارن — به‌ویژه داریو آمودی در شرکت Anthropic و سم آلتمن در OpenAI — مسابقه برای توسعه هوش مصنوعی رو تا حد زیادی به این خاطر سرعت بخشیدن که می‌ترسیدن افراد بی‌مسئولیت زودتر به آن دست پیدا کنند.

البته برخی از منتقدان، آمودی و آلتمن رو متهم می‌کنن که با باد کردن هشدارهای آخرالزمانی، قصد دارن برای کسب‌وکار خودشون هایپ و بازارگرمی درست کنن. اما کوین روز می‌گه این نوع نگرانی‌ها در محافل هوش مصنوعی کاملاً رایجه. او اشاره می‌کنه که در فضای فناوری سان‌فرانسیسکو، دیدن افرادی که احتمال نابودی جهان توسط هوش مصنوعی رو ۵۰ درصد یا بیش‌تر می‌دونن، اصلاً چیز عجیبی نیست.

کوین روز به‌تازگی نیویورک تایمز رو ترک کرده تا میزبانی پادکستی در شبکه NPR رو به عهده بگیره. او همچنین کتاب جدیدی درباره تاریخچه صنعت هوش مصنوعی منتشر کرده به نام: «وقایع‌نگاری AGI: ناگفته‌های رقابت بر سر ساخت ابرهوش مصنوعی (The AGI Chronicles)»؛ کتابی که پر از ناگفته‌ها و سرگذشت چهره‌های کلیدی فناوری است که ما را به نقطه کنونی رسانده‌اند.

در گفت‌وگویی شنیدنی در پادکست Channels، با کوین روز درباره انگیزه ساخت چنین فناوری قدرتمندی، حس و حال شبیه به ماجرای اوپنهایمر میان پیشگامان هوش مصنوعی و راه‌های مهار این سرعت سرسام‌آور صحبت شده است. گزیده‌ای از این گفت‌وگو را در ادامه می‌خوانید. (یک نکته مهم: این مصاحبه درست یک روز پیش از نشست هوش مصنوعی دونالد ترامپ با حضور سم آلتمن، داریو آمودی، ایلان ماسک و دیگر چهره‌های مطرح دنیای فناوری ضبط شده است؛ نشستی که پس از آن ترامپ اعلام کرد قانون‌گذاری دولتی لازم نیست و صنعت فناوری خودش باید خودش را تنظیم کند).

کوین روز: به نظرم چیزی که اون‌ها خیلی زود فهمیدن، سرعت فوق‌العاده رشد این فناوری بود. داریو آمودی سال ۲۰۱۷ یه مقاله عالی به اسم «فرضیه توده بزرگ پردازش (The Big Blob of Compute)» نوشت؛ اونجا توضیح داد که اگه می‌خواید این سیستم‌ها باهوش‌تر بشن، ساده‌ترین و بهترین راه اینه که فقط بزرگ‌ترشون کنید.

اون‌ها به این نتیجه رسیدن که فرمول ساخت هوش مصنوعی خیلی ساده‌ست: توان پردازشی بیشتر، دیتای بیش‌تر و زمان آموزش طولانی‌تر به مدل‌ها بدید تا در نهایت هوشمندی بیشتری تحویل بگیرید. پس طبیعی بود که بالاخره بقیه هم این فرمول رو کشف می‌کردن.

وقتی هم که همه این راز رو بفهمن، مسابقه‌ای دیوانه‌وار راه می‌افته؛ فناوری‌ای که از نظر استراتژیک این‌قدر مهمه و مزایای اقتصادی، نظامی و سیاسی عظیمی برای سازنده‌ش داره، باعث می‌شه همه بخوان وارد این میدان بشن.

بنابراین منطق اون‌ها این بود: اگه می‌خوایم دنیا سالم بمونه، ما یعنی «آدم‌خوب‌های داستان» باید حتماً برنده این مسابقه بشیم؛ چون در غیر این صورت دیر یا زود آدم‌های بد یا بی‌مسئولیت بهش می‌رسن و اوضاع فاجعه‌بار می‌شه.

من نمی‌گم این توجیه درستی برای راه انداختن چنین مسابقه‌ایه، اما این همون داستانی بود که اون‌ها برای خودشون سرهم کردن تا وجدانشون رو برای ورود به بازی‌ای که می‌دونستن خطرناکه، آروم کنن.

کوین روز: اون‌ها طیف کاملی از خطرات احتمالی رو پیش چشم دارن. خیلیا از شاخص معروف P(doom) صحبت می‌کنن؛ همون آماری که این روز‌ها ترند شده و احتمال نابودی کامل نسل بشر رو نشون می‌ده.

اما سناریوهای ترسناک دیگه‌ای هم هست؛ مثلاً احتمال بی‌اختیار شدن و سلب قدرت از انسان‌ها، احتمال انتشار بیماری‌های همه‌گیر و احتمال نابودی گسترده مشاغل. این آدم‌ها ذاتاً شخصیت‌های مضطرب و نگران‌کننده‌ای دارن.

کوین روز: در واقع می‌تونه صدق کنه، فقط باید خیلی سریع‌تر عمل کنیم؛ چون این فناوری با سرعتی به‌مراتب بالا‌تر از فناوری هسته‌ای در حال تکثیر و پخشه.

می‌شه سازوکار بازرسی گسترده‌ای شبیه سازمان ملل تصور کرد؛ یک نهاد استانداردگذار بین‌المللی همراه با بازرسانی که وارد آزمایشگاه‌های هوش مصنوعی بشن، فرآیندهای آموزش مدل‌ها رو بازرسی کنن و ببینن آیا مدل‌ها رفتارهای خطرناک از خودشون نشون می‌دن یا نه.

همین حالا هم پیشنهاد‌هایی در این زمینه مطرح شده؛ مثلاً حضور «ارزیاب‌های مقیم» در داخل اوپن‌ای‌آی و آنتروپیک که کارمند اون‌ها نباشن، ولی دسترسی در سطح کارمندان رسمی به تمام سیستم‌ها داشته باشن.

این فقط قدم اوله؛ کار‌های خیلی بیشتری می‌شه کرد. در حال حاضر عملاً هیچ نظارتی روی این شرکت‌ها وجود نداره! جالب اینجاست که کارمندانی که توی سلف‌سرویس اوپن‌ای‌آی غذا سرو می‌کنن، باید بازرسی‌ها و کاغذبازی‌های بهداشتی بیشتری رو نسبت به مهندسانی پشت سر بذارن که مدل‌هایی با توانایی تکثیر خودکار و نابودی جهان رو آموزش می‌دن!

این وضعیت واقعاً دیوانه‌وار و غیرقابل تحمله.

کوین روز: من با این فرضیه موافق نیستم و فکر می‌کنم اوضاع می‌تونه خیلی سریع عوض بشه. همین چند هفته گذشته، دیدگاه افکار عمومی به‌سرعت تغییر کرده است. توجه مردم به هوش مصنوعی سر به فلک کشیده و امروز خیلی بیش‌تر از چند هفته قبل نگران این موضوع هستن.

رأی‌دهنده‌ها حسابی نگران شدن و سیاستمدارها هم همیشه حواسشون به دغدغه رأی‌دهنده‌ها هست. بله، درسته که یک سری از اطرافیان ترامپ معتقدن نباید هیچ نظارتی در کار باشه.

اما جریان‌های دیگه‌ای هم در حوزه امنیت ملی وجود دارن که موضع تندتری در برابر چین دارن و اصلاً دلشون نمی‌خواد بازی هوش مصنوعی از کنترل خارج بشه. فکر می‌کنم با افزایش نگرانی مردم، دست این گروه بازتر بشه. بنابراین اصلاً قطعی نیست که در ادامه این دولت هیچ قانون‌گذاری مشخصی نداشته باشیم.

کوین روز: به نظرم می‌شه به یک توافق مشترک در کل صنعت برای تنظیم سرعت پیشرفت در لبه فناوری رسید؛ یعنی سرعت تحقیقات رو به‌ویژه روی مدل‌های مرزی (Frontier Models) کم کنن؛ همون مدل‌های فوق‌پیشرفته‌ای که می‌تونن ساعت‌ها یا روز‌ها بدون نیاز به نظارت انسانی کار کنن.

احتمالاً نوعی توافق میان آزمایشگاه‌های پیشرو شکل خواهد گرفت؛ هرچند این موضوع با توجه به کینه و نفرت عمیقی که این افراد از همدیگه دارن، خیلی عجیب به نظر می‌رسه!

کوین روز: دقیقاً، و دلیل به وجود اومدن خودِ اوپن‌ای‌آی هم این بود که سم آلتمن و ایلان ماسک از دمیس حسابیس در دیپ‌مایند (متعلق به گوگل) به شدت متنفر بودن و می‌خواستن شرکت خودشون رو بسازن! کل لبه فناوری هوش مصنوعی پر از آدم‌هاییه که از همدیگه بدشون میاد و به هم اعتماد ندارن.

اما فکر می‌کنم در نبود نظارت دولتی، بالاخره دست به کار می‌شن. اون‌ها می‌دونن که قرار نیست از این دولت سازوکار متمرکزی بیرون بیاد، پس مجبورن خودشون یه فکری بکنن.

کوین روز: ممکنه همین‌طور باشه؛ به همین خاطره که اونا خیلی محتاطانه از کاهش سرعت حرف می‌زنن، چون نمی‌خوان به‌تنهایی خلع سلاح بشن. چنین کاری می‌تونه به چین یا شرکتی مثل متا — که آمریکاییه اما نگران سرعت جنون‌آمیز پیشرفت نیست — فرصت بده تا جلو بزنن.

با این حال فکر می‌کنم جایگاه هوش مصنوعی چین گاهی اوقات بیش از حد بزرگ‌نمایی می‌شه. اونا هنوز وابستگی زیادی به آزمایشگاه‌های آمریکایی دارن تا مرزهای هوش مصنوعی رو جلو ببرن و بعد چینی‌ها بتونن با تقطیر (Distillation) اون مدل‌ها، نسخه‌های خودشون رو بسازن. البته خودشون هم ظرفیت‌هایی دارن و دارن سخت‌افزار بیشتری به دست میارن.

اما فعلاً جهش‌های بزرگ و اصلی در قابلیت‌ها از دل آزمایشگاه‌های آمریکایی بیرون میاد؛ جایی که بیش‌ترین توان پردازشی، زبده‌ترین محققان و بزرگ‌ترین دستاوردها متمرکز شده.

کوین روز: معمولاً می‌گم حدود ۱۰ درصد.

کوین روز: بله! البته شاید برای مردم دنیا این عدد خیلی بالا به نظر برسه، اما توی سان‌فرانسیسکو با این عدد یه آدم فوق‌العاده خوش‌بین به حساب میاید! من آدم‌هایی رو می‌شناسم که با P(doom) پنجاه، شصت و حتی هفتاد درصد زندگی می‌کنن. حتی کسی رو دیدم که احتمالش رو ۹۹.۹ درصد می‌دونست!

کوین روز: واقعاً آدم‌هایی رو توی این طیف‌های افراطی می‌شناسم که حساب‌های بازنشستگی‌شون رو نقد کردن! یکی رو می‌شناسم که از سر ناامیدی سیگاری شد؛ چون فکر می‌کرد «هوش مصنوعی قراره دخل همه‌مون رو بیاره، پس حداقل بذار این دم آخری خوش بگذرونیم!» یا کسی که دیگه توی ساحل کرم ضدآفتاب نمی‌زنه، چون می‌گه دیگه چه فایده‌ای داره؟

این‌ها رو می‌گم تا بدونید توی سان‌فرانسیسکو، احتمال ۱۰ درصدی مثل اینه که بگید «همه‌چیز قراره عالی پیش بره!» و شنیدن عددی به این پایینی برای خیلیا عجیبه. من این عدد رو می‌گم چون معتقدم ما هنوز کنترل اوضاع رو کامل از دست ندادیم و می‌تونیم تأثیرگذار باشیم.

ما هنوز می‌تونیم ترمز این سرعت زیاد رو بکشیم، قوانینی تصویب کنیم و توسعه در لبه فناوری رو هماهنگ کنیم. می‌تونیم به روشی عاقلانه از پس این بحران بربیاییم.

هنوز یک مسیر باریک به سمت آرمان‌شهر پیش روی ما بازه؛ و راستش رو بخواید، من حتی نسبت به یکی دو ماه قبل امیدوارترم. دلیلش هم در کمال تعجب اینه که حالا همه دارن درباره خطرات آخرالزمانی حرف می‌زنن، و همین آگاهی عمومی باعث می‌شه من کم‌تر نگران وقوع آخرالزمان باشم.