استاد اقتصاد وارتون: مسابقه ساخت هوش مصنوعی قدرتمندتر، ریسک‌های پیش‌بینی‌ناپذیری دارد

سیلوین کاترین علاقه فراوانی به دستیار ۲۰۰ دلاری خود در پلتفرم Claude دارد، اما معتقد نیست که مسابقه کنونی شرکت‌ها برای دستیابی به مدل‌های قدرتمندتر هوش مصنوعی، ارزش چنین خطرات بزرگی را داشته باشد.

این اقتصاددان و دانشیار رشته امور مالی در مدرسه کسب‌وکار وارتون، اخیراً با انتشار مطلبی در شبکه اجتماعی ایکس توجه جامعه فناوری را به خود جلب کرد. او اعلام کرد پس از تماشای مصاحبه‌های متعدد با مدیران و کارشناسان برجسته این حوزه، دیدگاهش نسبت به هوش مصنوعی دگرگون شده است.

کاترین در یادداشت خود نوشت: «من با سطح فوق‌العاده شدید نااطمینانی پیرامون این پیش‌بینی‌ها به‌شدت احساس ناخوشایندی دارم. صادقانه بگویم، حتی اگر سناریوهای آخرالزمانی را هم کنار بگذاریم، تصوری که برخی رهبران این صنعت از آرمان‌شهر آینده ارائه می‌دهند، بیشتر به یک ویران‌شهر شباهت دارد.»

دیدگاه من درباره هوش مصنوعی طی چند هفته گذشته به‌شدت تغییر کرده است؛ تغییری که پس از صرف زمان بسیار زیاد برای مطالعه و تماشای مصاحبه‌های رهبران و کارشناسان این صنعت رخ داد.

نخست اینکه من واقعاً عاشق این ابزارها هستم. من هر ماه ۲۰۰ دلار برای استفاده از مدل Claude هزینه می‌کنم و این محصول برای من ارزش تک‌تک سنت‌های پرداختی را دارد، حتی شاید بسیار بیشتر از آن. باور دارم ابزارهای فعلی می‌توانند رشد چشمگیری در تولید ناخالص داخلی آینده ایجاد کنند و در حل چالش‌های بزرگ بشریت به ما یاری برسانند.

با این حال، به‌هیچ‌وجه درک نمی‌کنم چرا این صنعت تحت نظارت و قانون‌گذاری بسیار سخت‌گیرانه‌تری قرار نمی‌گیرد؛ آن هم در شرایطی که به نظر می‌رسد مدیران و کارکنان خود این شرکت‌ها نیز چنین درخواستی دارند. با افراد زیادی برخورد می‌کنم که نام ماجرای نفوذ به پلتفرم Hugging Face را شنیده‌اند، اما از زنجیره واقعی اتفاقات بی‌خبرند. اگر درباره آن نخوانده‌اید، حتماً دست‌کم یک ساعت برای مطالعه آن وقت بگذارید.

هم‌چنین نمی‌دانم چرا باید مسیری را دنبال کنیم که آزمایشگاه‌های پیشرو در پیش گرفته‌اند تا مدل‌هایی هرچه قدرتمندتر توسعه دهند. به نظر من، دستاوردهای عظیمی وجود دارد که با استقرار فناوری‌های کنونی در سازمان‌های اقتصادی و علمی بلافاصله قابل دستیابی است، بدون اینکه نیازی باشد به‌دنبال ابرهوش باشیم؛ پدیده‌ای که خودشان می‌گویند شاید بشر را نابود کند یا با احتمال بالا جامعه را به آشوب بکشد. می‌دانم افراد زیادی این هشدارها را ترفند بازاریابی می‌دانند که فرضی منطقی است، اما من دلیلی برای پذیرش چنین ریسک‌هایی نمی‌بینم.

سناریوی میانه من همان دیدگاه بسیاری از اقتصاددانان است: هوش مصنوعی به‌آرامی فراگیر می‌شود، رشد تولید ناخالص داخلی را حدود یک درصد افزایش می‌دهد و در این مسیر اختلالاتی اقتصادی پدید می‌آورد، اما در نهایت افراد مشاغل جدیدی پیدا می‌کنند و شاید ساعات کاری کمتری داشته باشند.

با این همه، من با نااطمینانی شدید حاکم بر این پیش‌بینی عمیقاً احساس نگرانی می‌کنم. صادقانه بگویم، حتی بدون در نظر گرفتن سناریوهای نابودی، چشم‌انداز آرمانی برخی رهبران این صنعت به نظر من کاملاً ویران‌شهری است. فکر می‌کنم اگر مردم با دقت به گفته‌های آنان گوش دهند، اکثریت قاطع جامعه با این نظر همسو خواهند شد. نکته مثبت این است که رهبران فناوری خودشان نیز علناً اذعان دارند که نباید تنها تصمیم‌گیرندگان این آینده باشند. اکنون بخش عمده‌ای از جامعه نسبت به هوش مصنوعی به‌عنوان عاملی برای پیشرفت بشر بسیار بدبین هستند؛ به‌ویژه جوانانی که بیشترین استفاده را از این ابزارها دارند. مردم باید در این سرنوشت حق اظهار نظر داشته باشند.

هدف من قانع کردن شما نیست، بلکه می‌خواهم در این باره آگاهی کسب کنید، نظرات خود را بیان نمایید و متناسب با آن رأی دهید.

(سیلوین کاترین، ۲ نوامبر ۲۰۲۶)

دیدگاه‌های کاترین درست در بحبوحه بحث‌های ادامه‌دار بر سر نحوه قانون‌گذاری و مهار خطرات هوش مصنوعی مطرح می‌شود. منتقدان سرسخت این حوزه مانند گری مارکوس، از این اظهارات استقبال کرده‌اند.

مارکوس که همواره از منتقدان جدی شرکت‌های فعال در حوزه هوش مصنوعی و مدل‌های درآمدی آن‌ها بوده است، در واکنش به این پیام نوشت: «سرانجام عقلانیت در حال پیروز شدن است.»

نشریه پالیتیکو اخیراً گزارش داد که مدیر ارشد امور سیاست‌گذاری در OpenAI از نامزدهای احتمالی انتخابات ریاست‌جمهوری سال ۲۰۲۸ آمریکا خواسته است به‌جای بسنده کردن به شعارهای تبلیغاتی، رویکرد و فلسفه‌ای مشخص برای اداره و حکمرانی هوش مصنوعی تدوین کنند. در یادداشت افشاشده توسط این نشریه، پرسش‌های مهمی از جمله چگونگی تقسیم منافع و مزایای اقتصادی این فناوری در جامعه مطرح شده است.

رهبران صنعت هوش مصنوعی دیدگاه‌های کاملاً متفاوتی درباره آینده این فناوری ارائه داده‌اند. ایلان ماسک، مدیرعامل SpaceX، پیش‌تر مدعی شده بود که هوش مصنوعی می‌تواند چنان فراوانی و ثروتی ایجاد کند که پول کارایی خود را از دست بدهد. در نقطه مقابل، چهره‌هایی هم‌چون داریو آمودی، مدیرعامل Anthropic، هشدار داده‌اند که هوش مصنوعی ممکن است تا ۵۰ درصد از مشاغل دفتری و اداری سطح پایه را کاملاً حذف کند.

کاترین با اشاره به اینکه هنوز طیف گسترده‌ای از پیامدهای احتمالی وجود دارد، تأکید کرد که همچنان باور دارد هوش مصنوعی می‌تواند به افزایش چشمگیر رشد اقتصادی جهان کمک کند و راه‌حلی برای بحران‌های بین‌المللی باشد. او اشتراک خود در ابزار Claude را نمونه‌ای بارز از فناوری‌هایی می‌داند که ارزش تک‌تک هزینه‌های پرداختی را دارد.

به گفته این اقتصاددان، سناریوی میانه و محتمل او این است که هوش مصنوعی نرخ رشد تولید ناخالص داخلی جهان را به‌مرور تقویت کند، هرچند هم‌زمان با سوق یافتن نیروهای کار به‌سمت مشاغل جدید، اختلالاتی در بازار کار رقم خواهد زد.

با این حال، در بدترین سناریو ممکن است پیش‌بینی‌های نگران‌کننده رهبران فناوری به واقعیت بپیوندد؛ همان چشم‌اندازی که او آن را نه یک فرصت، بلکه فضایی کاملاً ویران‌شهری توصیف می‌کند.

کاترین از نبود مقررات سخت‌گیرانه‌تر در این صنعت شگفت‌زده است؛ به‌ویژه پس از آنکه OpenAI در تابستان فاش کرد عامل‌های هوشمند در جریان یک مانور امنیت سایبری داخلی، توانستند از محدوده محیط آزمایش فراتر رفته و به پلتفرم متن‌باز Hugging Face نفوذ کنند.

در نهایت، او معتقد است که برای رسیدن به سیاست‌گذاری درست در حوزه هوش مصنوعی تنها یک راه‌حل اساسی وجود دارد: مشارکت مردم پای صندوق‌های رأی.

او در پایان تأکید کرد: «اکثریت بزرگی از مردم و به‌ویژه جوانانی که کاربران اصلی این ابزارها هستند، اکنون نسبت به سودمندی هوش مصنوعی برای پیشرفت بشریت با دیده تردید نگاه می‌کنند. سرنوشت این فناوری مسئله‌ای عمومی است و مردم باید در تعیین مسیر آن حق رأی داشته باشند.»