از تردمیل ارتقای هوش مصنوعی پیاده شوید؛ نه شما می‌میرید، نه بشریت!

چرا این‌قدر عجله داریم؟ مگر در مسابقه‌ایم؟ اصلاً خط پایان کجاست؟ ما جلو افتاده‌ایم یا فرسنگ‌ها عقب مانده‌ایم؟

این روز‌ها این پرسش‌ها درباره هوش مصنوعی مدام از زبان افرادی شنیده می‌شود که احساس می‌کنند زیر بار حجم سرسام‌آوری از تحریکات عصبی قرار گرفته‌اند؛ درست مثل کودک سه‌ساله‌ای که ساعت‌ها بیدارش نگه داشته‌اند و حالا از فرط کلافگی حتی خوابش هم نمی‌برد.

این حس ناخوشایند از نوامبر گذشته بد‌تر هم شده است؛ یعنی از زمانی که ابزار‌های هوش مصنوعی ناگهان به مرحله «به‌اندازه کافی خوب» رسیدند تا کاربرد گسترده‌ای پیدا کنند. جمع بزرگی از مهندسان و برنامه‌نویسان ناگهان دیدند که سرشار از انرژی جنون‌آمیزی شده‌اند و پر از ایده‌های جورواجور هستند تا با پرامپت‌نویسی و کمک این اسباب‌بازی شگفت‌انگیز جدید، ابزار‌ها و فرآیند‌های کاری‌شان را متحول کنند.

میزان استفاده از این ابزار‌ها منفجر شد و به دنبال آن درآمد‌ها هم اوج گرفت. شرکت‌های هوش مصنوعی که بالاخره بوی سودآوری به مشامشان خورده بود، پایشان را روی گاز گذاشتند و سرعت انتشار مدل‌های جدید را بیش‌تر و بیش‌تر کردند. هر مدل تازه‌ای که می‌آمد، مثل رسیدن شب عید هیجان‌انگیز به نظر می‌رسید.

اما در این ده ماه گذشته، انگار هر روز برایمان عید و جشن بوده است؛ آن‌قدر مدل جدید آمد که دیگر کسی فرصت جشن گرفتن پیدا نمی‌کند!

تقریباً تمام مهندسان و متخصصان حوزه فناوری بدهی سنگینی از «اسباب‌بازی‌های تست‌نشده» به بار آورده‌اند؛ آن‌ها دیگر نمی‌توانند دست از آزمایش ابزار‌هایی بردارند که تعدادشان خیلی بیش‌تر از چیزی است که یک متخصص بتواند در طول کل دوران کاری‌اش به آن‌ها مسلط شود.

هر مدل جدید یک تزریق سریع و موقت دوپامین به کاربران هدیه می‌دهد؛ اما این حس سرخوشی خیلی زود می‌پرد و جای خود را به خمودگی و افت انرژی می‌دهد.

ما درست در همین نقطه ایستاده‌ایم: مهندسان احساس فرسودگی و خستگی مفرط می‌کنند. مسابقه رسیدن به «ابرهوش» (Super Intelligence - هر چه که معنایش باشد) ما را به چیز کاملاً متفاوتی رسانده است: چیزی که شاید بتوان آن را «هوش گیج‌کننده» یا احساس منگی و اشباع نامید؛ حسی که نشان می‌دهد بیش از توان هضم و درکمان اطلاعات بلعیده‌ایم. تزریق هوش مصنوعی بیش‌تر در این وضعیت، فقط یک زیاده‌روی بیهوده و گزاف است.

اگر این نمای درونی حباب هوش مصنوعی است، اوضاع از بیرون چطور به نظر می‌رسد؟ اصلاً تعریفی ندارد! روزنامه وال استریت ژورنال با قاطعیت گزارش داده که ۶۳ درصد از مردم آمریکا خواستار توقف فوری یا کاهش سرعت توسعه هوش مصنوعی هستند. مردم عادی به‌وضوح می‌بینند که این فناوری با شتابی جنون‌آمیز، بی‌مهابا و بدون هیچ مهاری به پیش می‌تازد؛ واقعیتی که آن‌ها را به‌شدت مضطرب کرده است.

این اضطراب مبهم، خود را به شکل یک نگرانی عمومی نشان می‌دهد مبنی بر این‌که ماشین‌ها به‌زودی قیام می‌کنند و همه ما را از بین می‌برند. در درون خود صنعت هم این موضوع با فرسودگی شغلی شدید افراد بازتاب پیدا کرده؛ کارمندانی که استعفا می‌دهند و متن‌های بلندبالایی درباره انقراض قریب‌الوقوع بشریت منتشر می‌کنند. برای مثال، یادداشت استعفای جیکوب کوکسون (Jacob Coxon)، کارمند سابق شرکت Anthropic، به این دلیل به‌شدت وایرال شد که نقطه تمرکزی برای همین ترس‌ها و نگرانی‌های جمعی بود.

آیا واقعاً اگر کمی بایستیم و نفسی تازه کنیم، دنیا به آخر می‌رسد؟

واقعیت عریان و صریح ماجرا این است: کسب‌وکار‌ها همین حالا هم با چنان حجمی از تحولات فناوری روبه‌رو هستند که برای هضم و پیاده‌سازی آن‌ها به سال‌ها زمان نیاز دارند. ما هم‌اکنون به انبوهی از مدل‌های هوش مصنوعی «به‌اندازه کافی خوب» – از مدل‌های آمریکایی گرفته تا چینی و اروپایی – دسترسی داریم که برای دگرگون کردن تمام فرآیند‌های تجاری کفایت می‌کنند. این تحول اتفاق خواهد افتاد، اما در بازه زمانی چند ساله، نه چند روزه!

روانه کردن مدل‌های جدید‌تر، بهتر و پرزرق‌وبرق‌تر به بازار حالا به پروژه‌ای با بازده نزولی تبدیل شده است؛ نه به این خاطر که پیشرفت مدل‌ها متوقف شده، بلکه به این دلیل که کشش فرهنگی و انسانی به سقف خود رسیده است. ما انسان‌ها واقعاً دیگر ظرفیت پردازش و هضم هوش مصنوعی بیش از این را نداریم.

حالا سؤال اصلی این است: چطور جلوی این روند را بگیریم؟ چرخه سودآور میان سازندگان مدل‌ها و مشتریانشان هرگز خودبه‌خود متوقف نخواهد شد؛ بلکه فقط سریع‌تر و تهاجمی‌تر می‌شود. هم‌زمان، شاهد جوانه‌های جنبش «لادایت ۲.۰» (Luddite 2.0 - ماشین‌ستیزان نوین) هستیم؛ افرادی که مصمم هستند پیش از آن‌که ماشین‌ها جای تمام کارگران را بگیرند، آن‌ها را نابود کنند.

مقاومت‌های محلی و اعتراضات به احداث دیتاسنتر‌ها تازه چهره آرام جریانی است که اگر همین‌طور کورکورانه به پیش بتازیم، می‌تواند به خشم و مقاومتی بسیار تندتر و خشن‌تر بدل شود.

تنها یک عامل می‌تواند سرعت این قطار سریع‌السیر را کم کند: هزینه سرسام‌آور حفظ کنترل روی این سیستم‌ها.

هر چه مدل‌ها باهوش‌تر می‌شوند، مدیریت و مهار آن‌ها سخت‌تر می‌شود. هر روز گزارش‌های بیشتری از نفوذ «ایجنت‌های سرکش» (Rogue Agents) به سیستم‌های خارجی به گوش می‌رسد؛ ایجنت‌هایی که از آزمایشگاه‌هایی فرار کرده‌اند که ظاهراً زحمت طراحی محیط‌های آزمایشی امن را به خود نداده‌اند. مهار مدل‌های قدرتمند‌تر به شکل فزاینده‌ای پرهزینه‌تر خواهد شد. در نهایت، این هزینه‌ها از منافع پیشی می‌گیرند. شاید فقط یک دادخواست یا شکایت حقوقی کلان تا توقف اجباری این مسابقه فاصله داشته باشیم؛ نقطه‌ای که در آن آزمایشگاه‌های پیشگام و محصولاتشان به ریسک‌هایی تبدیل می‌شوند که هیچ شرکت بیمه‌ای حاضر به پوشش آن‌ها نخواهد بود.

امیدواریم پیش از آن‌که خرابکاری یا فاجعه واقعی رخ دهد، خودمان ترمز را بکشیم و متوقف شویم. در غیر این صورت، ممکن است دوشاخه برق از پریز کشیده شود و تمام این چراغ‌های چشمک‌زن و جشن و سرور در یک چشم‌به‌هم‌زدن خاموش شوند. بسیار عاقلانه‌تر است که با اراده خودمان، چشمانی باز و با فروتنی سرعت را کم کنیم، تا این‌که ناچار به مواجهه با حوادث قهری و فاجعه‌بار شویم.