اگر هوش مصنوعی یاد بگیرد خودش را ارتقا دهد چه می‌شود؟ رویای وسوسه‌انگیز و ترسناک خودبهبودبخشی ماشین‌ها

بزرگ‌ترین و هیجان‌انگیزترین جهش تاریخ هوش مصنوعی احتمالاً زمانی رخ می‌دهد که دیگر انسان‌ها تنها مسئول ارتقا و بهبود آن نباشند.

این دقیقاً همان هسته مرکزی مفهومی به نام «خودبهبودبخشی بازگشتی» (Recursive Self-Improvement یا RSI) است؛ یعنی ماشین‌هایی که بتوانند خودشان نسخه‌های پیشرفته‌تر و قوی‌تری از خودشان را طراحی کنند، بسازند و ارتقا دهند. اگر چنین چیزی عملی شود، بدون شک یکی از سرنوشت‌سازترین نقاط عطف در کل تاریخ هوش مصنوعی رقم خواهد خورد.

البته ماجرا به همین سادگی نیست؛ این پدیده می‌تواند همزمان یکی از خطرناک‌ترین اتفاقات تاریخ بشریت هم باشد.

روی کاغذ، خودبهبودبخشی بازگشتی می‌تواند سرعت تکامل هوش مصنوعی را به شکلی نجومی بالا ببرد و به ما کمک کند گره از بحران‌های بزرگ علمی، درمانی و محیط‌زیستی باز کنیم که امروز دستمان به حل آنها نمی‌رسد. اما آن روی سکه تاریک است؛ گروهی از دانشمندان نگرانند که این مسیر به یک «انفجار هوش» منتهی شود؛ نقطه‌ای که در آن ماشین‌ها با چنان سرعتی باهوش‌تر می‌شوند که انسان‌ها دیگر هیچ درکی از تصمیماتشان نخواهند داشت، چه برسد به اینکه بتوانند مهارشان کنند.

در طرف دیگر، منتقدانی حضور دارند که نگاهشان به این قضیه به شدت بدبینانه و محتاطانه است. آنها معتقدند مفهوم RSI هنوز در حد یک ایده صرفاً تئوریک باقی مانده و شرکت‌ها بیش‌تر از آن در کنار واژه‌های پرطنینی مثل «هوش عمومی مصنوعی» (AGI) و «هوش مصنوعی مبتنی بر ایجنت» استفاده می‌کنند تا سر و صدا و هیاهوی رسانه‌ای راه بیندازند.

حالا سوال اصلی اینجاست: واقعاً چقدر با یک هوش مصنوعی که واقعاً بتواند خودش را ارتقا دهد فاصله داریم و در این میان، باید نگران باشیم یا ذوق‌زده؟ برای رسیدن به جواب، اول باید ببینیم خودبهبودبخشی بازگشتی دقیقاً چه سازوکاری دارد.

اما این ایده اصلاً چیست و چطور کار می‌کند؟

حل هر مسئله‌ای با کمک هوش مصنوعی از چند مرحله مشخص تشکیل می‌شود: اول باید مشکل را تشخیص داد، بعد ابزار مناسب را توسعه داد، داده‌ها را پردازش کرد و در نهایت نتایج را ارزیابی نمود تا مشخص شود چه تغییراتی برای رسیدن به پاسخ نهایی لازم است.

در روندهای معمول امروزی، انسان‌ها دو گام نخست یعنی شناخت صورت‌مسئله و ساخت ابزار را بر دوش دارند، در حالی که پردازش داده‌ها و بهینه‌سازی تدریجی نتایج به کامپیوترها سپرده می‌شود.

اما سیستمی که به فناوری RSI مجهز باشد، صفر تا صد این زنجیره را به صورت خودکار انجام می‌دهد. این ایده نخستین بار در دهه ۱۹۶۰ و روز‌های آغازین پژوهش‌های هوش مصنوعی مطرح شد؛ جایی که دانشمندان پیش‌بینی کردند چنین رویکردی به یک انفجار هوش منجر می‌شود که طی آن ماشین‌ها با رشدی تصاعدی، لحظه‌به‌لحظه باهوش‌تر و قدرتمندتر خواهند شد.

شاید اگر کار شما صرفاً توسعه هوش‌های مصنوعی مقتدرتر باشد، این سناریو رویایی به نظر برسد؛ اما افراد زیادی معتقدند تحقق چنین چیزی ممکن است به بهای فاجعه تمام شود.

برای درک علت این نگرانی، کافی است سطح هوش را در مقیاس‌های گوناگون تصور کنیم. درست همان‌طور که یک مورچه هرگز قادر نیست از سازوکار پیچیده مغز انسان سر در بیاورد، ما نیز ممکن است در فهم نقشه‌ها و تصمیمات یک ابرهوش مصنوعی کاملاً ناتوان و عاجز بمانیم.

در این صورت، هیچ راهی نخواهیم داشت تا بفهمیم آیا واقعاً می‌توان به این سیستم اعتماد کرد یا اینکه اهداف و برنامه‌هایش با خیر و صلاح بشر هم‌راستا هستند یا نه.

موضوع هم‌راستاسازی هوش مصنوعی همین حالا هم یک بحران جدی است؛ چنان‌که ایوان هوبینگر، از پژوهشگران ارشد شرکت آنتروپیک، امسال در مصاحبه با مجله تایم تأکید کرد هرچه این مدل‌ها قدرتمندتر می‌شوند، توانایی ما برای تشخیص نیت‌های واقعی آنها ضعیف‌تر و کم‌رنگ‌تر می‌شود.

البته برای شرکت‌هایی که روی مدل‌های مرزی کار می‌کنند، انگیزه‌های مالی و رقابتی عظیمی وجود دارد تا زودتر از رقبا به این جایگاه برسند. دستیابی به RSI می‌تواند روند توسعه پروژه‌های علمی، درمانی و زیست‌محیطی را تسریع کند و از سویی دیگر، ابزار‌ها و پلتفرم‌های روزمره‌ای را که از آنها استفاده می‌کنیم به مراتب کارآمدتر و باهوش‌تر سازد.

آیا واقعاً به این نقطه عطف رسیده‌ایم؟

به نظر می‌رسد هنوز تا رسیدن به این مقصد فاصله زیادی داریم.

شکی نیست که خودبهبودبخشی بازگشتی یکی از اولویت‌های پژوهشی اصلی در آزمایشگاه‌های پیشرو مانند اوپن‌ای‌آی، آنتروپیک و گوگل است و بدون شک آزمایش‌های مقدماتی و پروژه‌های کوچکی با تمرکز بر زنجیره کامل RSI در حال انجام هستند.

با این حال، تاکنون هیچ ادعا یا سندی ارائه نشده که نشان دهد قدرتمندترین هوش‌های مصنوعی جهان توانسته‌اند بدون دخالت دست انسان‌ها، دست به ارتقای خود بزنند.

البته غول‌های فناوری سنجش پیشرفت خود در این مسیر را آغاز کرده‌اند؛ برای مثال، آنتروپیک امسال فاش کرد که اکنون تا ۸۰ درصد کدهای جدیدی که به پایگاه داده این شرکت اضافه می‌شود، توسط مدل کلاد (Claude) نوشته شده است. با این حال نکته مهم اینجاست که هرچند کلاد توانایی نوشتن کدهای خود را دارد، اما هنوز هیچ نشانه‌ای مبنی بر توانایی آن در تصمیم‌گیری‌های کلان و استراتژیک دیده نمی‌شود.

تصمیم‌گیری درباره اینکه این کدها اساساً چه هدفی را دنبال کنند، چطور کار کنند، آیا برای انتشار نهایی مناسب هستند یا نه و چگونه جلوی خطرات احتمالی آنها گرفته شود، همچنان همگی زیر ذره‌بین کارشناسان انسانی است و توسط خود انسان‌ها گرفته می‌شود.

نه اوپن‌ای‌آی و نه گوگل، هیچ‌کدام ادعا نکرده‌اند که مدل‌های پیشرفته‌شان به مرحله‌ای رسیده‌اند که بدون نظارت انسانی بتوانند خودشان را بازسازی کرده و ارتقا بخشند.

در واقع دمیس هاسابیس، مرد شماره یک هوش مصنوعی در گوگل، شرایط کنونی را «خودبهبودبخشی نرم» توصیف می‌کند؛ جایی که ایجنت‌های هوش مصنوعی به جای تلاش برای ساخت یک ابرهوش، اولویت خود را روی کمک به انسان‌ها برای کار کردنِ هوشمندانه‌تر متمرکز کرده‌اند.

برخی از چهره‌های سرشناس حوزه فناوری حتی حاضر نیستند ماجرا را تا این حد جدی بگیرند؛ آنها دستاوردهای فعلی را صرفاً تسریع روند کدنویسی می‌دانند و معتقدند این ابزار‌ها تنها برنامه‌نویسی را سریع‌تر کرده‌اند، نه اینکه خودشان هوشمند‌تر شده باشند.

این ماجرا در نهایت چه معنایی برای آینده دارد؟

رسیدن به روزی که ماشین‌ها مانند یک خط تولید پیوسته، ماشین‌هایی هوشمند‌تر و قدرتمندتر از خود تحویل دهند، شاید نیازمند یک تحول فکری بنیادین باشد؛ البته تحولی نه در ذهن ما انسان‌ها، بلکه در شیوه تفکر خودِ ماشین‌ها.

یک پژوهش جدید نشان داده سیستم‌های هوش مصنوعی زمانی که به شکل کاملاً خودمختار فعالیت می‌کنند، گرچه در حل مسائل فنی از هوش و توانایی انسان فراتر می‌روند، اما در قدرت قضاوت و خلاقیت به شدت کم می‌آورند؛ دو فاکتور حیاتی که برای فعالیت یک ماشین بدون دخالت انسان کاملاً ضروری است.

جک کلارک، هم‌بنیان‌گذار آنتروپیک نیز در تحلیل اختصاصی خود به این نکته اشاره کرده و می‌نویسد: «در سیستم‌های هوش مصنوعی کنونی نوعی کمبود خلاقیت شهودی و ارزشمند حس می‌شود... ضعفی که ممکن است مانع از آن شود که این مدل‌ها به پژوهشگرانی واقعی و تراز اول تبدیل شوند.»

معنای روشن این یافته‌ها این است که دست‌کم فعلاً، جایگاه انسان در حلقه مدیریت و نظارت کاملاً تثبیت‌شده و ضروری باقی خواهد ماند.

بنابراین هرچند خودبهبودبخشی بازگشتی یک هدف واقعی و هیجان‌انگیز است که پیامدهایش می‌تواند فراتر از تصورات ما باشد، اما هنوز راه درازی تا تحقق آن در پیش است. دلیلش هم کاملاً ساده است: میان نحوه فکر کردن انسان و الگوی پردازش ماشین‌ها همچنان شکافی عمیق وجود دارد؛ تفاوتی که به این زودی‌ها پر نخواهد شد.