افشاگری تازه از مسابقه پنهانی ساخت هوش مصنوعی خودبه‌بود؛ غول‌های فناوری چقدر با نقطه بی‌بازگشت فاصله دارند؟

در ظاهر، مدیران ارشد شرکت‌های پیشرو در زمینه هوش مصنوعی مدام پشت تریبون‌ها می‌روند و درباره خطرات آخرالزمانی «هوش مصنوعی خودبه‌بود» (Self-Improving AI) و احتمال از دست رفتن کنترل انسان هشدار می‌دهند. اما در پشت درهای بسته و درون آزمایشگاه‌های فوق‌سری سیلیکون‌ولی، داستان کاملاً متفاوتی در جریان است؛ رقابتی نفس‌گیر، پنهانی و بدون ترمز برای اینکه چه کسی زودتر از بقیه این قابلیت هولناک را به واقعیت تبدیل کند!

حالا یک گزارش پژوهشی و اختصاصی از سوی شرکت امنیت هوش مصنوعی «گلادستون ای‌آی» (Gladstone AI)، پرده از ابعاد شگفت‌انگیز این مسابقه زیرزمینی برداشته است؛ گزارشی که نشان می‌دهد غول‌های فناوری چطور در سکوت خبری تلاش می‌کنند تا فرآیند توسعه مدل‌های آینده را تمام و کمال به دست خود هوش مصنوعی بسپارند.

بهبود بازگشتی خودکار (RSI) دقیقاً چیست و چرا همه از آن وحشت دارند؟

در دنیای هوش مصنوعی، اصطلاحی کلیدی به نام «بهبود بازگشتی خودکار» یا Recursive Self-Improvement (به اختصار RSI) وجود دارد. این مفهوم به نقطه‌ای اشاره می‌کند که در آن، یک مدل هوش مصنوعی آن‌قدر باهوش و توانمند می‌شود که می‌تواند کدهای خودش را بازنویسی کند، معماری‌های جدید بسازد، الگوریتم‌های بهینه‌تری خلق کند و در نهایت، نسلی باهوش‌تر از خودش را آموزش دهد.

تفاوت اساسی این فرآیند با پیشرفت‌های فعلی در سرعت چرخه است. در حالت عادی، پژوهشگران انسانی ماه‌ها زمان صرف طراحی، کدنویسی، آزمایش و بررسی نتایج می‌کنند تا مدلی مثل GPT-4o یا Claude خلق شود. اما زمانی که پای بهبود بازگشتی خودکار به میان بیاید، این فرآیند با سرعت پردازش کامپیوترها—یعنی در عرض چند ثانیه تا چند ساعت—تکرار می‌شود. در نتیجه، یک حلقه بازخورد انفجاری (Feedback Loop) شکل می‌گیرد که در آن هوش مصنوعی به‌طور پیوسته خود را ارتقا می‌دهد؛ همان جهشی که کارشناسان از آن به عنوان لحظه خروج همیشگی کنترل از دست انسان یاد می‌کنند.

خودکارسازی خط تولید؛ وقتی مدل‌ها جای مهندسان را می‌گیرند

بر اساس یافته‌های گزارش گلادستون ای‌آی، آزمایشگاه‌های پیشرو مانند OpenAI و آنتروپیک (Anthropic) صرفاً از هوش مصنوعی برای دستیاری یا تکمیل چند خط کد ساده استفاده نمی‌کنند، بلکه پروژه‌ای بزرگ‌تر را کلید زده‌اند: خودکارسازی کامل تمام مراحل تحقیق و توسعه (R&D).

این فرآیند چند مرحله حساس را در بر می‌گیرد:

۱. ایده‌پردازی و فرضیه‌سازی: خود مدل به تحلیل نقاط ضعف نسخه‌های پیشین می‌پردازد و ایده‌های نوآورانه‌ای برای ارتقای معماری شبکه عصبی پیشنهاد می‌دهد.

۲. کدنویسی و طراحی آزمایش: سیستم به‌صورت خودکار کدهای لازم برای پیاده‌سازی این ایده‌ها را می‌نویسد و اسکریپت‌های مربوط به آزمایش‌ها را آماده می‌کند.

۳. اجرای آزمایش روی سرور‌ها: آزمایش‌ها روی کلاسترهای عظیم پردازشی به اجرا درمی‌آیند و نتایج ثبت می‌شوند.

۴. تحلیل نتایج و بازنگری: هوش مصنوعی خروجی‌ها را بررسی کرده، اشتباهات را اصلاح می‌کند و مدل بعدی را آموزش می‌دهد.

همین حالا نیز گزارش‌های شرکت Anthropic نشان می‌دهد که مدل‌هایی مانند Claude سهم قابل‌توجهی از کار‌های مهندسی داخلی را به دوش می‌کشند و سرعت تولید کدهای تحقیقاتی را چندین برابر کرده‌اند.

۳ تا ۱۲ ماه تا آغاز ماجرا؛ پیش‌بینی عجیب دانشمندان

تکان‌دهنده‌ترین بخش این گزارش به جدول زمانی پیش‌بینی‌شده برای رسیدن به این نقطه عطف برمی‌گردد. بر اساس مصاحبه‌های عمیق و داده‌های گردآوری‌شده از متخصصان و پژوهشگران حاضر در قلب آزمایشگاه‌های بزرگ هوش مصنوعی، بیش‌تر دست‌اندرکاران معتقدند که اگر دخالت نظارتی یا ترمز قانونی سفت‌وسختی از سوی دولت‌ها گذاشته نشود، جرقه اولیه فرآیند خودبه‌بودی بازگشتی می‌تواند ظرف ۳ تا ۱۲ ماه آینده زده شود!

این زمان‌بندی برای ناظران و قانون‌گذاران واشنگتن بسیار شوکه‌کننده است؛ چرا که بسیاری از سیاست‌مداران تصور می‌کردند تا رسیدن به سیستم‌های کاملاً خودمختار و بازگشتی، دست‌کم چندین سال یا حتی چند دهه فاصله داریم.

پشت‌پرده استرس شدید و خرید پناهگاه‌های اضطراری

شاید جالب‌ترین و در عین حال هولناک‌ترین نکته این گزارش، حال‌وهوای روانی حاکم بر مهندسان نخبه‌ای باشد که مستقیماً روی این سیستم‌ها کار می‌کنند. ادوارد هریس (Edouard Harris)، مدیر ارشد فناوری گلادستون ای‌آی، در بخشی از این بررسی فاش کرده است که پشت درهای بسته آزمایشگاه‌ها، سطح اضطراب و دلهره به شدت بالاست.

به گفته او، برخی از پژوهشگران ارشد که از نزدیک سرعت خیره‌کننده پیشرفت و نشانه‌های اولیه خودبه‌بودی مدل‌ها را می‌بینند، به قدری نگران خارج شدن اوضاع از کنترل و بروز حوادث غیرقابل پیش‌بینی هستند که دست به کار‌های عجیبی زده‌اند؛ از آمادگی برای شرایط بقا در بحران‌های فاجعه‌بار (Prepping) گرفته تا خرید پناهگاه‌های زیرزمینی و بیولوژیکی!

چرا واشنگتن باید نگران باشد؟

هدف اصلی گلادستون ای‌آی از انتشار این گزارش، ارائه تعریفی دقیق و شفاف از پدیده بهبود بازگشتی خودکار به نمایندگان کنگره و قانون‌گذاران است. تا پیش از این، بحث‌ها درباره مهار هوش مصنوعی به مفاهیم کلی و گنگ پیرامون «ابرهوش» (Superintelligence) محدود می‌شد؛ اما حالا این گزارش به دولت‌ها هشدار می‌دهد که باید خطوط قرمز فنی مشخص، آستانه‌های کنترلی برای ظرفیت‌های پردازشی و پروتکل‌های سفت‌وسخت نظارتی تعیین کنند، قبل از آن‌که چرخه شتاب‌گیرنده این فناوری برای همیشه از دسترس بشر خارج شود.