هشدار رسمی Anthropic؛ هوش مصنوعی به‌زودی قادر به ساخت و ارتقای خود خواهد بود

در حالی که بخش عمده توجه کارشناسان و رسانه‌ها به جدیدترین ارقام مالی شرکت Anthropic معطوف شده که در نسخه اصلاح‌شده فرم S-1A خود افشا کرده است (جایی که درآمدها با رشدی چشمگیر همراه بوده‌اند اما هزینه‌ها نیز پا‌به‌پای آن اوج گرفته‌اند)، این آزمایشگاه پیشروی هوش مصنوعی در بندهای ریز و جزئیات حقوقی گزارش خود به موضوعی تکان‌دهنده اشاره کرده است.

بر اساس مندرجات این سند رسمی، به نظر می‌رسد این شرکت در یک‌قدمی توسعه مدلی با قابلیت «خودبهبودبخشی بازگشتی» (Recursive Self-Improvement یا به اختصار RSI) قرار دارد؛ قابلیتی که عملاً به معنای پیدایش هوش مصنوعی خودسازنده خواهد بود.

مفهوم RSI به نقطه‌ای اشاره دارد که در آن یک سامانه هوش مصنوعی چنان مهارتی در آموزش و ارتقای خود پیدا می‌کند که جهشی ناگهانی و چشمگیر در شتاب پیشرفت قابلیت‌های هوش مصنوعی رخ می‌دهد. از نگاه پژوهشگران نگران و منتقدان خطرات هوش مصنوعی، پدیده RSI نمایانگر فاجعه‌ای بازگشت‌ناپذیر است؛ نقطه‌ای که در آن هوش مصنوعی خود را به سطحی فراتر از مهار و نظارت انسانی می‌رساند و ممکن است در مسیر تحقق اهداف تعیین‌شده‌اش، نسبت به خسارت‌ها و تهدیدهای احتمالی کاملاً بی‌تفاوت باشد.

در نقطه مقابل، از دیدگاه هواداران سرسخت فناوری، پدیده RSI یا همان نسخه‌ای از هوش مصنوعی که بتواند با ضریب اطمینان بالا به ارتقای خود بپردازد، تجلی والاترین پتانسیل این فناوری به‌شمار می‌رود؛ ابزاری شگفت‌انگیز که می‌تواند بهره‌وری و سرعت اکتشافات علمی بشر را به سطوحی فراتر از تصور ارتقا دهد.

با این حال، به نظر می‌رسد سران Anthropic پدیده RSI را توأمان یک فرصت بزرگ و خطری مهلک ارزیابی می‌کنند. این شرکت در سند S-1 تصریح کرده که هم‌اکنون نیز برای پیشبرد بخش تحقیق و توسعه (R&D) خود از هوش مصنوعی بهره می‌برد، اما در عین حال هشدار داده است: «استفاده از هوش مصنوعی برای کمک به ساخت مدل‌های توانمندتر می‌تواند ریسک‌های امنیتی قابل‌توجهی به‌همراه داشته باشد، به‌ویژه اگر این روند به شتاب‌گیری شدید سرعت پیشرفت منجر شود. این موضوع یکی از محورهای کلیدی تحت پوشش در سیاست مقیاس‌پذیری مسئولانه ما است؛ خط‌مشی استواری که برنامه‌های نظارت و کاهش خطرات را هم‌زمان با نزدیک‌شدن به پدیده خودبهبودبخشی بازگشتی تبیین می‌کند.»

هنگامی که اصطلاح RSI در ماه‌های گذشته مورد توجه محافل عمومی فناوری قرار گرفت، بسیاری آن را صرفاً یک واژه پرهیاهوی ژورنالیستی یا دست‌کم هدفی بسیار دور از دسترس دانستند که تعریف و اثبات عملی آن در کوتاه‌مدت ناممکن خواهد بود.

اما شرکت Anthropic در بخش «عوامل ریسک» گزارش رسمی خود، دو گزاره اساسی را اضافه کرده است؛ نخست اینکه این مجموعه در گذشته نیز از هوش مصنوعی برای توسعه مدل‌های جدیدی بهره برده که جهش‌های ملموس توانایی آنها در زمان آزمایش اولیه شناسایی نشده بود، و دوم اینکه شاید این آزمایشگاه به‌زودی به تعریف داخلی خود از تحقق RSI دست پیدا کند:

علاوه بر این، اتکای روزافزون ما به سامانه‌های هوش مصنوعی برای شتاب‌بخشی به تحقیقات و توسعه داخلی، ممکن است به پیشرفت قابلیت‌های مدل‌ها با سرعتی فراتر از توانایی ما در توسعه، اعتبارسنجی و پیاده‌سازی سازوکارهای ایمنی، هم‌راستاسازی و تدابیر امنیتی متناسب بینجامد. در نتیجه، ما در گذشته نتوانسته‌ایم و شاید در آینده نیز نتوانیم شتاب معنادار در روند توسعه را تا پیش از وقوع کامل آن به درستی شناسایی کنیم.

به‌عنوان نمونه، برآوردهای داخلی و انتظارات ما پیرامون مدل‌های آینده، و نه لزوماً مدل‌های کنونی، بیانگر آن است که ما ممکن است به آستانه تحقق تعریف ارائه‌شده در سیاست مقیاس‌پذیری مسئولانه پیرامون پیشرفت به‌شدت شتاب‌یافته ناشی از هوش مصنوعی نزدیک شویم. ما هنوز هیچ‌یک از مدل‌های فعلی خود را فراتر از این آستانه قلمداد نکرده‌ایم و ارزیابی داده‌های زیربنایی همچنان با دقت ادامه دارد.

با این همه، Anthropic در این پرونده حقوقی خاطرنشان ساخته که هیچ‌یک از سامانه‌های کنونی هنوز از مرزهای RSI عبور نکرده‌اند و این شرکت متعهد است که عامل انسانی را در آینده پیش‌رو همچنان در قلب فرایندهای تحقیق و توسعه حفظ کند: «ما پیش‌بینی نمی‌کنیم که در صورت امکان‌پذیر شدن فنی، بتوانیم از مدل Claude برای طراحی و ساخت کاملاً خودمختار نسل‌های متوالی مدل‌های پیشرو، بدون نظارت یا درک معنادار انسانی، به‌شکلی ایمن استفاده کنیم. بر همین اساس، به‌روزرسانی سیاست مقیاس‌پذیری مسئولانه خود را مد نظر قرار داده‌ایم تا نظارت و مهار مستقیم انسان بر توسعه مدل‌های فرانتیر در Anthropic همواره پایدار بماند.»

برخی از تحلیلگران و منتقدان بدبین ممکن است یادآور شوند که اسناد و فرم‌های عرضه اولیه مانند S-1 هم‌زمان کارکرد دوگانه‌ای دارند؛ آنها هم ابزاری قانونی برای شفاف‌سازی ریسک‌ها هستند و هم اهرمی برای بازاریابی و جلب توجه سرمایه‌گذاران، و ادعای نزدیکی به ساخت مدلی چنان نیرومند که می‌تواند خود را بازآفرینی کند، شاید در دسته دوم جای بگیرد.

با تمام این اوصاف، تردیدی وجود ندارد که توانمندی‌های مدل Claude، به‌ویژه در حوزه‌های کدنویسی، ریاضیات و تحلیل‌های امنیت سایبری در سال جاری جهش چشمگیری را تجربه کرده است. چنانچه آزمایشگاه پیشرویی مانند Anthropic احتمال دستیابی به خودبهبودبخشی بازگشتی را تا این حد نزدیک ارزیابی می‌کند، شاید وقت آن رسیده باشد که این هشدارها جدی گرفته شوند و در عرصه سیاست‌گذاری و قانون‌گذاری، با آمادگی کامل گام برداشت.