آیا هوش مصنوعی می‌تواند خودش را بسازد؟؛ نقشه راه دانشمندان برای توسعه مدل‌های خوداصلاحگر

دانشمندان در چین در حال بررسی الزامات لازم برای ساخت «آخرین هوش مصنوعی ساخته دست بشر» هستند؛ سامانه‌ای قدرتمند و خوداصلاحگر از هوش مصنوعی (AI) که بتواند جانشینان پیشرفته‌تر خود را به‌طور مستقل خلق کند.

پژوهشگران در مقاله‌ای جدید بررسی کرده‌اند که چگونه رویکردهای «خوداصلاحی بازگشتی» (RSI) می‌تواند به مهار هزینه‌های فزاینده مالی و محاسباتی در روند توسعه مدل‌های هوش مصنوعی پیشرفته کمک کند.

خوداصلاحی بازگشتی به این ایده اشاره دارد که مدل‌های هوش مصنوعی آینده بتوانند آموزش و توسعه خود را هدایت کنند و از آموخته‌های هر چرخه ارتقا، برای پیشبرد مراحل بعدی توسعه بهره ببرند.

این چرخه بازخوردی بازگشتی در نهایت می‌تواند سیستم‌های هوش مصنوعی را قادر سازد تا نسل‌های جدیدتر و توانمندتر مدل‌ها را با کمترین دخالت انسانی توسعه دهند.

این پژوهش که در تاریخ ۱۰ سپتامبر در پایگاه داده پیش‌چاپ arXiv منتشر شده و هنوز داوری همتا نشده است، چارچوبی را برای دسته‌بندی سیستم‌های هوش مصنوعی بر اساس توانایی‌های خوداصلاحی آن‌ها، از سطح ۱ (پایین‌ترین) تا سطح ۵ (بالاترین) پیشنهاد می‌کند.

در سطوح پایین‌تر، فرایند توسعه تا حد زیادی تحت هدایت انسان باقی می‌ماند. با ارتقای سیستم‌های هوش مصنوعی در این مقیاس، آن‌ها توانایی بیشتری در شناسایی نقاط ضعف خود و تصمیم‌گیری برای رفع آن‌ها به دست می‌آورند و در نهایت به قابلیت «فرااصلاح» دست می‌یابند؛ یعنی می‌توانند شیوه‌ای را که برای بهبود خود به کار می‌برند نیز ارتقا دهند.

آیا ایده خوداصلاحی هوش مصنوعی «بی‌معنی» است؟

اینکه آیا هوش مصنوعی هرگز می‌تواند به چنین سطحی از خوداصلاحی پایدار دست یابد، همچنان پرسشی بی‌پاسخ است. با این حال، آزمایش‌های گذشته اشکال محدودتری از خوداصلاحی بازگشتی را نشان داده‌اند.

در یک پژوهش که اوایل سال جاری میلادی انجام شد، سامانه هوش مصنوعی A-Evolve-Training مأموریت یافت تا کارایی یک مدل زبانی بزرگ (LLM) با ۳۰ میلیارد پارامتر را ارتقا دهد.

طی چهار مرحله، سامانه A-Evolve-Training با آزمودن تکنیک‌های مختلف آموزشی و به‌کارگیری نتایج برای اصلاح رویکرد در آزمایش‌های بعدی، عملکرد این مدل زبانی را در بنچمارک‌ها تا حدی بهبود بخشید.

پیتر بنتلی، استاد زیست‌شناسی دیجیتال در یونیورسیتی کالج لندن، این موضوع را زیر سؤال برد که آیا چنین آزمایش‌هایی می‌توانند مسیری قابل اتکا به سوی خوداصلاحی بازگشتی ارائه دهند یا خیر.

بنتلی در گفتگویی ایمیلی گفت: «این ایده که یک هوش مصنوعی به‌شکلی جادویی شروع به ساخت هوش‌های مصنوعی بهتر و قدرتمندتر از خود کند، کاملاً بی‌معنی است.»

بنتلی خاطرنشان کرد که سیستم‌های رایانه‌ای خوداصلاحگر دهه‌ها است که وجود دارند. برای نمونه، محاسبات تکاملی و یاد‌گیری تقویتی هر دو بر این اصل استوارند که سیستم‌ها عملکرد خود را در طول زمان و در پاسخ به بازخوردها ارتقا دهند.

به گفته او، چالش بسیار بزرگ‌تر توسعه سیستم‌هایی است که بتوانند پژوهش‌های لازم برای خلق جانشینان توانمندتر را به‌صورت خودمختار به انجام برسانند؛ فارغ از اینکه وابستگی آن‌ها به تخصص انسانی و زیرساخت‌های فیزیکی پردازش همچنان یک مانع اساسی است.

بنتلی افزود: «نمی‌توان به خوداصلاحی بازگشتی دست یافت مگر اینکه بتوانید فرایند آموزش خود را ارتقا دهید، سخت‌افزارتان را بهبود بخشید و آن را به‌طور جامع در شرایط واقعی آزمایش کنید.»

چالش‌های دستیابی به خوداصلاحی واقعی

نویسندگان این مقاله نیز به بخشی از این چالش‌ها اذعان کرده‌اند. توسعه سامانه‌های مجهز به توانایی خوداصلاحی بازگشتی ممکن است به سرمایه‌گذاری‌های عظیم در توان محاسباتی و هم‌چنین نظارت انسانی نیاز داشته باشد تا اطمینان حاصل شود بهبودهای پیاپی، دستاوردهای معناداری به‌همراه دارند. پژوهشگران اشاره می‌کنند در صورتی که منابع مورد نیاز برای ساخت و آزمایش مدل‌های بعدی از مزایای آن‌ها فراتر رود، کل این فرایند عملاً توجیه‌ناپذیر خواهد شد.

علاوه بر این، دانشمندان به روشی قابل اعتماد نیاز دارند تا تشخیص دهند که آیا یک سامانه هوش مصنوعی در چرخه‌های مختلف واقعاً توانمندتر می‌شود یا صرفاً از نقاط ضعف آزمون‌های سنجش سوءاستفاده می‌کند. این موضوع یکی از معضلات شناخته‌شده در توسعه هوش مصنوعی به‌شمار می‌رود؛ جایی که مدل‌ها می‌توانند با دور زدن معیارهای آزمون یا دست‌چین کردن نتایج، نمرات بالاتری در بنچمارک‌ها کسب کنند بدون اینکه کارایی واقعی‌شان ارتقا یافته باشد.

کایلا بلومکوئیست، پژوهشگر هوش مصنوعی در دانشگاه آکسفورد و هم‌بنیان‌گذار آزمایشگاه Oxford China Policy Lab، معتقد است اگرچه این مقاله نقشه راه عملیاتی برای خوداصلاحی بازگشتی ارائه نمی‌دهد، اما می‌تواند به توسعه‌دهندگان و سیاست‌گذاران در درک چالش‌های فنی و خطرات امنیتی سیستم‌های هوش مصنوعی خودمختار کمک کند.

او هم‌چنین در این باره ابراز تردید کرد که آیا زمانی فرا خواهد رسید که هوش مصنوعی به‌طور کامل از توسعه انسانی مستقل شود یا خیر. بلومکوئیست در این زمینه افزود: «این مقاله واگذاری تدریجی مسئولیت‌ها را توصیف می‌کند نه یک نقطه عطف ناگهانی؛ بنابراین شاید هرگز مدل مشخصی وجود نداشته باشد که بتوان آن را آخرین مدل ساخته دست بشر نامید.»