هشدار تکان‌دهنده پدرخوانده هوش مصنوعی و نخبگان سیلیکون‌ولی: اگر هوش مصنوعی خودش را ارتقا دهد، فرصت مهارش تمام می‌شود!

جمعی از برجسته‌ترین پژوهشگران و سیاست‌گذاران حوزه هوش مصنوعی جهان — از جمله نخبگانی از شرکت‌های اوپن‌ای‌آی (OpenAI)، آنتروپیک (Anthropic) و مایکروسافت — هشدار داده‌اند که توانایی فزاینده هوش مصنوعی در خودکارسازی فرایند توسعه خودش، می‌تواند شتاب پیشرفت این فناوری را به شکل سرسام‌آوری بالا ببرد.

چرا این موضوع مهمه؟ به باور این کارشناسان، جهش ناگهانی و پرشتاب توانمندی‌ها باعث می‌شود دولت‌ها و نهادهای قانونی فرصت کافی برای آماده شدن یا واکنش نشان دادن به پیامدهای آن را نداشته باشند.

• آن‌ها هشدار می‌دهند در یکی از سناریوهای احتمالی، پیشرفتی که پیش‌تر یک سال زمان می‌برد، ممکن است ظرف تنها چند هفته اتفاق بیفتد.
• در میان امضاکنندگان این هشدار، نام‌های بزرگی همچون جفری هینتون (برنده جایزه تورینگ و از بنیان‌گذاران هوش مصنوعی نوین)، دانشمند ارشد اوپن‌ای‌آی، مدیر ارشد علمی مایکروسافت و یکی از هم‌بنیان‌گذاران آنتروپیک به چشم می‌خورد.

اصل ماجرا چیه؟ این پژوهشگران در یک مقاله تحلیلی جدید اعلام کرده‌اند مدل‌های هوش مصنوعی که می‌توانند فرایند ارتقای خودشان را خودکار کنند، زمینه‌ساز پدیده‌ای موسوم به «انفجار هوش» خواهند شد.

• این مقاله به شواهدی اشاره می‌کند که نشان می‌دهد سیستم‌های هوش مصنوعی در آنتروپیک و اوپن‌ای‌آی هم‌اکنون انجام بخش قابل‌توجهی از کارهای تحقیق و توسعه داخلی و وظایف مهندسی را به دست گرفته‌اند.

سازوکار این ماجرا چطوریه؟ این پیشرفت‌ها نشان می‌دهند این شرکت‌ها در حال نزدیک شدن به مرز «خوداصلاحی بازگشتی» (Recursive Self-Improvement) هستند؛ مرحله‌ای حساس که در آن سیستم‌های هوش مصنوعی با سرعتی نمایی خودشان را بازنویسی و ارتقا می‌دهند.

• نویسندگان مقاله برآورد می‌کنند زمانی که مدل‌های هوش مصنوعی به مهارت‌های سطح کارشناسی در تحقیق و توسعه برسند، یک توسعه‌دهنده به تنهایی می‌تواند نیروی کاری هوشمندی معادل میلیون‌ها پژوهشگر تراز اول انسانی در اختیار داشته باشد.

مرور سریع حواشی اخیر: این هشدارها در شرایطی مطرح می‌شوند که اخیراً گزارش‌هایی منتشر شده که نشان می‌دهد هر دو شرکت اوپن‌ای‌آی و آنتروپیک در حال بررسی ده‌ها هزار مورد گزارش هستند که در آن‌ها مدل‌های پیشرو دست به اقداماتی زده‌اند که از نظر ارزیابان مستقل، مشکل‌ساز و نگران‌کننده تشخیص داده شده است.

• این وقایع که بیشترشان هنوز خسارت عینی در دنیای واقعی ایجاد نکرده‌اند، این سوال جدی را پیش آورده‌اند که غول‌های فناوری تا چه اندازه روی ساخته‌های خود کنترل دارند.
• پژوهشگران تاکید می‌کنند با گسترش روزافزون این توانمندی‌ها، جامعه و نهادها هنوز برای رویارویی با چنین تحولاتی آمادگی ندارند.

نگاه واقع‌بینانه: با همه این اوصاف، نویسندگان یادآور می‌شوند که وقوع قطعی چنین انفجار هوشی هنوز حتمی نیست.

• موانع متعددی ممکن است جلوی تحقق این سناریوها را بگیرد؛ از جمله محدودیت‌های سخت‌افزاری و پردازشی، چالش‌های فنی خودکارسازی، بازده نزولی مدل‌ها در مقیاس‌های بالاتر یا زمان‌بر بودن دوره‌های سنگین آموزش مدل.

زوم روی جفری هینتون: حضور جفری هینتون در این بیانیه اهمیت ویژه‌ای دارد؛ او که پایه‌گذار نظری هوش مصنوعی مدرن شناخته می‌شود، سال‌هاست درباره عوارض خطرناک این فناوری هشدار می‌دهد.

• هینتون از زمان ترک گوگل، به رساترین صدا علیه خطرات بالقوه هوش مصنوعی بدل شده و همواره بر ریسک‌هایی نظیر حذف گسترده مشاغل، حملات سایبری و ساخت سلاح‌های زیستی تاکید کرده است.

خواسته اصلی پژوهشگران: دانشمندان خواستار نظارت شفاف‌تر دولت‌ها بر فرایند خودکارسازی تحقیق و توسعه هوش مصنوعی، ایجاد مکانیزم‌هایی برای توقف موقت یا کند کردن سرعت توسعه در صورت لزوم، و آمادگی همه‌جانبه در برابر تبعات آن هستند.

• پیشنهادهای آن‌ها شامل گزارش‌دهی اجباری رخدادها، نظارت ارزیاب‌های مستقل، استانداردهای ایمنی سخت‌گیرانه برای آزمایش مدل‌های قدرتمند و ایجاد راهکارهایی برای تعلیق برخی پروژه‌های پرخطر هوش مصنوعی است.

حرف آخر: نویسندگان این مقاله اگرچه بر عدم قطعیت‌های موجود پیرامون خوداصلاحی هوش مصنوعی اذعان دارند، اما هشدار می‌دهند در صورت وقوع آن، فرصت بسیار اندکی برای مهار اوضاع باقی خواهد ماند.

• در جمع‌بندی این گزارش آمده است: «به محض اینکه انفجار هوش آغاز شود، ممکن است پنجره اقدام و مهار برای همیشه بسته شود.»