ساتیا نادلا، مدیرعامل مایکروسافت: «هوش مصنوعی حتماً باید ترمز اضطراری داشته باشه تا کنترلش دست انسان بمونه»

نکات کلیدی

• ساتیا نادلا، مدیرعامل مایکروسافت، اعلام کرد که سیستم‌های پیشرفته هوش مصنوعی باید حتماً به قابلیت مهار، نظارت مستقل و یک «ترمز اضطراری» مجهز باشند.
• برخی دیگر از رهبران برجسته دنیای هوش مصنوعی و فناوری نیز خواستار تدابیر ایمنی سفت‌وسخت‌تر و حتی کاهش سرعت توسعه مدل‌های مرزی شده‌اند.
• در سوی مقابل، دونالد ترامپ با هرگونه کند کردن روند پیشرفت هوش مصنوعی آمریکا مخالفت کرده، هرچند دولتش یک کارگروه ویژه با تمرکز بر ایمنی هوش مصنوعی تشکیل داده است.

ساتیا نادلا، رئیس هیئت‌مدیره و مدیرعامل مایکروسافت، روز شنبه تأکید کرد که سیستم‌های پیشرفته هوش مصنوعی باید همراه با سازوکارهای مهارکننده، نظارت‌های مستقل و یک «ترمز اضطراری» طراحی بشن؛ امکانی که به افراد مجاز اجازه می‌ده مدل هوش مصنوعی رو درست وسط انجام کارش متوقف یا کاملاً خاموش کنن.

نادلا در پستی در شبکه اجتماعی ایکس (توییتر سابق) نوشت: «ما باید دور مدل‌های غیرقطعی و پیش‌بینی‌ناپذیر هوش مصنوعی، یک ساختار مهندسی قطعی و محکم، کنترل‌های انسانی و دستورالعمل‌های اجرایی مطمئن بچینیم؛ و هر جا استانداردهای فعلی صنعت جوابگو نیست، استانداردهای جدیدی تعریف کنیم.»

او در ادامه توضیح داد: «یکی از راه‌های ساخت چنین سیستمی اینه که با مدل‌های پیشرفته و مرزی—چه مدل‌های با وزن بسته و چه متن‌باز—دقیقاً مثل یک «ریسک امنیتی داخلی» (تهدید بالقوه نفوذی) رفتار کنیم.»

این صحبت‌های نادلا در شرایطی مطرح می‌شه که موجی از هشدارها از طرف مدیران ارشد و پژوهشگران برجسته به راه افتاده؛ از بیل گیتس (هم‌بنیان‌گذار مایکروسافت) و داریو آمودی (مدیرعامل آنتروپیک) گرفته تا سم آلتمن (مدیرعامل OpenAI) و ایلان ماسک (مدیرعامل اسپیس‌ایکس)، همگی نسبت به ناکافی بودن پروتکل‌های ایمنی و سرعت سرسام‌آور پیشرفت هوش مصنوعی هشدار داده‌ان.

بحث ایمنی هوش مصنوعی ماه گذشته جنجالی‌تر هم شد؛ زمانی که یکی از پژوهشگران هوش مصنوعی با انتقاد شدید از شرکت آنتروپیک استعفا داد و این شرکت و رقیب اصلی‌اش، یعنی OpenAI رو متهم کرد که دارن «با جون آدم‌ها قمار می‌کنن». ساعاتی بعد در همان روز، یکی از مدیران هم‌ترازی و ایمنی آنتروپیک هم اعلام کرد احتمال بیش از ۱۰ درصدی وجود داره که هوش مصنوعی ظرف یک دهه آینده «تمام نسل بشر رو به کام مرگ بکشونه».

در نقطه مقابل، دونالد ترامپ بارها این خطرات آخرالزمانی رو رد کرده و تأکید داشته که آمریکا باید به هر قیمتی جلوتر از چین حرکت کنه. با این حال، دولت ترامپ اخیراً یک گروه ویژه تحت عنوان «نیروی هوش مصنوعی» (AI Force) به سرپرستی جی کلیتون (مدیر اطلاعات ملی) راه‌اندازی کرده تا علاوه بر تسهیل مسیر رشد این صنعت، جلوی عوامل مخرب رو هم بگیره.

مدیرعامل مایکروسافت در یادداشت روز شنبه خود همچنین یادآور شد که سیستم‌های هوش مصنوعی باید بر پایه «اصول مشاهده‌پذیری و شفافیت» بنا بشن.

به گفته نادلا، این اصول مواردی مثل تنوع مدل‌ها، ثبت ردپای رفتاری و قابل‌فهم برای انسان از تصمیمات مدل، آزمایش و ارزیابی مداوم سیستم، کنترل‌ها و حسابرسی‌های مستقل، قابلیت مهار مدل و البته شفاف‌سازی و گزارش فوری حوادث و خطرات رو در بر می‌گیره.

نادلا در پایان نتیجه‌گیری جالبی کرد و نوشت: «قابل‌اعتمادترین سیستم ابرهوش مصنوعی (Super Intelligence)، سیستمی نیست که ما بیش‌ترین اعتماد رو به خود مدلش داشته باشیم؛ بلکه سیستمیه که به ما اجازه بده کم‌ترین نیاز به اعتماد رو به مدل داشته باشیم.»