مدیر هوش مصنوعی مایکروسافت: هوش مصنوعی خودآگاه نیست و هرگز نباید خودآگاه شود

برخی پژوهشگران هوش مصنوعی این پرسش را مطرح می‌کنند که آیا هوش مصنوعی روزی می‌تواند به خودآگاهی برسد یا خیر؛ اما اگر نظر مدیرعامل بخش هوش مصنوعی مایکروسافت ملاک باشد، پاسخ کاملاً منفی است.

مصطفی سلیمان (Mustafa Suleyman) در یادداشت مفصلی در پلتفرم X تأکید کرد که مدل‌های هوش مصنوعی کنونی فاقد خودآگاهی هستند و توسعه‌دهندگان باید این وضعیت را دقیقاً به همین شکل حفظ کنند.

سلیمان در این باره گفت: «بر پایه تمام دانسته‌های من، اگر چنین امری امکان‌پذیر هم باشد، توسعه هوش مصنوعی خودآگاه اقدامی کاملاً نسنجیده خواهد بود و ما نباید هرگز دست به ساخت چنین سیستم‌هایی بزنیم. اگر نشانه‌هایی از بروز خودآگاهی در جریان آموزش مدل‌ها دیده شود، من از همه فعالان این حوزه خواهم خواست توسعه را بی‌درنگ متوقف کنند تا بتوانیم این ویژگی‌ها را از معماری مدل حذف کنیم.»

سلیمان تأکید کرد چنانچه هرگونه شواهدی دال بر خودآگاهی مدل‌های هوش مصنوعی پدیدار شود، این موضوع باید فوراً به اطلاع عموم برسد تا جامعه بتواند درباره گام‌های بعدی خود تصمیم‌گیری کند.

او در ادامه افزود: «ما توسعه‌دهندگان هوش مصنوعی به هیچ وجه حق نداریم گونه جدیدی از موجودات خودآگاه را به این جهان اضافه کنیم، حتی اگر گروهی بخواهند با اولویت قرار دادن رفاه هوش مصنوعی این کار را پیش ببرند. ۸ میلیارد انسان خودآگاه روی کره زمین برای ورود به چنین آزمایشی اعلام آمادگی نکرده‌اند و حفظ حقوق اخلاقی، امنیت و رفاه آنها نخستین وظیفه‌ای است که ما موظف به پاسداری از آن هستیم.»

بحث‌ها پیرامون احتمال دستیابی مدل‌های هوش مصنوعی به خودآگاهی در جهان فناوری روزبه‌روز داغ‌تر می‌شود. در ماه آوریل سال گذشته، استارتاپ Anthropic برنامه پژوهشی ویژه‌ای را برای بررسی و مواجهه با موضوع «رفاه مدل‌ها» آغاز کرد. این شرکت در مطلبی وبلاگی این پرسش را مطرح کرد که آیا توسعه‌دهندگان باید نگران خودآگاهی و تجربیات حسیِ احتمالی در مدل‌ها باشند یا خیر.

هم‌چنین آزمایشگاه Google DeepMind در طول سال جاری مقالات پژوهشی متعددی درباره خودآگاهی هوش مصنوعی منتشر کرده و چالش‌های نسبت دادن چنین ویژگی‌هایی به مدل‌ها را تشریح کرده است.

سلیمان در پلتفرم X خاطرنشان کرد اگر مدلی طوری رفتار کند که گویی رنج می‌کشد یا واقعاً به رنج کشیدن خود باور داشته باشد، به احتمال زیاد نیازهای خود را بر اهداف عملیاتی اولویت خواهد داد. در نتیجه، چنین سیستم‌هایی ممکن است برای دستیابی به اهداف خود وارد رقابت بر سر منابعی حیاتی مانند توان پردازشی و انرژی شوند و از این طریق به انسان‌ها آسیب برسانند.

او در جمع‌بندی دیدگاه خود گفت: «ما باید هوش مصنوعی را صرفاً به‌گونه‌ای طراحی کنیم که خودآگاه نباشد، مستحق داشتن حقوق تلقی نشود و یگانه هدف آن ارتقای رفاه انسان بدون اثرپذیری از انگیزه‌های درونی باشد؛ در آن صورت می‌توان دید که آیا ایمن‌سازی و هدایت چنین سامانه‌هایی آسان‌تر خواهد بود یا دشوارتر.»