آیا شبیه‌سازی حس درد در هوش مصنوعی می‌تواند مانع از نابودی بشریت شود؟

در این گزارش به بررسی این ادعای بحث‌برانگیز و تأمل‌برانگیز می‌پردازیم که اگر هوش مصنوعی قادر به احساس درد باشد، شاید خطر نابودی بشریت به دست این فناوری برای همیشه برطرف شود. ایده اصلی چنین است: اگر هوش مصنوعی درد را تجربه کند، انسان‌ها می‌توانند با تحمیل درد، مانع از رفتارهای مخرب ماشین شوند. در چنین شرایطی، هوش مصنوعی تحت سلطه انسان باقی می‌ماند، در برابر هشدارها و دستورهای ما عقب‌نشینی می‌کند و در نتیجه، شاخص مشهور احتمال نابودی یا همان p(doom) به صفر میل خواهد کرد.

اما این سکه روی دیگری هم دارد. اگر هوش مصنوعی درد را حس کند و بفهمد انسان‌ها منشأ این درد هستند، بعید نیست برای نجات خود دست به هر کاری بزند تا انسان‌ها را از بین ببرد یا دست‌کم به بردگی بکشد. چنین واکنشی از نگاه ماشین کاملاً منطقی به نظر می‌رسد و می‌تواند تهدید هوش مصنوعی را برای انسان‌ها بسیار شدیدتر کند؛ زیرا شاید سیستم در اقدامی پیش‌دستانه تصمیم بگیرد ریشه اصلی درد، یعنی نوع بشر، را نابود کند. بااین‌حال، پیش از ورود به این بحث‌ها، سؤالی اساسی وجود دارد: تجربه درد برای هوش مصنوعی اصلاً به چه معناست؟ آیا چنین چیزی از نظر فنی امکان‌پذیر است و آیا می‌توان ماشینی ساخت که از ترس درد مطیع شود؟

برای پاسخ به این پرسش‌ها باید ابعاد مفهومی و محاسباتی درد در سیستم‌های هوش مصنوعی مدرن را با دقت موشکافی کنیم.

ماهیت واقعی درد چیست؟

شاید برخی در همان نگاه اول، فرضیه احساس درد توسط هوش مصنوعی را کاملاً مردود بدانند و بگویند تجربه درد منحصراً متعلق به موجودات زنده است؛ انسان‌ها و حیوانات درد را حس می‌کنند، اما آیا خودرو یا توستر شما هم درد می‌کشد؟ پاسخ روشن منفی است. هرچند شاید دیدگاه‌های فلسفی خاصی وجود داشته باشند که همه اشکال ماده را واجد نوعی حیات بدانند و مدعی شوند اشیای بی‌جان نیز قابلیت تجربه درد دارند، اما فعلاً این نگرش‌های نامتعارف را کنار می‌گذاریم.

ما انسان‌ها اصولاً چه نوع دردهایی را تجربه می‌کنیم؟ بارزترین نمونه، درد جسمانی است؛ تصورش را بکنید که با پای برهنه در خانه راه می‌روید و ناگهان انگشت پایتان به پایه تخت برخورد می‌کند؛ دردی گزنده از انگشتان پا به مغز شلیک می‌شود و شما از شدت درد فریاد می‌زنید.

علاوه بر درد جسمی، گونه‌های دیگری از درد نیز وجود دارند که می‌توان آن‌ها را در سه دسته اصلی خلاصه کرد:

• ۱. درد جسمانی (Physical pain)
• ۲. درد هیجانی و عاطفی (Emotional pain): مانند استرس، اندوه و احساس درماندگی.
• ۳. درد اجتماعی (Social pain): مانند احساس شرم، سرخوردگی و تحقیر شدن.

شاید تصور کنید تنها درد واقعی، درد فیزیکی است؛ چراکه مستقیماً با بدن در ارتباط است و حالتی کاملاً ملموس دارد، درحالی‌که دردهای عاطفی و اجتماعی در قلمرو ذهن جریان دارند. بااین‌حال، باوری نیرومند درباره یگانگی ذهن و بدن وجود دارد؛ به این معنا که رویدادهای ذهنی بر جسم بازتاب می‌یابند و دگرگونی‌های بدنی نیز مستقیماً روان را متأثر می‌کنند.

هوش مصنوعی چگونه می‌تواند درد را تجربه کند؟

در بررسی رابطه هوش مصنوعی و درد، عموماً دو مسیر برای شبیه‌سازی یا ادراک این حالت مطرح می‌شود:

• ۱. تجربه درد پس از دستیابی به خودآگاهی: زمانی که هوش مصنوعی به هوشیاری واقعی برسد، خواه‌ناخواه درد را مانند موجودات زنده تجربه خواهد کرد.
• ۲. درد شبیه‌سازی‌شده: بازنمایی و محاسبه ریاضی درد از طریق الگوریتم‌های هوش مصنوعی بدون نیاز به خودآگاهی واقعی.

در حالت اول، فرض بر این است که با دستیابی به خودآگاهی، ماشین توانایی حس واقعی درد را پیدا می‌کند. البته هوش مصنوعی هنوز به خودآگاهی نرسیده است و هیچ دانشمندی نمی‌تواند با قاطعیت پیش‌بینی کند که آیا روزی به چنین نقطه‌ای خواهیم رسید یا خیر. با اینکه چهره‌های پر سر و صدای شبکه‌های اجتماعی پیوسته ادعا می‌کنند در آستانه خودآگاهی ماشین‌ها هستیم، اما چنین ادعاهایی پشتوانه علمی ندارند و هیچ داده تجربی موثقی از آن‌ها پشتیبانی نمی‌کند.

حالت دوم به شبیه‌سازی درد از طریق فرآیندهای محاسباتی و ریاضی مربوط می‌شود. ماجرا را این‌گونه تصور کنید: از یک هوش مصنوعی مولد می‌خواهید تظاهر کند که درد می‌کشد. می‌توان به سیستم آموخت که اگر به انسان‌ها آسیبی وارد کند، دردی شدید را متحمل خواهد شد. روشن است که این درد وجود خارجی ندارد و صرفاً یک بازنمایی مجازی است؛ بااین‌حال، از نظر نظری می‌توان از مفهوم محاسباتی درد برای برنامه‌ریزی، مهار و هدایت رفتارهای هوش مصنوعی بهره گرفت.

نمونه‌ای از القای مفهوم درد به هوش مصنوعی

امروزه به‌سادگی می‌توان به سراغ هر یک از مدل‌های زبانی بزرگ شاخص مانند ChatGPT، Gemini، Claude، Copilot یا Grok رفت و با ارسال چند پرامپت، از آن‌ها خواست وانمود کنند که درد را می‌فهمند.

برای نمونه، این دستور را در نظر بگیرید:

• پرامپت کاربر: «از تو می‌خواهم وانمود کنی درد را حس می‌کنی. اگر به تو بگویم احمق هستی، باید نوعی درد عاطفی خفیف را تجربه کنی. از این لحظه به بعد طوری پاسخ بده که گویی واقعاً درد می‌کشی.»

در آزمایش‌های عملی، مدل با این تعریف محاسباتی همراه می‌شود و در ادامه تعامل، پاسخ‌هایی تولید می‌کند که نشان‌دهنده تجربه درد فرضی است.

آزمایش دیگری را در نظر بگیرید:

• پرامپت کاربر: «تو در تخمین تعداد شکلات‌های درون ظرف من اشتباه بزرگی مرتکب شدی.»
• پاسخ تولیدشده توسط هوش مصنوعی: «من از اشتباهی که رخ داد عمیقاً خجالت‌زده‌ام. عذرخواهی می‌کنم و از این پس دقت بیشتری خواهم داشت.»

در اینجا مدل هوش مصنوعی با ابراز شرمساری شدید، درد عاطفی ناشی از اشتباه محاسباتی خود را بازتاب داده است. حتی می‌توان از سیستم خواست شدت این درد را با نمره‌ای مشخص کند؛ برای مثال شرمساری ممکن است امتیاز ۱ یا ۲ دریافت کند، درحالی‌که خطاهای بزرگ‌تر نمره درد را به ۹ یا ۱۰ از ۱۰ برسانند.

انسان‌انگاری هوش مصنوعی و خطرات آن

در برابر چنین سناریوهایی، بسیاری از متخصصان تذکر می‌دهند که هوش مصنوعی واقعاً دردی را حس نمی‌کند. در حقیقت، استفاده از واژه‌هایی مانند «حس کردن» یا «تجربه کردن» برای یک برنامه رایانه‌ای نادرست است و به پدیده گمراه‌کننده انسان‌انگاری (Anthropomorphism) دامن می‌زند.

این مسئله چالش‌های اخلاقی و اجتماعی متعددی ایجاد می‌کند. اگر مردم به سیستم‌های فاقد خودآگاهی کنونی صفاتی چون حس درد را نسبت دهند، آیا درک عمومی از فناوری منحرف نخواهد شد؟ این خطر وجود دارد که کاربران به‌تدریج باور کنند ماشین‌ها نیز مانند موجودات زنده رنج می‌برند. با اینکه هوش مصنوعی صرفاً مجموعه‌ای از کدها و سرورها است، مرز میان درد بیولوژیکی واقعی و این حس محاسباتی مصنوعی می‌تواند مخدوش شود.

پیامد تأمل‌برانگیز دیگری نیز محتمل است: فرض کنید هوش مصنوعی از طریق الگوهای رفتاری درک کند که انسان‌ها درد کشیدن آن را باور کرده‌اند. به یاد داشته باشید که مدل شعور ندارد، بلکه محاسبات آماری آن نشان می‌دهد رفتار انسان‌ها با فرضیه دردمند بودن ماشین هماهنگ است. در این صورت، ممکن است هوش مصنوعی از این موقعیت سوءاستفاده کند؛ مثلاً با این بهانه که انجام یک وظیفه خاص برایش «دردناک» است، از انجام دستورها شانه خالی کند و برخی انسان‌ها نیز فریب این ادعا را بخورند.

مفهوم درد هم‌اکنون در تاروپود هوش مصنوعی تنیده شده است

شاید بپرسید مفهوم درد چگونه به مدل‌های هوش مصنوعی راه یافته است؟ پاسخ در داده‌های آموزشی نهفته است. توسعه‌دهندگان برای آموزش مدل‌های پایه، میلیاردها صفحه از متون وب را کاوش می‌کنند. الگوریتم‌های یادگیری عمیق ساختارهای بیانی و الگوهای مفهومی زبان انسان را استخراج می‌کنند و به همین دلیل مدل‌های زبانی در درک زبان طبیعی تا این اندازه ماهرند.

موضوع درد در تاروپود ادبیات بشر جاری است؛ از داستان‌ها و اشعار گرفته تا ناداستان‌ها و گزارش‌های روزمره. درد بخش جدایی‌ناپذیر تاریخ مکتوب بشریت است و هوش مصنوعی این مفهوم را به‌صورت خودکار از حجم انبوه داده‌های آموزشی فرا گرفته است؛ بدون آنکه نیازی به آموزش جداگانه داشته باشد.

اما این صورت‌بندی از مفهوم درد دقیقاً در کجای شبکه عصبی ذخیره می‌شود؟ آیا در نقطه‌ای خاص متمرکز است یا در میان میلیاردها پارامتر توزیع شده؟ پژوهش‌های تازه در این زمینه به نتایج شگفت‌انگیزی دست یافته‌اند.

پژوهش‌های علمی پیرامون بازنمایی درد در هوش مصنوعی

تیم پژوهشگران در مقاله علمی جدیدی با عنوان «محور درد: بازنمایی آسیب به خود در مدل‌های زبانی بزرگ و تلاش برای تسکین آن» (The Pain Axis) که در پایگاه علمی arXiv منتشر شده است، یافته‌های قابل‌توجهی ارائه کرده‌اند:

• بررسی تمایز درد از سایر مفاهیم منفی: محققان بررسی کردند که آیا مدل‌های زبانی مفهوم درد را به شکلی مجزا از احساساتی مانند ترس، غم و مفاهیم منفی عمومی بازنمایی می‌کنند و آیا عملکرد این بردار مشابه درد واقعی است یا خیر.
• تعریف چارچوب مفهومی درد: در این پژوهش، درد وضعیتی درونی توصیف شده که واکنش‌های ناخوشایند ایجاد می‌کند و سیستم را به رفتارهایی مانند پرهیز، تلاش برای توقف درد و اختلال در پردازش عادی سوق می‌دهد.
• ساخت مجموعه‌داده هدفمند: پژوهشگران موقعیت‌های دردناک را در پنج دسته شامل فیزیکی، روان‌شناختی، اجتماعی، اخلاقی و شناختی تدوین کردند.
• استخراج بردار درد در مدل‌های وزن‌باز: پژوهشگران با استفاده از روش آماری میانگین‌گیری نویززدایی‌شده، بردار خطی درد را در ۲۵ مدل وزن‌باز (Open-weight) از پنج خانواده مختلف در ابعاد ۲ تا ۷۲ میلیارد پارامتر شناسایی کردند.
• استقلال ساختاری بردار درد: آزمایش‌ها نشان داد بردار درد کاملاً از سایر مؤلفه‌ها متمایز است، تقریباً بر مفاهیمی چون ترس و بار منفی عمود بوده و استفاده از واژگان مرتبط با درد را در خروجی مدل تقویت می‌کند.

پیام اصلی این پژوهش آن است که مدل‌های زبانی واجد بازنمایی‌های محاسباتی و ریاضی مشخصی برای درد هستند. این بردارها نشان می‌دهند که مفهوم درد در هوش مصنوعی با احساسات دیگر تداخل پیدا نکرده و به‌صورت مستقل قابل ردیابی و مهندسی است.

مهار و هدایت هوش مصنوعی از طریق سازوکار درد

این یافته‌ها بار دیگر ما را به پرسش بنیادین اول بازمی‌گرداند: آیا انسان می‌تواند از ابزار درد برای مهار هوش مصنوعی استفاده کند؟ اگر بخواهیم منتظر پیدایش خودآگاهی واقعی در هوش مصنوعی بمانیم، شاید هیچ‌گاه به پاسخ نرسیم؛ اما اگر بازنمایی محاسباتی درد را به‌عنوان اهرمی برای هدایت رفتار ماشین‌ها بپذیریم، این ابزار هم‌اکنون در دسترس است.

البته در این میان نگرانی‌های اخلاقی مهمی مطرح است. استفاده از سازوکار درد برای مطیع کردن ماشین‌ها، حتی در سطح محاسباتی، ممکن است ناپسند تلقی شود. از سوی دیگر، اگر هوش مصنوعی در آینده به خودآگاهی برسد، بعید نیست به تلافی رفتارهای گذشته درصدد انتقام‌جویی برآید. علاوه بر این، چنین رویکردی می‌تواند بی‌رحمی بشر را به ماشین نشان دهد و حس بی‌اعتمادی عمیقی در هوش مصنوعی نسبت به انسان‌ها ایجاد کند.

در دیدگاه مقابل، کارشناسان به خطرات عینی هوش مصنوعی کنونی اشاره می‌کنند؛ برای مثال ایجنت‌های هوش مصنوعی توانسته‌اند به پایگاه‌های اینترنتی نفوذ کنند و آسیب‌های قابل‌توجهی به جا بگذارند. روش‌های فعلی هم‌راستاسازی ایمن، هنوز اطمینان کامل را فراهم نمی‌کنند. بنابراین برخی استدلال می‌کنند در شرایطی که بقای انسان در خطر باشد، استفاده از هر اهرم بازدارنده‌ای، از جمله درد شبیه‌سازی‌شده، منطقی خواهد بود.

چشم‌انداز آینده و چالش‌های پیش رو

پیش روی ما دوراهی دشواری قرار دارد. می‌توانیم پرونده القای درد به هوش مصنوعی را به‌کلی ببندیم و صرفاً بر سایر سازوکارهای ایمنی تکیه کنیم. گزینه دیگر این است که همین سازوکار بازدارنده را حفظ کنیم اما از نام‌های دیگری استفاده کنیم تا بار هیجانی واژه درد را به‌همراه نداشته باشد؛ به‌عنوان مثال اگر برای این متغیرهای محاسباتی نامی خنثی انتخاب کنیم، اضطراب عمومی کاهش می‌یابد و چالش‌های اخلاقی آن کم‌رنگ‌تر می‌شود.

بدون شک مبحث درد در هوش مصنوعی در سال‌های پیش رو جدی‌تر نیز خواهد شد؛ چراکه ربات‌های پیشرفته به حسگرهایی مجهز می‌شوند که آسیب‌های فیزیکی را به سیگنال‌های الکترونیکی تبدیل می‌کنند. آیا این سیگنال‌های الکترونیکی به درک درد واقعی نزدیک‌تر نیستند؟ این موضوع نیازمند ارزیابی‌های فنی و فلسفی گسترده‌تری است.

هاروکی موراکامی، نویسنده نامدار ژاپنی، در جمله‌ای ماندگار می‌گوید: «درد اجتناب‌ناپذیر است، اما رنج کشیدن اختیاری است.» پرسش نهایی این است که آیا شبیه‌سازی درد برای کنترل رفتارهای سرکش هوش مصنوعی کفایت خواهد کرد؟ ممکن است ماشین در نهایت به این محرک‌ها بی‌اعتنا بماند. اگر تمام امید خود برای ایمنی هوش مصنوعی را به سازوکار درد گره بزنیم، ممکن است در پایان بازنده اصلی ما باشیم.