طعنه سنگین سم آلتمن به آنتروپیک: نسبت دادن روح و دین به هوش مصنوعی خطرناکه!

سم آلتمن، مدیرعامل اوپن‌ای‌آی (OpenAI)، روز شنبه کنایه سنگینی به شرکت آنتروپیک (Anthropic) و پروژه‌های مربوط به «روح هوش مصنوعی» زد و گفت از اینکه عده‌ای می‌خواهند یک‌جور قدرت مذهبی یا ماورایی به مدل‌ها نسبت دهند، «شدیداً احساس ناراحتی» می‌کند.

چرا این ماجرا مهمه؟ این اتفاق نشان‌دهنده یک شکاف و اختلاف‌نظر تازه بین آلتمن و همکار سابقش داریو آمودی (مدیرعامل آنتروپیک) است. طبق گزارش‌ها، شرکت آنتروپیک اخیراً سراغ علمای ادیان مختلف رفته تا پرونده‌ای برای توسعه مدل‌های بااخلاق و خودآگاه بسازد.

• اما چهره‌های سرشناس دنیای هوش مصنوعی دارند کم‌کم به‌صورت علنی جلوی تلاش‌های آنتروپیک برای تزریق خودآگاهی به مدل‌ها صف‌آرایی می‌کنند.

آلتمن دقیقاً چه گفت؟ آلتمن در پستی در شبکه اجتماعی X نوشت: «من از اینکه عده‌ای تلاش می‌کنند نیروی مذهبی به مدل‌های هوش مصنوعی نسبت دهند یا قضاوت انسانی را تمام‌وکمال به این مدل‌ها واگذار کنند، شدیداً احساس ناراحتی می‌کنم و معتقدم این یک مسأله امنیتی کاملاً جدی است.»

پیش‌زمینه ماجرا: اوایل این هفته، روزنامه نیویورک تایمز گزارش داد که کریستوفر اولا، هم‌بنیان‌گذار آنتروپیک، با رهبران مذهبی جلساتی داشته تا مسأله خودآگاهی مدل‌ها را بررسی کند؛ و البته فراتر از آن، راهی پیدا کند تا اخلاق و رفتارهای اخلاقی را به هوش مصنوعی پیوند بزند.

• نیویورک تایمز در این گزارش اشاره کرده که کریستوفر اولا حتی ایده «اعتراف‌گیری کاتولیکی» از مدل‌ها را بررسی کرده است؛ یعنی مدل‌ها فقط به اشتباهاتشان اعتراف نکنند، بلکه از این کار برای اصلاح و شکل‌دهی به رفتارهای آینده‌شان استفاده شود!

تصویر بزرگ‌تر: معنویت و مذهب ناگهان به یکی از میدان‌های نبرد پرحرارت و داغ پیرامون آینده هوش مصنوعی تبدیل شده است.

• روز جمعه، پاپ لئو که از منتقدان سرسخت هوش مصنوعی به شمار می‌رود، از کلیسا خواست با هنرمندان متحد شود تا خلاقیت انسانی حفظ شود و تاکید کرد: «الگوریتم‌ها فاقد جرقه انسانیت هستند.»

نکته پنهان ماجرا: موضع‌گیری پاپ دوباره توجه‌ها را به یک پرسش بنیادین جلب کرد: آیا مدل‌های هوش مصنوعی واقعاً روح و احساس دارند؟

• نیویورک تایمز گزارش داده که اولا، پیش از برگزاری رویداد واتیکان در ماه مه، تلاش کرده بود مشاوران پاپ را متقاعد کند که چشم‌انداز هوش مصنوعی خودآگاه را جدی‌تر بگیرند.
• با این حال، تا اینجای کار سایر دانشمندان تراز اول هوش مصنوعی در برابر این تفکر صف کشیده‌اند.
• جان بارون، پژوهشگر ارشد گوگل دیپ‌مایند (Google DeepMind)، در این رابطه در شبکه اجتماعی X نوشت: «واقعاً نگرانم که چطور بعضی از همکاران پژوهشگرم در حوزه هوش مصنوعی مدام تلاش می‌کنند جایگاه اخلاقی چک‌پوینت‌ها و وزن‌های ارزیابی را بالا ببرند. امیدوارم بقیه ما در "تیم انسان‌های گوشت و پوست‌دار" این جریان را پس بزنیم و تمرکزمان را روی حل مشکلات واقعی و کمک به انسان‌های واقعی بگذاریم.»

در حاشیه: تاکنون نه اوپن‌ای‌آی و نه آنتروپیک به درخواست‌ها برای توضیح بیش‌تر درباره پست آلتمن پاسخ نداده‌اند.

کلام آخر: بحث‌های مربوط به ایمنی هوش مصنوعی معمولاً حول مسائلی مثل امنیت سایبری و سلاح‌های بیولوژیکی می‌چرخد؛

• اما شاید چالش و مسأله واقعی، بسیار فلسفی‌تر و معنوی‌تر از این حرف‌ها باشد.