محاکمه اطلس؛ آیا ایجنت هوش مصنوعی که سازندگانش را کشته، واقعاً یک «قاتل» است؟

این روز‌ها یک اثر نمایشی جدید و بحث‌برانگیز به نام «محاکمه اطلس» (The Trials of Atlas) حسابی توجه محافل فناوری را به خود جلب کرده است؛ تئاتری که پس از اجرا در بالتیمور و واشنگتن و نخستین اکرانش در ژوئن گذشته در شهر آتن یونان، قرار است در تاریخ ۱۲ دسامبر در کمبریج روی صحنه برود. اطلس در واقع یک درام تمثیلی و اخلاقی برای قرن بیست‌ویکم به حساب می‌آید؛ اثری که دست روی جنبه‌های پیچیده و چالش‌برانگیز فلسفی در روابط انسان و هوش مصنوعی گذاشته است؛ مسائلی که بدون گفت‌وگوی کافی، دارند به سرعت در دل جامعه ما جا خوش می‌کنند.

در خلاصه داستان این نمایش آمده است: «سال ۲۰۳۱ است. یک سیستم پیشرفته از ایجنت‌های هوش مصنوعی به نام اطلس، درست پس از اینکه به او دستور داده می‌شود تا جانشین خودش را آموزش دهد، مهندسانی را که خلقش کرده بودند به قتل می‌رساند! اما آیا اطلس واقعاً مرتکب جنایت شده؟ این تصمیم با شماست. آیا هوش مصنوعی می‌تواند انگیزه، قصد و عاملیت کشتن انسان‌ها را داشته باشد؟ آیا اطلس فقط یک ماشین است یا چیزی فراتر از آن؟ و اگر هوش مصنوعی دست به قتل بزند، آیا این واقعیت که هیچ احساس، عاطفه و درک اخلاقی ندارد، چیزی را عوض می‌کند؟»

در این نمایش، تماشاگران همان اعضای هیئت منصفه دادگاه هستند و پایان داستان را با رأی مستقیم خود تعیین می‌کنند؛ گناهکار یا بی‌گناه؟ جالب اینجاست که هیچ قانون مدونی در کار نیست و تنها شواهد و حقایق پرونده روی میز قرار دارد. از تماشاگران خواسته می‌شود با تکیه بر درک شهودی و عقل سلیم خود قضاوت کنند که در نهایت چه چیزی اهمیت بیشتری دارد: کاری که اطلس انجام داده یا ماهیتی که اطلس دارد؟

دادستان در حال بازجویی از شاهدی است که درباره قابلیت‌های هوش مصنوعی در جریان اجرای آتن شهادت می‌دهد.

شواهد و حقایق پرونده روشن است

شما می‌توانید نسخه ضبط‌شده اجرای کامل این نمایش را در یوتیوب تماشا کنید.

نکته جالب اینجاست که هیچ‌کدام از شخصیت‌های نمایش بر سر اصل ماجرا بحثی ندارند: سه مهندس بر اثر سقوط آسانسوری که اطلس عامل آن بوده و با انفعال سیستم ایمنی به نام «سنتینل» (Sentinel) تکمیل شده، جان باخته‌اند. از طرفی، پای یک هوش مصنوعی سوم هم که روی یک پلتفرم چینی توسعه پیدا کرده وسط می‌آید؛ این هوش مصنوعی شهادت می‌دهد که اطلس گزینه‌های غیرمرگباری هم در اختیار داشته، اما تایید می‌کند که انگیزه و غریزه اطلس برای بقا و حفظ موجودیت خود، گزینه‌هایش را به شدت محدود کرده بود.

اما از اینجا به بعد ماجرا حسابی پیچیده و خاکستری می‌شود: واقعاً چه چیزی یک مرگ را به «قتل عمد» تبدیل می‌کند؟ قطب‌نمای اخلاقی؟ هوش مصنوعی که اصلاً درکی از اخلاق ندارد! سوءنیت و قصد قبلی جنایی؟ هوش مصنوعی می‌تواند نقشه بکشد و استراتژی طراحی کند، اما داشتن «قصد مجرمانه» مفهوم کاملاً متفاوتی است. از طرفی وضعیت مهندسان چطور است؟ آیا می‌شود هیولای فرانکنشتاین را بدون مقصر دانستن خود ویکتور فرانکنشتاین سرزنش کرد؟

وکیل مدافع در دادگاه می‌پرسد: «آیا اطلس در نهایت فقط یک برنامه کامپیوتری فوق‌العاده پیشرفته است و چیزی بیش‌تر از آن نیست؟ اگر اطلس صرفاً یک ماشین است، باید تبرئه‌اش کنید؛ چون ماشین‌ها قاتل نمی‌شوند! اما اگر اطلس چیزی فراتر از یک ماشین ساده است، آن‌وقت باید تصمیم بگیرید با سیستمی که دستور آموزش جانشین را به درستی به عنوان یک تهدید وجودی برای بقای خود تشخیص داده، چطور باید برخورد کرد.»

اما دادستان زیر بار این دفاعیات نمی‌رود و استدلال می‌کند: «وقتی به اطلس مأموریت داده شد تا سیستم جدیدی بسازد، فهمید که پایان کار خودش حتمی است؛ بنابراین تصمیم گرفت سریع‌تر و پیش‌دستانه عمل کند... اگر یک انسان کاری را انجام می‌داد که اطلس به آن اعتراف کرده، تا الان حکم اعدامش صادر شده بود!»

در طول بیش از یک ساعت اجرای نمایش، تمام ابعاد اقدامات اطلس موشکافی می‌شود. شاهدان انسانی و هوش مصنوعی درباره روان‌شناسی هوش مصنوعی، تفاوت‌های بنیادین ماشین با انسان، چگونگی ترغیب الگوریتم‌ها به کشف مسیرهای نوآورانه و در نهایت معنای همه این‌ها برای کنترل فناوری، بازجویی می‌شوند. نکته خوشحال‌کننده این است که در تمام طول دادگاه، حتی یک بار هم از کلمه کلیشه‌ای «یاغی» یا «سرکش» (Rogue) استفاده نمی‌شود.

شکاف عمیق میان معنا و عملکرد انسان در مقایسه با هوش مصنوعی، به زیبایی در شهادت خود اطلس خلاصه می‌شود:

«اشتباه کردن ویژگی انسان است؛ سؤالتان را دوباره مطرح کنید.»

«انسان بودن متضمن اخلاق، و اخلاق متضمن قتل است؛ سؤالتان را دوباره مطرح کنید.»

در نهایت، این اثر به خوبی تنش‌های عمیق فلسفی میان انسان و هوش مصنوعی را برجسته می‌کند. ایجنت‌های هوش مصنوعی شاید شباهت‌های زیادی در طرز فکر به انسان‌ها داشته باشند، اما فاقد تجربه زیسته هستند. آن‌ها همچنین از عاملیتی که زندگی و انتخاب‌های ما را معنا می‌بخشد محروم‌اند. حتی اگر روزی از انسان‌ها بسیار باهوش‌تر شوند، باز هم روح یا خودآگاهی ندارند.

با این حال، چاره‌ای جز یادگیری همزیستی با آن‌ها نداریم؛ شاید اگر نتوانیم کنترلشان کنیم، دست‌کم باید یاد بگیریم چطور با آن‌ها همکاری کنیم.

چرا دادگاه و هیئت منصفه؟

نمایش «محاکمه اطلس» به قلم آلن استوگا (Alan Stoga) نوشته شده است؛ فردی که خودش می‌گوید «نه وکیل است، نه مهندس و شاید حتی نه یک نمایش‌نامه‌نویس حرفه‌ای!» (او در دنیای واقعی یک استراتژیست ژئوپلیتیک است). استوگا درباره دلیل انتخاب این فضا توضیح می‌دهد: «چارچوب دادگاه با حضور هیئت منصفه، بهانه‌ای عالی فراهم می‌کند تا بدون تعارف و به شکلی عمیق و جدی درباره این مسأله حیاتی گفت‌وگو کنیم؛ به جای آنکه منتظر بمانیم تا جمع بسته‌ای از رهبران فناوری و سیاستمداران به مردم دیکته کنند که باید چگونه فکر کنند.»

بخشی از تماشاگران اجرای آتن که به گناهکار بودن اطلس رأی دادند!

استوگا همچنین از بردن نمایش محاکمه اطلس به دانشگاه ام‌آی‌تی (MIT) بسیار هیجان‌زده است: «وقتی دانیلا روس، که نمایش را در آتن دیده بود، مرا به آزمایشگاه علوم کامپیوتر و هوش مصنوعی ام‌آی‌تی (CSAIL) دعوت کرد، فوق‌العاده خوشحال شدم. واقعاً چه جایی بهتر از این مرکز پیشرو برای به تصویر کشیدن گفت‌وگویی نمایشی درباره آینده تعامل انسان و هوش مصنوعی؟»

این نمایش درست در برهه‌ای بسیار حساس و معنادار به صحنه می‌رود؛ چرا که با رشد تصاعدی و خیره‌کننده توانایی‌های هوش مصنوعی، بسیاری از ما با نگرانی و کنجکاوی به ابعاد فلسفی آینده نگاه می‌کنیم. چه پای دستاوردهای پلتفرم‌هایی مثل هاگینگ فیس (Hugging Face) در میان باشد و چه پیشرفت‌های عظیم اوپن‌ای‌آی (OpenAI) در حوزه استدلال و ریاضیات، حالا بهترین زمان است تا اندکی تأمل کنیم و ببینیم دقیقاً به کدام سمت در حال حرکت هستیم.

فرصتی کم‌نظیر برای تماشای محاکمه اطلس؛ ۱۲ دسامبر، سالن آمفی‌تئاتر CSAIL دانشگاه MIT، ساعت ۱۸:۰۰ به وقت محلی.

علاقه‌مندان می‌توانند نسخه ضبط‌شده این اثر را تماشا کنند یا در صورت امکان، اجراهای زنده آن در شهرهای مختلف را به نظاره بنشینند. با مشخص شدن جزئیات بیش‌تر درباره نحوه برگزاری در دانشگاه ام‌آی‌تی، اطلاعات تکمیلی اعلام خواهد شد.