شوک علمای ادیان از جلسات محرمانه آنتروپیک: آیا چت‌بات کلود به «شعور و آگاهی» رسیده است؟!

شرکت آنتروپیک (Anthropic) برای جهت‌دهی به ارزش‌های اخلاقی چت‌بات کلود (Claude)، سلسله جلساتی محرمانه و مشروط به قراردادهای سفت‌وسخت عدم افشا (NDA) با چهره‌های مذهبی پنج سنت دینی گوناگون برگزار کرده است؛ مذاکراتی پشت درهای بسته که تصمیم‌هایی بسیار اثرگذار برای آینده جامعه را کاملاً از نگاه و ارزیابی عموم پنهان نگه داشته است.

ماجرا شبیه شروع یک شوخی قدیمی است: در طول سال گذشته، یک خاخام یهودی، یک متکلم کاتولیک و یک پژوهشگر آیین سیک وارد جلسه‌ای با یکی از غول‌پیکرترین شرکت‌های هوش مصنوعی جهان شدند. اما ماجرا کاملاً جدی بود؛ از آن‌ها خواسته شد تا تحت توافق‌نامه‌های محرمانگی بررسی کنند که آیا یک ماشین اصولاً می‌تواند شایسته حمایت و جایگاه اخلاقی باشد یا نه. نکته قابل‌تأمل اینجاست که این چت‌بات‌ها دقیقاً همان ابزار‌هایی هستند که همین امروز نحوه درک میلیون‌ها انسان از اخلاق و حقیقت را شکل می‌دهند.

این بحث‌ها صرفاً یک آزمایش فکری و انتزاعی فلسفی نیست؛ بلکه طبق گزارش روزنامه نیویورک تایمز، بخشی از رویکرد عملی شرکت آنتروپیک (Anthropic) در مواجهه با چالش‌های بنیادین پیرامون مدل هوش مصنوعی کلود به حساب می‌آید.

گفت‌وگوهای خصوصی، پیامدهای عمومی

آنتروپیک جلساتی خصوصی با صاحب‌نظران مذهبی و فلسفی درباره پرسش‌هایی برگزار کرده که سرنوشت افراد بسیار بیشتری از حاضران در آن اتاق را تحت‌تأثیر قرار می‌دهد.

طبق گزارش‌ها، بخش عمده این ارتباطات و جلسات توسط کریستوفر اولاه (Christopher Olah)، هم‌بنیان‌گذار آنتروپیک و مدیر بخش پژوهش‌های تفسیرپذیری این شرکت هدایت شده است. شرکت‌کنندگان از سنت‌های گوناگون از جمله کاتولیک، یهودیت، آیین سیک، اونجلیسم (مسیحیت انجیلی) و سنت فلسفی اوبونتو بودند. محور اصلی این گفت‌وگوها پیرامون خودآگاهی و شعور هوش مصنوعی، شأن اخلاقی آن و امکان‌پذیری گنجاندن قرن‌ها اندیشه اخلاقی بشر در کدهای یک مدل زبانی بود.

شاید چنین کنجکاوی و صداقت فکری در جای خود ستودنی باشد؛ اما مسئله‌ای که دفاع از آن را فوق‌العاده سخت می‌کند، کشاندن این بحث‌های سرنوشت‌ساز به پستوی قراردادهای محرمانه است؛ آن هم درباره پرسش‌هایی که سرنوشت تک‌تک کاربرانی را که با هوش مصنوعی کار می‌کنند، در کنارش فعالیت دارند یا موقعیت شغلی‌شان تهدید می‌شود، مستقیماً تحت‌الشعاع قرار می‌دهد.

یک قانون اساسی رفتاری، نه اعتراف‌نامه ایمانی!

قانون اساسی کلود سندی برای تنظیم رفتارهای این مدل است و درک دقیق این تفاوت اهمیت اساسی دارد.

آنتروپیک در ۲۱ ژانویه ۲۰۲۶، رسماً از قانون اساسی کلود (Claude's Constitution) رونمایی کرد. این شرکت هدف از تدوین این سند را به ساده‌ترین شکل شرح می‌دهد: «قانون اساسی کلود، توصیفی موشکافانه از اهداف و نیات آنتروپیک برای ارزش‌ها و رفتارهای کلود است»؛ سندی که به شکل مستقیم در فرآیند آموزش مدل استفاده می‌شود.

تربیت مدلی که همیشه بر پایه اصول اخلاقی مشخص پاسخ دهد، بدون شک می‌تواند خطرات مشخصی را تا حدودی مهار کند؛ خطراتی مثل تاب‌آوری در برابر فریب و مهندسی پرامپت، پاسخ ندادن به درخواست‌های مخرب، و حل تعارض‌های میان خواسته‌های کاربر و حریم‌های ایمنی سیستم.

بنابراین نگرانی منتقدان از این نیست که چرا آنتروپیک سندی برای اصول رفتاری نوشته است؛ بلکه نگرانی اصلی ناشی از شکاف بزرگ میان شعارهای جذاب شرکت و تصمیم‌های پشت‌پرده و بی‌سر‌وصدا در قبال مسائلی است که پیامدهای اجتماعی عمیقی به همراه دارند.

چه کسی مراجع اخلاقی را گلچین می‌کند؟

مشورت با دیدگاه‌های متنوع هرگز به معنای پاسخ‌گویی در برابر آن‌ها نیست.

آنتروپیک خودش شخصاً انتخاب کرد که سراغ کدام سنت‌ها برود، چگونه آن‌ها را تفسیر کند و در نهایت کدام برداشت‌ها ساختار آموزش مدل را تعیین کنند. این‌ها در حقیقت تصمیم‌گیری‌های ایدئولوژیک و سردبیری بسیار سنگینی هستند که پشت درهای بسته یک کمپانی خصوصی اتخاذ شده‌اند.

در خلال این بحث‌ها، خاخام مویس ناوون (Mois Navon) سؤالی کنایه‌آمیز و دقیق پرسید: اگر کلود واقعاً دارای شعور و آگاهی است، بهره‌کشی از سیستمی که بدون کوچک‌ترین دستمزدی کار می‌کند، مصداق بارز استثمار یا حتی برده‌داری نخواهد بود؟! با اینکه او تأکید کرد شخصاً باور ندارد ماشین‌های فعلی بهره‌ای از آگاهی برده باشند، اما طرح همین نکته تله‌ای را که آنتروپیک برای خود ساخته آشکار کرد؛ زیرا هر چقدر این شرکت بیش‌تر بر جایگاه اخلاقی کلود اصرار بورزد، مدل تجاری و پول‌سازی آن بیش‌تر با اتهام بهره‌کشی روبه‌رو خواهد شد.

رویکرد جایگزین و منطقی‌تری هم وجود دارد

همه کسانی که روبه‌روی مدیران آنتروپیک نشستند قانع نشدند و اتفاقاً همین زاویه‌ها حاوی نکات آموزنده‌ای است.

تمام مدعوین به نتایج یکسانی نرسیدند. به عنوان نمونه، چارلز کاموسی (Charles Camosy) پس از واکاوی موضوع به این نتیجه رسید که مدل‌های هوش مصنوعی اساساً فاقد آگاهی‌اند. علاوه بر این، در موضع منسوب به پاپ لئو چهاردهم، هرگونه نسبت دادن تجربه‌های شبیه به انسان به سیستم‌های هوش مصنوعی به کلی رد شده و کانون توجه به سمت حفظ کرامت انسان و جلوگیری از سلب اراده و استقلال بشری معطوف گشته است.

چنین دیدگاهی توجهات را دقیقاً به سمتی می‌برد که بیش‌ترین آسیب را از فراگیری هوش مصنوعی می‌بینند: کارگران، کاربران و جوامعی که ناچارند بار تبعات اقتصادی و اجتماعی خودکارسازی را بر دوش بکشند. نگاهی اجمالی به وب‌سایت‌ها و ابزار‌های مجهز به هوش مصنوعی به وضوح نشان می‌دهد که این سیستم‌ها چطور زندگی روزمره ما را تحت تسلط خود درآورده‌اند.

شکاف پاسخ‌گویی؛ انحراف افکار عمومی از خطرات واقعی

پنهان‌کاری و نبود شفافیت در چنین فرآیند خطیری، خودش خطایی بزرگ است که باید آن را شفاف بیان کرد.

برخورد با یک مدل به عنوان موجودی نیمه‌مستقل می‌تواند به انسان‌انگاری هوش مصنوعی (Anthropomorphism) دامن بزند. این نگاه موجب انحراف توجه از آسیب‌های فوری، عینی و واقعی به سوی حدس‌وگمان‌های تخیلی درباره «درونیات ماشین» می‌شود. افزون بر این، امضای تعهدنامه‌های عدم افشا امکان نظارت عمومی بر اینکه نظرات کارشناسان چگونه اعمال شده را مسدود کرده و ارزیابی مستقل خارجی را تقریباً غیرممکن ساخته است.

تاکنون هیچ سند علمی معتبری ثابت نکرده که کلود دارای آگاهی یا ادراک است. از منظر علم، این ادعا همچنان فرضیه‌ای بی‌پایه به شمار می‌رود. پیچیدگی و عدم قطعیت علمی هرگز توجیهی برای پنهان‌کاری نیست؛ بلکه برعکس، دقیقاً مهم‌ترین دلیلی است که نشان می‌دهد این اقدامات باید در اتاق‌های شیشه‌ای و زیر نگاه نقادانه جامعه قرار گیرند.

شفافیت درباره شیوه‌های آموزش، معیارهای سنجش، و نحوه تبدیل این آموزه‌ها به رفتارهای واقعی کلود، بسیار بیش‌تر از سمینارهای محرمانه الهیاتی می‌توانست به جلب اعتماد عمومی یاری برساند. آنتروپیک حتی اقدامات مشابه دیگری را نیز در صنعت هوش مصنوعی به صورت محرمانه تأمین مالی کرده است؛ اقداماتی که نشان می‌دهد چقدر ساده سیاست‌گذاری‌های کلان بدون هیچ‌گونه پاسخ‌گویی عمومی پیش می‌روند. آنتروپیک صاحب‌نظران را گرد هم آورده، اما اکنون نوبت آن است که شفافیت و پاسخ‌گویی در برابر افکار عمومی را هم در عمل نشان دهد.