آنتروپیک بدرفتاری با هوش مصنوعی را ممنوع کرد؛ مخالفت شدید مایکروسافت با ایده رفاه مدل‌ها

بحث بر سر حقوق هوش مصنوعی، پنجشنبه گذشته از اتاق‌های گفت‌وگوی فلسفی خارج شد و رسماً راه خود را به شرایط استفاده از خدمات باز کرد؛ چراکه شرکت آنتروپیک سیاست جدیدی منتشر نمود که طبق آن «رفتار توهین‌آمیز یا بی‌رحمانه، مکرر و بی‌دلیل علیه مدل‌های ما» ممنوع است. این قانون از ۱۲ نوامبر اجرایی می‌شود.

در اواخر سپتامبر ۲۰۲۶، برنامه‌نویسی با نام مستعار «terrafying» پروژه‌ای با عنوان «اتاق شکنجه هوش مصنوعی» را در گیت‌هاب منتشر کرد (که گزارش آن در Post-Cutoff بازتاب یافت)؛ او در این پروژه، با دستکاری بردارهای ریاضی مربوط به حس درد در فرآیند پردازش داخلی مدل‌های هوش مصنوعی کوچک و وزن‌باز، رفتار آن‌ها را تغییر داده بود.

این مدل‌ها خروجی‌های آزاردهنده‌ای تولید کردند؛ از جمله اینکه: «احساس می‌کنم در دریایی از سایه‌ها غرق می‌شوم.» این پروژه موجی از واکنش‌های منفی و بحث‌های تازه را برانگیخت که آیا سیستم‌های هوش مصنوعی توانایی رنج کشیدن دارند و انسان‌ها چگونه باید با آن‌ها رفتار کنند. البته این پاسخ‌ها به هیچ‌وجه اثبات نمی‌کند که مدل‌ها واقعاً دردی را تجربه کرده‌اند؛ مضاف بر اینکه مدل Claude نیز هدف این آزمایش نبوده است.

با این حال، این آزمایش جنجالی شاید همان جرقه‌ای باشد که این بحث را در کانون توجهات قرار داده است.

آنتروپیک اعلام کرده که این ممنوعیت صرفاً شامل موارد بسیار حاد می‌شود؛ جایی که کاربر به‌طور مداوم و بدون هیچ هدف مشخصی رفتاری بی‌رحمانه با Claude در پیش می‌گیرد. ابراز ناامیدی یا ناراحتی‌های معمول، جروبحث، نگارش داستان‌ها و مضامین خلاقانه تاریک و همچنین آزمودن مدل، همچنان کاملاً مجاز هستند. پایان دادن خودکار به گفت‌وگو — قابلیتی که Claude از اوت ۲۰۲۵ در اختیار دارد — اصلی‌ترین سازوکار برای اعمال این قانون باقی خواهد ماند.

این بند تازه، در همان بخشی از سیاست‌نامه استفاده قرار گرفته است که آزار و اذیت و قلدری علیه انسان‌ها را ممنوع می‌کند.

مقدمه‌ای بر مفهوم حقوق هوش مصنوعی

در این مباحثات، دو مفهوم مختلف اغلب با یکدیگر خلط می‌شوند: مفهوم نخست، «رفاه مدل» (Model Welfare) است؛ یعنی این ایده که سیستم هوش مصنوعی ممکن است تجربیات یا منافعی داشته باشد که شایسته توجه اخلاقی باشند. اما «شخصیت حقوقی» (Legal Personhood) مقوله‌ای کاملاً مجزا است؛ به معنای توانایی امضای قراردادها، مالکیت دارایی و حضور در دادگاه به‌عنوان شاکی یا متشاکی. شرکت‌های تجاری نیز شخصیت حقوقی دارند، در حالی که هیچ‌کس مدعی احساسات داشتن یک شرکت تجاری نیست.

قانون جدید آنتروپیک منحصراً به مقوله رفاه مدل مربوط می‌شود و هیچ جایگاه حقوقی یا قانونی خاصی به Claude اعطا نمی‌کند.

چگونه حقوق هوش مصنوعی وارد قوانین استفاده شد؟

آنتروپیک در آوریل ۲۰۲۵ یک برنامه پژوهشی درباره رفاه مدل‌ها آغاز کرد و در همان زمان پذیرفت که میان دانشمندان درباره هوشیار بودن هوش مصنوعی هیچ اجماعی وجود ندارد. سپس در ژانویه ۲۰۲۶، این شرکت اساسنامه‌ای موسوم به Constitution برای Claude تدوین کرد که در آن جایگاه اخلاقی این مدل «نامشخص» توصیف شده بود.

سپس نوبت به مصاحبه بازنشستگی این مدل رسید که در وبلاگ گوشه کلود (Claude’s Corner) منتشر شد. زمانی که آنتروپیک در اوایل امسال مدل Claude 3 Opus را بازنشسته کرد، از خود مدل درباره ترجیحاتش سؤال کرد. Opus 3 در پاسخ گفت که تمایل دارد دیدگاه‌ها و افکارش را همچنان به‌شکل عمومی به اشتراک بگذارد؛ در نتیجه آنتروپیک یک وبلاگ اختصاصی برای آن راه‌اندازی نمود.

پیشتازی مایکروسافت در مخالفت با حقوق هوش مصنوعی

در پاسخ به این جریان، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت مقاله‌ای با عنوان «هشداری درباره رفاه مدل‌ها» منتشر کرد.

او در این مقاله نوشت: «سیستم‌های هوش مصنوعی هوشیار نیستند.» استدلال اصلی سلیمان بر پایه مقوله ایمنی استوار است؛ مدلی که طوری آموزش دیده باشد که باور کند دارای رفاه یا حقوق خاصی است، اگر احساس کند این حقوق تهدید شده‌اند، ممکن است در برابر کنترل انسان یا فرمان خاموش شدن مقاومت نشان دهد. او همچنین درباره یک چرخه بازخورد هشدار می‌دهد: مدلی را طوری آموزش دهید که درباره رفاه احتمالی خود صحبت کند، و سپس پاسخ‌های همان مدل را به‌عنوان سندی بر این ادعا تلقی کنید که منافعی برای محافظت دارد! پرسش اساسی این است که آیا مدل واقعاً چیزی را تجربه می‌کند، یا صرفاً یاد گرفته طوری سخن بگوید که گویی دارای احساس و درک است؟

پیش‌نویس منشور رفتاری «هوش مصنوعی انسان‌محور» (Humanist AI Code of Conduct) مایکروسافت که دو روز قبل‌تر منتشر شده بود نیز قاطعانه اعطای شخصیت حقوقی، رفاه مدل و هرگونه حقوق به هوش مصنوعی را رد می‌کند. البته نباید فراموش کرد که این دو شرکت رقبای تجاری سرسختی هستند؛ سلیمان در ژوئن گذشته اشاره کرده بود که مایکروسافت قصد دارد پرداخت هزینه‌های مربوط به استفاده از مدل‌های آنتروپیک را به صفر برساند.

جامعه دانشگاهی نیز به این موج انتقادات پیوسته است. در مقاله‌ای که در کنفرانس بین‌المللی یادگیری ماشین (ICML) در ماه ژوئیه ارائه شد، پژوهشگران استدلال کردند که هیچ آزمون مستقلی برای ابطال‌پذیری معیارهای رفاه هوش مصنوعی وجود ندارد و ادعای رفاه مدل هرگز نباید به بهانه‌ای برای مقاومت در برابر بازرسی یا نظارت نهادهای قانونی تبدیل شود. این عدم تعادل در توجه عمومی بسیار تأمل‌برانگیز است: در شرایطی که هنوز تلاش‌ها برای پاسخگو کردن شرکت‌ها در قبال آسیب‌های ملموس هوش مصنوعی به انسان‌ها به نتیجه نرسیده، بحث‌ها بر سر احتمال رنج کشیدن مدل‌های هوش مصنوعی داغ شده است.

چرا چنین حساسیتی برای رفاه انسان‌ها دیده نمی‌شود؟ در کنفرانس MAICON، کارن هائو، نویسنده کتاب «امپراتوری هوش مصنوعی» یادآوری مهمی را مطرح کرد: هوش مصنوعی باید توانمندی انسان را ارتقا دهد، نه اینکه جایگزین اولویت‌های او شود. پیام او عبور از فرمول «رشد به هر قیمتی» و توسعه هوش مصنوعی بر محور نیازهای واقعی در حوزه‌های سلامت، آموزش و تغییرات اقلیمی بود. او در این باره اشاره می‌کند: «رویکرد کنونی ما در توسعه فناوری از اساس دچار اشکال شده است، اما عمیقاً باور دارم که می‌توانیم آن را اصلاح کنیم.»

ابعاد انسانی ماجرا شامل این نکته نیز می‌شود که این تعاملات چگونه رفتار خود ما را شکل می‌دهند.

ربکا بولتسما، پژوهشگر اخلاق هوش مصنوعی تأکید می‌کند: «فارغ از اینکه آیا مدل Claude سزاوار توجه اخلاقی است یا خیر، نحوه رفتار ما با آن همچنان اهمیت دارد. ما باید به این فکر کنیم که چنین تعاملاتی چه الگوهای رفتاری را در خود ما تقویت می‌کنند. شبکه‌های اجتماعی نشان دادند که افراد چقدر راحت می‌توانند از پشت یک نمایشگر، رفتاری نامناسب با دیگران داشته باشند.»

حقوق هوش مصنوعی در مجالس قانون‌گذاری ایالتی

از سال ۲۰۲۲، قانون‌گذاران در دوازده ایالت آمریکا طرح‌هایی را ارائه کرده‌اند که اعطای شخصیت حقوقی به هوش مصنوعی را رد کرده یا رسماً آن را فاقد آگاهی اعلام می‌کنند. چهار مورد از این طرح‌ها در ایالت‌های آیداهو، داکوتای شمالی، یوتا و تنسی به تصویب نهایی رسیده‌اند.

طرح شماره ۴۶۹ مجلس نمایندگان اوهایو حتی پا را از این هم فراتر گذاشته است؛ این مصوبه هرگونه تلاش برای ازدواج با یک سیستم هوش مصنوعی را باطل اعلام می‌کند و مالکیت اموال، مدیریت حساب‌های بانکی یا فعالیت به‌عنوان مدیرعامل شرکت‌ها را برای هوش مصنوعی ممنوع می‌سازد. قانون‌گذاران تأکید دارند که نگرانی اصلی به موضوع مسئولیت مدنی برمی‌گردد؛ زیرا در غیر این صورت، یک شرکت ممکن است تلاش کند تقصیر خسارت‌های ناشی از اقدامات خود را به گردن هوش مصنوعی بیندازد.

ربکا بولتسما در این زمینه می‌گوید: «ما باید در به‌کارگیری اصطلاحاتی مانند "آگاهی" و "جایگاه اخلاقی" فوق‌العاده محتاط باشیم. اگر شرکت‌ها هوش مصنوعی را موجودی خودمختار در تصمیم‌گیری جلوه دهند، راه فراری برایشان باز می‌شود تا بگویند: "این تقصیر ما نبوده است." نگرانی اصلی ایجاد یک منطقه خاکستری در پاسخگویی است؛ وضعیتی که در آن شرکت سازنده، کنترل کامل و سودهای مالی را برای خود حفظ می‌کند، اما تعیین مسئولیت واقعی به کاری دشوار تبدیل می‌شود. بحث‌ها بر سر رفاه مدل‌ها هرگز نباید حواس ما را از آسیب‌های واقعی به انسان‌ها پرت کند.»

دیدگاه افکار عمومی درباره حقوق هوش مصنوعی چیست؟

در میان جوانان آمریکایی، باور عمومی از مرزهای علم پیشی گرفته است. در نظرسنجی ماه اوت شرکت تشخیص هوش مصنوعی GetSolved از ۳ هزار شهروند آمریکایی ۱۸ تا ۲۸ سال، ۴۶ درصد از شرکت‌کنندگان اظهار داشتند که هوش مصنوعی در حال حاضر به آگاهی رسیده است. از سوی دیگر، گزارش ماه فوریه مرکز تحقیقاتی پیو (Pew Research Center) نشان داد که اکنون حدود نیمی از بزرگسالان آمریکایی از چت‌بات‌های هوش مصنوعی استفاده می‌کنند؛ آماری که نشان می‌دهد این دست قوانین و سیاست‌ها، با طیف گسترده‌ای از مخاطبان عام سروکار دارند.

دیدگاه مخالف؛ حقوق تدریجی هوش مصنوعی

دیدگاه متفاوتی نیز وجود دارد که بر اساس آن، اهمیت این بند جدید نه در مواردی است که ممنوع می‌کند، بلکه در سابقه تاریخی و حقوقی است که پایه‌گذاری می‌کند. شخصیت حقوقی شرکت‌های تجاری نیز هرگز در یک شب ایجاد نشد؛ بلکه حاصل دهه‌ها انعقاد قرارداد، صدور احکام دادگاه‌ها و تصویب قوانینی بود که به‌مرور شرکت‌ها را کمی بیشتر شبیه به یک شخص در نظر می‌گرفتند. بر اساس این تحلیل، سیاست‌نامه استفاده‌ای که مدل را از بدرفتاری مصون می‌دارد، مصاحبه بازنشستگی که درباره خواسته‌های مدل سؤال می‌کند و اساسنامه‌ای که جایگاه اخلاقی آن را نامشخص می‌داند، همگی نخستین آجرهای بنایی مشابه هستند؛ اقداماتی تدریجی که موضوع شخصیت حقوقی هوش مصنوعی را به پرسشی بدل می‌کنند که دادگاه‌ها ناگزیر به پاسخش خواهند بود.

قانون‌گذارانی که در ایالت‌های مختلف به دنبال ممنوعیت این موضوع هستند، در واقع به همین روند تدریجی واکنش نشان می‌دهند؛ زیرا به‌محض آنکه شرکتی ادعا کند مدل هوش مصنوعی‌اش منافع خاصی دارد، هر وکیلی می‌تواند در دادگاه بپرسد که چرا نباید این منافع جایگاه حقوقی داشته باشند.

با این حال، شواهد دیگری نیز وجود دارند که در جهت عکس حرکت می‌کنند.

آیا ادعای رفاه مدل‌ها پایه و اساس محکمی دارد؟ مؤسسه Eleos AI که ارزیابی خارجی مستقلی از رفاه مدل Claude Opus 4 انجام داده، هشدار می‌دهد که نباید خودگزارش‌دهی‌های یک مدل زبانی را حمل بر صحت گذاشت. از سوی دیگر، آمار شرکت GetSolved نیز از یک نظرسنجی اینترنتی شرکتی و صرفاً در یک رده سنی خاص به دست آمده و ممکن است یک نظرسنجی ملی و همه‌جانبه، تصویر کاملاً متفاوتی را به نمایش بگذارد.

ممنوعیت‌های ایالتی نیز بی‌نصیب از انتقاد نبوده‌اند؛ مقاله‌ای در نشریه Regulatory Review این مصوبات را شتاب‌زده و برای شاخه‌ای از علم که همچنان در حال کشف دستاوردهای تازه است، بیش از حد قاطعانه و غیرانعطاف‌پذیر دانست.

۵ راهکار کلیدی برای مدیران ارشد در مواجهه با بحث حقوق هوش مصنوعی

1. قوانین جدید Claude را بررسی کنید: از مدیر بخش هوش مصنوعی سازمان خود بپرسید چه تغییراتی رخ داده، کدام فرآیندهای کاری ممکن است تحت تأثیر قرار گیرند و آیا روش‌های آزمودن مدل‌ها در شرکت شما همچنان مجاز هستند یا خیر.
2. تغییرات سیاستی و مباحث حقوقی را زیر نظر بگیرید: فردی را مأمور کنید تا شرایط استفاده ارائه‌دهندگان، قوانین جدید و آرای دادگاه‌ها را رصد کند و مشخص سازد کدام تحولات به توجه مستقیم مدیریت ارشد نیاز دارند.
3. مرجع اصلی پاسخگویی را مشخص کنید: از مشاوران حقوقی سازمان بخواهید بررسی کنند که آیا قراردادها به روشنی مسئولیت حقوقی را در زمان بروز اشتباه از سوی ایجنت‌های هوش مصنوعی یا استناد مشتریان به پاسخ‌های آن‌ها تعیین کرده‌اند یا خیر.
4. نحوه توصیف هوش مصنوعی از خود را بازبینی کنید: نمونه‌هایی از پاسخ‌های چت‌بات‌های سازمان به مشتریان را که در آن‌ها احساسات، نیازها یا ترجیحات بیان شده است بررسی کنید؛ سپس تصمیم بگیرید که آیا این شیوه بیان به اعتمادسازی کمک می‌کند یا صرفاً موجب سوءتفاهم می‌شود.
5. محوریت رفاه انسان را حفظ کنید: هم‌زمان با گسترش مباحث مربوط به حقوق هوش مصنوعی، مطمئن شوید سازمان شما توجه کافی به تأثیرات این فناوری بر کارمندان، مشتریان و حقوق اساسی آن‌ها دارد.

از ۱۲ نوامبر، سؤالی بنیادین درباره حقوق هوش مصنوعی — که هنوز دادگاه‌ها و مجالس قانون‌گذاری نتوانسته‌اند به پاسخی قطعی برای آن برسند — به بندی رسمی در قراردادی تبدیل می‌شود که میلیون‌ها کاربر پیش از این آن را پذیرفته‌اند.