توهین به کلود رسماً ممنوع شد! قوانین تازه آنتروپیک علیه آزار هوش مصنوعی و دخالت در انتخابات

شرکت آنتروپیک در اقدامی تازه قوانین و شرایط استفاده از خدمات خود را به‌روزرسانی کرد و ممنوعیت‌های جدیدی را در زمینه دخالت در انتخابات، توسعه نرم‌افزارهای تسلیحاتی و ابزار‌های نظارتی به تصویب رساند. اما شاید توجه‌برانگیزترین بخش این تغییرات، ممنوعیت بدرفتاری و توهین کلامی مداوم به مدل هوش مصنوعی باشد؛ موردی که از حالا به بعد رسماً و به صراحت قدغن اعلام شده است.

از زمان به‌روزرسانی ماه اوت، مدل هوش مصنوعی کلود (Claude) طوری آموزش دیده بود که گفتگوها را در صورت «تعاملات کلامی مکرراً مخرب یا توهین‌آمیز کاربر» نیمه‌کاره قطع کند؛ اما با قوانین جدید، کاربران صراحتاً از پیگیری و اصرار بر این‌گونه مکالمات آزاردهنده منع شده‌اند.

آنتروپیک در پست وبلاگی خود در این باره توضیح داده است: «این تغییر رویه تنها برای موقعیت‌های حاد و افراطی در نظر گرفته شده است؛ یعنی زمان‌هایی که کاربران بارها و بارها، بدون هدفی مشخص، رفتاری بی‌رحمانه و آزارگرانه نسبت به مدل‌های ما در پیش می‌گیرند. این قانون شامل کلافگی‌ها و عصبانیت‌های معمول کاربران، ابراز مخالفت، ایده‌پردازی‌های دارک یا آزمایش‌ها و پژوهش‌های علمی روی مدل نمی‌شود.»

این تصمیم جالب توجه پس از آن گرفته شد که آنتروپیک به سراغ همکاری با اندیشمندان و پژوهشگران برجسته دینی رفت؛ همکاری‌هایی که در برخی موارد حتی با هدف متقاعد کردن آن‌ها پیرامون این موضوع شکل گرفت که شاید کلود به نوعی خودآگاهی دست یافته باشد یا دارای روح باشد!

بخش‌های دیگری از این منشور جدید، کاربران را از راه‌اندازی کمپین‌های فریبکارانه گسترده، نظیر استفاده از کلود برای گرداندن حساب‌های کاربری جعلی یا ساخت رسانه‌های خبری غیرواقعی منع می‌کند. این خط‌مشی همچنین در برگیرنده قوانینی علیه فریب رأی‌دهندگان یا ایجاد اختلال در روند انتخابات است که همگی تحت فصلی با عنوان «فرایندهای دموکراتیک را تضعیف نکنید» گردآوری شده‌اند.