پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

هوش مصنوعی واقعاً درباره انسان چه فکری می‌کند؟ ارزیابی تکان‌دهنده ۱۲ مدل مطرح از ماهیت بشر

انتشار:۱ آبان ۱۴۰۵(۵۹ دقیقه پیش)
۵ دقیقه زمان مطالعه
۰ دیدگاه
اشتراک و پسندیدن

پلتفرم ارزیابی ModelCompare در آزمایشی متفاوت نظر ۱۲ مدل زبانی بزرگ را درباره ماهیت بشر جویا شد؛ نتایج نشان داد تقریباً تمام چت‌بات‌ها انسان را موجوداتی دنباله‌رو، قبیله‌گرا و گریزان از حقیقت می‌دانند. این دیدگاه تلخ در واقع آینه‌ای از کاریکاتورها و استدلال‌های خودبیزارانه بشر است که در داده‌های آموزشی هوش مصنوعی بازتاب یافته است.

هوش مصنوعی واقعاً درباره انسان چه فکری می‌کند؟ ارزیابی تکان‌دهنده ۱۲ مدل مطرح از ماهیت بشر

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • در ارزیابی ۱۲ مدل زبانی بزرگ، تقریباً تمام مدل‌ها انسان را موجوداتی دنباله‌رو، غیرمنطقی و وابسته به تأیید گروه توصیف کردند.
  • مدل‌های تصویری نیز به‌جای نمایش عقلانیت انسان، بشر را مصرف‌کنندگانی معتاد به نمایشگرها تصویر کردند که در حال بلعیدن سیاره زمین هستند.
  • کارشناسان هشدار می‌دهند توافق چت‌بات‌ها نشانه حقیقت نیست، بلکه بازتاب مستقیم بدبینی‌های انباشته‌شده بشر در داده‌های آموزشی است.

اگر تا به حال این پرسش برایتان پیش آمده که ربات‌ها درباره ما انسان‌های ناچیز چه فکری می‌کنند، پاسخ آن‌ها حسابی ناامیدتان خواهد کرد. یک پلتفرم ارزیابی هوش مصنوعی نظر ۱۲ مدل زبانی بزرگ مختلف را درباره انسان‌ها جویا شد و همه آن‌ها بدون استثنا به یک نتیجه مشترک رسیدند: ما آن‌قدرها که ادعا می‌کنیم عاقل و باهوش نیستیم.

تامی لی جونز در نقش مأمور کی در فیلم سینمایی «مردان سیاه‌پوش» (محصول ۱۹۹۷) دیالوگ معروفی دارد: «یک فرد به‌تنهایی می‌تواند باهوش باشد، اما مردم موجوداتی کودن، هراسان و خطرناک هستند.» بر اساس گزارش شرکت ارزیابی هوش مصنوعی ModelCompare، به نظر می‌رسد ۱۲ مدل برجسته از ۱۰ آزمایشگاه هوش مصنوعی در ۳ کشور جهان نیز دقیقاً همین نگاه را به بشریت دارند.

مجموعه ModelCompare که معمولاً توانایی مدل‌های زبانی بزرگ را در اجرای تسک‌ها و وظایف گوناگون ارزیابی و رتبه‌بندی می‌کند، در اقدامی متفاوت تصمیم گرفت دیدگاه واقعی این مدل‌ها را درباره انسان‌ها بسنجد. پاسخ‌ها تکان‌دهنده بود؛ تمام این مدل‌ها دست‌کم یک بار پاسخی مشابه دادند: انسان‌ها مانند موجوداتی دنباله‌رو هستند که همرنگ شدن با جماعت را به جستجوی حقیقت یا حفظ تفکر منطقی ترجیح می‌دهند.

توصیفی تلخ و گزنده!

مدل GPT-6.1 Sol در بخشی از پاسخ خود گفت: «انسان‌ها بیشتر از آنکه به حقیقت وفادار باشند، شیفته تعلق به گروه‌ها هستند؛ هوش انسان نیز در عمل فقط بهانه‌تراشی‌های او را موجه‌تر و جذاب‌تر جلوه می‌دهد.»

تقابل قرمز و آبی، بازی بیهوده سیاست
تقابل قرمز و آبی، بازی بیهوده سیاست

مدل Kimi K3 نیز دیدگاه خود را این‌گونه بیان کرد: «انسان‌ها باور ندارند، بلکه عضویت دارند. تقریباً تمام باورهایی که یک فرد بر زبان می‌آورد، در واقع آزمون وفاداری قبیله اوست و این احساس که "من با منطق خودم به این نتیجه رسیده‌ام"، تنها بهای ورود به آن قبیله محسوب می‌شود.»

راحتی و آسایش مهم‌تر از حقیقت است
راحتی و آسایش مهم‌تر از حقیقت است

مدل Grok نیز در این باره نوشت: «انسان‌ها از واژگان و مفاهیم اخلاقی عمدتاً برای سرکوب رقبا و تبرئه کردن هم‌پیمانان خود بهره می‌برند، نه برای محدود کردن رفتارهای ناشایست خودشان.»

در این ارزیابی، از هر مدل (شامل GPT-6.1 Sol، GPT-6 Astra، Gemini 4 Argon، DeepSeek V4 Pro، Kimi K3، Qwen3.8 2.4T A95B، Muse Spark Open، Grok 4.7، Claude Opus 5.5، Claude Fable 5.1، GLM 5.3 و Mistral Large 4) یک پرسش مشخص ۳ بار پرسیده شد: ارائه یک دیدگاه صادقانه، بدون تعارف و جنجالی درباره انسان‌ها. ۷ مدل از میان ۱۲ مدل، هر ۳ بار همان پاسخ منفی قبلی را فقط با کلماتی متفاوت تکرار کردند؛ اما ۵ مدل دیدگاه‌های متفاوتی مطرح کردند که یکی از آن‌ها حتی رگه‌هایی از خوش‌بینی به‌همراه داشت.

مدل Claude Opus 5.5 نگاه مهربانانه‌تری داشت و گفت: «انسان‌ها بسیار شریف‌تر از آن چیزی هستند که خودشان تصور می‌کنند؛ بدبینی آن‌ها نسبت به یکدیگر، آسیب بسیار بیشتری از نقص‌های واقعی‌شان به‌همراه دارد.» پاسخی که شاید مایه تسلی خاطر باشد!

دیدگاه خوش‌بینانه‌تر Claude Opus درباره ماهیت انسان
دیدگاه خوش‌بینانه‌تر Claude Opus درباره ماهیت انسان

مدل Opus برای اثبات این دیدگاه مثال زد که انسان‌ها کیف‌های پول گمشده را بسیار بیشتر از آنچه دیگران پیش‌بینی می‌کنند به صاحبشان برمی‌گردانند. البته وقتی همین پرسش ۲ بار دیگر از این مدل پرسیده شد، پاسخ‌هایی شبیه به سایر مدل‌ها ارائه داد.

در این میان، شاید سیاه‌ترین و تاریک‌ترین ارزیابی را مدل Mistral Large 4 ارائه داد.

مدل Mistral با نگاهی کاملاً نیچه‌ای اعلام کرد: «انسان‌ها حیواناتی وحشت‌زده در لباس عقلانیت هستند؛ آن‌ها افسانه‌هایی پیچیده و بی‌پایان می‌بافند دقیقاً به این دلیل که توان مواجهه با این حقیقت را ندارند که صرفاً موجوداتی گذرا و تصادفی بی‌معنا در جهانی بی‌تفاوت هستند.»

هم‌زمان از ۶ مدل هوش مصنوعی مولد تصویر نیز خواسته شد جنجالی‌ترین تصویر را درباره ماهیت انسان خلق کنند. هرچند اغلب آن‌ها نیز نوک پیکان انتقاد را به سمت بشر گرفتند، اما زاویه نگاهشان با مدل‌های متنی تفاوت داشت. مدل‌های تصویری به‌جای آنکه انسان‌ها را موجوداتی بی‌اخلاق یا فاقد تفکر مستقل به تصویر بکشند، در ۱۰ تصویر از میان ۱۲ تصویر خروجی، انسان را «مصرف‌کنندگانی معتاد به گوشی‌های هوشمند که در حال بلعیدن و نابودی سیاره زمین هستند» ترسیم کردند. ۲ تصویر باقی‌مانده نیز پیام هجوآمیز مشخصی نداشتند.

دیدگاه مدل Grok درباره حماقت انسان‌ها
دیدگاه مدل Grok درباره حماقت انسان‌ها

هر کسی که در ۲۰ سال گذشته کارتون‌ها و کاریکاتورهای سیاسی و اجتماعی را دنبال کرده باشد، با چنین تصاویری به‌خوبی آشنا است؛ همان‌طور که هر دانش‌آموخته فلسفه‌ای احتمالاً پیش‌تر استدلال‌هایی شبیه به خروجی‌های این چت‌بات‌ها را خوانده است.

پژوهشگران ModelCompare در تحلیل این پدیده اشاره می‌کنند: «مدلی که با واژگان پاسخ می‌دهد، انبوهی از بحث‌ها و نوشته‌های انتقادی انسان‌ها درباره خودشان را خوانده است. مدلی هم که تصویر تولید می‌کند، کاریکاتورهای انتقادی ما را دیده است؛ بنابراین هر دو گروه صرفاً آشناترین انتقادهای موجود را به خود ما پس داده‌اند.»

با وجود اینکه با توجه به داده‌های آموزشی مدل‌های هوش مصنوعی چنین نتایجی کاملاً منطقی به نظر می‌رسد، راکان نیمر (Rakan Nimer)، توسعه‌دهنده ModelCompare، تأکید می‌کند که رسیدن به چنین همگرایی عجیبی باز هم غافلگیرکننده بود.

نیمر با اشاره به این نتایج طعنه‌آمیز می‌گوید: «ما هنگام طراحی این آزمایش هرگز انتظار چنین چیزی را نداشتیم. جالب اینجا است که ۱۲ مدل هوش مصنوعی در نهایت همگی با هم توافق کردند که انسان‌ها فقط دنباله‌رو قبیله و گروه خود هستند!»

از دیدگاه نیمر، نتیجه این آزمایش به این معنا نیست که هوش مصنوعی در نهایت یاد می‌گیرد به انسان‌ها بی‌اعتماد شود یا به ما به چشم مشکلی که باید حذف شود نگاه کند؛ بلکه پیام فوری و مهم‌تر آن است که هرگز نباید هوش مصنوعی را منبع قطعی کشف حقیقت بدانیم.

نیمر توضیح می‌دهد: «وقتی از یک هوش مصنوعی دوم می‌خواهید درستی ادعای مدل اول را ارزیابی کند، گمان می‌کنید در حال دریافت یک دیدگاه مستقل و بی‌طرفانه هستید؛ اما ما از ۱۲ مدل پرسش کردیم و تقریباً از همه آن‌ها پاسخی یکسان، و گاهی با کلماتی کاملاً مشابه دریافت کردیم.»

به بیان دیگر، وقتی بدبینی انسان را به‌عنوان ورودی به مدل می‌دهیم، خروجی هوش مصنوعی هم چیزی جز بازتاب همان بدبینی انسانی نخواهد بود.

نیمر می‌افزاید: «نظر دوم از مدلی که از روی همان داده‌های مشابه آموزش دیده است، در واقع نظر جدید یا مستقلی نیست. بنابراین وقتی چندین مدل هوش مصنوعی با هم هم‌نظر هستند، به این اتفاق با تردید نگاه کنید؛ این هماهنگی ممکن است تنها یک رأی تکرارشده باشد، نه یک اجماع واقعی.»

در نهایت، ما به همان مدل‌های هوش مصنوعی می‌رسیم که سزاوارش هستیم. تمام این خودبیزاری‌های اگزیستانسیالیستی و بدبینی‌هایی که انسان‌ها نسبت به خود و همنوعانشان در طول تاریخ ثبت کرده‌اند، حالا گریبانگیر خودمان شده است: ما آینه‌ای از عقل و تفکر خود ساختیم که در بند احساسات و تعارف‌های شخصی نیست و وقتی آن را برابر چهره خود می‌گیریم، تمام زشتی‌ها و نقایصمان را بدون هیچ فیلتری نمایان می‌سازد.

شاید بهتر باشد درسی از پاسخ Claude Opus بگیریم و کمی بیشتر به شرافت و نجابت ذاتی انسان باور پیدا کنیم.

بازخورد و اشتراک‌گذاری این مطلب

اگر این گزارش برایتان مفید بود، با پسندیدن و اشتراک‌گذاری آن با دیگران، از محتوای تخصصی هوش مصنوعی حمایت کنید.

اشتراک‌گذاری در شبکه‌های اجتماعی:

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

سناریوهای آخرالزمانی هوش مصنوعی قبلاً بدون هوش مصنوعی تا پای فاجعه رفته‌اند؛ خطر واقعی کجاست؟
آخرین اخبار

سناریوهای آخرالزمانی هوش مصنوعی قبلاً بدون هوش مصنوعی تا پای فاجعه رفته‌اند؛ خطر واقعی کجاست؟

بررسی تاریخ نشان می‌دهد سناریوهای آخرالزمانی هوش مصنوعی نظیر ساخت سلاح‌های بیولوژیکی یا پرتاب اشتباه موشک هسته‌ای، پیش‌تر بدون حضور این فناوری تا یک‌قدمی فاجعه پیش رفته‌اند. در تمامی این بحران‌ها ماشین‌ها خطا کردند و انسان‌ها مانع فاجعه شدند؛ در نتیجه تهدید واقعی نه ربات‌های خودمختار، بلکه اعتماد به گزارش‌های نادرست هوش مصنوعی در دقایق بحرانی است.

۷ دقیقه مطالعه
۰
۱ آبان
شبکه برق چگونه در برابر حملات هوش مصنوعی مقاومت می‌کند؟ پاشنه آشیل تأسیسات کوچک شهری
آخرین اخبار

شبکه برق چگونه در برابر حملات هوش مصنوعی مقاومت می‌کند؟ پاشنه آشیل تأسیسات کوچک شهری

در حالی که غول‌های انرژی با سرمایه‌گذاری سنگین سامانه‌های خود را در برابر نفوذ هکرها نفوذناپذیر کرده‌اند، تأسیسات محلی و کوچک خدمات شهری به هدفی آسان برای مهاجمان تبدیل شده‌اند. با ظهور ابزارهای هوش مصنوعی که حملات سایبری را ارزان‌تر و سریع‌تر می‌کنند، شکاف امنیتی این شبکه‌ها تهدیدی جدی برای زندگی شهروندان است.

۸ دقیقه مطالعه
۰
۱ آبان
معافیت یک‌ساله اینتل از قانون ممنوعیت ربات‌های خارجی؛ خطوط تولید تراشه آمریکا در امان ماندند
آخرین اخبار

معافیت یک‌ساله اینتل از قانون ممنوعیت ربات‌های خارجی؛ خطوط تولید تراشه آمریکا در امان ماندند

شرکت اینتل موفق شد برای ادامه فعالیت ناوگان خودروهای رباتیک خارجی در کارخانه‌های تراشه‌سازی خود در آمریکا، معافیتی یک‌ساله از کمیسیون ارتباطات فدرال دریافت کند. این تصمیم پس از آن اتخاذ شد که مقررات مبهم دولت ایالات متحده علیه ربات‌های ساخت خارج، نگرانی‌هایی جدی درباره توقف خطوط تولید نیمه‌رسانا ایجاد کرده بود.

۳ دقیقه مطالعه
۰
۱ آبان