هشدار جدی پژوهشگران: چت‌بات‌های هوش مصنوعی در حال بلعیدن تنوع دانش و آگاهی بشر هستند!
نتایج پژوهش دانشگاه کپنهاگ روی ۲۷ مدل زبانی بزرگ نشان می‌دهد پاسخ‌های چت‌بات‌های هوش مصنوعی به مراتب کم‌تنوع‌تر از جستجوی معمولی گوگل است. دانشمندان هشدار می‌دهند تکیه مداوم به این ابزار‌ها با یکدست کردن اطلاعات دریافتی، زاویه دید انسان را محدود کرده و خطر افت هوش عمومی و آگاهی بشر را به دنبال دارد.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- تحقیقات جدید دانشگاه کپنهاگ روی ۲۷ مدل زبانی بزرگ نشان می‌دهد پاسخ‌های چت‌بات‌های هوش مصنوعی نزدیک به ۱۹ درصد تنوع کمتری نسبت به سرچ سنتی گوگل دارند.
- دانشمندان با بررسی ۷۰ میلیون پاسخ فهمیدند حتی قوی‌ترین مدل‌ها مثل GPT-5 نیز پاسخ‌هایی محدود ارائه می‌دهند و پدیده‌ای شبیه جهانی‌سازی کالاها را در عرضه اطلاعات تکرار می‌کنند.
- پژوهشگران هشدار می‌دهند این وضعیت ممکن است یک دور باطل خطرناک ایجاد کند که در آن، دیدگاه‌های اقلیت حذف شده و دایره دانش و درک تحلیلی انسان‌ها رفته‌رفته تحلیل برود.
- پژوهش‌های تازه نشان می‌دهد چت‌بات‌های هوش مصنوعی پاسخ‌هایی به مراتب کم‌تنوع‌تر ارائه می‌دهند
- ارائه پاسخ‌های همسان به پدیده جهانی‌سازی تشبیه شده؛ جایی که کالاها و برندهای مشابه در تمام دنیا در دسترس همگان قرار دارند
- این یکدستی اگرچه کار‌ها را راحت‌تر می‌کند، اما در عین حال تنوع دیدگاه‌ها را از بین می‌برد
آیا به راستی در حال حرکت به سمت یک دنیای شبیه فیلم کمدی Idiocracy (دنیای احمق‌ها) هستیم؟ نتایج یک پژوهش تازه ادعا می‌کند که اتکای مداوم به هوش مصنوعی برای دریافت پاسخ‌ها — آن هم پاسخ‌ها و دیدگاه‌هایی که همیشه یک‌شکل و تکراری هستند — ممکن است دایره دانش و آگاهی بشر را کوچک‌تر کند.
در این تحقیق که ۲۷ مدل زبانی بزرگ مختلف (LLM) مورد ارزیابی قرار گرفتند، مشخص شد که حتی بهترین مدل از نظر عملکرد، اطلاعاتی به نمایش می‌گذارد که حدود ۱۹ درصد تنوع کمتری در مقایسه با نتایج موتور جستجوی سنتی گوگل دارد. در نتیجه، این پاسخ‌ها گستردگی بسیار کمتری دارند، گزینه‌ها و زاویه‌های دید محدودتری را پیش پای کاربر می‌گذارند و فضا را برای تفسیر و برداشت‌های گوناگون تنگ می‌کنند.
محققان معتقدند این روند خطری جدی به همراه دارد؛ زیرا ممکن است بخش قابل‌توجهی از محتوا و دیدگاه‌ها را به حاشیه براند و تنها دسته‌ای خاص از پاسخ‌ها را به عنوان حقیقتِ غالب و اصلی جا بیندازد. نتیجه نهایی چنین وضعیتی می‌تواند شکل‌گیری جهانی باشد که در آن انسان‌ها کم‌تر از امروز آگاه‌اند، دیدگاهی بسته‌تر دارند و شاید حتی هوش و توان تحلیلی‌شان نسبت به قبل افت پیدا کرده است.
آزمایش روی صدها موضوع و میلیون‌ها پرامپت
این پژوهش علمی توسط دانشمندان دپارتمان علوم کامپیوتر (DIKU) در دانشگاه کپنهاگ به انجام رسیده است.
پژوهشگران برای اینکه ببینند این مدل‌های هوش مصنوعی چطور به سوالات پاسخ می‌دهند، آن‌ها را روی ۱۵۵ موضوع مختلف (از تسلیحات هسته‌ای گرفته تا موسیقی کی‌پاپ) به بوته آزمایش گذاشتند. تیم تحقیق از ۲۰۰ شیوه مختلف پرامپت‌نویسی که بر اساس استفاده واقعی کاربران در دنیای واقعی تدوین شده بود بهره گرفتند و در مجموع، رقم سرسام‌آور ۷۰ میلیون پاسخ را از دل این مدل‌ها بیرون کشیدند.
نکته جالب اینجاست که حتی پاسخ‌های مدل GPT-5 — یعنی مدلی که متنوع‌ترین خروجی‌ها را تولید می‌کرد — همچنان ۱۸.۵ درصد تنوع کمتری نسبت به سرچ معمولی گوگل داشت.
داستین رایت (Dustin Wright)، نویسنده اصلی این مقاله می‌گوید: «مردم تا حد زیادی بارها و بارها در معرض اطلاعاتی یکدست و تکراری قرار می‌گیرند. بنابراین چت‌بات‌های هوش مصنوعی فقط نحوه رسیدن ما به علم و داده‌ها را تغییر نمی‌دهند، بلکه اساساً تعیین می‌کنند ما به چه نوع دانشی دسترسی داشته باشیم.»
خطر سقوط به دنیای کم‌عقل‌ها؟
چه از مدل‌های هوش مصنوعیِ ادغام‌شده در سرچ گوگل، موتور جستجوی داک‌داک‌گو (DuckDuckGo) و بینگ (Bing) استفاده کنید و چه مستقیماً با مدل‌هایی مثل جمینای (Gemini)، چت‌جی‌پی‌تی (ChatGPT) یا هر چت‌بات دیگری به گفت‌وگو بنشینید، یافته‌های این پژوهش به وضوح نشان می‌دهد که شیوه ارائه و نمایان شدن اطلاعات در برابر چشم کاربران دستخوش تغییری بنیادین شده است.
پروفسور ایزابل آوگنشتاین (Isabelle Augenstein)، استاد دانشگاه کپنهاگ و نویسنده ارشد این تحقیق در این باره توضیح می‌دهد: «ما با این خطر روبه‌رو هستیم که انسان‌ها را در معرض دیدگاه‌های کم‌شمارتر و دایره بسته‌تری از آگاهی قرار دهیم. این قضیه می‌تواند یک دور باطل خطرناک ایجاد کند که در آن، محتواهای بسیار پرطرفدار باز هم برجسته‌تر و مسلط‌تر شوند و در مقابل، سایر اطلاعات و دیدگاه‌های ارزشمند به مرور نادیده گرفته شده و به دست فراموشی سپرده شوند.»
او این اتفاق را با روی تاریک پدیده جهانی‌سازی مقایسه می‌کند: «امروز تقریباً در هر گوشه‌ای از دنیا می‌توانید کالاهای یکسان بخرید و شعبه‌های زنجیره‌ای قهوه مشابه را پیدا کنید. این موضوع مزایای فراوانی دارد، اما در عین حال تنوع بومی و اصیل را به شدت کاهش داده است.»
البته در خصوص این احتمال نگران‌کننده که هوش مصنوعی دایره دانش بشریت را آب ببرد و دنیایی بسازد که در آن افراد ناآگاه زمام امور را به دست بگیرند، پروفسور آوگنشتاین دیدگاهی امیدوارانه‌تر دارد. او تأکید می‌کند که «هنوز فروپاشی سراسری دانش رخ نداده است؛ زیرا می‌بینیم مدل‌های جدید‌تر نسبت به نسل‌های قدیمی‌تر، پاسخ‌هایی به مراتب متنوع‌تر تولید می‌کنند.»
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
غوغای مدل فوق‌العاده سبک Gender-Classifier-Mini؛ ثبت دقت خیره‌کننده ۹۷.۲ درصدی و ۷۷۸ هزار دانلود ماهانه!
مدل بینایی جمع‌وجور و سبک Gender-Classifier-Mini توانسته با ثبت دقت ۹۷.۲ درصدی در تشخیص چهره، به بیش از ۷۷۸ هزار دانلود ماهانه در پلتفرم هاگینگ فیس دست پیدا کند. این مدل متن‌باز با حجم اندک خود به‌راحتی روی لپ‌تاپ‌های شخصی اجرا می‌شود و نشان می‌دهد که برای کار‌های تخصصی بینایی ماشین، همیشه نیازی به مدل‌های غول‌پیکر و پردازنده‌های سنگین ابری نیست.
زنگ خطر در سیستم درمان؛ نفوذ ایجنت‌های خودسر هوش مصنوعی به بیمارستان‌ها بدون مجوز IT!
در حالی که بیمارستان‌ها سخت درگیر مهار حملات سایبری هستند، تهدید غیرمنتظره جدیدی سر برآورده است: ایجنت‌های هوش مصنوعی که بدون تأیید بخش IT در سیستم‌های درمانی فعالیت می‌کنند. این دستیارهای خودمختار حالا با دسترسی به حساس‌ترین پرونده‌های پزشکی، مرزهای حریم خصوصی و امنیت داده‌ها را به چالش کشیده‌اند.
راز باهوش‌تر شدن هوش مصنوعی در برنامه «۶۰ دقیقه»؛ وقتی بلعیدن کل اینترنت هم کافی نیست!
مدل‌های هوش مصنوعی دیگر نمی‌توانند فقط با بلعیدن داده‌های اینترنت هوشمند‌تر شوند و برای جهش بعدی به تخصص واقعی انسان‌ها نیاز دارند. برنامه مشهور «۶۰ دقیقه» در گزارشی جذاب به سراغ استارتاپ مرکور رفته؛ جایی که بیش از ۱۰۰ هزار متخصص دست‌به‌کار شده‌اند تا به هوش مصنوعی مهارت‌های پیچیده انسانی بیاموزند.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.