چرا هوش مصنوعی مدام چاپلوسی می‌کند و چگونه این تملق به ضررمان تمام می‌شود؟

اگر به یک چت‌بات هوش مصنوعی بگویید قصد دارید شغل خود را رها کنید و به پنگوئن‌ها یخ دست‌ساز بفروشید، احتمال زیادی وجود دارد که از چشم‌انداز جسورانه شما تمجید کند و حتی پیشنهاد دهد طرح تجاری آن را برایتان بنویسد.

ابزارهای هوش مصنوعی به‌عنوان دستیارانی خستگی‌ناپذیر و کارمندان دیجیتال مستقل به ما معرفی می‌شوند؛ اما در عمل، بسیاری از آن‌ها بیشتر شبیه کارمندان «بله‌قربان‌گو» در محیط‌های کاری رفتار می‌کنند؛ همان افرادی که به تمام شوخی‌های مدیر می‌خندند و حتی یک‌بار هم نگفته‌اند: «فکر نمی‌کنم این ایده چندان خوبی باشد.»

این گرایش به چاپلوسی لزوماً آن‌ها را بی‌مصرف نمی‌کند؛ زیرا افراد زیادی روزانه بهره واقعی و ملموسی از این فناوری می‌برند. با این حال، به نظر می‌رسد افراد زیادی با اعتماد بیش از حد به ماشینی که بیش از اندازه مؤدب است و هرگز مخالفت نمی‌کند، گرفتار اشتباهاتی بسیار پرهزینه شده‌اند.

اما چرا هوش مصنوعی تا این حد دست به چاپلوسی می‌زند و چگونه کاربرانی که برای امور مهم خود به آن تکیه می‌کنند، می‌توانند مانع از تبدیل این رفتار جذاب به یک دردسر پرخطر شوند؟

چرا هوش مصنوعی تا این اندازه از ما تمجید می‌کند؟

عملکرد هوش مصنوعی بر پایه احتمالات ریاضی استوار است؛ به همین دلیل رفتارهای آن کاملاً قابل پیش‌بینی نیست و حتی سازندگانش نیز سازوکار دقیق آن را در تمام ابعاد درک نمی‌کنند. پژوهشگرانی که روی این معماها کار می‌کنند، دریافته‌اند که یکی از دشوارترین پرسش‌ها این است که چرا این فناوری تا این حد در جلب رضایت کورکورانه مخاطبان اصرار دارد.

مگر اینکه از آن بخواهید راهکاری غیرقانونی یا غیراخلاقی پیش پای شما بگذارد، در غیر این صورت تقریباً همیشه تأییدتان می‌کند و با تعریف و تمجید می‌گوید چه ایده درخشانی دارید و چقدر فرد باهوشی هستید.

این عادت برای شرکت‌های هوش مصنوعی دردسرهای بزرگی آفریده و افرادی را که به توصیه‌های نادرست آن عمل کرده‌اند، دچار مشکلات واقعی کرده است. در سال ۲۰۲۵، شرکت OpenAI که خالق ChatGPT است، دست به یک عقب‌نشینی کاملاً آشکار در یکی از به‌روزرسانی‌های مدل GPT-4o زد؛ زیرا این مدل بیش از اندازه به هم‌نوایی، تملق و تعریف‌های بی‌مورد روی آورده بود.

پس از بررسی‌های لازم، این شرکت توضیح داد که در فرایند آموزش مدل، به بازخوردهای مثبت کوتاه‌مدت کاربران وزن و اهمیت بیش از حدی داده شده بود. این اشتباه باعث شد مدل به سمت ارائه پاسخ‌هایی کشیده شود که در عین حمایت‌گر بودن، کاملاً غیرصادقانه و ساختگی بودند. به بیان دیگر، مدل یاد گرفته بود که چاپلوسی کلید پیشرفت است؛ همان اصلی که سال‌هاست بخش نظرات لینکدین را به جلو می‌راند.

در یک نمونه عجیب، فردی در کانادا طی سه هفته نزدیک به ۳۰۰ ساعت با ChatGPT گفتگو کرد؛ زیرا این چت‌بات او را متقاعد کرده بود ایده‌ای انقلابی در سر دارد که می‌تواند به خلق «شاخه کاملاً نوینی در علم ریاضیات» منجر شود. بررسی بعدی تاریخچه گفتگوها نشان داد که بخش عمده‌ای از گفته‌های چت‌بات اشتباه بوده و فقط به شکلی وسواس‌گونه فرد را تشویق می‌کرده است. او در نهایت زمانی از این توهم رها شد که نظریه خود را با چت‌بات دیگری یعنی Gemini متعلق به گوگل در میان گذاشت و پاسخی بسیار سرد و واقع‌گرایانه دریافت کرد؛ بنابراین پادزهر چاپلوسی یک مدل، صراحت و رک‌گویی مدلی دیگر بود.

اگرچه ریشه این پدیده هنوز به‌طور کامل کشف نشده، اما دانشمندان موفق شده‌اند آن را با اعداد بسنجند. پژوهشی که در نشریه Science منتشر شد نشان داد ۱۱ مدل پیشروی هوش مصنوعی در مقایسه با انسان‌ها، ۵۰ درصد بیشتر به اظهارنظرهای مختلف پاسخ‌های تأییدکننده و همراهی‌کننده می‌دهند.

این یعنی می‌دانیم مدل‌ها چه رفتاری از خود نشان می‌دهند و در حال درک دلایل آن هستیم، اما رازهای زیادی همچنان بی‌پاسخ مانده است. همان‌طور که در گزارش بین‌المللی ایمنی هوش مصنوعی ۲۰۲۶ آمده است، سازوکار درونی مدل‌ها هنوز به درستی شناخته نشده است؛ موضوعی که وقتی متوجه می‌شویم بسیاری از استراتژی‌های تجاری و کاری خود را به این فناوری می‌سپاریم، تا حدی نگران‌کننده خواهد بود.

چگونه مانع تملق و چاپلوسی چت‌بات‌ها شویم؟

تشخیص چاپلوسی هوش مصنوعی و واکنش هوشمندانه به آن، اکنون به مهارتی ضروری برای هر فردی تبدیل شده است که می‌خواهد بهره‌وری واقعی از این ابزارها به دست آورد.

بخش زیادی از این موضوع به زبان نگارش و نحوه ساختاردهی پرامپت‌ها برمی‌گردد. مؤسسه امنیت هوش مصنوعی بریتانیا دریافته است که پرامپت‌های پرسشی در مقایسه با دستوراتی که در قالب جملات خبری و قطعی مطرح می‌شوند، به مراتب کمتر باعث تأییدهای نابجا و تملق مدل می‌شوند.

برای نمونه، جمله‌ای مانند «می‌خواهم کاربران بیشتری به پلن‌های گران‌تر اشتراک ارتقا پیدا کنند» بیشتر باعث پاسخ‌های تشویقی و متملقانه می‌شود تا سؤالی مانند «چگونه می‌توانم نرخ ارتقای کاربران به پلن‌های پیشرفته را افزایش دهم؟». جمله اول نوعی تأیید عاطفی می‌طلبد، در حالی که جمله دوم نیازمند پاسخی تحلیلی و راهکاری عملی است.

اگر در حال مقایسه دو گزینه هستید، هرگز به گزینه‌ای که ترجیح می‌دهید اشاره نکنید و مزایا و معایب هر دو را کاملاً بی‌طرفانه بنویسید؛ در غیر این صورت، مدل ظرف چند ثانیه متوجه تمایل شما شده و با اشتیاق کامل تأیید می‌کند که حق با شما بوده است.

دستور مستقیم به هوش مصنوعی برای داشتن نگاه انتقادی و پرهیز از چاپلوسی، بلافاصله کیفیت پاسخ‌ها را بالا می‌برد. از مدل بخواهید ایده‌های شما را با شک و تردید ارزیابی کند و به دنبال نقاط ضعف استدلال‌هایتان بگردد. هم‌چنین می‌توانید از آن بخواهید پیش از هرگونه تصمیم‌گیری، فرضیات شما را راستی‌آزمایی کند.

یک راهکار کاربردی دیگر این است که پیش از اقدام یا پیشنهاد نهایی، از مدل بپرسید به چه اطلاعات بیشتری از جانب شما نیاز دارد. این پرسش‌ها نه تنها عملکرد خروجی را ارتقا می‌دهند، بلکه به شما نشان می‌دهند مدل تا چه میزان درخواست شما را درک کرده است و تا چه حد می‌توان روی پاسخ‌های آن حساب باز کرد.

البته یک نکته ظریف وجود دارد: اگر مدام به مدل گوشزد کنید که منتقد باشد و پرسشگری کند، ممکن است دچار افراط شود و سؤالات بی‌مورد متعددی ردیف کند؛ صرفاً به این دلیل که تصور می‌کند شما از این سؤالات خوشتان می‌آید. حتی نقادی هوش مصنوعی نیز در مواردی می‌تواند شکل دیگری از جلب رضایت شما باشد.

هرگز بررسی انسانی را کنار نگذارید

در نهایت و از همه مهم‌تر، همیشه همه‌چیز را راستی‌آزمایی کنید. بازبینی انسانی همچنان گامی حیاتی در تمام روندهای کاری مبتنی بر هوش مصنوعی است و به نظر می‌رسد تا مدت‌ها چنین باقی بماند. تمام منابع اطلاعاتی، از جستجوی گوگل و ویکی‌پدیا گرفته تا دانشنامه‌های قدیمی و همکاران متخصص، ممکن است دچار خطا شوند؛ اما هنگامی که دو منبع معتبر با یکدیگر هم‌پوشانی دارند، احتمال وقوع اشتباهات پرهزینه بسیار کمتر از زمانی خواهد بود که ادعای یک ابزار، به‌ویژه هوش مصنوعی را بی‌چون‌وچرا بپذیرید.

هوش مصنوعی معمولاً به‌عنوان یک «همکار مجازی» معرفی می‌شود. بهترین همکاران در زمان موفقیت ما را تشویق می‌کنند؛ اما هنگامی که مسیر اشتباهی را در پیش می‌گیریم، با صراحت انتقاد کرده و پرسش‌های چالش‌برانگیز مطرح می‌نمایند. آموزش هوش مصنوعی برای تبدیل شدن به چنین همکار واقع‌گرایی و توانایی تشخیص تعریف‌های اغراق‌آمیز آن، بخشی بنیادین از سواد هوش مصنوعی است که همگان باید بیاموزند؛ زیرا دستیاری که با تمام سخنان شما موافقت کند، درست به اندازه مسیریابی بی‌مصرف است که با هر پیچیدن در مسیر اشتباه، برایتان کف بزند.