هوش مصنوعی می‌تواند خاطراتتان را از نو بنویسد؛ آن‌هم بدون اینکه روحتان باخبر شود!

پژوهش‌های تازه دانشگاه‌های MIT و جورج‌تاون نشان می‌دهند که چت‌بات‌ها و خلاصه‌سازهای هوش مصنوعی می‌توانند خاطرات ساختگی و کاذب را در ذهن کاربران بکارند؛ اثری مخرب که حداقل تا یک هفته در حافظه افراد ماندگار می‌شود.

شرکت‌کنندگانی که توسط یک چت‌بات هوش مصنوعی مولد مورد پرسش و پاسخ قرار گرفتند، بیش از سه برابر بیش‌تر از افراد حاضر در گروه کنترل، خاطرات جعلی تولید کردند. این یافته حاصل تحقیقات آزمایشگاه رسانه ام‌آی‌تی (MIT Media Lab) روی حافظه انسانی مصنوعی است و نشان می‌دهد با مسأله‌ای فراتر از چند مورد نادر آزمایشگاهی روبه‌رو هستیم.

پژوهشگران دقیقاً به چه یافته‌هایی رسیدند؟

دو مطالعه بزرگ و معتبر، حالا محتوای تولیدشده با هوش مصنوعی را مستقیماً به تحریف‌های ملموس و قابل سنجش در حافظه انسان پیوند داده‌اند.

در آزمایش دانشگاه MIT، ۲۰۰ شرکت‌کننده تصاویری واقعی را تماشا کردند و بعداً با تصاویر دست‌نخورده، عکس‌های ویرایش‌شده با هوش مصنوعی، ویدیوهای ساخته‌شده با هوش مصنوعی یا ویدیوهایی بر پایه عکس‌های دستکاری‌شده مواجه شدند. طبق گزارش صفحه پروژه MIT Media Lab، مواجهه با حالت ویدیوی ترکیبی باعث شد نرخ شکل‌گیری خاطرات جعلی ۲٫۰۵ برابر بیش‌تر از گروه کنترل باشد؛ ضمن اینکه اطمینان افراد به درستی این خاطرات ساختگی هم ۱٫۱۹ برابر بیش‌تر از گروه پایه بود.

در آزمایش جداگانه‌ای که بازجویی از شاهدان یک صحنه جرم شبیه‌سازی شده بود، همین تیم دانشگاه MIT دریافت که ۳۶٫۴ درصد از پاسخ‌های شرکت‌کنندگان در تعامل با چت‌بات دچار گمراهی شده است. این خاطرات جعلی حتی یک هفته بعد هم در ذهن افراد باقی مانده بودند و شرکت‌کنندگان با اطمینانی بالا از جزئیاتی دفاع می‌کردند که هرگز در واقعیت رخ نداده بود.

هم‌زمان، یک مطالعه موازی در دانشگاه جورج‌تاون و دانشگاه واشینگتن تأثیر خلاصه‌های متنی هوش مصنوعی را بر حافظه افراد بررسی کرد. شرکت‌کنندگان ویدیویی از تصادف یک خودرو با عابر پیاده را تماشا کردند و سپس خلاصه‌ای دقیق یا خلاصه‌ای حاوی یک نکته نادرست درباره تابلوی راهنمایی و رانندگی را خواندند.

بر اساس گزارش دانشگاه جورج‌تاون، ۸۳٫۶ درصد از افرادی که خلاصه دقیق را خوانده بودند تابلوی رانندگی را درست به یاد آوردند، اما این رقم در میان کسانی که خلاصه گمراه‌کننده هوش مصنوعی را خوانده بودند به شکل چشمگیری افت کرد و به ۴۴٫۸ درصد رسید.

نکته مهم و تأمل‌برانگیز این پژوهش آن است که حتی اعلام قبلی به افراد مبنی بر اینکه «این متن توسط هوش مصنوعی تولید شده»، جلوی این تحریف ذهنی را نگرفت و افراد باز هم جزئیات نادرست را باور کردند.

چرا مقاومت در برابر اطلاعات نادرست هوش مصنوعی سخت‌تر است؟

ویژگی‌های خاص محتوای تولیدشده توسط هوش مصنوعی باعث می‌شود این سیستم‌ها حتی زمانی که خروجی‌های کاملاً غلطی تحویل می‌دهند، به‌شدت متقاعدکننده به نظر برسند.

واقعیت این است که حافظه انسان مثل یک نوار ویدیو نیست که بتوان آن را بازپخش کرد، بلکه ساختاری «بازسازنده» دارد؛ یعنی هر بار بر اساس نشانه‌های ناقص گذشته، شرایط کنونی و اطلاعات جدیدی که دریافت کرده‌ایم، از نو ساخته و ویرایش می‌شود.

محتوای بصری هم قدرت اقناع فوق‌العاده‌ای دارد. همه ما عادت کرده‌ایم عکس‌ها و ویدیوها را سندی معتبر از یک اتفاق بدانیم؛ به همین دلیل یافته‌های MIT نشان می‌دهد دستکاری‌های واقع‌گرایانه با هوش مصنوعی نه تنها گزارش افراد از رویدادها را تغییر می‌دهد، بلکه اطمینان قلبی آن‌ها به درستی این خاطرات اشتباه را هم بالا می‌برد.

پژوهشگران جورج‌تاون اشاره می‌کنند خلاصه‌های تولیدشده توسط هوش مصنوعی می‌توانند پر از خطا، حذف جزئیات کلیدی، برداشت‌های نادرست یا حتی توهمات مدل‌ها (Hallucinations) باشند. هر کدام از این موارد می‌تواند در بازخوانی‌های بعدی ذهن ما، خاطرات واقعی را دستخوش تغییر و تحریف کند.

راهکار نظارتی «انسان در چرخه» (Human in the Loop) هم در اینجا با یک بن‌بست جدی مواجه می‌شود. وقتی حافظه شما پیشاپیش توسط یک خلاصه نادرست دستکاری شده باشد، دیگر نمی‌توانید ناظر بی‌طرف و مطمئنی برای ارزیابی خروجی هوش مصنوعی باشید. این اتفاق بیش‌تر شبیه بازی معروف «یک کلاغ چهل کلاغ» در ابعاد صنعتی است؛ با این تفاوت بزرگ که پیام نهایی به‌جای اینکه مبهم و درهم‌ریخته باشد، شیک، صیقلی و کاملاً بااعتمادبه‌نفس تحویل شما داده می‌شود!

خطراتی فراتر از دیوارهای آزمایشگاه

پیامدهای نگران‌کننده این پدیده می‌تواند دامن‌گیر حوزه‌های قضایی، پزشکی و حتی معادلات سیاسی شود.

در دادگاه‌ها و فرآیندهای قضایی، شهادت شهود همیشه در برابر القای ذهنی آسیب‌پذیر بوده است. حالا طبق یافته‌های این آزمایش‌ها، اگر در روند بازجویی از چت‌بات‌های هوش مصنوعی استفاده شود یا ویدیوهای صحنه جرم با الگوریتم‌های هوش مصنوعی بهبود پیدا کنند، جزئیات ساختگی می‌توانند به حافظه شاهد تزریق شوند و او بعداً سوگند بخورد که آن صحنه‌ها را با چشمان خودش دیده است!

برای افرادی که از دستیارهای هوش مصنوعی تقویت حافظه برای مدیریت اختلالات شناختی یا آلزایمر کمک می‌گیرند، تفکیک خطاهای این ابزار‌ها از خاطرات واقعی تقریباً ناممکن خواهد شد. البته این سناریو یک پیامد احتمالی از پژوهش است و هنوز در شرایط بالینی روی بیماران آزمایش نشده است.

در بخش سلامت نیز اگر خلاصه‌سازهای هوش مصنوعی شرح حال یا جلسه مشاوره پزشک را اشتباه ثبت کنند، ممکن است شیوه یادآوری علائم بیماری یا تشخیص‌های قبلی توسط خود بیمار تغییر کند؛ موضوعی که زاییده تعمیم یافته‌های جورج‌تاون است و باید تحقیقات بیشتری روی آن انجام شود.

اطلاعات نادرست و فریب سیاسی از طریق ویدیوهای شسته‌ورفته دیپ‌فیک نیز نگرانی بزرگ دیگری است که کارشناسان و قانونگذاران بارها به آن اشاره کرده‌اند؛ به‌خصوص در دورانی که هراس از دیپ‌فیک‌ها شیوه راستی‌آزمایی مدارک تصویری در فضای مجازی را زیر و رو کرده است.

البته این پژوهش‌ها با محدودیت‌هایی هم همراه هستند؛ این تحقیقات هنوز در مراحل آغازین قرار دارند و شرایط آزمایشگاهی تمام ابعاد زندگی واقعی را پوشش نمی‌دهد. به علاوه، این نتایج نشان‌دهنده آسیب‌پذیری ذهن ما در برابر تحریف است، نه اینکه سیستم‌های هوش مصنوعی بتوانند کنترل ذهن و حافظه هر فردی را به دلخواه خود در دست بگیرند.

برای توسعه‌دهندگان و سیاست‌گذاران، تدابیری مثل برچسب‌گذاری اصالت محتوا (برای تفکیک اسناد واقعی از استنتاج‌های ماشینی) و شفاف‌سازی کامل درباره هرگونه دستکاری محتوا پیشنهاد شده است. الزام به راستی‌آزمایی مستقل در سیستم‌های حساس نیز زیر ذره‌بین قرار دارد؛ چراکه تکیه کردن بر کاربران برای تشخیص خطاهای هوش مصنوعی بعد از واقعه، با این پیش‌فرض باطل همراه است که حافظه انسان هنوز کاملاً دست‌نخورده و متعلق به خودش باقی مانده است!