ورود هوش مصنوعی در شکننده‌ترین دوران اعتماد بشر؛ آیا فناوری شناختی بحران حقیقت را عمیق‌تر می‌کند؟

هوش مصنوعی وارد جهانی نمی‌شود که ظرفیت پذیرش و میزبانی مسئولانه آن را داشته باشد؛ در عوض، این فناوری به دنیایی قدم می‌گذارد که در دو دهه گذشته پایه‌های اعتماد و یکپارچگی اطلاعات را گام‌به‌گام تخریب کرده است. اعتبار نهادهای رسمی، حقیقت مشترک و صحت اطلاعات آسیب‌های عمیقی دیده‌اند و اکنون بشریت در حال استقرار پیچیده‌ترین فناوری شناختی تاریخ بر روی شکننده‌ترین بستر اعتماد در حافظه معاصر است.

اگر قرار بود بدترین زمان ممکن برای ظهور هوش مصنوعی طراحی شود، خروجی آن شرایطی مشابه با بحران کنونی می‌بود.

از «پساحقیقت» تا «پسااعتماد»

یک دهه پیش، نگرانی عمده پیرامون زیستن در جهانی «پساحقیقت» (Post-Truth) شکل گرفت. واژه‌نامه‌های آکسفورد در سال ۲۰۱۶ واژه «پساحقیقت» را واژه سال معرفی کردند و آن را شرایطی دانستند که در آن واقعیت‌های عینی نسبت به برانگیختن احساسات و باورهای فردی، اثرگذاری کمتری بر شکل‌گیری افکار عمومی دارند. مفهوم پساحقیقت جهانی را توصیف می‌کرد که در آن فکت‌ها هنوز وجود دارند، اما در پشت روایت‌های احساسی پنهان می‌شوند.

با این حال، آنچه جامعه امروزی تجربه می‌کند عمیق‌تر از این سطح است؛ وضعیتی که با نام «عصر پسااعتماد» (Post-Trust Era) شناخته می‌شود؛ دنیایی که در آن سازوکارهای بنیادی اعتمادسازی و توافق بر سر بدیهیات از هم پاشیده‌اند. ماجرا دیگر صرفاً غلبه احساسات بر شواهد نیست، بلکه مبانی مشترک برای تشخیص و تعریف این‌که چه چیزی اصلاً «واقعیت» نامیده می‌شود از دست رفته است.

دگرگونی اکوسیستم اطلاعاتی طی دو دهه اخیر ریشه این تحول را آشکار می‌کند. جهان از ساختاری که در آن حقیقت توسط روزنامه‌نگاران و ویراستاران پالایش می‌شد، با دستگاه‌های چاپ به انتشار می‌رسید و از طریق واسطه‌های شناخته‌شده اندکی توزیع می‌شد، به فضایی تغییر جهت داد که هر فردی در آن توانایی انتشار، بازنشر، تحریف یا جعل خبر را پیدا کرد. انفجار داده‌ها رخ داد، شبکه‌های اجتماعی مخاطبان را چندپاره کردند و الگوریتم‌ها بر مبنای کلیک، جلب تعامل و جنجال‌آفرینی بهینه‌سازی شدند. در نتیجه، اولویت‌ها از «صحت» به «وایرال شدن»، از «ظرافت معنایی» به «خشم‌آفرینی» و از «راستی‌آزمایی دقیق» به «سرعت بالا» تغییر یافت.

آمارهای منتشرشده ابعاد این شکاف را به‌روشنی نشان می‌دهند. نزدیک به ۸ نفر از هر ۱۰ نفر اخبار روزمره خود را از طریق سیستم‌های الگوریتمی مانند فیدهای شبکه‌های اجتماعی، موتورهای جست‌وجو و سامانه‌های تجمیع اخبار دنبال می‌کنند؛ رویکردی که در عمل رژیم اطلاعاتی افراد را به سیستم‌هایی واگذار کرده است که نه آن‌ها را درک می‌کنند و نه کاملاً به آن‌ها اطمینان دارند. در ایالات متحده، سطح اعتماد به دولت فدرال از بیش از ۷۰ درصد در اواخر دهه ۱۹۵۰ به زیر ۲۰ درصد در مقطع فعلی سقوط کرده است. اطمینان عمومی به رسانه‌ها نیز به‌شدت کاهش یافته و کمتر از یک‌سوم شهروندان آمریکایی اعتماد حتی «متوسط» به این حوزه دارند؛ کاهشی ملموس که در نهادهای مالی، سازمان‌های خدمات درمانی و حتی خودِ بدنه علمی نیز پدیدار شده است.

اگر پساحقیقت نمایانگر انحراف در سنجش حقایق در برابر هیجانات باشد، پسااعتماد شکافی ساختاری‌تر را توصیف می‌کند: نابودی فرایندهای مشترک برای تعیین آن‌چه در دنیای واقعی رخ می‌دهد.

زمانی که نخستین نمونه‌های عکاسی در دهه ۱۸۳۰ میلادی ثبت شدند، افکار عمومی از شفافیت و انطباق آن‌ها با واقعیت شگفت‌زده شدند. برای حدود دو سده، «دیدن به معنای باور کردن» تلقی می‌شد؛ تصویر اگرچه در همه ابعاد بی‌نقص نبود، اما یک مدرک غیرقابل انکار به شمار می‌رفت.

در اوایل سال ۲۰۲۳، تصویری ساخته‌شده با هوش مصنوعی از پاپ فرانسیس با کاپشن پف‌دار سفید و مدرن در شبکه‌های اجتماعی دست‌به‌دست شد. این تصویر به این دلیل اثرگذار و گمراه‌کننده بود که در مرز باریکی میان آشنایی و غافلگیری قرار داشت. سبک، زاویه و نورپردازی تصویر، اعتبار خود را از دهه‌ها عکاسی مستند واقعی وام گرفته بود و به همین جهت بسیاری از مخاطبان پیش از آن‌که فرصت ارزیابی و شک داشته باشند، آن را پذیرفتند.

تنها طی دو سال، تصاویر، صداها و ویدیوهای تولیدشده توسط هوش مصنوعی چنان واقعی و گسترده شدند که چالش اصلی کاربران از «آیا می‌توانید جعل را تشخیص دهید؟» به این پرسش تغییر کرد: «آیا اصلاً می‌توان به چیزی که با چشم می‌بینیم اعتماد کرد؟»

قابلیت ساخت «شواهد متقاعدکننده جعلی» در مقیاس انبوه دقیقاً در شرایطی به نقطه اوج رسیده که زیست‌بوم اطلاعاتی دچار بیشترین انشقاق است. بررسی‌های پژوهشگران دانشگاه Duke و NYU نشان می‌دهد مواجهه افراد با دیدگاه‌های سیاسی مخالف در شبکه‌های اجتماعی نه‌تنها به همگرایی ختم نمی‌شود، بلکه قطبی‌شدن مواضع را تشدید می‌کند. پژوهشی تاریخی در نشریه Science نیز آشکار ساخته که اطلاعات نادرست در بستر اینترنت با سرعتی به‌مراتب بالاتر و دامنه‌ای وسیع‌تر از اخبار معتبر منتشر می‌شوند. پژوهش‌های مبتنی بر تصویربرداری مغز حاکی از آن است که هنگام مواجهه مغز با داده‌هایی مغایر با باورهای سیاسی‌اش، بخش‌های مرتبط با هیجانات منفی تحریک می‌شوند؛ در حالی که داده‌های تأییدکننده، مسیرهای پاداش عصبی را فعال می‌کنند. این پدیده اثبات می‌کند انسان‌ها داده‌های همسو و ناهمسو را از طریق کانال‌های شناختی کاملاً مجزا پردازش می‌کنند.

این وضعیت، بستر نامساعدی است که هوش مصنوعی وارد آن شده است: دنیایی مملو از اطلاعات اما تهی از اعتماد، با واقعیتی چندتکه‌شده و سازوکارهای از‌کار‌افتاده در بازشناسی حقیقت.

گونه‌ای نوین از هوش و ادراک

در میان چنین بستر متزلزلی، پدیده‌ای واقعاً دگرگون‌کننده پا به عرصه گذاشته است؛ سامانه‌ای که صرفاً یک ابزار کاربردی دیگر نیست، بلکه نخستین فناوری تاریخ با توانمندی مستقیم در حوزه «شناخت و ادراک» به شمار می‌رود.

فناوری‌های پیشین در طول تاریخ، توانایی‌های جسمی یا ابزاری انسان را ارتقا دادند اما همواره پیرو تفکر انسانی ماندند. صنعت چاپ کلمات مورد نظر انسان را تکثیر کرد، الکتریسیته انرژی تحت مدیریت او را به گردش درآورد، موتورهای احتراقی جایگزین نیروی عضلانی شدند، کامپیوترها برنامه‌های تدوین‌شده را محاسبه کردند و اینترنت پیام‌های انسانی را انتقال داد.

هوش مصنوعی این الگوی پایدار را تغییر داده است. این فناوری دیگر تنها مجری دستورات از پیش تعیین‌شده نیست؛ بلکه استدلال‌سازی می‌کند، داده‌ها را سنتز می‌نماید، پیشنهاد می‌دهد و محتوای خلاقانه‌ای خلق می‌کند که در سطح ادراک انسانی، مانند تفکرات یک فرد به نظر می‌رسد. امروزه یک مدل زبانی بزرگ می‌تواند جستار تحلیلی بنویسد، گزارش‌های حقوقی را تلخیص کند، متون تخصصی پزشکی را ترجمه نماید، کدنویسی کند، برای یک کمپین تبلیغاتی نقشه راه تدوین کند و قطعات موسیقی بسازد.

در کانون اغلب این سامانه‌ها، معماری پیشرفته‌ای قرار دارد که از طریق پیش‌بینی عنصر بعدی (یک واژه، پیکسل یا توکن) در یک توالی داده یاد می‌گیرد. این مدل‌ها ادراکی از «حقیقت» به معنای متعارف انسانی ندارند، بلکه الگوها، تواترها و همبستگی‌های موجود در داده‌های ارائه‌شده را استخراج می‌کنند.

نقطه بحرانی دقیقاً در همین پیوند زمانی آشکار می‌شود: داده‌هایی که به این مدل‌ها تغذیه می‌شوند، محصول یک دنیای پسااعتماد هستند.

هوش مصنوعی با مقالات رسانه‌ای، پست‌های شبکه‌های اجتماعی، کتاب‌های دیجیتالی‌شده، بایگانی‌های آمیخته به تعصب، مناقشات دوقطبی‌شده، تئوری‌های توطئه و داده‌های نادرست آموزش داده می‌شود. این فناوری همزمان با یادگیری دستاوردهای علمی بشر، انحرافات و تضادهای فکری او را نیز جذب می‌کند؛ به این معنا که علاوه بر فکت‌ها، درگیری‌های حل‌نشده پیرامون آن فکت‌ها نیز به درون مدل راه می‌یابند.

برآیند این روند، آینه‌ای بازتاب‌دهنده اما پیچیده است: هوش مصنوعی انسان‌ها را در قالب الگوهای آماری با توان محاسباتی بالا به خودشان نشان می‌دهد؛ خروجی‌هایی ارائه می‌کند که ممیزی دقیق آن‌ها به‌سادگی امکان‌پذیر نیست، بر پایه داده‌هایی شکل گرفته که نظارت همه‌جانبه بر آن‌ها ناممکن است و برای اهدافی بهینه‌سازی شده که همواره تحت کنترل کامل قرار ندارند.

بدین ترتیب، زیرساخت نوین شناختی درست در برهه‌ای در حال شکل‌گیری است که ساختارهای اجتماعی اعتمادسازی بیش از هر مقطع تاریخی دیگری تحت فشار قرار گرفته‌اند.

برگرفته از کتاب «The Trust Code» به قلم تیفانی شینگیو وانگ (Tiffany Xingyu Wang).