تمرکز روی فجایع بزرگ هوش مصنوعی، آسیب‌های آرام و روزمره را به حاشیه برده است

نگاهی به آنچه امروزه در سیاست‌گذاری دنیای فناوری به‌عنوان «موفقیت» تلقی می‌شود بیندازید. شرکتی در حوزه هوش مصنوعی وعده می‌دهد که چت‌بات آن کاربران را به خودکشی تشویق نخواهد کرد؛ یا یک پلتفرم شبکه اجتماعی امکان خرید داروی مرگبار فنتانیل را برای کودکان دشوارتر می‌سازد. بی‌تردید این اقدامات حفاظتی مهم هستند و باید از همان آغاز برقرار می‌بودند. با این حال، شرکت‌های فناوری می‌توانند به‌راحتی از این استانداردهای حداقلی عبور کنند و در عین حال به ساخت محصولاتی ادامه دهند که نسل جوان را به دوستی‌های شبیه‌سازی‌شده وابسته می‌کند یا آن‌ها را در فیدهایی به دام می‌اندازد که فقط برای اسکرول بی‌پایان ساخته شده‌اند.

از گذشته تاکنون همواره اجازه داده‌ایم گفتمان پیرامون فناوری بر اساس هولناک‌ترین پیامدهای بالقوه یک محصول تعریف شود؛ در حالی که درباره آسیب‌های موذیانه و تدریجی روزمره آن به‌ندرت بحثی جدی شکل گرفته است. هم‌گام با ورود به عصری که محصولات پیشرفته هوش مصنوعی نقشی محوری در آن ایفا می‌کنند، باید از صنعت فناوری بخواهیم فراتر از رفع خطرات فاجعه‌بار گام بردارد. ما باید تدابیری اتخاذ کنیم تا اطمینان یابیم این ابزارها شیوه تفکر، یادگیری و تعاملات بنیادین ما با یکدیگر را تخریب نمی‌کنند.

نوجوانی که دچار وابستگی ناسالم به یک همدم هوش مصنوعی می‌شود، به‌جز در حادترین و تلخ‌ترین سناریوها، هرگز پایش به دادگاه‌ها یا صفحه اول روزنامه‌ها باز نخواهد شد. دانش‌آموزی هم که برای نوشتن تمام مقاله‌ها و پژوهش‌هایش به چت‌بات متکی می‌شود، یا جوانی که ارزش زندگی خود را با فید شبکه‌های اجتماعی مقایسه می‌کند، تیتر رسانه‌ها نمی‌شود؛ فیدهایی که دقیقاً برای برانگیختن حسادت و میخکوب‌کردن او به صفحه نمایش مهندسی شده‌اند. یک محصول فناوری می‌تواند تک‌تک الزامات سفت‌وسخت ایمنی را برآورده سازد و هم‌زمان فرهنگ جامعه را به سمتی بدتر سوق دهد؛ بی‌آنکه لزوماً جنجالی خبری ایجاد کند.

تعریف محدود موفقیت بر پایه شاخص‌های ایمنی سطحی، از منظر سیاسی برای غول‌های فناوری بسیار مطلوب است و این شرکت‌ها نیز فعالانه چنین رویکردی را ترویج می‌کنند. اقدام برای پیشگیری از بلایای هولناک و رسوایی‌های پر سروصدا برای تجارت آن‌ها مفید است؛ چراکه شکایات حقوقی را به حداقل می‌رساند و فشارها برای تنظیم‌گری جدی را خنثی می‌کند. در سوی دیگر، مواجهه با پیامدهای روزمره ناشی از وابستگی روانی، تهدیدی به‌مراتب بزرگ‌تر برای درآمد و سودآوری آن‌هاست. پیگیری چنین هدفی مستلزم آن است که از شرکت‌ها خواسته شود اصطکاک و موانعی در محصولاتشان تعبیه کنند، یا به‌صورت فعالانه سازوکارهای اعتیادآور و الگوریتم‌های رباینده توجه کاربران را محدود سازند.

در عوض، غول‌های فناوری ترجیح داده‌اند جریان قانون‌گذاری را تنها به سمت خطراتی هدایت کنند که هم‌اکنون تحت فشار مستقیم افکار عمومی برای حل آن‌ها قرار دارند. برای نمونه، در سال جاری گوگل از لوایح تنظیم مقررات چت‌بات‌های هوش مصنوعی در چند ایالت حمایت کرد. این لوایح تدابیر ابتدایی در برابر محتوای غیراخلاقی و ترویج آسیب به خود را الزامی می‌کرد؛ تدابیری که شرکت‌ها در هر صورت موظف به رعایت آن‌ها بودند. اما هم‌زمان استثنائات گسترده‌ای در این قوانین گنجانده شد که می‌توانست برخی از محبوب‌ترین سرویس‌ها را از شمول قانون معاف کند. تصویب این لوایح به قانون‌گذاران امکان داد تا دستیابی به یک دستاورد امنیتی را جشن بگیرند؛ در شرایطی که تلاش‌ها برای تصویب قوانین بنیادی‌تر، یعنی قوانینی که برای جلوگیری از وابستگی عاطفی کودکان به هوش مصنوعی طراحی شده بودند، ناکام ماند. این استراتژی در ایالت‌هایی همچون نبراسکا جواب داد و قوانینی به تصویب رسید که به‌شدت تحت نفوذ صنعت شکل گرفته بودند، آن هم به بهای مسکوت ماندن طرح‌هایی که می‌توانستند شرکت‌ها را حقیقتاً پاسخگو کنند.

ما پیش‌تر نمونه‌ای مشابه از این تجربه را در شبکه‌های اجتماعی پشت سر گذاشته‌ایم. در مقیاس جهانی، کاربران اینترنت اکنون به‌طور میانگین بیش از دو ساعت در روز را در پلتفرم‌های اجتماعی می‌گذرانند؛ زمانی گران‌بها که بی‌سرصدا از جریان عادی زندگی ربوده شده و به شرکت‌هایی تقدیم شده است که سودشان در گرو محبوس نگه‌داشتن ما در این فضاست. هیچ‌کس، مگر شاید چند مدیر ارشد فناوری، تمایل نداشت این الگوریتم‌ها بخش بزرگی از ساعات بیداری ما را ببلعند؛ الگوریتم‌هایی که مهندسی فرهنگی آن‌ها حتی می‌تواند آتش خشونت‌های جمعی را شعله‌ور کند. نقش پلتفرم‌های متا در دامن زدن به نسل‌کشی مسلمانان روهینگیا در میانمار، شورش‌های ضد مسلمانان در سری‌لانکا و گزارش‌های مربوط به تشویق خشونت در جنگ تیگرای اتیوپی مستند شده است. دقیقاً همین انگیزه‌های مالی در فیدهایی جریان دارند که بینش جوانان را درباره سیاست، هم‌سن‌وسالان و دنیای پیرامون شکل می‌دهند.

هوش مصنوعی اکنون این منطق سودجویانه را به ابعادی از زندگی کشانده که شبکه‌های اجتماعی تنها از دوردست می‌توانستند بر آن تأثیر بگذارند. هوش مصنوعی پیشنهاد می‌دهد افکارمان را به‌جای ما بنویسد و جایگزین انسان‌هایی شود که در لحظات تنهایی به آن‌ها پناه می‌بریم. طبق آمارها، در حال حاضر یک‌سوم نوجوانان ترجیح می‌دهند دغدغه‌های جدی زندگی‌شان را به‌جای انسان‌ها با همدم‌های هوش مصنوعی در میان بگذارند. همچنین پژوهشگران MIT دریافتند جوانانی که برای نگارش مقاله از ChatGPT بهره می‌برند، در طول انجام تمرین اتصال مغزی ضعیف‌تری دارند؛ شواهد آن‌ها نشان داد که این «بدهی شناختی» حتی پس از تکمیل مقاله نیز در ساختار ذهنی آن‌ها ادامه می‌یابد. هنوز ناگفته‌های بسیاری درباره پیامدهای درازمدت وجود دارد، اما از همین حالا شواهد کافی داریم تا بپرسیم آیا فناوری‌هایی که با ادعای افزایش توانمندی به بازار عرضه می‌شوند، در حال نابودی همان عادات و پیوندهایی نیستند که اساساً بستر توانمندی‌های انسانی ما را می‌سازند؟

اگر این منطق را تا سرمنزل نهایی‌اش دنبال کنیم، به جهانی از سرگرمی‌های کاملاً پاستوریزه‌شده می‌رسیم؛ جهانی پر از چت‌بات‌هایی که آماده‌اند تا زحمت فکر کردن یا چالش مواجهه با احساسات دیگری (یا حتی احساسات خودمان) را از دوش ما بردارند. اما هر کسی که برای خلق نوشته‌ای ارزشمند رنج کشیده یا برای نجات رابطه‌ای صمیمانه جنگیده باشد، خوب می‌داند در این معامله چه چیزهای گران‌بهایی از دست می‌رود. عمق قضاوت و درک ما در بستر تلاش و اصطکاک پرورش می‌یابد، و ما هم‌زیستی با دیگران را از خلال پذیرش این واقعیت فرامی‌گیریم که اطرافیان ما نیازها و دیدگاه‌های مستقل خود را دارند.

ما باید رعایت ایمنی را به‌عنوان کف مطالبات در نظر بگیریم؛ اما بلافاصله مطالباتی به‌مراتب فراتر از آن را روی میز بگذاریم. شرکت‌های فناوری و مدارس باید پیش از آنکه هوش مصنوعی را به عنصری ثابت در کلاس‌های درس تبدیل کنند، بدون کمترین تردیدی ثابت کنند که این ابزارها یادگیری و تفکر انتقادی را تقویت می‌نمایند. طراحی همدم‌هایی که تظاهر به آگاهی می‌کنند یا به کاربران ابراز عشق می‌ورزند باید به‌کلی ممنوع شود؛ علاوه بر این، باید نظارتی مستقل ارزیابی کند که این سیستم‌ها چگونه بر پیوندهای انسانی و استقلال فکری کاربران تأثیر می‌گذارند. شرکت‌هایی که پای محصولات خود را به تاروپود زندگی مدرن باز کرده‌اند، وظایفی بس سنگین‌تر از صرفاً فرار از رسوایی‌های رسانه‌ای بعدی دارند.

سام هاینر، هم‌بنیان‌گذار و مدیر اجرایی Young People’s Alliance است؛ ائتلافی که تصویب قوانین سامان‌دهی همراهان هوش مصنوعی را در هشت ایالت آمریکا در سال ۲۰۲۶ هماهنگ کرد.

اما لایکن، مدیر اجرایی صندوق مسوولیت‌پذیری فناوری جوانان در Hopelab و مدرس سیاست‌گذاری در دانشگاه کلمبیا است که پیش‌تر مدیریت سیاست‌های ایمنی نوجوانان را در TikTok بر عهده داشته است.