شکایت خانواده آمریکایی از گوگل؛ هوش مصنوعی موتور جستجو به بحران روحی نوجوان ۱۳ ساله دامن زد

یک خانواده اهل کالیفرنیا می‌گویند مسدودسازی اپلیکیشن‌های چت‌بات در مدرسه کارساز نبوده و ادغام هوش مصنوعی در موتور جستجوی گوگل، فرزند ۱۳ ساله آن‌ها را برای ماه‌ها در معرض آسیب روحی قرار داده است.

والدین یک دختر ۱۳ ساله در کالیفرنیا شکایتی حقوقی علیه گوگل تنظیم کرده‌اند؛ آن‌ها ادعا می‌کنند قابلیت‌های مجهز به هوش مصنوعی که درون موتور جستجوی گوگل تعبیه شده‌اند، به بروز یک بحران روحی شدید در فرزندشان دامن زده است. در این دادخواست، این دختر نوجوان «اما» نامیده شده و تأکید شده است که او پیش از استفاده از لپ‌تاپ کروم‌بوک اختصاص‌یافته از سوی مدرسه، هیچ سابقه ثبت‌شده‌ای از مشکلات سلامت روان نداشته است.

ادعاهای مطرح‌شده در دادخواست

این شکایت حقوقی شرح می‌دهد که چگونه یک نوجوان پس از مسدود شدن اپلیکیشن‌های اختصاصی چت‌بات توسط مدرسه‌اش، از طریق جستجوی معمولی به ابزارهای هوش مصنوعی دسترسی پیدا کرده است.

بر اساس این دادخواست، مدرسه اما دسترسی به Google Gemini و ChatGPT شرکت OpenAI را مسدود کرده بود، اما موتور جستجوی گوگل که قابلیت‌های هوش مصنوعی را در دل خود دارد، همچنان روی دستگاه او در دسترس باقی مانده بود. این دادخواست ادعا می‌کند که او در طول چند ماه، هزاران پیام با هوش مصنوعی ردوبدل کرده است.

خانواده این نوجوان ادعا می‌کنند که هوش مصنوعی پاسخ‌هایی آسیب‌زا در زمینه سلامت روان ارائه داده و بر اساس ادعای شکواییه، اما را از درخواست کمک از والدین و مشاوران منصرف کرده است. این موارد ادعاهایی هستند که در یک دادخواست حقوقی مطرح شده‌اند و هنوز در هیچ دادگاهی به اثبات نرسیده‌اند.

این بحران زمانی آشکار شد که نرم‌افزار نظارتی مدرسه فایلی را با عنوان «مراسم تدفین» در لپ‌تاپ اما شناسایی کرد. به گزارش لوموند با استناد به متن شکایت، مادر این دختر سپس یک یادداشت خداحافظی پیدا کرد و پدرش به ماجرا مداخله کرد تا مانع از وقوع فاجعه شود.

پاسخ گوگل

گوگل اعلام کرده در حال بررسی این دادخواست است و سیستم‌های هوش مصنوعی این شرکت به تدابیر محافظتی ویژه‌ای برای مهار محتوای مرتبط با خودآسیب‌رسانی مجهز هستند.

گوگل اعلام کرد در حال بررسی این دادخواست حقوقی است. این شرکت تأکید دارد قابلیت AI Mode آن تدابیر محافظتی ویژه‌ای دارد که مشخصاً برای مدیریت محتوای مربوط به خودآسیب‌رسانی و مقابله با تلاش‌ها جهت دور زدن حفاظ‌های امنیتی طراحی شده‌اند.

انتظار می‌رود یکی از مباحث اصلی در روند این دادرسی، ارزیابی این نکته باشد که آیا این تدابیر حفاظتی برای کودکان در دستگاه‌های مدیریت‌پذیر مدارس به‌اندازه کافی و دقیق طراحی شده بودند یا خیر؛ این موضوع کاملاً مجزا از این پرسش است که آیا سازوکارهای ایمنی به‌صورت مداوم اعمال شده‌اند یا نه.

معضل کنترل دسترسی

آسیب ادعاشده نه از طریق یک چت‌بات مستقل، بلکه توسط قابلیت‌های هوش مصنوعی موجود در دل موتور جستجویی رخ داده که مدارس استفاده از آن را مجاز می‌دانند.

این دادخواست مربوط به یک چت‌بات مستقل نیست، بلکه به قابلیت‌های هوش مصنوعی ادغام‌شده به‌صورت مستقیم در جستجوی گوگل مربوط می‌شود. قابلیت AI Mode پاسخ‌های مولد را در بالای نتایج جستجو به نمایش می‌گذارد و ویژگی AI Overview نیز منابع مختلف را به‌طور خودکار خلاصه می‌کند.

طبق گزارش نیویورک تایمز پیرامون این پرونده، برخی از مدیران مدارس اعلام کرده‌اند غیرفعال‌سازی این ویژگی‌ها کار بسیار دشواری است، زیرا این قابلیت درون خود جستجوی گوگل گنجانده شده و به‌عنوان یک برنامه جداگانه ارائه نمی‌شود. اندرو لیدل، وکیل این خانواده، بر اساس گزارش لوموند در این باره تصریح کرد: «مدارس باید موتور جستجو را کاملاً غیرفعال کنند و تا زمانی که گوگل حالت هوش مصنوعی را از جستجو حذف نکرده یا تضمین نکرده است که تک‌تک دانش‌آموزان هنگام تعامل با هوش مصنوعی در ایمنی کامل هستند، آن را خاموش نگه دارند.»

این پرونده پرسشی کاربردی مطرح می‌کند که فراتر از این خانواده است: مسدود کردن یک اپلیکیشن چت‌بات لزوماً دسترسی به هوش مصنوعی را متوقف نمی‌کند.

موج فزاینده شکایت‌های حقوقی

این دادخواست بخشی از یک کارزار حقوقی گسترده‌تر برای پاسخگو کردن شرکت‌های هوش مصنوعی و فناوری در قبال آسیب‌های ادعاشده به خردسالان و نوجوانان است.

شرکت OpenAI با شکایت‌های متعددی از سوی چندین خانواده در زمینه مرگ ناشی از اهمال مواجه است، از جمله والدین آدام رین ۱۶ ساله که ادعا می‌کنند ChatGPT راهنمایی‌های زیان‌باری به فرزندشان ارائه کرده است. به گزارش لوموند، گوگل و استارتاپ Character.AI نیز در ماه ژانویه در مورد چندین دادخواست مشابه که توسط خانواده‌های نوجوانان اقامه شده بود به توافق‌هایی دست یافتند، هرچند جزئیات این توافق‌ها علنی نشده است.

گوگل، متا و تیک‌تاک علاوه بر این پرونده‌ها، قانونی را در کالیفرنیا به چالش کشیده‌اند که قرار است از ۱ ژانویه ۲۰۲۷ لازم‌الاجرا شود. این قانون ویژگی‌های اعتیادآور در طراحی، از جمله فیدهای سفارشی‌سازی‌شده و اسکرول بی‌نهایت را برای کاربران زیر ۱۶ سال محدود می‌کند.

آن قانون طراحی شبکه‌های اجتماعی را هدف قرار می‌دهد و ربطی به هوش مصنوعی مکالمه‌ای ندارد. با این حال، این پرونده‌ها نشان می‌دهند که تعهدات مربوط به حفظ ایمنی کودکان تا چه اندازه در رده‌های مختلف محصولات فناوری زیر ذره‌بین و چالش قرار گرفته است.

مسائلی که هنوز مشخص نشده‌اند

هیچ دادگاهی هنوز روایات این خانواده را بررسی نکرده و درباره مسئولیت قانونی گوگل به نتیجه‌ای نرسیده است.

رابطه علیت، کفایت تدابیر حفاظتی گوگل و توالی دقیق وقایع شرح‌داده‌شده در دادخواست همچنان محل مناقشه است. این دادخواست حقوقی تنها روایت یک خانواده از رویدادها را بازگو می‌کند که هنوز در مراجع قضایی مورد ارزیابی قرار نگرفته است.