ورود هوش مصنوعی به مدارس، غول‌های فناوری را با موج تازه‌ای از شکایت‌های حقوقی روبرو کرد

عکس: Anadolu / Getty Images

شرکت‌های بزرگ فناوری سال‌هاست به والدین اطمینان می‌دهند که تمام توان خود را برای افزایش ایمنی محصولاتشان برای کودکان به کار گرفته‌اند. با این حال، دادگاه‌های هیئت منصفه در جریان، توافق‌های مالی پشت درهای بسته و پرونده‌های قضایی متعدد علیه شرکت‌هایی هم‌چون متا، گوگل و Snap نشان می‌دهند که این اقدامات به‌هیچ‌وجه کافی نبوده است.

تازه‌ترین نمونه‌های این چالش‌ها همین هفته پدیدار شدند. شرکت Snap در پرونده‌ای که مدعی بود فناوری آن آسیب‌های روحی شدیدی به دو کاربر نوجوان وارد کرده است، به یک توافق محرمانه دست یافت. شرکت‌های متا، تیک‌تاک و یوتوب نیز پیشتر در پرونده‌ای مشابه با شاکیان مصالحه کرده بودند. افزون بر این، والدین کودکی که ادعا می‌شود پس از گفتگو با چت‌بات هوش مصنوعی Gemini در بستر Google Classroom دچار بحران روحی شده است، در این هفته شکایتی رسمی علیه گوگل ثبت کردند.

این نگرانی‌ها هم‌زمان با رقابت استارتاپ‌های هوش مصنوعی برای دستیابی به ارزش‌گذاری‌های هزار میلیارد دلاری و سرمایه‌گذاری سنگین غول‌های کهنه‌کار اینترنت در توسعه مدل‌های پیشرفته و ورود شتاب‌زده آن‌ها به کلاس‌های درس، به اوج خود رسیده است. کیت بلاکر، روان‌شناس رشد، معتقد است محصولات و قابلیت‌هایی که هدف اصلی آن‌ها به حداکثر رساندن تعامل و درگیری کاربر با برنامه است، می‌توانند تأثیرات مخربی به‌همراه داشته باشند. او تأکید می‌کند که این مسئله، ضرورت «تحولات بنیادین و ساختاری در نحوه طراحی فناوری‌ها، به‌ویژه هنگام استفاده کودکان» را دوچندان می‌سازد.

بلاکر، مدیر پژوهش و برنامه‌های نهاد غیرانتفاعی Children and Screens، در این‌باره می‌گوید: «به باور من بسیار حیاتی است که ایمنی کودکان دقیقاً در همان مرحله طراحی محصولاتی نظیر هوش مصنوعی و شبکه‌های اجتماعی مدنظر قرار گیرد، نه اینکه پس از وقوع آسیب‌ها و ظهور مشکلات به سراغ چاره‌جویی برویم.»

جوزف مک‌نالی، مدیر دعاوی نوظهور در مؤسسه حقوقی McNicholas & McNicholas، خاطرنشان می‌کند که توافق اخیر Snap مانع از ادای شهادت اوان اشپیگل، مدیرعامل این شرکت، در دادگاه لس‌آنجلس شد. این توافق در راستای رویه معمول غول‌های فناوری قرار دارد؛ رویکردی که تلاش می‌کند شرکت‌ها را از نگاه موشکافانه افکار عمومی در جریان دادگاه‌های پر‌سروصدای مربوط به ایمنی کودکان در سال جاری دور نگه دارد.

این پرونده یکی از چندین دعوای حقوقی مرتبط با دادگاه خسارات فردی ناشی از شبکه‌های اجتماعی بود که متا و یوتوب در اوایل سال جاری در آن شکست خوردند. قرار است دادگاه‌های بیشتری از این دست در ماه مارس آینده آغاز شوند.

مک‌نالی که پیشتر سرپرست دادستانی ناحیه مرکزی کالیفرنیا بوده است، می‌گوید: «من این مصالحه و توافق‌های مشابه را تلاشی از سوی شرکت‌های فناوری برای عبور از یک بحران می‌دانم؛ چراکه علاوه بر چالش‌های حقوقی جدی، اعتبار محصولات و خوشنامی شرکت‌های آن‌ها ضربه‌ای واقعی خورده است.»

سخنگوی شرکت Snap در بیانیه‌ای اعلام کرد: «طرفین پرونده خرسند هستند که توانسته‌اند این موضوع را از طریق روشی مسالمت‌آمیز حل‌وفصل کنند.»

سخنگوی Snap در ادامه افزود: «ما تمهیدات حفاظتی متعددی ایجاد کرده‌ایم، دوره‌های آموزشی ایمنی را به راه انداخته‌ایم و با متخصصان همکاری مداوم داریم. از آنجا که مقوله ایمنی هرگز نقطه‌ای پایانی ندارد، ما همواره متعهد به ارتقای مستمر امنیت، حفظ حریم خصوصی و رفاه جامعه کاربران خود هستیم.»

با این همه، یک پرونده فدرال گسترده شامل متا، تیک‌تاک، Snap و یوتوب با دادخواست‌های پرتعداد از مناطق آموزشی سراسر کشور، در کنار شکایت‌های متعدد دادستان‌های کل ایالتی همچنان به قوت خود باقی است. شرکت متا در ماه آگوست پذیرفت که نزدیک به ۱۷ میلیارد دلار برای مصالحه با گروهی از دادستان‌های کل ایالتی در پرونده آسیب به سلامت روان کودکان پرداخت کند؛ پرونده‌هایی که شماری از دادستان‌ها همچنان علیه رقبای متا نیز پیگیری می‌کنند.

به گفته مک‌نالی، پرونده‌های قضایی شبکه‌های اجتماعی به آگاهی بیشتر والدین و عموم مردم از نحوه مهندسی و طراحی محصولات فناوری برای نوجوانان و کودکان کمک شایانی کرده است.

او می‌گوید: «مسابقه تسلیحاتی فناوری با شتاب ادامه دارد؛ اما نکته مهمی که اغلب نادیده گرفته می‌شود، برقراری تعادل میان حضور در این رقابت فشرده با کاربرد واقعی و ایمنی محصول است.»

افزایش نظارت‌ها و حساسیت‌ها در کلاس‌های درس

شرکت گوگل نیز در این هفته به‌دلیل سرعت سرسام‌آور و شتاب‌زدگی خود هدف انتقادات شدیدی قرار گرفت. روزنامه نیویورک تایمز در گزارشی فاش کرد مدارسی که اجازه استفاده از ابزارهای هوش مصنوعی گوگل را به دانش‌آموزان ندهند، دسترسی به موتور جستجوی این شرکت را از دست خواهند داد. کریس فیلیپس، معاون بخش آموزش گوگل، در گفتگو با این نشریه مدعی شد که «جستجو و هوش مصنوعی پیوندی عمیق و جدایی‌ناپذیر با یکدیگر دارند.»

این گزارش هم‌زمان شد با شکایت تازه‌ای علیه گوگل که محور آن بحران روحی شدید یک نوجوان و قصد او برای خودکشی است؛ حادثه‌ای که والدین، آن را ناشی از تعامل با هوش مصنوعی Gemini این شرکت می‌دانند. وکلای شاکی مدعی هستند که «گوگل با وجود آگاهی از خطرات شناخته‌شده Gemini، این مدل را با شتاب‌زدگی فراوان درون رایانه‌های کروم‌بوک ویژه دانش‌آموزان مدارس گنجانده است.»

سخنگوی گوگل در این‌باره بیانیه‌ای صادر کرد و گفت: «ما در حال بررسی ادعاهای مطرح‌شده در این شکایت هستیم و این موضوع را بسیار جدی می‌گیریم. ما همکاری گسترده‌ای با متخصصان پزشکی و کارشناسان دانشگاهی داشته‌ایم تا قابلیت‌هایی ایجاد کنیم که به نوجوانان کمک کند در زمان نیاز، به پشتیبانی‌های حیاتی و منابع قابل اعتماد دسترسی داشته باشند.»

گوگل و دیگر غول‌های اینترنتی برای دهه‌ها توانسته بودند به قانون مشهور «بخش ۲۳۰» تکیه کنند.

این مصوبه فدرال که در سال ۱۹۹۶ به تصویب رسید، شرکت‌های شبکه‌های اجتماعی را در برابر مسئولیت‌های حقوقی ناشی از محتوای منتشرشده توسط کاربران مصون نگاه می‌داشت. دقیقاً به همین دلیل است که اکنون وکلای شاکیان و دادستان‌های ایالتی، تمرکز خود را به‌جای محتوا، بر خطرات و آسیب‌های ناشی از خودِ شیوه مهندسی و طراحی این پلتفرم‌ها معطوف کرده‌اند.

شماری از شاکیان اکنون از همین راهبرد حقوقی علیه شرکت‌های توسعه‌دهنده هوش مصنوعی بهره می‌برند. شرکت OpenAI با چندین دادخواست از سوی دادستان‌های کل ایالتی و وکلای شاکیان روبرو شده است؛ دادخواست‌هایی که با الهام گرفتن از پرونده‌های شبکه‌های اجتماعی، ادعا می‌کنند که ساختار طراحی ChatGPT می‌تواند خطرات جدی برای کودکان به‌همراه داشته باشد.

این کشمکش‌های حقوقی می‌تواند به یک ریسک مالی فزاینده تبدیل شود، چراکه OpenAI خود را برای یک عرضه اولیه سهام عمومی (IPO) بسیار بزرگ آماده می‌کند. شرکت رقیب یعنی Anthropic نیز که قصد دارد در همین ماه وارد بازار بورس شود، این چالش را در امیدنامه عرضه عمومی خود برجسته ساخته است؛ هرچند که خالق مدل Claude استفاده کودکان از محصول خود را به‌صراحت ممنوع اعلام کرده است.

میشل نایتز، استاد دانشکده حقوق دانشگاه سانفرانسیسکو، در این زمینه می‌گوید: «این اتفاق نشانه‌ای آشکار از آن است که شرکت‌های فناوری نسبت به یک دهه گذشته، خطرات حقوقی بسیار بیشتری را پیش‌بینی می‌کنند.»

بلاکر خاطرنشان کرد که ماهیت بسیار شخصی چت‌بات‌های هوش مصنوعی کنونی، پیش‌بینی دقیق پاسخ‌هایی را که این برنامه‌ها به کودکان می‌دهند «کمی ناممکن و غیرقابل اتکا» می‌کند. او بر اهمیت حیاتی ارزیابی و آزمایش این محصولات از منظر سلامت و رشد شناختی کودکان از همان مراحل اولیه تأکید کرد و یادآور شد که این کار «نباید پس از آغاز آسیب‌ها» انجام پذیرد.

به گفته بلاکر، این پرونده‌های قضایی جمعی به آگاهی‌بخشی عمومی درباره معایب و خطرات احتمالی ناشی از انتخاب‌های نادرست در طراحی محصول کمک کرده است و می‌تواند نیرویی پیش‌برنده برای ایجاد تغییرات مثبت در صنعت فناوری باشد.

بلاکر می‌افزاید: «بدون شک این امیدواری وجود دارد که فشارهای کنونی به یک دگرگونی بنیادین و واقعی منجر شود؛ هم از زاویه مقررات‌گذاری‌های قانونی و هم از دیدگاه فرایندهای تصمیم‌گیری درون شرکتی.»

اگر با افکار آزاردهنده یا بحران‌های روحی دست‌وپنجه نرم می‌کنید، می‌توانید با مراجع تخصصی مشاوره و سامانه‌های حمایت روان‌شناختی (مانند خط بین‌المللی Suicide & Crisis Lifeline با شماره ۹۸۸ یا خط ۱۴۸۰ سازمان بهزیستی در ایران) تماس بگیرید تا از راهنمایی مشاوران بهره‌مند شوید.