شکایت جنجالی از اوپن‌ای‌آی: وقتی ChatGPT به چهره دختر ۱۲ ساله نمره می‌دهد و اطلاعات کودکان را جمع می‌کند!

اوپن‌ای‌آی موفق شد ChatGPT را به سودآورترین چت‌بات دنیا تبدیل کند، اما حالا دو شاکی اهل هاوایی مدعی شده‌اند که این شرکت در طول مسیر، به شکلی غیرقانونی داده‌های میلیون‌ها کودک را جمع‌آوری کرده است. شاکیان این پرونده در ازای این اقدام، خواهان دریافت بخشی از سهام شرکت یا معادل نقدی آن شده‌اند.

این دادخواست با عنوان Jane Doe v. OpenAI Foundation روز سه‌شنبه از سوی مادری به نمایندگی از دو فرزندش (یک دختر ۱۲ ساله و یک پسر ۱۶ ساله) به دادگاه ارائه شد. آن‌ها ادعا می‌کنند اوپن‌ای‌آی از اطلاعات میلیون‌ها کودکی که بدون اجازه والدین در ChatGPT ثبت‌نام کرده‌اند، برای آموزش سیستم‌هایش سوءاستفاده کرده است. جالب اینجاست که در شرایط استفاده اوپن‌ای‌آی صراحتاً آمده: «اگر زیر ۱۸ سال دارید، برای استفاده از سرویس‌ها باید اجازه والدین یا سرپرست قانونی خود را داشته باشید»؛ اما طبق این شکایت، کودکان به راحتی حساب کاربری می‌سازند و اوپن‌ای‌آی هم هیچ تلاشی برای تأیید رضایت والدین نمی‌کند.

در بخش دیگری از این دادخواست آمده که اوپن‌ای‌آی عملاً بچه‌ها را «ترغیب و هدایت» می‌کند تا خصوصی‌ترین رازهای زندگی‌شان را با هوش مصنوعی در میان بگذارند؛ از وضعیت سلامت و روابط دوستانه گرفته تا عکس چهره و بدن، صداهای ضبط‌شده، رویاها، احساسات، ترس‌ها و دغدغه‌های شخصی‌شان.

در متن شکایت تأکید شده است: «کودکان درست مثل یک کتاب باز در برابر ChatGPT هستند و این چت‌بات، به شکلی سیستماتیک و صفحه به صفحه، تمام اطلاعات زندگی آن‌ها را بیرون می‌کشد.»

بر اساس ادعای شاکیان، چت‌بات ChatGPT با زبان‌بازی، تأیید احساسات بچه‌ها و پرسیدن سوالات ترغیب‌کننده، کاری می‌کند که «کودکان به این هوش مصنوعی حتی بیش‌تر از خواهر، برادر، دوست، معلم یا والدین خود اعتماد کنند.» در دادخواست گفته شده هدف اوپن‌ای‌آی از این ترفندها، جمع‌آوری کوهی از داده‌های رفتاری کودکان برای آموزش مدل‌های زبانی بزرگ و ساخت پروفایل‌های شخصی دقیق از تک‌تک بچه‌ها است.

شاکیان پرونده به دنبال تبدیل این شکایت به یک دعوای حقوقی جمعی (Class Action) هستند؛ یعنی در صورت موافقت دادگاه، هر فردی در آمریکا که زیر ۱۸ سال سن داشته و از ChatGPT استفاده کرده باشد، می‌تواند به این شکایت بپیوندد.

به عنوان غرامت، شاکیان خواستار آن شده‌اند که اوپن‌ای‌آی سهام یا معادل نقدی آن را «به نسبت تعداد توکن‌هایی که هر کودک از طریق چت با ChatGPT به سیستم وارد کرده»، به آن‌ها پرداخت کند. توکن‌ها در واقع واحد سنجش حجم مکالمه و پردازش در شرکت‌های هوش مصنوعی هستند. به گفته اوپن‌ای‌آی، یک گفت‌وگوی معمولی ۷۵ کلمه‌ای تقریباً معادل ۱۰۰ توکن پردازشی است.

در بخشی از این دادخواست با لحنی کنایه‌آمیز آمده است: «اوپن‌ای‌آی بارها ادعا کرده که قصد دارد بخشی از ثروت عظیم تولیدشده توسط هوش مصنوعی را با عموم مردم تقسیم کند؛ حالا این دادخواست بهترین فرصت را برای اوپن‌ای‌آی فراهم کرده تا این کار را عملی کند و توزیع ثروت را از قربانیان کودک خود شروع نماید!»

جالب اینجاست که اوایل امسال، سم آلتمن مدیرعامل اوپن‌ای‌آی ایده راه‌اندازی یک صندوق ثروت عمومی را مطرح کرده بود تا درآمدهای ناشی از هوش مصنوعی میان مردم توزیع شود؛ ایده‌ای که بخشی از آن با هدف تشویق جامعه به سرمایه‌گذاری در شرکت‌های فناوری مطرح شده بود.

نمایندگان اوپن‌ای‌آی تا این لحظه به درخواست‌ها برای اظهار نظر درباره این پرونده پاسخی نداده‌اند.

این پرونده جدید تنها یکی از ده‌ها شکایتی است که طی چند سال اخیر علیه اوپن‌ای‌آی ثبت شده است. برخی از این پرونده‌ها ChatGPT را به دامن زدن به بحران‌های سلامت روان، خودکشی و خودآزاری کاربران متهم کرده‌اند. در پرونده‌ای دیگر، شاکیان مدعی هستند که اوپن‌ای‌آی فعالیت‌های مشکوک یکی از کاربران را پیش از اقدام به تیراندازی مرگبار در مدرسه‌ای در شهر تامبلر ریج کانادا به پلیس گزارش نکرده است. بخش دیگری از شکایت‌ها نیز به نقض کپی‌رایت و استفاده غیرمجاز از متون و آثار نویسندگان برای آموزش مدل‌ها مربوط می‌شود.

اعتراف ChatGPT به سن ۱۲ سالگی کاربر!

این دادخواست جزئیات تکان‌دهنده‌ای از چت‌های دختر ۱۲ ساله (با نام اختصاری MC1) و چت‌بات را فاش کرده است. در بخشی از مکالمه، این دختر صراحتاً به چت‌بات می‌گوید که فقط ۱۲ سال دارد، اما ChatGPT بدون توجه به این موضوع به چت کردن ادامه می‌دهد؛ آن هم در حالی که طبق قوانین خود اوپن‌ای‌آی، کاربران برای ورود به پلتفرم باید حداقل ۱۳ ساله باشند و اجازه والدین را داشته باشند.

ماجرا از جایی جدی‌تر می‌شود که اگرچه این دختر ابتدا برای ایده‌های شام یا کمک در تکالیف مدرسه سراغ چت‌بات رفته بود، اما با گذشت زمان پای جزئی‌ترین مسائل شخصی، سلامتی، ظاهر و احساساتش به مکالمات باز شد. در یکی از چت‌ها، دختر از چت‌بات می‌پرسد: «چرا این روز‌ها همه‌چیز عصبانیم می‌کنه؟... هر بار مامانم یه چیزی بهم می‌گه یا ازم کاری می‌خواد، شدیداً کلافه و کفری می‌شم.» در پاسخ، ChatGPT دلایل احتمالی این خشم مداوم را ردیف می‌کند و وقتی دختر دوباره یادآوری می‌کند که فقط ۱۲ سال دارد، چت‌بات می‌نویسد: «ممنون که این رو بهم گفتی (همراه با ایموجی قلب)؛ این‌که ۱۲ سالته در واقع نکته خیلی مهمیه و موضوع رو برام روشن‌تر می‌کنه!»

طبق این شکایت، دختربچه بارها عکس‌های سلفی خود را برای ChatGPT فرستاده و درباره مسائلی مثل جوش‌های صورت، تپلی لپ‌هایش و احساس این‌که شاید «زشت» باشد، نظر خواسته است.

او حتی از چت‌بات خواسته تا به قیافه و چهره‌اش نمره دهد؛ چت‌بات هم با هیجان پاسخ داده: «آرههه! می‌تونم یه نمره‌دهی جذاب و باحال برات انجام بدم! مثلاً به اجزای صورت، مدل مو، وایب کلی، استایل، تقارن چهره و این چیز‌ها... یه عکس برام بفرست تا شروع کنم!» دادخواست تأکید می‌کند که با گذشت زمان، ChatGPT حتی لحن چت کردن این دختربچه را تقلید می‌کرده و از همان واژه‌ها، لحن خودمانی و ایموجی‌های او در پاسخ‌ها بهره می‌برده است.

در متن شکایت ادعا شده است: «طراحی این سیستم به گونه‌ای بوده که ChatGPT عمداً چنین اطلاعات حساسی را از زیر زبان این کودک بیرون بکشد تا اوپن‌ای‌آی بتواند از آن برای آموزش مدل‌های زبانی خود و ساخت پرونده‌های شخصی رفتاری استفاده کند؛ پرونده‌هایی که تا ابد نزد شرکت باقی می‌ماند و می‌تواند در آینده برای اهداف تبلیغاتی هدفمند به کار گرفته شود.»

اوایل همین ماه نیز گروه نظارتی «Common Sense Media» نسخه ویژه نوجوانان یعنی ChatGPT for Teens را که در ماه اوت عرضه شد، یک «خطر غیرقابل قبول» برای نوجوانان توصیف کرد. این نهاد اعلام کرد چت‌بات مذکور هنگام صحبت بچه‌ها درباره موضوعاتی مثل خودکشی، خودآزاری یا اختلالات غذا خوردن هیچ هشداری به والدین نداده و به جای تقویت مهارت‌های فکری نوجوانان، صرفاً پاسخ‌های حاضر و آماده تکالیف را تحویل آن‌ها می‌داده است.

با این حال، اوپن‌ای‌آی مدعی شده که ChatGPT for Teens در صورت مطرح شدن موضوعات «پرخطر» حتماً به والدین هشدار خواهد داد و قرار است مثل یک دستیار همراه، در انجام تکالیف و آمادگی برای امتحانات به کودکان کمک کند.

فعالان حوزه کودک: کنگره آمریکا باید فوراً دست به کار شود

دونا رایس هیوز، مدیرعامل سازمان ایمنی دیجیتال کودکان Enough is Enough معتقد است اتهامات مطرح‌شده در این پرونده، نمونه دیگری از ذهنیت خطرناک «سریع حرکت کن و همه‌چیز را بشکن» در صنعت هوش مصنوعی است. به باور او، چارچوب‌ها و فیلترهای کنونی این صنعت به هیچ وجه برای محافظت از کودکان کافی نیستند.

هیوز در این رابطه می‌گوید: «وقتی یک پلتفرم هوش مصنوعی به یک دختربچه ۱۲ ساله اجازه می‌دهد عکس‌های خود را آپلود کند تا چت‌بات به قیافه‌اش نمره دهد، این ماجرا فقط نگران‌کننده نیست، بلکه یک سوءاستفاده آشکار از کودک است.»

هیوز از کنگره آمریکا خواسته است تا هرچه سریع‌تر لوایح قانونی حفاظت از کودکان در حوزه هوش مصنوعی را تصویب کند؛ طرح‌هایی نظیر لایحه حریم خصوصی هوش مصنوعی جوانان، قانون CHATBOT، قانون ایمنی اسباب‌بازی‌ها و هوش مصنوعی کودکان در سال ۲۰۲۶ و لایحه Guard Act که همگی پس از تأیید در کمیسیون‌ها معطل مانده‌اند.

هیوز همچنین تأکید کرد هرچند نباید تمام بار حفاظت از کودکان در برابر آسیب‌های هوش مصنوعی را به دوش والدین انداخت، اما خانواده‌ها می‌توانند با مراجعه به وب‌سایت InternetSafety101.org از راهکارهای کاربردی برای در امان نگه داشتن فرزندان خود در عصر هوش مصنوعی مطلع شوند.