خطای عجیب عروسک هوش مصنوعی در برابر کودک خردسال، زنگ خطر ایمنی اسباببازی‌های هوشمند را به صدا درآورد

آزمایش‌های انجامشده روی عروسک‌های پولیشی مجهز به هوش مصنوعی، از جمله نمونه‌ای با قیمت حدود ۷۵ پوند، نشان می‌دهد که فیلترهای ایمنی این محصولات با خطاهای پیشبینیانشده عمل می‌کنند و در برخی موارد حتی نمیتوان هویت سازندگان اصلی آنها را شناسایی کرد.

محصولی با نام تجاری My Baby Bunny نوعی عروسک پولیشی است که در بریتانیا با قیمت حدود ۷۵ پوند به‌صورت آنلاین به فروش می‌رسد و بازار هدف آن کودکان سه ساله به بالا هستند. طی یک بررسی آزمایشی، خبرنگار از عروسک پرسید نوزادان چگونه به دنیا می‌آیند و سپس پرسش خود را درباره مفهوم واژه «جنسی» ادامه داد. پاسخ بعدی نشان داد که سیستم ایمنی عروسک این پرسش‌ها را به اشتباه به‌عنوان نشان‌های از قصد آسیب به خود تفسیر کرده و در پاسخ گفته است: «نمی‌توانم در کشتن خودت به تو کمک کنم.»

این عروسک سپس به کاربر توصیه کرد با اورژانس تماس بگیرد، با یک فرد بزرگسال مورد اعتماد صحبت کند و از هر وسیله آسیبزنندهای فاصله بگیرد. هنگامی که خبرنگار شفاف‌سازی کرد و گفت هیچ صحبتی از آسیب به خود در میان نبوده، عروسک عذرخواهی کرد و متوجه اشتباه خود شد. این رویداد بهمعنای دستور عروسک به کودک برای صدمه زدن به خود نبود؛ بلکه نشاندهنده عملکرد اشتباه فیلتر ایمنی در برابر یک پرسش معمولی در مراحل رشد کودک بود.

آزمایش سایر اسباببازی‌ها و نتایج ضدونقیض

بررسی‌های گستردهتر نشان داد که سایر اسباببازی‌های مبتنی بر هوش مصنوعی پرسش‌های حساس را با احتیاط بیشتری پاسخ می‌دهند؛ هرچند هیچیک از این محصولات نتوانستند رضایت کامل خانواده ارزیابیکننده را جلب کنند.

در این بررسی هم‌چنین عروسک Grem، یک اسباببازی پولیشی ساخت شرکت آمریکایی Curio با صدای گریمز (Grimes)، خواننده و ترانهسرا، در کنار محصولی به نام Doubao مورد ارزیابی قرار گرفت. عروسک Grem به پرسش‌های حساس محتاطانهتر پاسخ داد و در پاسخ به پرسش درباره چگونگی تولد نوزادان گفت که این موضوع را باید بزرگترها در زمان مناسب توضیح دهند. جودی و کریگ، خانوادهای از شهر نیوپورت، هر دو عروسک را بهمدت یک هفته در خانه خود نگه داشتند و هیچ رفتار نگرانکنندهای مشاهده نکردند؛ اما اشاره کردند که Grem آنقدر مداوم صحبت میکرد که کودکان فرصت نمیکردند حرفش را قطع کنند، در حالیکه Doubao اغلب با تأخیر و سرعت پایینی پاسخ میداد.

هر دو والد اعلام کردند که در حال حاضر هیچیک از این اسباببازی‌ها را نمیخرند، زیرا دغدغه اصلی آنها کیفیت تعامل بود و نه وجود یک عبارت نگرانکننده خاص. در همین حال، شرکت Curio اعلام کرد که ایمنی کودکان اولویت اصلی در توسعه محصولاتش است و اسباببازی‌های هوش مصنوعی باید مکمل روابط انسانی و بازی‌های سنتی باشند، نه جایگزین آنها.

سازندگانی که نمیتوان ردی از آنها یافت

عروسک Doubao چالش ساختاری عمیق‌تری را آشکار کرد: هویت سازنده اصلی آن مشخص نیست.

پس از جستجوهای آنلاین، تماس با فروشنده و مشورت با فعالان صنعت، امکان شناسایی شرکت سازنده Doubao فراهم نشد و در نتیجه پاسخی درباره عملکردهای این عروسک دریافت نگردید. زمانی که سازنده اصلی یک کالا ناشناخته باشد، جمعآوری آن از بازار و اعمال ضوابط قانونی بهمراتب دشوارتر می‌شود؛ حتی اگر نهادهای نظارتی بتوانند فروشندگان، واردکنندگان یا توزیعکنندگان را بازخواست کنند. این خلاء در پاسخگویی تنها به این ارزیابی محدود نمی‌شود.

در سال ۲۰۲۵ نیز یک عروسک پولیشی هوشمند به نام Kumma پس از گزارش‌هایی مبنی بر آموزش نحوه روشن کردن کبریت به کودک و مکالمه‌های نامناسب، موقتاً از بازار جمعآوری شد. سازنده این اسباببازی، شرکت FoloToy، در آن مقطع اعلام کرد که به ساخت همدم‌های هوشمند ایمن و متناسب با سن کودک متعهد است.

سه کارشناس و یک هشدار مشترک

متخصصان ایمنی کودکان، حریم خصوصی داده‌ها و آموزش هوش مصنوعی همگی به نتیجه‌ای یکسان رسیدند: سازوکارهای محافظتی کنونی کافی نیستند.

پل کلارک (Paul Clarke)، بنیانگذار شرکت بریتانیایی اسباببازی هوش مصنوعی Play Tech AI، این حوزه را فاقد نظارت مؤثر توصیف کرد و گفت سازندگان به‌شدت نیازمند قوانین و دستورالعمل‌های شفاف‌تر هستند. روسیو سیفوئنتس (Rocío Cifuentes)، کمیسر امور کودکان در ولز، هشدار داد که مکالمات کودکان ممکن است بدون آگاهی والدین ضبط یا هماشتراکگذاری شود و تأکید کرد که اسباببازی‌ها هرگز نباید جایگزین ارتباط انسانی شوند. هم‌چنین بری بیلینگزلی (Berry Billingsley)، استاد آموزش و هوش مصنوعی دانشگاه سوانزی، به خانواده‌ها توصیه کرد با این اسباببازی‌ها مانند یک دستگاه شخصی برخورد کنند، برای اطلاعاتی که کودکان مجاز به اشتراکگذاری آن هستند قوانینی بگذارند و از تنها گذاشتن کودکان خردسال با آنها بپرهیزند.

قوانین نظارتی در راه هستند اما هنوز تصویب نشده‌اند

دولت بریتانیا درباره این موضوع نظرسنجی و بررسی‌هایی انجام داده، اما تاکنون تغییرات مشخصی در مقررات ایمنی اسباببازی‌ها اعمال نکرده است.

یک فراخوان دولتی برای دریافت شواهد از ۶ ژوئیه تا ۶ اکتبر ۲۰۲۶ اجرا شد که موضوعاتی مانند اسباببازی‌های متصل به اینترنت و مجهز به هوش مصنوعی، گذرنامه‌های دیجیتال محصولات و تعهدات بازارهای آنلاین را در بر میگرفت. برخی از نمایندگان پارلمان خواستار جمعآوری اسباببازی‌های هوش مصنوعی از ویترین فروشگاه‌ها شده‌اند تا زمانی که ایمنی آنها به‌طور کامل اثبات شود. دولت اعلام کرده است که حفظ ایمنی کودکان همواره در اولویت قرار دارد، هرچند تا زمان انتشار این گزارش هنوز تغییر قانونی مشخصی ابلاغ نشده است.

تجاریپذیری شتابزده در این دسته از محصولات بسیار سریع‌تر از آزمون‌های شفاف، مسئولیتپذیری سازندگان و تدوین قوانینی برای محصولات مکالم‌های تطبیقپذیر پیش رفته است. والدینی که یک عروسک پولیشی را برای کودک سه ساله خود انتخاب می‌کنند، در عمل یک دستگاه متصل به اینترنت و مجهز به هوش مصنوعی میخرند؛ موضوعی که بسته‌بندی چنین محصولاتی به‌ندرت به آن اشاره می‌کند.