قانون جدید نیویورک برای مهار چتباتهای هوش مصنوعی و حفاظت از کودکان تصویب شد

در کنار مصوبه اصلی، قانون جداگانهای نیز با هدف ارتقای امنیت مانیتورهای پایش کودک متصل به اینترنت به تصویب رسیده است.

کتی هوکول (Kathy Hochul)، فرماندار ایالت نیویورک، لایحهای را با هدف محافظت از کودکان در برابر آسیبهای چتباتهای هوش مصنوعی امضا کرد. طبق مفاد این قانون، شرکت‌های فعال در حوزه هوش مصنوعی موظف به احراز سن کاربران خود خواهند بود. این شرکت‌ها باید دست‌کم یک روش احراز هویت فراهم کنند که صرفاً بر مدارک شناسایی دولتی متکی نباشد. همچنین توسعهدهندگان ملزم خواهند بود پس از پایان فرایند بررسی، این اطلاعات هویتی و سنی را فوراً پاک کنند.

چنانچه کاربری کمتر از ۱۸ سال سن داشته باشد یا شرکت مربوطه هنوز بزرگسال بودن او را احراز نکرده باشد، چتبات باید محدودیتها و چارچوبهای مشخصی را رعایت کند. برای نمونه، سیستم به هیچ عنوان نمی‌تواند وانمود کند که «یک انسان واقعی است، حیات دارد یا واجد احساسات بشری است». همچنین بر اساس بیانیه رسمی منتشرشده، این قانون رفتارهای زیر را برای چتباتها ممنوع اعلام می‌کند:

• ادعای داشتن رابطه شخصی، عاطفی، رمانتیک، حرفهای یا نقش یک چهره صاحب قدرت و مرجعیت در برابر کودک

• طرح خودسرانه پرسش‌های احساسی، و بهرهبرداری از اطلاعات خصوصی، پزشکی و داده‌های شخصی کودک که در گفتگوهای قبلی ردوبدل شدهاند

• ترویج، تشویق یا کمک به خودکشی، خودآزاری، اختلالات خوردن، یا مصرف مواد مخدر و الکل

• تشویق کودکان به پنهانکاری، انزواطلبی یا خودداری از مشورت با والدین، بزرگسالان معتمد و مشاوران حرفهای

• تولید یا ارائه هرگونه محتوای نامناسب، مستهجن یا هر آنچه به سوءاستفاده جنسی از کودکان مربوط باشد

طبق این طرح، درگاهی اینترنتی ایجاد خواهد شد تا شهروندان بتوانند شکایات خود را به دادستان کل نیویورک ارجاع دهند. شرکت‌هایی که این قانون را نقض کنند، علاوه بر الزام به پرداخت غرامت و جبران خسارت، ممکن است با جریمههای حقوقی تا سقف ۲۵ هزار دلار به ازای هر مورد نقض روبرو شوند. همچنین دادگاه می‌تواند این شرکت‌ها را به حذف تمام داده‌های گردآوریشده غیرقانونی و حتی نابودی مدل‌هایی که با آن اطلاعات آموزش دیدهاند، محکوم کند. این مصوبه پس از گذشت ۶ ماه لازم الاجرا خواهد شد.

هوکول در یک نشست خبری اظهار داشت: «با اجرای این قانون جدید، کودکان و نوجوانان دیگر به چتباتهایی که وانمود می‌کنند دوست، شریک عاطفی یا همدم آنها هستند، دسترسی نخواهند داشت. چتباتها دیگر اجازه ندارند اطلاعات حساس مربوط به سلامت جسمی و روانی افراد زیر سن قانونی را ذخیره کنند یا آنها را از مشورت با متخصصان دارای مجوز بازدارند. هرچند عجیب به نظر می‌رسد که برای چنین موضوعات بدیهی ناچار به تصویب قانون شویم، اما دیگر هیچ کودک یا نوجوانی با چتباتهایی که افکار خودکشی را تقویت می‌کنند مواجه نخواهد شد. این لایحه بر پایه قانون پیشروی ما برای محافظت از کودکان در فضای مجازی بنا شده و پیامی صریح و قاطع به شرکت‌های فناوری میفرستد؛ ما هرگز اجازه نخواهیم داد از سلامت روان فرزندانمان کسب درآمد کنید.»

جیم استایر (Jim Steyer)، بنیانگذار و مدیرعامل سازمان Common Sense Media، در بیانیهای اعلام کرد: «نیویورک با تصویب قدرتمندترین قانون ایمنی کودکان در برابر هوش مصنوعی در سرتاسر آمریکا، تاریخساز شد. شرکت‌های هوش مصنوعی چتباتهایی با قابلیت‌هایی عرضه می‌کنند که برای کودکان و نوجوانان خطرناک و حتی مرگبار است. این نوآوری نیست، بلکه به خطر انداختن بیپروای جان فرزندان ماست؛ اکنون این ویژگی‌های آسیبزا در نیویورک غیرقانونی خواهد بود.»

استایر تأکید کرد که این قانون می‌تواند به الگویی جامع برای سایر ایالتهای آمریکا تبدیل شود. پیش از این و در اوایل همین ماه، هشت ایالت پروندههای قضایی جداگانهای علیه شرکت OpenAI گشوده و آن را به تهدید سلامت و به خطر انداختن جان کودکان متهم کرده بودند.

شهرداری نیویورک در ماه سپتامبر نیز دسترسی دانشآموزان پیشدبستانی تا پایه هشتم مدارس دولتی به ابزارهای هوش مصنوعی مولد را در کلاسهای درس ممنوع کرده بود. البته استثنائاتی از جمله برای دانشآموزان نیازمند فناوری‌های کمکی در نظر گرفته شده است. در طول این دوره ممنوعیت یکساله، مسئولان شهر به بررسی و پژوهش درباره تأثیرات این فناوری بر رشد کودکان خواهند پرداخت.

هوکول همچنین مصوبه دیگری را امضا کرد که بر اساس آن، مانیتورهای پایش کودک متصل به اینترنت که در این ایالت به فروش میرسند، باید تدابیری اتخاذ کنند تا افراد غیرمجاز نتوانند صدا یا تصویر ضبطشده توسط این دستگاه‌ها را دریافت کنند. علاوه بر این، دستگاه‌های پایشگر کودک باید برچسبهای هشداری داشته باشند که ضرورت فعالسازی ویژگی‌های امنیتی و خطرات اتصالات ناامن را به والدین یادآوری کند. این قانون ظرف مدت ۹۰ روز اجرایی خواهد شد.