احراز هویت برای استفاده از ChatGPT؛ قانون جدید نیویورک چگونه گمنامی آنلاین را هدف می‌گیرد؟

لایحه شماره S9051B سنا که به امضای کتی هوکول، فرماندار نیویورک، رسیده است، از یکم ژانویه ۲۰۲۷ بررسی و احراز سن تمام کاربران چت‌بات‌های هوش مصنوعی مشمول قانون را الزامی می‌کند.

لایحه چت‌بات‌های همراه هوش مصنوعی نیویورک که در اکتبر ۲۰۲۶ به قانون تبدیل شد، ارائه‌دهندگان را ملزم می‌کند پیش از فعال‌سازی قابلیت‌های کلیدی چت‌بات، خردسال نبودن کاربر را تأیید کنند. ساختار این مصوبه عملاً آن را به دروازه‌ای برای احراز سن همه کاربران تبدیل می‌کند، نه صرفاً ابزاری برای مسدودسازی دسترسی افراد خردسال.

قانونی برای محافظت از کودکان با پیامدهایی برای بزرگسالان

سازوکار این قانون بدین معناست که تمام کاربران، و نه فقط کودکان، ممکن است پیش از دسترسی به قابلیت‌های مشمول چت‌بات، با ایست بازرسی احراز هویت روبرو شوند.

کتی هوکول، فرماندار نیویورک، در تاریخ ۲۸ اکتبر ۲۰۲۶ لایحه S9051B سنا را امضا کرد؛ قانونی که از یکم ژانویه ۲۰۲۷ اجرایی خواهد شد. این لایحه در سنای این ایالت با نتیجه قاطع ۶۰ به صفر به تصویب رسید.

این مصوبه شرکت‌های ارائه‌دهنده را از عرضه قابلیت‌های همراهی هوش مصنوعی به کاربران منع می‌کند، مگر آنکه ابتدا تأیید کنند کاربر خردسال نیست. از آنجا که وظیفه راستی‌آزمایی پیش از اعطای دسترسی بر عهده پلتفرم‌ها قرار دارد، این سازوکار در عمل فارغ از سن واقعی افراد، مانند فیلتری سراسری برای احراز سن بزرگسالان عمل می‌کند.

کدام چت‌بات‌ها و ویژگی‌ها مشمول این قانون می‌شوند؟

این قانون شامل هر سامانه هوش مصنوعی مولد با رابط زبان طبیعی است که پاسخ‌های مستمر و انطباق‌پذیر ارائه می‌دهد و دامنه آن صرفاً به محصولاتی که با عنوان ابزار همراه تبلیغ می‌شوند محدود نیست.

ویژگی‌های مشمول قانون مواردی مانند معرفی سیستم به‌عنوان موجودی انسانی یا دارای احساسات عاطفی و هم‌چنین ارائه پاسخ‌ها در قالب نظرات شخصی را در بر می‌گیرد. علاوه بر این، استفاده از زبان چاپلوسانه و تمجیدهای مبالغه‌آمیز، بهره‌گیری از اطلاعات جلسات گفتگو با فاصله بیش از ۱۲ ساعت قبل، تشویق به مخفی‌کاری، و تسهیل رفتارهای خودآسیب‌رسان، اختلالات خوردن، مصرف مواد مخدر یا محتوای غیراخلاقی نیز در زمره این قابلیت‌ها تعریف شده‌اند.

قابلیت حافظه، زبان همدلانه و تمجیدهای شخصی‌سازی‌شده از ویژگی‌های رایج در دستیارهای هوش مصنوعی جریان اصلی به‌شمار می‌روند. از این رو، برخی از ارائه‌دهندگان حتی اگر محصول خود را به‌عنوان یک برنامه همراه معرفی نکرده باشند، همچنان نیازمند ارزیابی انطباق سامانه‌های خود با این الزامات قانونی خواهند بود.

طبق لایحه S9051B سنا، ابزارهای پشتیبانی مشتریان، سامانه‌های پژوهشی و دانشگاهی و کاربردهای مشخص درون‌سازمانی از شمول این الزامات مستثنی هستند.

سه روش برای احراز سن و تأیید خردسال نبودن کاربران

مقررات جداگانه موسوم به دستورالعمل SAFE for Kids در نیویورک که توسط دادستان کل نهایی شده است، سه روش کلی برای ارزیابی سن تعیین می‌کند؛ هم‌چنین شرکت‌ها موظفند دست‌کم یک راهکار جایگزین برای کارت‌های شناسایی دولتی فراهم کنند.

• تخمین سن (Age estimation): تحلیل ویژگی‌های فیزیکی یا رفتاری کاربر مانند تصویر سلفی، ویدیو یا صدای ضبط‌شده را شامل می‌شود.
• استنباط سن (Age inference): از اطلاعات اعتبارسنجی‌شده مانند نشانی ایمیل یا شماره تماس برای تطبیق با سوابق رسمی سن کاربر استفاده می‌کند.
• راستی‌آزمایی سن (Age verification): سن فرد را از طریق مدارک شناسایی رسمی یا منابع معتبر سوابق دولتی احراز می‌کند.

هرگونه داده جمع‌آوری‌شده پیرامون سن کاربر باید بلافاصله پس از ارزیابی، حذف یا بی‌نام‌سازی شود و استفاده از آن برای اهداف تجاری دیگر اکیداً ممنوع است. تحت چارچوب SAFE for Kids، توسعه‌دهندگان باید کارایی روش‌های انتخابی خود را سالانه ارزیابی و تأیید کرده و مدارک آن را دست‌کم به مدت ۱۰ سال بایگانی کنند.

چالش حریم خصوصی؛ معضلی که قانون حذف داده‌ها به‌تنهایی حل نمی‌کند

الزام قانونی برای حذف داده‌ها سوءاستفاده‌های ثانویه را محدود می‌کند، اما بررسی سن می‌تواند به مدخلی برای مرتبط کردن هویت واقعی افراد با گفتگوهای بسیار حساس در حوزه سلامت روان، سوگ یا روابط فردی تبدیل شود.

فرآیند جمع‌آوری داده‌ها به‌خودی خود ریسک‌های امنیتی قابل توجهی ایجاد می‌کند. دسترسی پیمانکاران جانبی، خطر رخنه به پایگاه‌های داده، خطاهای الگوریتمی در تخمین سن، و احتمال پیوند خوردن هویت افراد با تاریخچه مکالمات خصوصی، از جمله نگرانی‌هایی هستند که حتی با وجود الزام حذف اطلاعات همچنان پابرجا خواهند بود.

دادستان کل ایالت هم‌چنین اختیار دارد که با گسترش فناوری‌های نوظهور، معیارهای جدیدی به این فهرست بیفزاید؛ موضوعی که ممکن است الزامات تطبیق قانونی را برای شرکت‌های فناوری در طول زمان دستخوش دگرگونی کند.

ضمانت‌های اجرایی و حامیان لایحه

جریمه‌های مالی پیش‌بینی‌شده برای نقض این قانون بسیار سنگین است و اختیارات نظارتی دادستان کل حتی تا دستور امحای داده‌ها و الگوریتم‌های متخلف گسترش می‌یابد.

این لایحه با حمایت کریستن گونزالس، سناتور ایالتی، و الکس بورس، نماینده مجمع قانون‌گذاری، تدوین و پیگیری شد. برای تمام کاربران چت‌بات‌های تحت پوشش این مصوبه، قانون جدید به این معنا خواهد بود که از یکم ژانویه ۲۰۲۷، پیش از دریافت هرگونه پاسخ شخصی‌سازی‌شده، عبور از یک فرایند احراز سن الزامی خواهد بود.