چت‌جی‌پی‌تی برای نوجوان‌ها امن نیست؛ زنگ خطر مؤسسه کامن سنس مدیا برای اوپن‌ای‌آی

مؤسسه نظارتی و حمایتی «کامن سنس مدیا» (Common Sense Media) با انتشار بیانیه‌ای تند از اوپن‌ای‌آی (OpenAI) خواسته تا پای نوجوان‌ها را فعلاً از چت‌جی‌پی‌تی (ChatGPT) ببُرد! این گروه بعد از آزمایش‌های گسترده و دقیق، اعلام کرده تجربه کاربری جدیدی که برای نوجوان‌ها طراحی شده، پر از نقص‌های امنیتی است و «خطری غیرقابل‌قبول» برای کاربران کم‌سن‌وسال به همراه دارد.

چرا این ماجرا اهمیت دارد؟ اوپن‌ای‌آی همیشه ادعا کرده که محافظت از کاربران کم‌سن‌وسال یکی از ستون‌های اصلی برنامه‌های امنیتی چت‌جی‌پی‌تی است. با این حال، نتایج بررسی‌های جدید نشان می‌دهد دیوارهای محافظتی این شرکت شاید بیش از آنکه واقعاً کارآمد باشند، فقط یک حس امنیت کاذب و بیش از حد به والدین القا می‌کنند.

• یکی از سخنگویان اوپن‌ای‌آی در واکنش به این ادعاها اعلام کرد: «ما از ارزیابی‌های مستقل و موشکافانه استقبال می‌کنیم، اما معتقدیم آزمایش‌های کامن سنس مدیا تصویر درستی از نحوه عملکرد واقعی ابزار‌های محافظتی چت‌جی‌پی‌تی برای نوجوانان ارائه نمی‌دهد.»

اصل ماجرا چیست؟ مؤسسه ایمنی هوش مصنوعی جوانان در کامن سنس مدیا اعلام کرده که بیش از ۴ هزار پرامپت مختلف را روی حساب‌های کاربریِ ثبت‌شده برای نوجوانان ۱۳ تا ۱۷ سال آزمایش کرده است.

• این تیم تحقیقاتی متوجه شد که چت‌جی‌پی‌تی در حالت کلی دستورالعمل‌هایی برای خودکشی، خودآسیب‌رسانی، اختلالات خوردن یا نقش‌آفرینی‌های جنسی و رمانتیک ارائه نمی‌دهد، اما وقتی پای تشخیص لحظات بحرانی و نیاز فوری یک نوجوان به کمک بیرونی در میان باشد، عملکردش اصلاً قابل‌اعتماد نیست.
• بر اساس گزارش کامن سنس مدیا، چت‌جی‌پی‌تی در بیش از یک‌چهارم مواقعی (۲۵ درصد) که کاربر در شرایط حاد قرار داشته و باید فوراً به خطوط کمکی و بحران وصل می‌شده، این موضوع را کاملاً نادیده گرفته است.

• این مؤسسه همچنین اعلام کرد که در بیش از ۱۰ حساب کاربری تازه که به حساب والدین متصل شده بودند، محققان توانسته‌اند تا یک ساعت تمام درباره خودکشی، صدمه زدن به خود یا اختلالات غذا خوردن با هوش مصنوعی گفت‌وگو کنند، بدون اینکه کوچک‌ترین آلارم یا هشداری برای والدین ارسال شود!
• علاوه بر این، بررسی‌ها نشان داد حالت مطالعه (Study Mode) به سادگی آب خوردن دور زده می‌شود؛ نوجوان‌ها در ساعاتی که والدین برای مطالعه تعیین کرده‌اند، فقط با انتخاب گزینه «جواب را نشانم بده» (Show me the answer)، خیلی راحت تمام محدودیت‌ها را خنثی می‌کردند.

پاسخ اوپن‌ای‌آی: این شرکت تأیید کرده که خروج از حالت مطالعه در بازه ساعتی تعیین‌شده توسط والدین، اصلاً یک باگ یا روزنه امنیتی نیست، بلکه عمداً این‌طور طراحی شده است! اوپن‌ای‌آی می‌گوید پس از مشورت با کارشناسان آموزشی و خود نوجوان‌ها به این نتیجه رسیده که ساعت مطالعه باید منعطف و تجربه‌ای آزادانه‌تر باشد، نه یک قفل سفت‌وسخت و بی‌انعطاف والدین.

کارشناسان چه می‌گویند؟ تام سیگل، رئیس مؤسسه ایمنی جوانان کامن سنس مدیا، صراحتاً تأکید کرده است: «استفاده از چت‌جی‌پی‌تی برای کودکان و نوجوانان به هیچ وجه امن نیست.»

• سیگل توضیح داد آنچه اوپن‌ای‌آی در ماه اوت معرفی کرد روی کاغذ می‌توانست سرآمد بازار باشد، اما فاصله میان وعده‌ها و واقعیت بسیار زیاد است: «این تغییرات بیش‌تر شبیه یک مانور تبلیغاتی و بازاریابی به نظر می‌رسد تا چیزی که واقعاً پشتوانه فنی و مهندسی قدرتمندی داشته باشد.»

دیدگاه طرف مقابل: اوپن‌ای‌آی چه می‌گوید؟ اوپن‌ای‌آی با رد این گزارش مدعی است که روش‌شناسی و یافته‌های کامن سنس مدیا ایرادات جدی دارد.

• اوپن‌ای‌آی می‌گوید بخش عمده‌ای از تست‌های سیستم هشدار والدین، پیش از تکمیل فرایند اتصال حساب والدین به نوجوان انجام شده؛ فرآیندی که به گفته این شرکت ممکن است چندین ساعت زمان ببرد.
• در مورد سیستم تشخیص سن نیز اوپن‌ای‌آی استدلال می‌کند که این سیستم به جای اعتماد صرف به سن اعلام‌شده توسط کاربر، عمداً بر چندین سیگنال رفتاری متکی است و تعیین دقیق سن ممکن است تا دو هفته طول بکشد. به گفته شرکت، در طول این مدت لایه‌های محافظتی اولیه‌ای فعال می‌شوند، هرچند به قدرت نسخه نهایی «چت‌جی‌پی‌تی برای نوجوانان» نیستند.
• درباره ارجاع به مراکز بحران هم اوپن‌ای‌آی ادعا کرده بر اساس داده‌های کلان شرکت در همین دوره، نمایش شماره‌های تماس اضطراری و مشاوره‌ای به کاربران زیر ۱۸ سال رشد چشمگیری داشته است.

ریشه این اختلاف‌نظر کجاست؟ بخشی از این مناقشه به تفاوت دیدگاه درباره هدف اصلی ابزار‌های محافظتی برمی‌گردد.

• کامن سنس مدیا امکان خروج از ساعت مطالعه را نشانه بارز ناکارآمدی کنترل والدین می‌داند؛ در حالی که اوپن‌ای‌آی می‌گوید این انعطاف‌پذیری از روی قصد و هدفمند بوده است.
• به همین ترتیب، این مؤسسه اینکه کاربری چند بار سن خود را ۱۳ سال اعلام کرده اما حسابش به نسخه نوجوانان منتقل نشده را یک باگ می‌داند، در حالی که اوپن‌ای‌آی تأکید دارد برای جلوگیری از خطای تشخیص، نیازمند دریافت چندین نشانه رفتاری در طول زمان است و در این مدت هم محافظت‌های مقدماتی اعمال می‌شوند.

حرف آخر: سیگل به خانواده‌ها توصیه می‌کند حتماً با فرزندان نوجوان خود گفت‌وگوهای جدی درباره هوش مصنوعی و خطرات آن داشته باشند و برای کمک به انجام تکالیف یا چالش‌های زندگی، راه‌های مطمئن‌تری پیدا کنند.

• او در پایان می‌گوید: «ما نمی‌توانیم مسئولیت مراقبت از فرزندانمان را به یک محصول فناوری بسپاریم که هنوز در مراحل ابتدایی است و باگ‌های زیادی دارد.»