محدودیت‌های تازه OpenAI برای نوجوانان؛ پاسخ‌های ChatGPT درباره سلاح گرم سخت‌گیرانه‌تر شد

شرکت OpenAI با انتشار بیانیه تازه‌ای اعلام کرد که دسترسی نوجوانان به اطلاعات مرتبط با سلاح گرم را در چت‌بات ChatGPT به‌شدت محدود می‌کند؛ محدودیتی که حتی اگر پرسش مطرح‌شده از سوی کاربر کاملاً بی‌خطر به نظر برسد نیز پابرجا خواهد بود. این شرکت پیش‌تر نیز سیاست‌هایی برای جلوگیری از به‌کارگیری این هوش مصنوعی در رفتارهای خشونت‌آمیز یا کمک به دستیابی نوجوانان به سلاح اعمال کرده بود، اما اکنون تصمیم گرفته است با بستن روزنه‌های بیشتر، ارائه اطلاعات عملی و کاربردی پیرامون سلاح‌ها و سیستم‌های امنیتی را که امکان سوءاستفاده از آن‌ها برای تسهیل خشونت وجود دارد، حتی بدون مشاهده هیچ‌گونه قصد خشونت‌آمیز در پیام کاربر، به‌طور کامل محدود کند.

این غول هوش مصنوعی خاطرنشان کرده است که نوجوانان همچنان می‌توانند برای پیش‌گیری از خشونت یا آرام کردن شرایط بحرانی، دریافت حمایت‌های روحی و روانی و برقراری ارتباط با بزرگسالان مورد اعتماد خود از ChatGPT کمک بگیرند. علاوه بر این، تغییرات جدید تنها به نوجوانان محدود نمی‌شود؛ شرکت OpenAI مرزهای حفاظتی سیاست‌های خود را برای تمام کاربران محکمتر کرده است. بر این اساس، مدل‌های هوش مصنوعی در برابر درخواست‌هایی مانند بازسازی دقیق حملات مسلحانه و کشتارهای جمعی گذشته، ارائه جزئیات درباره نحوه تهیه سلاح و تجهیزات به‌کاررفته و مقایسه ابعاد خسارات که می‌تواند به شهرت منفی مهاجمان دامن بزند، پاسخ نخواهند داد.

این تدابیر سخت‌گیرانه در کنار سیستم نظارت والدینی عمل خواهد کرد که OpenAI در سال گذشته راه‌اندازی کرده بود؛ سیستمی که در صورت نقض خط‌مشی‌های ChatGPT در زمینه تهدید یا رفتارهای خشونت‌آمیز توسط حساب‌های متصل نوجوانان، بلافاصله برای والدین اعلان هشدار ارسال می‌کند. معرفی این لایه‌های حفاظتی تازه پس از آن رقم می‌خورد که OpenAI در سال گذشته با یک پرونده قضایی شکایت از بابت مرگ ناشی از سهل‌انگاری روبه‌رو شد و سم آلتمن، مدیرعامل این شرکت، به‌دلیل اطلاع ندادن چت‌های نگران‌کننده مرتبط با حادثه تیراندازی در تامبلر ریج (Tumbler Ridge) به پلیس، رسماً عذرخواهی کرد. در راستای شفاف‌سازی بیشتر، OpenAI اعلام کرده است که نخستین گزارش رسمی ایمنی کاربران خود را در اوایل سال ۲۰۲۷ منتشر خواهد کرد و پس از آن هر ۶ ماه یک‌بار، گزارش‌های دوره‌ای به‌روزرسانی‌شده‌ای از وضعیت ایمنی این پلتفرم ارائه می‌دهد.