اپل قوانین اپ استور را برای مقابله با برنامه‌های برهنه‌سازی با هوش مصنوعی سخت‌تر کرد

بر اساس مقررات جدید اپل، توسعه‌دهندگان ملزم شده‌اند تا محتوای غیراخلاقی و تصاویر جنسی بدون رضایت کاربران را در برنامه‌های خود فیلتر کنند.

اپل سیاست‌های نظارتی خود را در اپ استور به‌روزرسانی کرد تا اطمینان یابد کاربران نمی‌توانند از برنامه‌ها، به‌ویژه نمونه‌های مجهز به ابزارهای هوش مصنوعی، برای «برهنه‌سازی» (Nudify) یا تبدیل عکس‌های عادی به تصاویر جنسی استفاده کنند. این شرکت سال‌هاست انتشار محتوای هرزه‌نگاری را در اپ استور ممنوع کرده و از مدت‌ها پیش اجازه فعالیت به برنامه‌هایی که صرفاً برای تولید تصاویر جنسی ساخته شده‌اند نمی‌دهد. اما اکنون اپل یک گام فراتر گذاشته و از توسعه‌دهندگان می‌خواهد پیش‌دستانه بر نحوه استفاده از برنامه‌های خود نظارت داشته باشند.

توسعه‌دهندگانی که برنامه‌های آن‌ها محتوای تولیدشده توسط کاربران را میزبانی می‌کند، از این پس موظفند تصاویر صمیمانه و جنسیِ بدون رضایت، از جمله تصاویر تولیدشده توسط ابزارهای هوش مصنوعی را پالایش کنند. این اپلیکیشن‌ها باید راهکاری در اختیار کاربران بگذارند تا محتوای توهین‌آمیز را گزارش کنند و حساب‌های متخلف را مسدود سازند. علاوه بر این، توسعه‌دهندگان باید سازوکاری برای جلوگیری از آپلود چنین تصاویری ایجاد کنند و اگر تصویری از لایه‌های فیلترینگ عبور کرد، بلافاصله آن را پاک کنند. چنانچه توسعه‌دهندگان تدابیر امنیتی کافی نیندیشند یا پس از دریافت اخطار رسمی نسبت به رفع تخلف اقدام نکنند، با خطر حذف کامل برنامه خود از اپ استور روبه‌رو خواهند شد.

علاوه بر این، اپل مقررات شفاف‌تری را برای برخورد با برنامه‌هایی وضع کرده است که از ترفندهای فریبکارانه (Bait-and-Switch) برای دور زدن فرآیند ارزیابی استفاده می‌کنند. اگر اپل متوجه شود برنامه‌ای در زمان بررسی، کارکرد واقعی خود را پنهان کرده و در عمل قابلیت «برهنه‌سازی» تصاویر را ارائه می‌دهد، نه‌تنها آن برنامه را از فروشگاه حذف می‌کند، بلکه حساب توسعه‌دهنده آن را نیز به‌طور کامل از «برنامه توسعه‌دهندگان اپل» (Apple Developer Program) اخراج خواهد کرد.