جنجال هوش مصنوعی جدید مدیرعامل سابق یاهو؛ دستیار Dazzle با تحلیل گالری عکس کاربران خبرساز شد

هوش مصنوعی مبتنی بر گالری تصاویر مریسا مایر (Marissa Mayer)، پرسش‌های بی‌پاسخ متعددی درباره نگهداری داده‌ها، حریم خصوصی کودکان و فرضیات جنسیتی در طراحی محصول ایجاد کرده است.

دستیار هوش مصنوعی جدید Dazzle که توسط مدیرعامل سابق یاهو، Marissa Mayer، معرفی شده است، منتظر تایپ دستور متنی از سوی شما نمی‌ماند، بلکه در عوض گالری تصاویر گوشی شما را می‌خواند.

این محصول پس از آن توجه گسترده رسانه‌ها را به خود جلب کرد که مایر در گفتگو با نیویورک تایمز اعلام کرد از Dazzle برای توصیف ویژگی‌های شخصیتی دخترش در جشن تولد او کمک گرفته است. این برنامه به او پیشنهاد داده بود که دخترش فردی «همدل، خلاق و دوستدار حیوانات» است، اما این گفته به‌سرعت با موجی از انتقادات روبرو شد.

به گزارش The Next Web، مایر بعداً توضیح داد که ماجرا از آنچه در نگاه نخست به نظر می‌رسید، تخصصی‌تر بوده است. او گفت در حال آزمایش نسخه اولیه برنامه برای تشخیص دوقلوهای همسان خود و استخراج جزئیات معنادار از عکس‌های قدیمی بوده و سپس خروجی برنامه را با مشاهدات شخصی خود ترکیب کرده است. درک این بستر اهمیت زیادی دارد و زاویه دید مناسب‌تری برای قضاوت ماجرای اولیه ارائه می‌دهد.

دستیار هوش مصنوعی Dazzle دقیقاً چه کاری انجام می‌دهد؟

مزیت رقابتی اصلی Dazzle در مدل مبتنی بر تصویر آن نهفته است؛ مدلی که آلبوم عکس‌های شما را به‌عنوان بستری بنیادین برای ارائه خدمات شخصی‌سازی‌شده در نظر می‌گیرد.

بسیاری از دستیارهای هوش مصنوعی بر پایه متن یا صوت فعالیت می‌کنند، اما بر اساس آنچه در وبلاگ رسمی Dazzle آمده است، این برنامه کار خود را با گالری تصاویر آغاز می‌کند و از عکس‌ها به‌عنوان منبع اصلی زمینه فردی بهره می‌گیرد. این اپلیکیشن طوری طراحی شده است که کارها و علایق کاربر را از روی تصاویر حدس بزند: عکسی از داشبورد خودرو می‌تواند یادآور زمان سرویس دوره‌ای باشد و تصویری از داخل یخچال ممکن است پیشنهاد یک دستور پخت مناسب را به‌همراه بیاورد.

«گالری عکس‌های شما، عمیق‌ترین زمینه اطلاعاتی شخصی است.» Dazzle

گفته می‌شود این اپلیکیشن توانایی پیشنهاد خریدهای روزمره، شناسایی وسایل نیازمند تعمیر یا توصیه اقدامات بعدی را دارد و در صورت تأیید نهایی کاربر، این فرایندها را به انجام می‌رساند.

مایر طراحی تصویرمحور این محصول را یک تصمیم کاملاً آگاهانه دانسته است. او در گفتگو با وب‌سایت Futurism اعلام کرد زنان تمایل بیشتری به عکاسی دارند و با رابط‌های کاربری بصری راحت‌تر تعامل می‌کنند؛ بنابراین ساختار Dazzle برای این گروه از مخاطبان مناسب‌تر است. البته این نوع نگرش صرفاً راهبرد بازاریابی او برای جایگاه‌یابی محصول به شمار می‌رود، نه یک یافته اثبات‌شده در جمعیت‌شناسی کاربران.

پرسش‌های واقعی پشت پرده انتقادات

دو نگرانی اساسی زمینه‌ساز این انتقادات شده‌اند که تنها یکی از آن‌ها به شیوه فرزندپروری مربوط می‌شود.

نخستین و مهم‌ترین موضوع، مسئله حریم خصوصی است. گالری تصاویر گوشی تنها به عکس‌های دورهمی محدود نمی‌شود، بلکه شامل چهره کودکان، چیدمان فضای داخلی خانه، متادیتای موقعیت مکانی و تصاویری از افرادی است که هرگز رضایت نداده‌اند عکس‌هایشان توسط هوش مصنوعی پردازش و تحلیل شود.

هنوز خط‌مشی‌های Dazzle درباره مدت زمان نگهداری، حذف، استفاده از داده‌ها برای آموزش مدل و حفاظت از اطلاعات کودکان در منابع عمومی مشخص نشده است. این موضوع برای محصولی که ارزش محوری آن بر پایه دسترسی مستقیم به حساس‌ترین اطلاعات کاربران بنا شده، یک کاستی بسیار جدی محسوب می‌شود.

دومین نگرانی به ابعاد ساختاری مربوط است. منتقدان در وب‌سایت Gizmodo استدلال کرده‌اند که ماجرای توصیف دختر مایر، فراتر از یک کاربرد ساده، پرسشی بزرگ‌تر ایجاد می‌کند: آیا بازاریابی هوش مصنوعی بر پایه وظایف خانگی و عاطفی، این پیش‌فرض را تقویت نمی‌کند که زنان نیازمند واگذاری این بخش از کارهای نامرئی به فناوری هستند؟ رویکرد مایر مبنی بر اینکه زنان تعامل بصری بهتری دارند و با یک رابط کاربری تصویرمحور سازگارترند، از همین زاویه مورد موشکافی و انتقاد شدید قرار گرفته است.

این دو نقد کاملاً از یکدیگر متمایز هستند. توضیحات تکمیلی مایر شاید ابهامات مربوط به شیوه تربیت فرزند را تعدیل کند، اما پاسخ روشنی به این پرسش‌ها نمی‌دهد که Dazzle با داده‌های گردآوری‌شده چه می‌کند و طراحی این محصول بر اساس فرضیات چه کسانی شکل گرفته است.

خودکارسازی کارهای تکراری، استخراج جزئیات فراموش‌شده از عکس‌های قدیمی و یادآوری نیاز به تعمیر وسایل، همگی قابلیت‌هایی واقعاً کاربردی هستند. با این حال، پرسش دشوارتر این است که مرز کاهش بار ذهنی کجاست و واگذاری قضاوت‌ها و احساسات اصیل انسانی از چه نقطه‌ای آغاز می‌شود؟ برای محصولی که پیش‌نیاز فعالیت آن دسترسی به خصوصی‌ترین داده‌های زندگی شماست، یافتن پاسخی شفاف برای این پرسش، پیش از نصب و استفاده از برنامه، امری کاملاً ضروری است.