حریم خصوصی با آپدیت حل نمی‌شود؛ چرا گجت‌های هوش مصنوعی باید از روز اول امن طراحی شوند؟

به نظر می‌رسد هر موج جدید از فناوری‌های مصرفی، یک چرخه تکراری و آشنا را طی می‌کند؛ شرکت‌ها ابتدا با تمام قوا مسابقه می‌دهند تا گجت‌های‌شان بیش‌ترین کارایی ممکن را داشته باشند و تا جای ممکن، دستگاه‌ها را از انواع و اقسام سنسورها، قابلیت‌ها و فیچرهای مختلف پر می‌کنند تا حسابی به چشم بیایند.

اما ماجرای حریم خصوصی معمولاً زمانی داغ و بحرانی می‌شود که این گجت‌ها به دست کاربران رسیده‌اند و کم‌کم سر‌وکله بازخوردها پیدا می‌شود؛ جایی که مردم، کارشناسان و جامعه از حس‌وحال واقعی زندگی در کنار این فناوری‌ها و نگرانی‌های‌شان می‌گویند.

پیش از این، چنین داستانی را در شبکه‌های اجتماعی، گوشی‌های هوشمند و دستگاه‌های خانه هوشمند دیده بودیم و حالا با ورود هوش مصنوعی به نسل تازه‌ای از گجت‌ها که می‌توانند دنیا را ببینند، بشنوند، تحلیل کنند و به آن واکنش نشان دهند، دوباره شاهد تکرار همین سناریو هستیم.

دیدگاه بنیان‌گذار و مدیرعامل شرکت Even Realities (توسعه‌دهنده عینک‌های هوشمند) درباره این مسیر بسیار جالب‌توجه است.

به باور او، این مسیر کاملاً وارونه طی می‌شود؛ چرا که حریم خصوصی چیزی نیست که بشود بعد از عرضه محصول و در قالب یک وصله نرم‌افزاری به آن چسباند. واقعیت این است که سرنوشت حریم خصوصی دستگاه، خیلی پیش‌تر و در همان اتاق‌های تحقیق و توسعه رقم خورده است.

تصمیم‌گیری درباره قطعات سخت‌افزاری، معماری سیستم، نحوه جمع‌آوری و پردازش داده‌ها و حتی این‌که دستگاه واقعاً برای انجام کارش به چه میزان اطلاعات نیاز دارد، باید از همان روز اول و در کنار سایر تصمیم‌های پایه‌ای ساخت محصول مورد توجه قرار بگیرند.

تیم‌های طراحی محصول عادت کرده‌اند که مواردی مثل طول عمر باتری، وزن، قیمت تمام‌شده و عملکرد پردازشی را از ابتدا به عنوان خط قرمزها و محدودیت‌های طراحی در نظر بگیرند. حریم خصوصی هم دقیقاً نیازمند همین نگاه سخت‌گیرانه است؛ به‌ویژه حالا که هوش مصنوعی به گجت‌ها توانایی جمع‌آوری و درک حجم بی‌سابقه‌ای از اطلاعات محیطی را داده است.

عینک‌های هوشمند؛ جایی که مرز باریک سازش آشکار می‌شود

عینک‌های هوشمند یکی از واضح‌ترین نمونه‌های این چالش هستند؛ بازاری که بخش عمده شرکت‌ها دارند آن را بر پایه دوربین‌های داخلی توسعه می‌دهند. منطق پشت این رویکرد هم قابل درک است: هرچه داده‌های بصری بیشتری در اختیار هوش مصنوعی قرار بگیرد، سیستم باهوش‌تر می‌شود و بهتر متوجه می‌شود کاربر در حال تماشای چه چیزی است تا متناسب با آن پاسخ دهد.

اما همین دوربین‌ها بزرگ‌ترین بحران اعتماد را ایجاد می‌کنند؛ چرا که عینک در یک محیط ایزوله استفاده نمی‌شود. این گجت در طول جلسات کاری، پشت میز غذا، در رفت‌وآمد روزمره و میان گپ‌وگفت‌های دوستانه روی صورت کاربر نشسته و دقیقاً جلوی چشم افرادی قرار می‌گیرد که خودشان هرگز انتخابی برای مواجهه با این فناوری نداشته‌اند.

این مسئله نکته‌ای کلیدی در طراحی است که اگر محصول فقط از دید فرد استفاده‌کننده بررسی شود، به‌راحتی نادیده گرفته می‌شود. کسی که عینک را روی صورت دارد شاید بداند دستگاه در حال ضبط است یا نه، چه داده‌هایی پردازش می‌شوند یا فلان حسگر چرا فعال است؛ اما اطرافیان او هیچ تصوری از این جزییات ندارند. تیم‌های توسعه محصول باید فراتر از تجربه کاربری مورد نظر خودشان فکر کنند؛ چرا که به محض توانایی یک دستگاه در ضبط اطلاعات اطرافیان، ممکن است از آن قابلیت‌ها به شیوه‌هایی سوءاستفاده شود که طراحان حتی فکرش را هم نکرده بودند.

یک چراغ ال‌ای‌دی کوچک شاید روشن بودن دوربین را نشان دهد و یک بیانیه حریم خصوصی هم روی کاغذ نحوه مدیریت داده‌ها را توضیح دهد، اما هیچ‌کدام از این‌ها نمی‌تواند شک، تردید و معذب بودن ناشی از حضور دائمی یک لنز را به کلی پاک کند. در واقع، تعیین‌کننده‌ترین تصمیم حریم خصوصی از قبل و در مرحله انتخاب قطعات سخت‌افزاری گرفته شده است.

همه مشکلات حریم خصوصی را نمی‌توان در مراحل بعدی با سیاست‌های بهتر یا به‌روزرسانی‌های نرم‌افزاری ماست‌مالی کرد؛ به‌ویژه زمانی که یک گجت به سنسوری خاص وابسته است، اطلاعات را به شکل مداوم به فضای ابری می‌فرستد یا داده‌ها را به‌طور پیش‌فرض ذخیره می‌کند. در چنین شرایطی، تیم‌های حفظ حریم خصوصی چاره‌ای جز تسلیم شدن در برابر محدودیت‌های سخت‌افزاری از پیش‌تعیین‌شده ندارند.

شروع از یک پرسش اساسی: دستگاه واقعاً به چه اطلاعاتی نیاز دارد؟

نقطه شروع ایده‌آل این نیست که بپرسیم «یک گجت چقدر می‌تواند اطلاعات جمع کند؟»، بلکه پرسش درست این است که «برای ارائه ارزش اصلی خود، به چه میزان حداقلی از داده‌ها نیاز دارد؟».

طرح همین پرسش ساده می‌تواند تصمیمات مهندسان را کاملاً دگرگون کند: آیا یک ابزار هوش مصنوعی حتماً باید تمام جزییات روبه‌روی کاربر را شناسایی کند یا فقط کافی است زمینه لازم برای مسیریابی را بفهمد؟ آیا داده‌ها واقعاً برای مفید بودن باید به سرور‌های ابری ارسال شوند یا بخشی از پردازش‌ها می‌تواند به‌صورت محلی (روی خود دستگاه) انجام شود؟ آیا داده‌ها بعد از انجام تسک باید ذخیره بمانند یا می‌توان فوراً آن‌ها را پاک کرد؟ آیا فلان حسگر باید ۲۴ ساعته فعال باشد یا فقط وقتی کاربر صراحتاً درخواست کرد روشن شود؟

شاید چنین انتخاب‌هایی در کوتاه‌مدت دست‌وبال برخی قابلیت‌ها را ببندد و به همین دلیل است که طراحی متکی بر حریم خصوصی گاهی برای تیم‌ها ناخوشایند به نظر می‌رسد. در دنیای توسعه محصول، افزودن قابلیت‌های بیش‌تر معمولاً تشویق می‌شود، در حالی که خودداری و خویشتن‌داری ممکن است به نوعی کم‌کاری تعبیر شود.

با این حال، دنیای فناوری‌های مصرفی همواره صحنه سازش و سنجیدن هزینه‌فایده‌ها بوده است؛ چه آن‌جا که برای سبک‌تر شدن دستگاه به باتری کوچک‌تر رضایت داده می‌شود، چه جایی که پردازنده برای مدیریت حرارت محدود می‌شود، یا قابلیت‌هایی که برای ساده ماندن رابط کاربری حذف می‌شوند.

حریم خصوصی هم شایسته همین انضباط و ظرافت مهندسی است؛ چرا که پرقدرت‌ترین و مجهزترین نسخه از یک محصول، لزوماً همان نسخه‌ای نیست که مردم از آوردن آن به زندگی روزمره‌شان احساس آرامش و راحتی داشته باشند.

حریم خصوصی بخشی از تجربه کاربری محصول است

بحث‌های مربوط به حریم خصوصی معمولاً در پوشش حقوقی و قوانین رگولاتوری مطرح می‌شوند، اما در گجت‌های مصرفی، این موضوع پیش از هر چیز یک تجربه کاربری ملموس است. دستگاهی که روی کاغذ با تمام مقررات قانونی سازگار است، همچنان می‌تواند حس ناامنی و معذب بودن به اطرافیان بدهد. این احساس ناخوشایند زمانی بسیار حساس‌تر می‌شود که فناوری قرار باشد در تمام طول روز پوشیده شود یا در کنج خانه و فضای خصوصی افراد مستقر گردد.

دقیقاً در همین نقطه است که عیار نسل بعدی سخت‌افزارهای هوش مصنوعی سنجیده خواهد شد. با خروج هوش مصنوعی از انحصار گوشی‌ها و لپ‌تاپ‌ها، سازندگان به دوربین‌ها، میکروفون‌ها، سنسورها و مدل‌های بسیار توانمندتری دسترسی دارند که می‌توانند جهان فیزیکی را به‌صورت زنده درک کنند. در این میان، وسوسه استفاده از تمام این امکانات صرفاً به خاطر وجودشان بسیار بالاست؛ اما هنر واقعی در طراحی، تشخیص این نکته است که کدام قابلیت‌ها واقعاً تجربه کاربری را بهتر می‌کنند و اضافه کردن کدام‌یک، بهایی سنگین و غیرمنطقی روی دست کاربر می‌گذارد.

بنابراین، برای هر شرکتی که در این حوزه فعالیت می‌کند، حریم خصوصی باید از همان جلسات اولیه‌ای آغاز شود که تیم‌ها تصمیم می‌گیرند چه سنسورهایی لازم است، پردازش‌ها در کجا صورت بگیرد، چه اطلاعاتی ذخیره شود و کدام قابلیت‌ها ارزش پرداخت چنین هزینه‌ای را دارند. موکول کردن پاسخ این پرسش‌ها به بعد از عرضه، یعنی محصول از قبل در یک مسیر اشتباه قفل شده است.

به‌ویژه در گجت‌های پوشیدنی، این نظم فکری در نهایت به کاربرد واقعی روزمره برمی‌گردد. یک دستگاه شاید توانمندی‌های فنی شگفت‌انگیزی داشته باشد، اما اگر فرد در طول یک روز کاری، دور میز شام با دوستان یا در لحظات عادی زندگی از پوشیدن آن احساس خجالت یا معذب بودن بکند، تمام آن قابلیت‌های خارق‌العاده عملاً بی‌ارزش خواهند بود.

محصولاتی می‌توانند گجت‌های پوشیدنی را به بخشی جدانشدنی از زندگی روزمره بدل کنند که به قدر کافی کاربردی باشند و در عین حال، نه کاربر و نه اطرافیانش را مدام به فکر حضور یک قطعه فناوری عجیب روی صورت نیندازند.

اعتماد باید در تاروپود معماری سیستم تنیده شود

عینک‌های هوشمند هنوز در مراحل ابتدایی مسیر هستند و این الگوها هنوز به استانداردی تغییرناپذیر تبدیل نشده‌اند. استفاده از دوربین‌ها، سنسورها، قابلیت‌های همیشه‌روشن، پردازش محلی یا وابستگی به پردازش ابری، همگی هنوز انتخاب‌های باز طراحی هستند، نه ویژگی‌های قطعی و دست‌نخورده؛ موضوعی که به صنعت اجازه می‌دهد تصمیم بگیرد گجت‌های پوشیدنی تا چه اندازه اجازه ورود به زندگی خصوصی افراد و اطرافیان‌شان را دارند.

همین فرصت طلایی در سراسر بازار نوظهور هوش مصنوعی مصرفی هم وجود دارد. هم‌زمان با افزایش درک دستگاه‌ها از محیط پیرامون، حریم خصوصی نباید صرفاً تعریف کند که چه بلایی سر اطلاعات پس از جمع‌آوری می‌آید؛ بلکه باید مشخص کند که آیا این اطلاعات اصلاً از همان ابتدا باید جمع‌آوری می‌شدند یا خیر.

شرکت‌هایی که قصد ساخت گجت‌های ماندگار را دارند، همچنان بر سر قدرت، عملکرد، طراحی و کاربرد رقابت خواهند کرد؛ اما برای گجت‌های پوشیدنی، آزمون واقعی این است که آیا مردم واقعاً آن‌ها را برای استفاده پیوسته در تمام طول زندگی روزمره به اندازه کافی مفید و بی‌دغدغه می‌دانند یا خیر.

اعتماد، هسته اصلی این معادله است؛ زیرا وقتی دستگاهی حس ناامنی و معذب بودن را در دل کاربر یا اطرافیانش کاشت، بازگرداندن این اعتماد تقریباً غیرممکن خواهد بود. به همین دلیل، حریم خصوصی نباید به عنوان یک فیچر معمولی در نقشه راه دیده شود، بلکه باید یکی از پایه‌ای‌ترین تصمیمات معماری باشد که مسیر مسئولانه نقشه راه را از همان ابتدا مشخص می‌کند.