متا چت‌های هوش مصنوعی در عینک‌های هوشمند را رمزگذاری می‌کند؛ قفل محکم روی مکالمات خصوصی

متا این روز‌ها در حال پی‌ریزی زیرساخت‌های جدیدی است تا فناوری رمزگذاری خود را به عینک‌های هوشمندش بیاورد؛ اقدامی با این هدف که خیال کاربران از بابت محرمانه ماندن مکالمات با هوش مصنوعی راحت باشد، چرا که این غول فناوری پیش‌بینی می‌کند در آینده نزدیک بیش‌تر مردم از طریق همین گجت‌های پوشیدنی با هوش مصنوعی گفتگو خواهند کرد.

این شرکت در جریان رویداد متا کانکت (Meta Connect) به این پروژه اشاره کرد؛ همان مراسمی که در آن چند مدل عینک جدید با قابلیت‌های صوتی هوش مصنوعی معرفی شدند. علاوه بر این، متا قصد دارد ایجنت هوش مصنوعی میوز (Muse) را هم به این عینک‌ها اضافه کند تا کاربران بتوانند کار‌های روزمره‌شان را با خیال راحت به این دستیار مجازی بسپارند.

با این حال، اوج‌گیری هوش مصنوعی با یک نگرانی بزرگ درباره حریم خصوصی همراه شده است: هرچه افراد بیشتری با این مدل‌ها چت و گفتگو می‌کنند، هوش مصنوعی جزئیات بیشتری از زندگی شخصی آن‌ها را در خود جذب می‌کند و همین مسئله می‌تواند راه را برای افشای ناخواسته اطلاعات حساس باز کند. در پاسخ به این دغدغه‌ها، متا اعلام کرده که روی یک سیستم امنیتی ویژه برای عینک‌های هوشمندش کار می‌کند تا مطمئن شود فقط خود کاربر به داده‌هایش دسترسی دارد.

مارک زاکربرگ، مدیرعامل متا، در رویداد متا کانکت اعلام کرد: «ما در حال توسعه سیستم پردازش خصوصی (Private Processing) برای عینک‌ها هستیم. با این ویژگی، به زودی می‌توانید برخی قابلیت‌های هوش مصنوعی را روی سرور‌های امنی اجرا کنید که هیچ‌کس، حتی خود متا، به داده‌های شما دسترسی نخواهد داشت.»

برنامه متا این است که کار را با ایمن‌سازی ترجمه زنده روی عینک‌ها شروع کند و سپس پردازش خصوصی را به قابلیت‌های بیشتری تعمیم دهد. پریتام شاه، یکی از مدیران ارشد بخش مهندسی اعتماد در متا، در گفتگویی تأکید کرد: «ما عمیقاً باور داریم که عینک‌های هوش مصنوعی بهترین فرم‌فاکتور برای همراهی روزمره کاربران و ارائه تجربه‌ای غنی از هوش مصنوعی هستند.»

یک راهکار معمول برای حفظ حریم خصوصی، پردازش محلی یا اجرای مستقیم مدل‌ها روی خود دستگاه است؛ رویکردی که پیش‌تر در کامپیوترها و گوشی‌های هوشمند هم دیده‌ایم. اما چالش اصلی اینجاست که عینک‌های هوشمند باید فوق‌العاده سبک و جمع‌وجور باشند و ظرفیت تراشه‌های آن‌ها بسیار محدود است؛ بنابراین چاره‌ای جز قرض گرفتن توان پردازشی از سرور‌های هوش مصنوعی ندارند. پریتام شاه اشاره کرد که این سرور‌ها می‌توانند مدل‌های به مراتب قدرتمندتری را اجرا کنند که با تکیه بر مکالمات قبلی، تجربه‌ای کاملاً شخصی‌سازی‌شده و منحصربه‌فرد را در اختیار کاربر بگذارند.

به همین دلیل متا برای حفظ حریم خصوصی می‌خواهد مدل‌های هوش مصنوعی را روی سرور‌های رمزگذاری‌شده ویژه‌ای اجرا کند که حتی خود این شرکت هم امکان رمزگشایی از آن‌ها را ندارد. کلید رمزنگاری روی یک تراشه امنیتی در سرور ذخیره می‌شود و به هیچ عنوان در دسترس اپراتورها یا مدیران سیستم قرار نمی‌گیرد.

قابلیت پردازش خصوصی (Private Processing) اوایل امسال برای واتساپ هم عرضه شده بود؛ پیام‌رسانی که از قبل به خاطر رمزگذاری سرتاسری‌اش حسابی شناخته شده است. متا این قابلیت را روی واتساپ پیاده کرد تا چت‌های ویژه و محرمانه با هوش مصنوعی متا را پوشش دهد. این سیستم عملاً مرزهای رمزگذاری سرتاسری را گسترش می‌دهد، به طوری که حتی خود متا هم نمی‌تواند پیام‌های ردوبدل‌شده با هوش مصنوعی را رمزگشایی کند و چت‌ها هم هرگز ذخیره نمی‌شوند.

پریتام شاه درباره این سازوکار توضیح داد: «این سیستم در عمل مرزهای امنیتی و حریم خصوصی دستگاه شما را به سرور گسترش می‌دهد؛ بنابراین معماری آن به گونه‌ای است که به جز خود شما هیچ فرد دیگری به آن داده‌ها دسترسی ندارد. نه هیچ اپراتوری، نه خود متا، واقعاً هیچ‌کس دستش به این داده‌ها نمی‌رسد.»

البته ماجرا به این سادگی‌ها هم نیست؛ تأمین امنیت چت‌های هوش مصنوعی و در عین حال تضمین عملکرد روان مدل‌ها آن هم وقتی متا هیچ دید مستقیمی روی سرور‌های رمزگذاری‌شده و خروجی‌های آن‌ها ندارد، کار فوق‌العاده دشواری است. ماجرا زمانی پیچیده‌تر می‌شود که بدانیم پای تبادل جریان صوت و ویدیو از طریق دوربین و میکروفون عینک با هوش مصنوعی هم در میان است، نه فقط چت‌های متنی ساده. چالش دیگر این است که متا برای ارائه تجربه‌های شخصی‌سازی‌شده و ساخت خاطرات در هوش مصنوعی، نیاز دارد برخی داده‌ها را نگه دارد، نه اینکه بعد از پایان مکالمه همه چیز بلافاصله پاک شود.

شاه در توصیف این دشواری گفت: «این کار درست مثل هدایت یک هواپیما با چشمان بسته است! اولین چالش بزرگ این است که شما هیچ دسترسی مستقیمی به داده‌ها ندارید؛ نمی‌توانید مثل حالت عادی ابزار‌های دیباگ (اشکال‌زدایی) را متصل کنید یا از ثبت وقایع (لاگ‌ها) استفاده نمایید. برای مثال اگر نشست یا کاربری با مشکل مواجه شود، من اصلاً نمی‌دانم این مشکل برای کدام کاربر پیش آمده یا کدام بخش را تحت تأثیر قرار داده است.»

برای نظارت بر این سرورها، سیستم پردازش خصوصی عینک‌های متا به «سیگنال‌های کلی سلامت سرور» مثل میزان مصرف پردازنده، تخصیص حافظه رم، تأخیر شبکه و نرخ خرابی سخت‌افزار تکیه می‌کند. یک روش نظارتی دیگر هم اجرای مدل‌های هوش مصنوعی روی سرور‌های آزمایشی باز و بدون رمزنگاری است تا بتوان کیفیت خروجی‌ها را بررسی کرد. شاه افزود: «ما مجبور شدیم روش‌های متعددی را از نو ابداع کنیم و توسعه دهیم.» این راهکارها شامل ساخت یک فضای ذخیره‌سازی پایدار و رمزگذاری‌شده است تا هوش مصنوعی متا بتواند با استفاده از کلید رمزنگاری که تنها دستگاه خود کاربر ارائه می‌دهد، به داده‌های قبلی دسترسی پیدا کند.

در حال حاضر متا هنوز زمان عرضه عمومی این سیستم امنیتی را برای عینک‌های هوش مصنوعی اعلام نکرده است؛ اما پریتام شاه می‌گوید «پلتفرم آماده است و تا اینجا خیلی عالی و پایدار عمل کرده است.»

او در ادامه گفت: «مهم‌ترین نکته برای ما این است که کار را کاملاً بی‌نقص و درست پیش ببریم.» متا در حال حاضر با بازرسان مستقل و محققان امنیتی خارجی همکاری می‌کند تا این سیستم را ارزیابی و اعتبارسنجی کنند. این شرکت همچنین قصد دارد برنامه پاداش کشف باگ (Bug Bounty) خود را گسترش دهد تا پردازش خصوصی عینک‌های هوش مصنوعی را هم شامل شود و به پژوهشگران امنیتی سراسر دنیا اجازه بررسی و آزمودن این فناوری حریم خصوصی را بدهد.

پریتام شاه همچنین خاطرنشان کرد که متا برای اطمینان از اینکه مدل‌های هوش مصنوعی از مسیر تعیین‌شده خارج نشوند و محتوای نامناسب یا توهین‌آمیز به کاربران پیشنهاد ندهند، آزمایش‌های ایمنی سخت‌گیرانه‌ای را روی این فناوری‌ها اجرا خواهد کرد و گاردریل‌ها (محدودیت‌های امنیتی) لازم را در آن‌ها تعبیه می‌کند.