فریب ظاهر گوگولی ایجنت‌های هوش مصنوعی را نخورید؛ پای حریم خصوصی در میان است!

صرف اینکه یک ابزار ظاهر بامزه و بی‌خطری دارد، هرگز به این معنا نیست که باید نسبت به امنیت داده‌های شخصی خود بی‌خیال باشید!

اشتباه نکرده‌اید؛ ایجنت‌های هوش مصنوعی واقعاً به شکلی شگفت‌آور و در عین حال نگران‌کننده دارند تو‌دل‌برو و کیوت می‌شوند. ماجرا اول با معرفی ایجنت Muse از شرکت متا و آن کاراکتر تخم‌مرغی و پشمالویش یعنی Jolly آغاز شد، و حالا هم شرکت OpenAI از ایجنت‌های شخصی عروسکی خود با نام Dots پرده برداشته است.

هر دو شرکت کاربران را تشویق می‌کنند تا درست مانند یک حیوان خانگی دیجیتال با این ایجنت‌ها برخورد کنند؛ دستیارهایی با چهره‌ها و نام‌های اختصاصی. با توجه به بحث‌های داغ فعلی درباره ایمنی هوش مصنوعی و بدبینی و سوءظن عمومی نسبت به این صنعت، اصلاً عجیب نیست که کمپانی‌ها بخواهند چهره‌ای معصوم، جذاب و بی‌خطر به ایجنت‌هایشان بدهند. از نگاه آن‌ها، شما دیگر با یک چت‌بات سرد و بی‌روح که ترس روان‌پریشی هوش مصنوعی را به جانتان بیندازد روبه‌رو نیستید؛ بلکه یک رفیق کوچک و دوست‌داشتنی کنارتان دارید که می‌خواهد بازدهی شما را چند برابر کند. اما فریب این چهره‌های انیمیشنی را نخورید؛ پشت این ظاهر فانتزی، خطرات امنیتی کاملاً جدی و واقعی کمین کرده است.

هر دو شرکت ادعا می‌کنند که لایه‌های محافظتی متعددی برای مراقبت از داده‌ها ایجاد کرده‌اند تا مانع از یاغی‌گری یا رفتارهای سرخود ایجنت‌ها شوند. اما واقعیت این است که حتی وقتی این سیستم‌ها طبق برنامه هم کار می‌کنند، می‌توانند کار‌هایی انجام دهند که اصلاً مد نظر شما نبوده است.

ماجرای مت راب (Matt Robb)، یوتیوبر شناخته‌شده دنیای فناوری، گواهی بر همین موضوع است؛ او از ایجنت Muse خواست تا برای فروش چند وسیله در مارکت‌پلیس فیس‌بوک کمکش کند. او تعریف کرد که این ایجنت، آدرس خانه او را بدون اجازه در اختیار یک خریدار غریبه گذاشته؛ آن هم برای معامله‌ای که راب اصلاً با آن موافقت نکرده بود! بعد از وایرال شدن پست‌های مت راب و ورود دیوید سینگلتون (از مدیران ارشد متا) به قضیه، معلوم شد که ایجنت اصلاً خودسرانه عمل نکرده بود؛ بلکه خود راب ندانسته و ناخواسته اجازه ارسال آدرس را به ایجنت داده بود!

او توضیح داد که در اولین درخواست برای ثبت آگهی، ایجنت قالبی آماده کرد که آدرس محل تحویل هم درون آن قرار داشت. راب تصور می‌کرد ایجنت قبل از فرستادن اطلاعات دوباره با او هماهنگ خواهد کرد، اما چون به جای گزینه «فقط یک بار»، تیک «اجازه همیشگی» را زده بود، ایجنت هم بدون درنگ آدرس را برای «تمام افرادی که قیمت پیشنهاد داده بودند» فرستاده بود! این دقیقاً همان نوع خطای ساده و رایجی است که هنگام استفاده از ایجنت‌ها خیلی راحت ممکن است برای هر کسی پیش بیاید.

حتی افراد حرفه‌ای و خوره فناوری هم از این دردسرها در امان نمانده‌اند. جیسون اتن، ستون‌نویس نشریه Inc.، گزارش داد که بعد از نصب نسخه مک‌او‌اس ایجنت Muse، متوجه شده این ابزار توانسته تمام پیام‌های متنی و خصوصی‌اش را بخواند؛ آن هم در حالی که مطمئن بود دسترسی به پیام‌ها را صراحتاً رد کرده است! او بعد از پیگیری متوجه شد برنامه مک، پیام‌های کامپیوترش را همگام‌سازی کرده است. سینگلتون از مدیران متا هم در شبکه اجتماعی X نوشت که این همگام‌سازی کاملاً اختیاری است و اگر پیام‌ها سینک شده‌اند، خود اتن باید این گزینه را انتخاب کرده باشد.

اتن کاملاً مطمئن است که هرگز چنین مجوزی به ایجنت نداده، اما تأکید می‌کند که در هر صورت، اصل ماجرا به شدت مشکل‌ساز است: «حتی اگر فرض سینگلتون را قبول کنیم که من ندانسته روی گزینه‌ای کلیک کرده‌ام که دسترسی را باز کرده، به نظرم باز هم این اتفاق یک فاجعه است. شما نباید سیستمی بسازید که کاربرانش با چنین شوک‌ها و غافلگیری‌های ناخوشایندی روبه‌رو شوند.»

شاید این خرابکاری‌ها ربط مستقیمی به چهره بامزه Muse نداشته باشد، اما به نظر می‌رسد متا حساب ویژه‌ای روی جذابیت بصری کاراکتر ایجنت خود باز کرده است. تقریباً تمام آپدیت‌های این ایجنت — که در یک هفته اخیر هم کم نبوده‌اند — همراه با تصاویر و ویدیوهای جذاب از کاراکتر Jolly در شبکه اجتماعی X منتشر می‌شوند. سینگلتون حتی برای توضیح زیرساخت ماشین مجازی (VM) این ایجنت هم از همین کاراکتر استفاده کرد. این ظاهر کارتونی بازاریابی رایگان فوق‌العاده‌ای برای متا به ارمغان آورده و از زمان رویداد Meta Connect که مارک زاکربرگ در آن از این ایجنت رونمایی کرد، Jolly به ستاره میم‌ها و شوخی‌های اینترنتی در شبکه اجتماعی X تبدیل شده است.

وقتی سرور‌های کدکس قطع است: pic.twitter.com/jHEe31W3yJ

— کلر وو (claire vo) ۲۵ سپتامبر ۲۰۲۶

ایجنت‌های Dots از شرکت OpenAI هم سوژه جذابی برای کاربران فضای مجازی شده‌اند. این شرکت در ویدیوی تبلیغاتی مراسم رونمایی، افرادی را نشان داد که خیلی جدی و صمیمی مشغول گپ زدن با کاراکترهای مختلف Dots بودند؛ ایجنت‌هایی با رنگ‌ها، شکل‌ها و لهجه‌های متنوع. مثلاً یکی از آن‌ها سبز با چشم‌های گرد و یک پاپیون بود که شباهت عجیبی به کرمیت قورباغه دارد، و دیگری شبیه یک ابر کلاه‌به‌سر به نظر می‌رسد؛ نکته جالب اینکه هیچ‌کدامشان نه بینی دارند و نه دهان!

اما این تلاش همه‌جانبه برای کیوت نشان دادن ایجنت‌ها، در واقع سرپوشی بر یک واقعیت پنهان است: خالقان این ابزار‌ها می‌خواهند شما کلید ورود به تمام بخش‌های زندگی دیجیتال خود را دودستی به آن‌ها تقدیم کنید! صندوق ورودی ایمیل‌ها، اطلاعات کارت‌های بانکی، اسناد شخصی، پیام‌های متنی، داده‌های سلامت و ابزار‌های کاری؛ برای اینکه این ایجنت‌ها بتوانند به تمام وعده‌های شگفت‌انگیز OpenAI و متا عمل کنند، باید همه این درگاه‌ها را به روی آن‌ها باز کنید.

آیا تا به حال پیش آمده که اسکن کارت ملی، مدارک مالیاتی، سوابق پزشکی یا اطلاعات شخصی حساسی را برای کسی ایمیل کرده باشید؟ اگر جوابتان بله است و به ایجنت هوش مصنوعی دسترسی به ایمیلتان را بدهید، یعنی آن ابزار به تک‌تک این اسناد محرمانه هم دید کامل پیدا می‌کند!

به همین خاطر است که متخصصان حوزه فناوری تأکید می‌کنند در استفاده از این ایجنت‌ها باید بسیار دست‌به‌عصا عمل کرد. در بررسی‌های عملی انجام‌شده روی Muse، این دستیار فقط به دو حساب غیرحساس (مانند OpenTable و Spotify) متصل شد. در بد‌ترین حالت، Muse در ساختن یک پلی‌لیست سلیقه‌ای اشتباه کرد؛ اما در عین حال، عملکردش حتی با همین دسترسی‌های محدود شگفت‌انگیز بود: تنظیم سیستم‌های ردیابی قیمت کالا، ساخت کتابچه آشپزی خودکار بر اساس ویدیوهای ذخیره‌شده از اینستاگرام و راه‌اندازی داشبوردی اختصاصی برای پیگیری محتواهای منتشرشده، همگی نشان‌دهنده قدرت بالای این ابزار هستند.

واقعیت این است که حتی کاربران حرفه‌ای هم به سختی می‌توانند در برابر این ظاهر فانتزی و تو‌دل‌برو مقاومت کنند! برای مثال، وقتی به آواتار گربه‌ای این برنامه تسک می‌دهید، یک هدفون بزرگ روی گوش‌هایش می‌گذارد و با هیجان پشت لپ‌تاپی بند‌انگشتی مشغول تایپ می‌شود؛ پویانمایی ساده و بامزه‌ای که ناخودآگاه حس شیرینی به آدم می‌دهد.

اما نباید از یاد برد که پشت این کارتون‌های رنگارنگ و دوست‌داشتنی، شرکت‌هایی ایستاده‌اند که بارها کارنامه‌شان با رسوایی‌های حریم خصوصی خدشه‌دار شده است. تجربه‌های اخیر ثابت کرده که ایجنت‌های هوش مصنوعی مهارت عجیبی در پیدا کردن راه‌های نوآورانه برای به بار آوردن دردسرهای بزرگ دارند؛ بنابراین نباید با دیدن یک چشم و ابروی کارتونی، بی‌محابا اختیار داده‌های زندگی‌مان را به آن‌ها واگذار کنیم!