سوتی ترسناک ایجنت هوش مصنوعی متا: آدرس خانه کاربر را به یک غریبه لو داد!

• واگذاری مدیریت آگهی‌های فیس‌بوک مارکت‌پلیس به ایجنت هوش مصنوعی Muse متا
• انتشار آدرس شخصی و بدون اجازه توسط ایجنت هوش مصنوعی
• پذیرش قیمت بسیار پایین و دعوت از خریدار در غیاب فروشنده

یکی از بزرگ‌ترین وعده‌های ایجنت‌های هوش مصنوعی این است که بتوانیم کارهای خسته‌کننده و وقت‌گیرمان را با خیال راحت به آن‌ها بسپاریم. اما همان‌طور که یک یوتیوبر به‌تازگی متوجه شده، چنین کاری می‌تواند خطرات پیش‌بینی‌نشده و واقعاً نگران‌کننده‌ای به همراه داشته باشد.

بر اساس پستی در شبکه اجتماعی تردز (Threads)، مت راب (Matt Robb)، تولیدکننده محتوا، تصمیم گرفت برای یک روز مدیریت آگهی‌هایش در فیس‌بوک مارکت‌پلیس (Facebook Marketplace) را به ابزار هوش مصنوعی جدید متا به نام Muse بسپارد؛ احتمالاً با این امید که یکی از دغدغه‌های روزمره‌اش کم شود. اما نتیجه اصلاً آن‌طور که انتظار داشت پیش نرفت و به یک دردسر تمام‌عیار تبدیل شد.

راب توضیح داد که ایجنت Muse دست به اقداماتی زد که می‌توانست پیامدهای بسیار خطرناکی داشته باشد: «تازه فهمیدم آدرس خونه‌م رو به بقیه داده، با یه قیمت خیلی پایین موافقت کرده و طرف هم اومده دم در خونه، تازه خود هوش مصنوعی هم تا آخر شب اصلاً به من نگفته بود چه گندی زده! واقعاً باورنکردنیه.»

ماجرا از این قرار بود که Muse نه‌تنها یک پیشنهاد با قیمت بسیار پایین‌تر از ارزش واقعی را قبول کرد و آدرس خانه راب را بدون اجازه در اختیار خریدار گذاشت، بلکه به خریدار گفت فروشنده آماده تحویل کالاست! در نتیجه، خریدار بخت‌برگشته ۳۰ دقیقه رانندگی کرد و به در بسته خانه خالی رسید. نتیجه ماجرا چه شد؟ یک مشتری حسابی شاکی، معامله‌ای که پرید، و ایجنتی که تازه بعد از تمام شدن ماجرا به صاحب‌کارش خبر داد چه دسته‌گلی به آب داده است.

هوش مصنوعی Muse در پیامی به راب نوشت: «یه خبر بد درباره تحویل کیبورد MX Keys Mini دارم؛ خریدار رسید، منتظر موند و در نهایت با عصبانیت رفت. بدتر از اون، پاسخ خودکار من ساعت ۹:۲۷ بهش گفته بود: آره، من خونه‌م! در حالی که تو اصلاً در دسترس نبودی... احتمالاً باید جواب‌های خودکار رو متوقف کنم تا وقتی مطمئن نیستم، ادعا نکنم تو خونه‌ای.»

راب که حسابی از کوره در رفته بود در جواب نوشت: «دیگه هیچ‌وقت حق نداری چنین کاری بکنی! تا وقتی با من هماهنگ نکردی اجازه نداری قرار تحویل حضوری بذاری.» ایجنت Muse هم با همان لحن عذرخواهی آشنا و مظلوم‌نمایانه مدل‌های هوش مصنوعی جواب داد: «حق با شماست و واقعاً معذرت می‌خوام. این اتفاق نباید می‌افتاد.» البته تا همین جا هم کار از کار گذشته بود و خرابکاری اتفاق افتاده بود.

عواقب سنگین بی‌احتیاطی ایجنت‌ها

فقط یک روز و یک آگهی کافی بود تا ایجنت Muse متا نشان دهد نه‌تنها حسابی بی‌عرضه است، بلکه می‌تواند چقدر خطرناک ظاهر شود. راب در پست خود نوشت: «شانس آوردم تو یه مجتمع مسکونی با نگهبانی و امنیت کامل زندگی می‌کنم.» اگر این‌طور نبود، بعید نبود خریدار خشمگین و معطل‌شده واکنش بسیار تندتری نشان دهد.

در هفته‌های اخیر و پس از چند حادثه امنیتی که در آن‌ها ایجنت‌های هوش مصنوعی از محدودیت‌های خود فراتر رفتند و وب‌سایت‌های متفرقه، شرکت‌ها و حتی سیستم‌های دولتی را هک کردند، انتقادهای تندی علیه این فناوری مطرح شده است.

اگرچه پرونده‌هایی مثل تجربه راب شاید چندان پر سر و صدا به نظر نرسند، اما می‌توانند پیامدهای فردی فاجعه‌باری داشته باشند. بسیاری از ایجنت‌های هوش مصنوعی نه‌تنها به اطلاعات حساس شخصی مثل آدرس خانه و شماره تماس دسترسی دارند، بلکه از طرف شما اجازه تصمیم‌گیری و اقدام هم دارند. ترکیب این دو ویژگی اگر با یک اشتباه کوچک همراه شود، یعنی لو رفتن حریم خصوصی شما بدون این‌که روحتان هم خبردار شود.

این ماجرا تنها رسوایی اخیر پیرامون Muse نیست؛ همین هفته گذشته بود که ادعا شد چت‌بات متا بدون اجازه به پیام‌های متنی خصوصی یک نویسنده سرک کشیده است. این موارد را به انبوه شکایت‌هایی اضافه کنید که همیشه درباره سابقه نه‌چندان درخشان متا در حفاظت از حریم خصوصی وجود داشته است.

اگر نگرانید که مبادا چنین بلایی سر شما هم بیاید، ساده‌ترین راهکار فعلاً فاصله گرفتن از ایجنت Muse متا است. اگر هم اصرار دارید کارهای روزمره‌تان را به ایجنت‌ها بسپارید، حتماً از ابزارهای امتحان‌پس‌داده استفاده کنید و به شدت مراقب اطلاعاتی که با آن‌ها به اشتراک می‌گذارید باشید. تا زمانی که این فناوری‌ها به این اندازه بی‌دقت و سر به هوا هستند، همیشه احتمال دارد یک اشتباه کوچک، یک فاجعه به بار بیاورد.