هشدار بانک‌های بزرگ جهانی: پیشرفت ایجنت‌های خرید هوش مصنوعی از سیستم‌های امنیتی پیشی گرفته است

ائتلافی از بانک‌های بزرگ روز سه‌شنبه هشدار داد که ایجنت‌های خرید مبتنی بر هوش مصنوعی خطرات جدیدی را در زمینه کلاه‌برداری، تقلب و نقض حریم خصوصی برای مصرف‌کنندگان ایجاد می‌کنند و سرعت پیشرفت این فناوری از استانداردهای فعلی صنعت و سیستم‌های محافظت از مشتریان فراتر رفته است.

این گروه شامل بانک‌هایی چون NatWest، Bank of America، ING، Capital One، بانک نیوزیلندی ASB Bank و Commonwealth Bank of Australia است. این نهادهای مالی با انتشار گزارشی، اصول توسعه «تجارت مبتنی بر ایجنت» (Agentic Commerce) - که در آن ابزارهای هوش مصنوعی کالاها را به نمایندگی از خریدار انتخاب و خریداری می‌کنند - را تبیین کرده و اعلام نمودند که قصد دارند مجموعه‌ای از پیشنهادات را به سیاست‌گذاران ارائه دهند.

در این گزارش آمده است: «مصرف‌کنندگان مطمئن نیستند که آیا هوش مصنوعی در راستای منافع آن‌ها عمل خواهد کرد یا خیر. آن‌ها نگران‌اند که ایجنت‌های هوش مصنوعی ممکن است کالای اشتباهی بخرند، بیش از حد خرج کنند، یا در بدترین حالت، پولشان را در دام کلاه‌برداران و سودجویان از دست بدهند. کاربران نمی‌دانند در صورت بروز مشکل، آیا از آن‌ها محافظت می‌شود و باید به چه نهادی مراجعه کنند.»

بر اساس گزارش رویترز، از جمله آسیب‌پذیری‌هایی که در این سند به آن اشاره شده، می‌توان به ایجنت‌های هوش مصنوعی اشاره کرد که اطلاعات کارت بانکی مشتریان را جمع‌آوری کرده و در سایت‌های شخص ثالث وارد می‌کنند؛ همچنین این خطر وجود دارد که ایجنت‌ها گزینه‌های پرداختی را ترجیح دهند که از سطح محافظت کمتری برخوردارند. بانک‌ها تاکید کرده‌اند که افراد سودجو می‌توانند با هک کردن یا جعل هویت ایجنت‌های هوش مصنوعی و فروشندگان، روش‌های جدیدی از مهندسی اجتماعی را پیاده‌سازی کنند.

این نهادهای مالی در ادامه افزودند: «زمانی که مشکلی پیش می‌آید، تخصیص مسئولیت نامشخص و ناکارآمد است و فرآیندهای حل‌وفصل اختلافات، تمامی طرف‌های درگیر در زنجیره ارزش را شامل نمی‌شود.»

این گروه قصد دارد پیشنهادات متعددی را به نهادهای قانون‌گذار ارائه دهد؛ از جمله الزام به اطلاع‌رسانی به مصرف‌کنندگان در زمانی که یک ایجنت هوش مصنوعی بخشی از تراکنش است، ایجاد شفافیت بیشتر در نحوه تصمیم‌گیری این ایجنت‌ها و اتخاذ تدابیری برای حفظ امنیت داده‌های مشتریان. این گزارش همچنین استدلال می‌کند که مصرف‌کنندگان و فروشندگان باید در انتخاب پلتفرم‌های تجارت هوش مصنوعی خودمختار باشند و سیستم‌های رقیب باید بتوانند به شکل یکپارچه با یکدیگر کار کنند.

بر اساس گزارش رویترز، این هشدار در شرایطی صادر می‌شود که شرکت‌های فناوری از جمله OpenAI، Anthropic، Google و Meta در حال ترویج چت‌بات‌های هوش مصنوعی به عنوان ابزارهای خرید هستند و خرده‌فروشان نیز تلاش می‌کنند تا توصیه‌های این چت‌بات‌ها را به نفع خود جهت‌دهی کنند. به عنوان مثال، خرده‌فروشی بریتانیایی John Lewis اعلام کرده است که جستجوهای انجام‌شده توسط ایجنت‌های هوش مصنوعی از ۰٫۳ درصد در سال گذشته به ۲٫۵ درصد از کل جستجوهای این شرکت افزایش یافته است.

با این حال، پذیرش هوش مصنوعی در خریدهای روزمره از سوی مصرف‌کنندگان هنوز یکنواخت نیست. تحقیقات موسسه PYMNTS نشان می‌دهد در حالی که نیمی از مصرف‌کنندگان آمریکایی اعلام کرده‌اند خریدهای خرده‌فروشی خود را با نوعی کمک گرفتن از هوش مصنوعی انجام داده‌اند، تنها حدود یک‌چهارم از آن‌ها گفته‌اند که با واگذاری کامل فرآیند خرید و پرداخت به یک ایجنت هوش مصنوعی احساس راحتی می‌کنند.

گزارش بانک‌ها در حالی منتشر می‌شود که نهادهای قانون‌گذار ایالات متحده نیز توجه خود را به کاربرد هوش مصنوعی در خدمات مالی افزایش داده‌اند. بازرسان بانکی نظارت بر هوش مصنوعی را در بررسی‌های معمول خود گنجانده‌اند و موسسات وام‌دهنده را در خصوص نحوه مدیریت این فناوری در عملکردهای پرخطر تحت فشار قرار می‌دهند؛ هرچند هنوز هیچ دستورالعمل قانونی مختص به هوش مصنوعی به طور رسمی تدوین نشده است.