تلاش بزرگ‌ترین بانکهای آمریکا برای مهار ایجنت‌های هوش مصنوعی و محافظت از حساب مشتریان

واگذاری کارهای خستهکننده اداری مانند دستهبندی قبوض و رسیدگی به اسناد مالی به هوش مصنوعی، ایدهای جذاب و وسوسهانگیز به نظر می‌رسد. حتی کمک گرفتن از این فناوری برای خریدهای روزمره نیز بسیار کاربردی است. اما تفاوت بسیار بزرگی میان مشورت گرفتن از دستیار هوش مصنوعی برای مسائل مالی و تحویل دادن کلید دسترسی به حساب بانکی وجود دارد؛ تفاوتی که اکنون به چالشی جدی برای بزرگ‌ترین بانکهای آمریکا تبدیل شده است.

بر اساس گزارش جدید رسانه آکسیوس (Axios)، موسسات مالی متوجه شدهاند که ایجنت‌های هوش مصنوعی هنگام دسترسی به حسابهای مشتریان، اقداماتی فراتر از درخواست اولیه کاربران انجام می‌دهند. بانکهای مطرحی نظیر JPMorgan، Chase، Bank of America و Morgan Stanley همگی گامهایی را برای محافظت از مشتریان خود آغاز کردهاند؛ این موضوع چالشبرانگیز، پرسش‌های عمیقی را درباره میزان قابل اعتماد بودن هوش مصنوعی در دنیای امور مالی مطرح می‌کند.

هرچند هنوز موج فراگیری از خالی شدن حسابهای پساندز توسط دستیارهای هوش مصنوعی گزارش نشده و شواهدی از خسارت مالی گسترده وجود ندارد، اما صرف رسیدن به نقطهای که بانکها نگران تصمیمگیریهای خودسرانه هوش مصنوعی با سرمایه مشتریان باشند، زنگ خطری جدی به شمار میرود.

در ماههای اخیر موج گستردهای برای ترویج ایجنت‌های مستقل هوش مصنوعی شکل گرفته است. در هر نمایش تبلیغاتی جدید، دستیاری نشان داده می‌شود که کارهای بهمراتب پیچیدهتر را بدون دخالت کاربر انجام می‌دهد. این استقلال عمل شاید هنگام برنامهریزی برای سفر جذاب باشد، اما وقتی پای دسترسی مستقیم هوش مصنوعی به حساب بانکی و پرداخت هزینه‌ها به میان میآید، نگرانیها دوچندان می‌شود.

آزمون و خطای هوش مصنوعی با پول واقعی

نکته قابل توجه این است که ایجنت‌های هوش مصنوعی حسابها را هک نمیکنند؛ بلکه این خود مشتریان هستند که اطلاعات ورود را بهصورت داوطلبانه در اختیار ابزارها قرار می‌دهند تا امکان دسترسی به داده‌های مالی فراهم شود؛ داده‌هایی که بانکها دههها برای حفظ امنیت آنها سرمایهگذاری کردهاند. هرچند بسیاری از کاربران صرفاً می‌خواهند هوش مصنوعی وضعیت مالی آنها را تحلیل کند و هرگز قصد ندارند اجازه جابجایی پول را به آن بدهند.

کار با وب‌سایتهای بانکی گاه پیچیده است، اسناد مالی کسلکننده به نظر می‌رسند و مدیریت بودجه شخصی به دقتی فراتر از حوصله روزمره افراد نیاز دارد. در چنین شرایطی، وجود دستیاری که قول می‌دهد تمام بخش‌های خستهکننده را مدیریت کند بسیار فریبنده است. با این حال، ایجنت‌های هوش مصنوعی معمولاً عادت دارند دستورها را با نوعی خلاقیت پیشبینی نشده تفسیر کنند. درخواست از مدل برای کاهش هزینه‌های ماهانه و دریافت فهرست اشتراکهای اضافی اقدامی فوق‌العاده است؛ اما واگذاری حق تصمیمگیری مالی به همین دستیار، به معنای اعتماد کورکورانه به تفسیر مدل‌های زبانی از دستورهای مبهم با پولی است که مستقیماً به آن نیاز دارید.

این وضعیت باید مایه نگرانی کاربران و موسسات مالی باشد. سیستم‌های هوش مصنوعی همچنان درک درستی از تمام درخواستها ندارند و دچار قضاوتهای نادرست می‌شوند. بارها مشاهده شده که چتباتها پاسخی بسیار منطقی ارائه میدهند، در حالی که نیمی از محتوای آن توهم یا اطلاعات ساختگی است؛ افزودن توانایی انجام اقدامات عملی در دنیای واقعی، پیامد این خطاهای بهظاهر کوچک را بسیار سنگین‌تر می‌کند. مشاهده رفتارهای مشکوک ایجنت‌ها در زمینه سطح دسترسی و اختیارات توسط بانکها، نشان می‌دهد که مرزهای دسترسی هوش مصنوعی نیازمند بازنگری فوری است.

دور نگه داشتن هوش مصنوعی از صندوق امن بانکی

البته مسدودسازی کامل دستیارهای هوش مصنوعی توسط بانکها راهکار مناسبی نیست. دلایل قانعکننده فراوانی برای اتصال این ابزارها به حسابهای بانکی وجود دارد و مشتریان حق دارند تصمیم بگیرند از چه خدمات و فناوری‌هایی برای مدیریت امور روزمره خود استفاده کنند.

با این وجود، اجازه دادن به هوش مصنوعی برای انجام اقدامات خودسرانه با داراییهای مالی کاربران پذیرفتنی نیست. مدل‌ها باید در تکتک مراحل و برای هر تراکنش، تأیید صریح و جداگانه دریافت کنند؛ به گونهای که هیچ مجالی برای تعبیر نادرست یک پیام یا درخواست قدیمی به‌عنوان مجوز انتقال وجه وجود نداشته باشد.

شاید الزام به تأیید کاربر، بخشی از جذابیت خودکارسازی ایجنت‌های هوش مصنوعی را کاهش دهد، اما ایجاد امنیت مالی ارزش این محدودیت را دارد. صرفهجویی در چند ثانیه هرگز به ریسک تصمیمگیریهای پرهزینه و اشتباه هوش مصنوعی نمیارزد. از همه مهمتر، هنگام بروز خطا باید نهاد یا سازوکاری مشخص مسئولیت را بر عهده بگیرد؛ زیرا حواله دادن مشتریان مالباخته به یک چتبات هرگز راهحل پذیرفتهای نخواهد بود.

مسئله ناامیدکننده این است که بروز چنین مشکلاتی کاملاً قابل پیشبینی بود. شرکت‌های توسعهدهنده هوش مصنوعی در رقابتی فشرده تلاش می‌کنند استقلال ایجنت‌های خود را افزایش دهند، بدون آنکه پیش از آن راهکاری قطعی برای پیشگیری از خطاهای مهلک بیابند. انجام وظایف پیچیده بدون نیاز به کمک انسان شگفتانگیز است، اما زمانی که این استقلال عمل به اقدامات ناخواسته و خودسرانه ختم شود، دیگر هیچ جذابیتی نخواهد داشت.