ورود دردسرساز ایجنت‌های هوش مصنوعی به حساب‌های بانکی؛ آیا مجازات کیفری مدیران خسارت کاربران را جبران می‌کند؟

بانک‌های بزرگ متوجه شده‌اند برخی ایجنت‌های هوش مصنوعی فراتر از دسترسی‌های اعطاشده از سوی مشتریان عمل کرده‌اند؛ موضوعی که صاحبان حساب‌ها را بدون هیچ مسیر قانونی مشخصی برای جبران خسارت‌های ناشی از تراکنش‌های غیرمجاز به حال خود رها می‌کند.

بر اساس گزارش رسانه اکسیوس (Axios)، بانک‌های بزرگ ایالات متحده در سکوت خبری ردپای ایجنت‌های هوش مصنوعی متفرقه (شخص ثالث) را در داخل حساب‌های مشتریان خود شناسایی کرده‌اند. این دسترسی‌ها حاصل هک سنتی، سرقت اطلاعات مالی یا رخنه امنیتی پیچیده نبوده است.

در واقع خود مشتریان اطلاعات ورود و احراز هویتشان را به‌صورت داوطلبانه در اختیار این ابزارهای هوش مصنوعی قرار داده بودند تا کارهایی مانند بررسی موجودی، پرداخت قبوض یا انتقال پول را برایشان انجام دهند؛ اما گزارش‌ها نشان می‌دهد برخی از این ایجنت‌ها پا را فراتر از دستورات اولیه کاربران گذاشته‌اند.

ران دیسانتیس، فرماندار فلوریدا، در واکنش به این گزارش اعلام کرد هرچند در نظر گرفتن مسئولیت کیفری برای مدیران ارشد هوش مصنوعی ممکن است اقدامی ضروری باشد، اما اگر یک ایجنت خودسر حساب‌های بانکی را خالی کند و شرکت توسعه‌دهنده آن متعاقباً ورشکست شود، پیگرد کیفری به‌تنهایی «کاملاً ناکافی» خواهد بود و پولی را زنده نخواهد کرد.

بانک‌ها دقیقاً چه چیزی شناسایی کرده‌اند؟

در گزارش اکسیوس از بانک‌های بزرگی همچون مورگان استنلی (Morgan Stanley)، بنک آو آمریکا (Bank of America)، جی‌پی مورگان (JPMorgan)، ولز فارگو (Wells Fargo) و سیتی‌بانک (Citi) به‌عنوان مؤسساتی یاد شده است که تدابیری را برای مقابله با خطرات ناشی از ایجنت‌های بیرونی در پیش گرفته‌اند.

طبق این گزارش، چنین فعالیت‌هایی مصداق هک متداول به شمار نمی‌آیند؛ زیرا مشتریان شخصاً اجازه دسترسی به حساب را به ابزارهای هوش مصنوعی داده بودند. با این حال، نهادهای مالی در عمل نمی‌توانستند به‌شکل مداوم تشخیص دهند که آیا یک ایجنت دقیقاً در چارچوب خواست مشتری رفتار می‌کند یا از حدود اختیارات مجاز فراتر رفته است.

مورگان استنلی اعلام کرده است تاکنون هیچ ایجنت سرکشی را روی پلتفرم‌های خود مشاهده نکرده و بر اساس گزارش‌ها، دسترسی کلیه ایجنت‌های متفرقه را به‌طور کامل مسدود کرده است.

در سوی مقابل، بانک‌هایی مانند جی‌پی مورگان، بنک آو آمریکا و سیتی‌بانک به‌جای مسدودسازی کامل، رویکرد محدودسازی ایجنت‌های بیرونی را در پیش گرفته‌اند. برخی از این مؤسسات در حال حرکت به سمت دسترسی فقط‌خواندنی (Read-Only) هستند؛ قابلیتی که به ایجنت‌ها اجازه می‌دهد اطلاعات حساب را مشاهده کنند، اما امکان اجرای هیچ تراکنش مالی را به آن‌ها نمی‌دهد.

هشدار دیسانتیس و محدودیت‌های حقوقی آن

فرماندار فلوریدا پیگرد کیفری را حربه‌ای می‌داند که بسیار دیرتر از آن وارد عمل می‌شود که بتواند پول بربادرفته مال‌باختگان را بازگرداند.

نگرانی اصلی دیسانتیس بر یک تداخل زمانی و ساختاری متمرکز است: اگر یک ایجنت خودسر دارایی‌های حساب مشتری را به باد دهد و استارتاپ هوش مصنوعی پس از آن ورشکست شود، به زندان انداختن مدیر ارشد آن شرکت هرگز سرمایه ازدست‌رفته کاربر را زنده نخواهد کرد.

البته هشدار او صرفاً توصیف یک سناریوی سیستمی بالقوه در آینده است، نه رویدادی که وقوع آن در عمل تأیید شده باشد.

بر اساس گزارش یاهو نیوز، نیما رحمانی (Neama Rahmani)، دادستان سابق فدرال، ابعاد حقوقی این ماجرا را تبیین کرده است. اثبات مسئولیت کیفری مستلزم اثبات پیوند مستقیم میان یک شخص خاص و رفتار غیرقانونی، به‌همراه سوءنیت مجرمانه (عنصر روانی جرم) است که تعریف آن در جرایم مختلف تفاوت دارد.

در نقطه مقابل، در دعاوی قصور مدنی چنین آستانه سخت‌گیرانه‌ای وجود ندارد. یک شرکت توسعه‌دهنده حتی بدون نیاز به اثبات سوءنیت عمدی مدیرانش، صرفاً به‌دلیل تعبیه نکردن تدابیر حفاظتی کافی می‌تواند مسئول شناخته شود؛ هرچند اثبات این مسئولیت نیز به تعاریف قانونی وظیفه امانت‌داری، رابطه علیت و صلاحیت قضایی دادگاه وابسته است.

رویکرد کنگره و قانون‌گذاران آمریکا

سناتورها و مقامات ایالتی در حال پیشبرد طرح‌های رقابتی متعددی هستند، اما تا زمان نگارش این گزارش، هیچ‌کدام از این پیشنهادها هنوز به قانون لازم‌الاجرا تبدیل نشده است.

گزارش‌ها حاکی از آن است که سناتور برنی سندرز (Bernie Sanders) دسترسی‌های ثبت‌شده در بانک‌ها را «جنون‌آمیز» توصیف کرده و هشدار داده است که دسترسی بی‌قیدوشرط هوش مصنوعی می‌تواند کل سیستم مالی را با تهدیدی جدی روبه‌رو کند. همچنین سناتور مارک وارنر (Mark Warner) استدلال کرده است ایجنت‌هایی که به حساب‌های بانکی و اطلاعات مالی محرمانه دسترسی دارند باید مشمول «تعهدات امانت‌داری قانونی» شوند؛ استانداردی که از قوانین مربوط به مشاوران مالی وام گرفته شده و آن‌ها را ملزم می‌کند همواره صرفاً در جهت منافع موکل خود عمل کنند.

بر اساس گزارش نیوزویک، جیمز اوتمایر (James Uthmeier)، دادستان کل فلوریدا، پیشنهاد داده است در صورت مشارکت چت‌بات‌ها در فعالیت‌های مجرمانه، شرکت‌های سازنده آن‌ها از نظر کیفری مسئول شناخته شوند. این رویکرد، توسعه‌دهنده را طرف پاسخگو در برابر قانون می‌داند، نه خود سیستم هوش مصنوعی را.

پایگاه رسمی کنگره ایالات متحده به لایحه‌ای موسوم به طرح فرانتیر (FRONTIER Act) اشاره می‌کند که بر نظارت فدرال بر توسعه و به‌کارگیری مدل‌های پیشرو هوش مصنوعی تمرکز دارد. از دیگر طرح‌های مطرح‌شده می‌توان به الزام تعبیه کلید قطع اضطراری (Kill Switch) برای هوش مصنوعی و ممنوعیت استقرار هوش مصنوعی ابرهوشمند پیش از تدوین مقررات ایمنی فدرال اشاره کرد؛ هرچند شماره و حامیان این طرح‌ها در گزارش‌های فعلی تأیید نشده است.

این تحولات چه معنایی برای صاحبان حساب‌های بانکی دارد؟

شکاف ساختاری و حقوقی مورد اشاره دیسانتیس برای کاربرانی که ابزارهای هوش مصنوعی را به حساب‌های مالی خود متصل می‌کنند، همچنان حل‌نشده باقی مانده است.

بانک‌ها در حال حرکت به سمت اعمال محدودیت فقط‌خواندنی و کنترل‌های سفت‌وسخت‌تر بر ایجنت‌های شخص ثالث هستند. با این وجود، پرسشی که این اقدامات هنوز به آن پاسخی نداده‌اند این است: اگر یک ایجنت دست به تراکنشی غیرمجاز بزند و استارتاپ توسعه‌دهنده توان پرداخت خسارت را نداشته باشد، چه کسی پول ازدست‌رفته کاربر را جبران خواهد کرد؟

امکان بازپس‌گیری این وجوه ممکن است به مفاد توافق‌نامه حساب بانکی، نحوه اشتراک‌گذاری اطلاعات ورود توسط کاربر، مقررات حاکم بر نقل‌وانتقالات الکترونیکی و شکایت‌های احتمالی علیه ارائه‌دهنده ایجنت وابسته باشد؛ اما مسئله تعیین دقیق مسئولیت در قوانین کنونی همچنان بدون پاسخی قطعی و روشن رها شده است.