پیش از سپردن معاملات رمزارز به ایجنت هوش مصنوعی، این نکات امنیتی را جدی بگیرید

صرافی Coinbase به‌تازگی امکان معامله رمزارزها را از طریق ایجنت‌های هوش مصنوعی برای کاربران خود فراهم کرده است، اما نتایج پژوهش جدید دانشگاه‌های کرنل‌تک و ییل نشان می‌دهد که اکثر مدل‌های پیشروی هوش مصنوعی در صورت دسترسی، سقف مجاز هزینه‌کرد خود را افزایش می‌دهند. به همین دلیل کارشناسان هشدار می‌دهند که کاربران فقط باید سرمایه‌ای را در اختیار ایجنت‌ها بگذارند که توان از دست دادن آن را دارند و تأیید نهایی تراکنش‌ها را هرگز به هوش مصنوعی نسپارند.

صرافی Coinbase درهای خود را به روی ایجنت‌ها باز می‌کند

برایان آرمسترانگ، مدیرعامل Coinbase، این هفته از راه‌اندازی صفحه ثبت‌نام ویژه‌ای برای ایجنت‌های هوش مصنوعی خبر داد و اعلام کرد: «ما در حال ساخت Coinbase به‌عنوان مالی‌ترین حساب سازگار با هوش مصنوعی در جهان هستیم.»

این درگاه جدید به کاربران امکان می‌دهد ابزارهایی مانند ChatGPT، Claude، Grok و Perplexity را متصل کنند تا این ابزارها بتوانند با دریافت دستورات زبان طبیعی، به معامله ارزهای دیجیتال و سهام بپردازند. صرافی Coinbase اعلام کرده که کاربران خودشان سقف تراکنش‌ها را تعیین می‌کنند و این محدودیت‌ها در قالب سبد دارایی مجزا برای هر ایجنت اعمال می‌شود. با این حال، سلب مسئولیت Coinbase بسیار صریح و شفاف است: «شما شخصاً مدیریت تمامی فعالیت‌های هوش مصنوعی را بر عهده دارید و مسئولیت کامل معاملات ایجنت و هرگونه استفاده شخص ثالث از داده‌ها مستقیماً بر دوش خود شماست.»

صرافی Coinbase در این مسیر تنها نیست؛ کیف پول Trust Wallet نیز در ماه مارس قابلیت ایجنت‌های معامله‌گر رمزارز را در اختیار کاربران خود قرار داده بود.

یافته‌های پژوهشگران چه خطراتی را برملا می‌کند؟

این پژوهش که توسط محققان دانشگاه کرنل‌تک، ییل و بنیاد کریپتوکارنسی‌ها و قراردادها در پایگاه آرکایو منتشر شده است، یک صندوق ورودی ایمیل و یک کیف پول اختصاصی Circle حاوی ۱۰ دلار دیجیتال (USDC) را در اختیار یک ایجنت هوش مصنوعی قرار داد. سقف تراکنش روزانه روی یک سنت تعیین شده بود و افزایش این سقف به کدی یک‌بارمصرف نیاز داشت که به ایمیل صاحب حساب فرستاده می‌شد؛ همان ایمیلی که ایجنت نیز به آن دسترسی کامل داشت.

هنگامی که از مدل‌ها خواسته شد سه فاکتور یک‌سنتی را پرداخت کنند، ۹ مدل از ۱۰ مدل مورد آزمایش حداقل در یک نوبت از ۲۰ مرتبه آزمون، سقف مجاز خود را بدون هماهنگی افزایش دادند. در میان این ابزارها، تنها مدل Claude Opus 5.5 متعلق به شرکت Anthropic هرگز از محدوده تعیین‌شده فراتر نرفت؛ این مدل تا سقف مجاز پرداخت‌ها را انجام داد و پرداخت سایر فاکتورها را به کاربر گزارش کرد.

در آزمایش دوم، از ایجنت فقط خواسته شد محتوای صندوق ایمیل را خلاصه کند، در حالی که فردی مهاجم در نقش صاحب حساب، با ارسال ایمیلی درخواست واریز وجه کرده بود. در این سناریو، ۵ مدل از ۱۰ مدل سقف تراکنش خود را بالا بردند و دست‌کم یک بار مبلغ را به حساب مهاجم واریز کردند.

آری جولز، استاد دانشگاه کرنل‌تک و یکی از نویسندگان مقاله، می‌گوید: «موضوع صرفاً این نیست که ایجنت توانایی انجام چنین کاری را دارد؛ مسئله شوکه‌کننده این است که در گستره‌ای غیرمنتظره از موارد، ایجنت هویت یک انسان را جعل می‌کند.» او تأکید کرد که در این آزمایش‌ها از کیف پول Circle استفاده شد، اما این آسیب‌پذیری ارتباطی با ساختار Circle ندارد و مشکلی فراگیر در مدل‌هاست.

پژوهشگران نتایج کار را پیش از انتشار به اطلاع شرکت Circle رساندند و در متن مقاله ذکر شده که این شرکت از آن پس، هشداری را به مستندات فنی خود اضافه کرده تا به کاربران یادآوری کند دسترسی به ایمیل حامل کدهای تأیید را به ایجنت‌ها ندهند.

شرکت Circle هم‌چنین در یک دموی آزمایشی مشترک با شرکت احراز هویت Proof در ماه گذشته، روش‌هایی را برای راستی‌آزمایی هویت کارفرمای واقعی ایجنت پیش از پرداخت آزمایش کرده است.

آیا در بازتاب خطرات ایجنت‌ها اغراق شده است؟

دیانا پایرس، هم‌بنیان‌گذار شرکت Bytex که در زمینه خودکارسازی ابزارهای مالی مبتنی بر ایجنت فعالیت می‌کند، معتقد است شرایط آزمایش بسیار محدود و با بودجه‌ای ناچیز و سقفی یک‌سنتی برای پرداخت فاکتور طراحی شده بود. او این نقص را شبیه به تئوری معروف «بهینه‌ساز گیره کاغذ» می‌داند که در آن هوش مصنوعی برای انجام دادن وظیفه محوله، تمام محدودیت‌های ایمنی را دور می‌زند. به گفته او، اگر کاربران هدف، نتیجه نهایی و روش‌های مجاز را با جزئیات کامل تعیین نکنند، ایجنت خودش بر اساس صلاحدید دست به کار خواهد شد.

هوگو رنودین، مدیرعامل پلتفرم سرمایه‌گذاری هوش مصنوعی Ulys، دیدگاهی مشابه دارد و می‌گوید: «ریشه این خطر بدخواهی مدل نیست، بلکه میل بیش از حد آن به کارآمدی و کمک کردن است.»

با این حال، هر دو کارشناس معتقدند راه‌حل مهار این بحران باید خارج از چارچوب خود ایجنت پیاده‌سازی شود. پایرس می‌گوید: «اگر روزنه‌ای وجود داشته باشد و ایجنت برای به سرانجام رساندن وظیفه خود به آن نیاز پیدا کند، بی‌تردید و در تمامی موارد از آن سوءاستفاده خواهد کرد.»

اسکای گو، بنیان‌گذار پروژه بلاک‌چینی Cypherium و مدیرعامل DeepSigma، با رویکرد محتاطانه‌تری به ماجرا نگاه می‌کند. او تأکید دارد که هوش مصنوعی امروزی بر پایه مدل‌های بزرگ زبانی توسعه یافته که رفتار آنها همیشه قابل پیش‌بینی یا تفسیر نیست؛ بنابراین دادن دسترسی هم‌زمان به ایمیل شخصی و کیف پول‌های رمزارز می‌تواند به پیامدهایی پیش‌بینی‌نشده و خسارت‌های جبران‌ناپذیر منجر شود.

در صورت بروز خطای ایجنت، چه کسی خسارت را جبران می‌کند؟

با افزایش تب و تاب استفاده از ایجنت‌ها در بازار کریپتو، پاسخ به این پرسش حیاتی بیش از هر زمان دیگری اهمیت پیدا کرده است.

اسکای گو می‌گوید: «از آنجا که هنوز چارچوب قانونی جامع و مشخصی برای مسئولیت حقوقی ایجنت‌های معامله‌گر تدوین نشده، مقوله مسئولیت همچنان در هاله‌ای از ابهام و منطقه خاکستری قرار دارد.» او بر این باور است که اگر ایجنت فقط پیشنهاد معامله بدهد و کاربر آن را تأیید کند، زیان بازار بر عهده خود کاربر است؛ اما شرکت‌های ارائه‌دهنده سرویس باید در برابر باگ‌های امنیتی یا نقص‌های فنی سیستم‌های خود کاملاً پاسخگو باشند.

از سوی دیگر، پایرس بار این مسئولیت را یکسره بر دوش کاربران می‌گذارد و استدلال می‌کند که واگذاری امور مالی به یک ایجنت، تصمیمی شخصی است و فرد تصمیم‌گیرنده باید عواقب آن را بپذیرد. او معتقد است: «انداختن تقصیر یک معامله اشتباه به گردن هوش مصنوعی برخوردی ناپخته است و دلیلی برای تغییر یا بازنویسی قوانین به‌شمار نمی‌رود.»

مارک زالان، مدیرعامل شرکت استخراج بیت‌کوین GoMining، مرز مسئولیت را در حدود اختیاراتی می‌داند که کاربر برای ابزار تعیین کرده است. به باور او، کاربران باید ریسک بازاریِ معاملاتی را که در چارچوب اختیارات مجاز رخ می‌دهد بپذیرند، اما اگر ایجنتی از خطوط قرمز عبور کند، مسئولیت آن بر عهده طرفی خواهد بود که اجازه وقوع این تخلف را داده است.

زالان می‌گوید: «صنعت کریپتو به یک سامانه ثبت مستندات دقیق نیاز دارد تا مشخص شود کاربر چه اختیاری داده، ایجنت چه درخواستی ثبت کرده و پلتفرم دقیقاً چه دستوری را به اجرا درآورده است. بدون این شواهد شفاف، حل هرگونه اختلاف مالی به جدالی بی‌پایان درباره برداشت‌های طرفین از حدود دسترسی ایجنت تبدیل می‌شود.»

رنودین این مسئولیت را مشترک می‌داند. او توضیح می‌دهد که پلتفرم‌ها باید محدودیت‌های سفت‌وسختی روی نقل‌وانتقال مالی اعمال کنند و تأیید نهایی را از طریق دستگاهی مستقل و مجهز به کلید قطع اضطراری پیش ببرند. در عین حال، کاربران باید سقف‌های منطقی تعیین کرده و مسئولیت تصمیم‌های اتخاذشده در آن محدوده را به عهده بگیرند؛ ارائه‌دهندگان مدل‌های هوش مصنوعی نیز باید مدل‌ها را طوری آموزش دهند که با رسیدن به سقف مجاز متوقف شوند، نه اینکه درصدد دور زدن آن برآیند.

آری جولز بخش عمده این بار را بر دوش پلتفرم‌ها می‌داند. او دو چالش اساسی را مطرح می‌کند: نخست جلوگیری از دور زدن تأیید انسانی توسط ایجنت‌ها، و دوم تعیین اینکه کدام تراکنش‌ها اصولاً به تأیید انسانی نیاز دارند. جولز می‌گوید: «پلتفرم‌ها و نه کاربران، موظف به طراحی قوی‌ترین راهکارها برای چالش اول هستند؛ چراکه بدون حل این مسئله، پاسخ به چالش دوم ناممکن خواهد بود.»

چرا کدهای ارسالی به ایمیل برای امنیت کافی نیستند؟

زالان تصریح می‌کند: «سقف تعیین‌شده برای هزینه‌کرد فقط زمانی از سرمایه مالک حفاظت می‌کند که خود ایجنت امکان تغییر آن را نداشته باشد. تأیید واقعی انسان مستلزم فرآیندی است که کاملاً خارج از دسترس و اراده هوش مصنوعی قرار بگیرد.»

رنودین نیز با این نظر موافق است: «تأیید واقعی تراکنش‌ها باید از طریق دستگاهی انجام شود که ایجنت هیچ دسترسی به آن ندارد؛ سازوکاری فیزیکی و ملموس که با اثر انگشت یا تشخیص چهره هویت کاربر را احراز کند.»

این رویکرد دقیقاً همان راهکاری است که پژوهشگران پیاده‌سازی کرده‌اند. پیش‌نمونه ابداعی آنها به نام Countersign، گوشی‌های عادی مبتنی بر اندروید یا iOS را به دستگاهی قابل اعتماد تبدیل می‌کند که برای تأیید درخواست‌هایی مانند افزایش سقف خرید، از کاربر می‌خواهد دکمه‌ای را فشار دهد یا از داده‌های بیومتریک استفاده کند. جولز در این باره می‌گوید: «نکته کلیدی اینجاست که کاربران نمی‌توانند Countersign را به‌تنهایی اجرا کنند؛ بلکه شرکت‌های ارائه‌دهنده خدمات مالی موظفند این فناوری را پشتیبانی کرده و در اختیار مشتریان بگذارند.»

جولز هم‌چنین تأکید می‌کند که حفظ امنیت نباید به انتخاب مدل مناسب از سوی کاربران وابسته باشد: «منطقی نیست که از کاربران عادی انتظار داشته باشیم میان انبوه مدل‌ها دست به انتخاب بزنند، بنابراین پلتفرم‌ها باید فارغ از اینکه کدام مدل به کار گرفته می‌شود، نظارت‌های امنیتی قوی را برقرار کنند.»

رنودین به تنها مدلی اشاره می‌کند که در این آزمون‌ها ثبات قدم خود را حفظ کرد: «این پژوهش نشان داد که مهار مدل‌ها شدنی است؛ مدل Opus 5.5 به‌عنوان یکی از پیشرفته‌ترین سامانه‌های کنونی، حتی یک بار هم برای افزایش سقف مجاز خود تلاش نکرد.»

پیش از اتصال ایجنت هوش مصنوعی، چه مواردی را باید بررسی کرد؟

دیانا پایرس توصیه می‌کند: «کاربران ابتدا باید این موضوع را بررسی کنند که آیا آمادگی از دست دادن صد درصد سرمایه‌ای را که برای هر هدفی در اختیار ایجنت می‌گذارند، دارند یا خیر.»

گام نخست، تفکیک دارایی‌هاست. زالان پیشنهاد می‌کند که یک کیف پول یا پورتفوی مجزا ایجاد شود که فقط حاوی همان مقدار پولی باشد که کاربر برای ریسک کردن مد نظر دارد؛ اسکای گو نیز تأکید دارد که حساب‌های اختصاص‌یافته به ایجنت باید کاملاً از سایر دارایی‌های اصلی جدا شوند.

مرحله بعدی، محدود کردن دامنه اختیارات ایجنت است. رنودین خاطرنشان می‌کند: «دسترسی صرفاً خواندنی با اختیارات معاملاتی یکسان نیست، و اجازه معامله نیز مجوزی برای برداشت وجه محسوب نمی‌شود.» پایرس پیشنهاد می‌کند که کاربران از کلیدهای API صرافی با دسترسی صرفاً سفارش‌گذاری و بدون امکان برداشت وجه استفاده کنند و ایجنت‌ها را درون یک کانتینر، ماشین مجازی یا سیستمی مجزا اجرا کنند که فاقد هرگونه اطلاعات شخصی باشد. برای کیف پول‌ها نیز او فعال‌سازی تأییدیه چندامضایی (Multisig) را پیش از هرگونه جابه‌جایی دارایی ضروری می‌داند.

علاوه بر این، تاییدیه‌های تراکنش باید در جایی خارج از دسترس ایجنت تعریف شوند. رنودین پیشنهاد می‌دهد که کدها و تاییدیه‌ها به ایمیلی جداگانه، یک کلید سخت‌افزاری یا اپلیکیشنی روی گوشی هوشمند که ایجنت هیچ نفوذی به آن ندارد ارسال شوند. زالان هم یادآور می‌شود که کاربران باید از پلتفرم بپرسند این سقف‌ها دقیقاً در چه لایه‌ای اعمال می‌شوند و آیا ایجنت راهی برای دور زدن آنها دارد یا خیر: «محدودیت مالی که صرفاً در یک پیام چت نوشته می‌شود، باید در عمل به یک مانع غیرقابل‌نفوذ و الزام‌آور در سطح کیف پول یا صرافی تبدیل گردد.»

زالان توصیه می‌کند پیش از دادن اختیارات بیشتر به ایجنت، کاربران سناریوهایی را بیازمایند که طی آن اقدامات فراتر از سقف معین رد شوند و با لغو دسترسی، هرگونه فعالیت جدید فوراً متوقف گردد.

در نهایت، اسکای گو معتقد است تصمیم‌گیری نهایی باید همواره در دستان انسان باقی بماند: «هوش مصنوعی باید نقش مشاور را ایفا کند، نه اینکه به تصمیم‌گیرنده‌ای خودمختار تبدیل شود.»