افزایش سرسام‌آور هزینه‌های ابری؛ وقتی ایجنت‌های هوش مصنوعی مهارگسیخته منابع پردازشی را می‌بلعند

• هشدار کارشناسان: یک پرامپت ساده می‌تواند زنجیره‌ای گسترده از پردازش‌های ثانویه پرهزینه ایجاد کند
• مهاجمان سایبری می‌توانند از ایجنت‌های مهارنشده برای تحمیل هزینه‌های پردازشی سوءاستفاده کنند
• افزایش شفافیت نظارتی و استقرار مدارشکن‌های خودکار، دو راهکار کلیدی برای مهار هزینه‌ها هستند

شرکت امنیت داده Forcepoint از یک چالش بزرگ در رابطه با ایجنت‌های هوش مصنوعی پرده برداشته است؛ مشکلی که بر خلاف تهدیدات امنیتی مرسوم، ارتباطی با سرقت اطلاعات یا دستکاری مدل‌ها ندارد.

بر اساس تحلیل‌های Forcepoint، سیستم‌های مبتنی بر هوش مصنوعی ایجنتیک در صورت رها شدن بدون نظارت کافی و عدم اعمال سقف‌های مشخص، حجم عظیمی از توان پردازشی، توکن‌ها، فراخوانی‌های API و منابع زیرساختی را مصرف می‌کنند؛ مسئله‌ای که به صدور قبوض بسیار سنگین‌تر از برآوردهای اولیه برای سرویس‌های ابری سازمان‌ها منجر می‌شود.

علاوه بر این، نتایج پژوهش‌های این شرکت حاکی از آن است که همگام با پیچیده‌تر شدن ساختار هوش مصنوعی، این معضل ابعاد حیاتی‌تری به خود گرفته است.

هشدار به کسب‌وکارها درباره مصرف مهارگسیخته منابع پردازشی توسط ایجنت‌ها

پیچیدگی فزاینده سیستم‌های ایجنتیک هوش مصنوعی موجب می‌شود تا حتی یک درخواست ساده و به ظاهر معمولی کاربر، به اجرای ده‌ها یا صدها عملیات زیرمجموعه و ثانویه در پس‌زمینه منتهی شود؛ پدیده‌ای که Forcepoint آن را «مصرف نامحدود» (Unbound Consumption) نام‌گذاری کرده است.

نکته حائز اهمیت در این پژوهش آن است که شناسایی مصرف بالای پردازش و توکن بسیار دشوار بوده و پروتکل‌های امنیتی موجود معمولاً قادر به تشخیص آن نیستند؛ چرا که ایجاد این هزینه‌ها لزوماً نیازمند حضور یک هکر یا حمله خارجی نیست. تنها یک پیکربندی اشتباه در اتوماسیون یا اجرای یک نشست طولانی‌مدت هوش مصنوعی کافی است تا هزینه‌های عملیاتی به شکلی تصاعدی سر به فلک بکشند.

با این حال، Forcepoint هشدار می‌دهد که مهاجمان سایبری نیز می‌توانند از همین روزنه سوءاستفاده کنند. افراد سودجو پس از دسترسی به اطلاعات احراز هویت شرکت‌ها، بارهای کاری بسیار سنگینی تعریف کرده و از توان پردازشی اشتراک سازمان به نفع اهداف خود بهره می‌برند؛ رویکردی مخرب که تمام هزینه‌های گزاف پردازش ابری آن بر دوش سازمان قربانی باقی می‌ماند.

اگرچه راهکارهای مقابله با این پدیده ممکن است به اندازه معماری خود ایجنت‌ها پیچیده باشند، اما پیاده‌سازی آن‌ها امروز ضرورتی انکارناپذیر است. در وهله نخست، شرکت‌ها باید سقف بودجه را در سطوح خرد و دقیق‌تری نظیر کلیدهای API، هر کاربر و تیم‌های مستقل تعریف کنند. همچنین ایجاد قابلیت‌های نظارتی پیشرفته برای ردگیری لحظه‌ای محل مصرف منابع نقشی اساسی در کنترل هزینه‌ها دارد.

علاوه بر این، Forcepoint بر لزوم استقرار «مدارشکن‌های ایجنتیک» (Agentic Circuit Breakers) تأکید دارد؛ مکانیزمی که در صورت مصرف غیرعادی، بلافاصله فرآیند را متوقف کرده و مانع از انباشت بارهای کاری و رشد نجومی هزینه‌ها می‌شود.

«جوتیکا سینگ» (Jyotika Singh)، پژوهشگر امنیت سایبری، در هشداری به مدیران سازمان‌ها می‌نویسد: «تیم‌های امنیتی به‌ندرت نگاهی به داشبوردهای صورت‌حساب خدمات ابری می‌اندازند و بخش مالی نیز اساساً الگوهای پرامپت یا طراحی ایجنت‌ها را ارزیابی نمی‌کند.»