ابزار متن‌باز جدید AWS برای مهار ایجنت‌های هوش مصنوعی؛ ترمز اضطراری برای خرابکاری‌های حالت YOLO

بخش خدمات ابری آمازون (AWS) تا به امروز راهکارهای متن‌باز متعددی رو برای پاسخ‌گو نگه داشتن ایجنت‌های هوش مصنوعی ارائه داده بود، اما حالا با رونمایی از یک سندباکس تمام‌عیار، جعبه‌ابزار نظارتی خودش رو کامل‌تر از همیشه کرده است.

این راهکار تازه که Strands Box نام گرفته، با بهره‌گیری از ایزوله‌سازی در سطح سیستم‌عامل و ترکیب اون با چند ابزار متن‌باز کنترلی دیگه که اخیراً توسط AWS منتشر شده بودن، نظارت و کنترل بسیار دقیق‌تری رو روی رفتار ایجنت‌های خودمختار ممکن می‌کنه.

تیم AWS در بیانیه معرفی این پروژه توضیح داده: «ایجنت‌ها روزبه‌روز بیش‌تر در وضعیت اصطلاحاً ”حالت YOLO“ (اجرای بی‌محابا و بدون نظارت) اجرا می‌شن و همه کار‌ها رو بدون تایید یا بازبینی انسانی پیش می‌برن. راهکار سنتی برای مواجهه با این چالش، استفاده از محیط‌های ایزوله یا سندباکس بوده... اما کنترل سطح دسترسی فقط نیمی از ماجراست و ما باید رفتارهای اون‌ها رو هم دقیق‌تر مدیریت کنیم.»

طبق توضیحات ارائه‌شده، مشکل اصلی کانتینرها و ماشین‌های مجازی بسیار کوچک (microVM) که معمولاً برای مهار ایجنت‌ها به کار می‌رن، اینه که ایزوله‌سازی سفت‌وسخت اون‌ها با درک زمینه و اعمال هوشمند قوانین همراه نیست. به زبان ساده، وقتی یک ایجنت درون محیط مجازی به ابزاری دسترسی پیدا می‌کنه، شاید عملاً هیچ ترمز بازدارنده‌ای نباشه که جلوی خرابکاری‌های اون رو بگیره؛ اقداماتی فاجعه‌بار مثل پاک کردن دیتابیس اصلی سرور یا دسترسی به اینترنت و خرابکاری‌های غیرقابل پیش‌بینی!

اینجا دقیقاً همون نقطه‌ایه که سایر ابزار‌های متن‌باز درون Strands Box وارد عمل می‌شن؛ این بسته از موتور بومی Dogwood Local Engine کمک می‌گیره تا به هسته قوانین سندباکس، نوعی «آگاهی زمانی و بررسی سابقه رفتارها» ببخشه. با این حساب، فراخوانی هر ابزار نه‌تنها بر اساس اقدام فعلی ایجنت، بلکه با نگاه به کل کار‌هایی که تا اون لحظه انجام داده سنجیده و ارزیابی می‌شه.

برای نمونه، AWS مثال زده که می‌شه به یک ایجنت اجازه داد پیام‌های به‌روزرسانی وضعیت رو در اسلک (Slack) ارسال کنه، اما با تعیین محدودیت حداکثر ۳ بار در هر ۱۰ دقیقه، تا همکاران انسانی خودش رو با رگبار پیام اسپم نکنه! سخنگوی AWS همچنین توضیح داده که با Box می‌شه مشخص کرد ایجنت چه زمانی حق داره دستور Git push بزنه، یا سقفی برای فراخوانی APIها تعیین کرد تا از صدور صورت‌حساب‌های نجومی و کمرشکن جلوگیری بشه.

علاوه بر این، Strands Box شامل دو ابزار کاربردی Strands Shell و Monty برای پایتون هم هست؛ این ابزار‌ها دستورات ترمینال شل و کدهای پایتون رو مستقیماً به موتور قوانین Dogwood و تاریخچه وقایع متصل می‌کنن. این رویکرد باعث می‌شه رفتارهای ایجنت برای توسعه‌دهنده‌ها کاملاً شفاف باشه و سیاست‌های امنیتی دقیقاً بر اساس قصد و نیت واقعی ایجنت اعمال بشن.

مارک بروکر (Marc Brooker)، معاون ارشد و از مهندسان برجسته AWS که از خالقان Dogwood و Strands Box به شمار می‌ره، در گفت‌وگویی توضیح داده که این مفسرها نقشی کلیدی در فهم‌پذیر کردن رفتار ایجنت‌ها ایفا می‌کنن و به برنامه‌نویس‌ها اجازه می‌دن قوانین بازدارنده بسیار دقیق‌تری بنویسن.

بروکر در توضیحات خود تأکید کرده: «مفسرهای شل و پایتون در Box، کار‌هایی مثل حذف فایل‌ها رو زیر ذره‌بین می‌ذارن، در حالی که گیت‌وی‌های سیستم، درخواست‌های API و فراخوانی ابزار‌ها رو رصد می‌کنن. بنابراین قوانین می‌تونن هم اقدام لحظه‌ای ایجنت و هم کار‌های قبلی اون رو مبنای تصمیم‌گیری قرار بدن.»

به گفته بروکر، این قوانین کاملاً مستقل و قطعی اعمال می‌شن و سیستم به هیچ وجه به خود ایجنت‌ها برای پیروی از دستورات اعتماد نمی‌کنه؛ رویکردی که در عمل مانع از این می‌شه که ایجنت‌ها خودسرانه خواسته‌ها و چارچوب‌های تیم توسعه رو زیر پا بذارن.

بروکر درباره انگیزه آمازون از توسعه ابزار‌هایی مثل Dogwood و Strands Box گفت که هدف اصلی، پیدا کردن تعادلی منطقی میان مرزهای دسترسی و سیاست‌های حفاظتیه تا از فجایع ایجنت‌های هوش مصنوعی که این روز‌ها زیاد در اخبار دیده می‌شن، جلوگیری بشه.

بروکر توضیح داد: «سیستم Box قوانینی رو که توسعه‌دهنده‌ها تنظیم کردن، به‌صورت قطعی و غیرقابل دور زدن اجرا می‌کنه و ایجنت هم نمی‌تونه با حرافی یا کلک‌های زبانی اون‌ها رو دور بزنه.» البته او تأکید کرد که حتی با دقیق‌ترین دسترسی‌ها هم ممکنه اقدام یک ایجنت خروجی ناخواسته‌ای به همراه داشته باشه.

او در ادامه خاطرنشان کرد: «در نهایت این خود توسعه‌دهنده‌ها هستن که باید تصمیم بگیرن چه دسترسی‌هایی داده بشه و کجاها حتماً نظارت انسانی وجود داشته باشه.» به بیان ساده، نباید اجازه بدید حالت YOLO بیش از حد خودمختار بشه؛ نظارت انسانی همچنان یک ضرورت بی چون‌وچراست.

بروکر در پایان اضافه کرد: «امنیت ایجنت‌ها مبحثیه که کل صنعت هوش مصنوعی هنوز راه درازی در اون پیش‌رو داره و ما متعهدیم هم در بستر ابری AWS و هم در جامعه متن‌باز، سرمایه‌گذاری روی این بخش رو با قدرت ادامه بدیم.»

جعبه شنی Strands Box با هر نوع ایجنت یا فریم‌ورکی که قصد مهار کردنش رو داشته باشید سازگاره و همین حالا از طریق مخزن رسمی در گیت‌هاب در دسترسه؛ هرچند در حال حاضر فقط از سیستم‌عامل macOS پشتیبانی می‌کنه. پشتیبانی از لینوکس در دست توسعه است و نسخه ویندوز هم در نقشه راه تیم قرار داره، ولی تاریخ عرضه مشخصی براشون اعلام نشده است. همچنین پشتیبانی از پلتفرم‌هایی مثل AgentCore، ECS و Kubernetes نیز در برنامه‌های آینده تیم جا گرفته است.