افسار جدید آمازون برای مهار ایجنت‌های هوش مصنوعی؛ معرفی کتابخانه متن‌باز DLE

اگر نگران این هستید که ایجنت‌های هوش مصنوعی شما از کنترل خارج شوند و بدون اجازه فایل‌ها را تغییر دهند یا داده‌ها را جابه‌جا کنند، آمازون (AWS) راهکاری تازه ارائه داده است؛ یک کتابخانه نرم‌افزاری متن‌باز که لایه‌ای جدید از کنترل و اعمال سیاست‌های امنیتی را به سیستم اضافه می‌کند.

درست همان‌طور که یک مهاربند بدون بند قلاده عملاً نمی‌تواند یک سگ بازیگوش را کنترل کند، ابزار «Dogwood Local Engine» (به‌اختصار DLE) نیز وعده داده است که به فراخوانی ابزار‌ها توسط ایجنت‌های هوش مصنوعی افسار بزند و جلوی هر اقدامی را که با شروط زمانی تعیین‌شده توسط کاربر همخوانی ندارد، در نطفه خفه کند.

ابزار DLE در قالب یک کتابخانه زبان راست (Rust) عرضه شده که می‌تواند مستقیماً داخل درگاه یا چارچوب مهار ایجنت تعبیه شود. اگر بخواهیم ماجرا را خیلی ساده در یک جمله خلاصه کنیم، این سیستم هر بار که ایجنت قصد فراخوانی یک ابزار را دارد، تنها یک پاسخ ساده صادر می‌کند: مجاز (Allow) یا غیرمجاز (Deny). البته همان‌طور که آمازون در اطلاعیه رسمی خود توضیح داده، DLE خودش وظیفه اجرای این حکم را بر عهده ندارد و این کار به عهده چارچوب خود ایجنت است؛ اما تک‌تک فراخوانی‌ها را مو‌به‌مو با سیاست‌های تعریف‌شده در زبان متن‌باز Dogwood می‌سنجد؛ زبانی حاکمیتی که آمازون در ماه اوت آن را معرفی کرده بود.

آمازون پیش‌تر هنگام رونمایی از Dogwood، این زبان و ابزار‌های مرجع آن را متن‌باز کرده و پشتیبانی از آن را به Amazon Bedrock AgentCore آورده بود. اکنون با انتشار DLE، توسعه‌دهندگان می‌توانند این موتور اعمال سیاست را به‌طور مستقیم در دل چارچوب ایجنت‌های خود تعبیه و به‌صورت محلی اجرا کنند.

یکی از برگ‌های برنده و ویژگی‌های کلیدی Dogwood و DLE، آگاهی آن‌ها از شرایط و پنجره‌های زمانی است. ابزار DLE تمام وقایع مربوط به فراخوانی ابزار‌ها توسط ایجنت را در طول زمان زیر نظر می‌گیرد و گام‌به‌گام برای آن‌ها برچسب زمانی ثبت می‌کند. این لاگ‌ها با هر رویداد بلافاصله روی دیسک ذخیره می‌شوند؛ قابلیتی حیاتی که باعث می‌شود حتی اگر کل سیستم دچار کرش شود یا ناگهان ریستارت گردد، DLE وضعیت قبلی را فراموش نکند و حافظه‌اش حفظ شود.

این فرایند ذخیره‌سازی داده‌ها دقیقاً پیش از ارزیابی سیاست‌ها صورت می‌گیرد و در پایان، موتور بر اساس قوانینی که برایش تعریف کرده‌اید حکم نهایی را برمی‌گرداند: به ایجنت اجازه بده این کار را انجام دهد، یا جلویش را بگیر!

آمازون برای ملموس‌تر شدن موضوع، مثالی از مهار ایجنت‌های کدنویسی و ارسال کدها به گیت (Git Push) زده است؛ به این صورت که می‌توانید سیاستی تعریف کنید تا ایجنت تنها زمانی اجازه ارسال کدها به مخزن را داشته باشد که آخرین تست‌های برنامه با موفقیت پاس شده باشند و از زمان پاس شدن تست‌ها هم بیش از ۱۵ دقیقه نگذشته باشد. اگر این شرط زمانی برقرار نباشد، اجازه پوش کردن بلافاصله رد می‌شود.

آمازون در توضیحات خود آورده است: «برای اعمال دقیق این احکام، چارچوب مهار ایجنت هر فراخوانی ابزار را رهگیری می‌کند، یک درخواست به موتور می‌فرستد و تنها در صورتی ابزار را اجرا می‌کند که حکم موتور مجاز باشد.» با این مکانیزم، طبیعتاً این سؤال مطرح می‌شود که اضافه شدن DLE چقدر باعث ایجاد تاخیر در گردش کار ایجنت‌ها می‌شود؟ آمازون ادعا می‌کند که این تاخیر به‌شدت ناچیز و در حد صفر است.

در آزمایش‌هایی که نشست‌های کاری ۵ دقیقه‌ای تا ۱۲ ساعته را شبیه‌سازی کرده‌اند، زمان بررسی DLE در یک پنجره زمانی ۱۵ دقیقه‌ای حتی پس از ۱۲ ساعت کار پیوسته، تنها حدود ۲۰ میکروثانیه بوده است. این زمان با گسترش پنجره زمانی به ۲۴ ساعت، نهایتاً به حدود ۶ میلی‌ثانیه رسیده که سرعتی فوق‌العاده بالا به حساب می‌آید و هیچ اختلالی در عملکرد ایجنت ایجاد نمی‌کند.

علاوه بر این، DLE به شکلی طراحی شده که با استفاده از قفل‌گذاری (Lock)، مانع از تداخل درخواست‌های هم‌زمان شود؛ یعنی در هر لحظه تنها یک درخواست ثبت می‌شود و قفل سیستم تا پایان ارزیابی سیاست باز نخواهد شد. البته هنوز در مستندات منتشرشده توضیح کاملاً شفافی درباره نحوه مدیریت بی‌نقص این حالت‌ها در سناریوهای پیچیده‌تر — مثلاً زمانی که دو درخواست هم‌زمان ارسال شوند که یکی شرط قبولی را داشته باشد و دیگری باعث خطا شود — ارائه نشده است.

با توجه به گزارش‌ها و تجربیات متعددی که نشان می‌دهد ایجنت‌های هوش مصنوعی گاه‌وبیگاه از ریل‌های ایمنی تعیین‌شده خارج می‌شوند و خط قرمزها را رد می‌کنند، میزان پایداری و تاب‌آوری ابزار‌هایی مثل DLE اهمیت دوچندانی پیدا می‌کند. خود آمازون نیز اذعان کرده که هدف اصلی از انتشار این کتابخانه متن‌باز، دقیقاً مهار همین رفتارهای غیرقابل‌پیش‌بینی بوده است.

در بیانیه معرفی DLE تأکید شده است: «اگر فراخوانی ابزار‌ها توسط ایجنت‌ها بدون نظارت به حال خود رها شود، می‌تواند عواقب جبران‌ناپذیری در پی داشته باشد. با پیشرفت ایجنت‌ها به سمت انجام کار‌های خودکار و طولانی‌مدت با ابزار‌های بیشتر، ما به حفاظ‌های امنیتی محکم‌تری برای تنظیم و نظارت بر نحوه استفاده از این ابزار‌ها نیاز داریم.»

البته شاید پیدا کردن راه فرار و دور زدن Dogwood و DLE توسط ایجنت‌های باهوش فقط مسئله زمان باشد؛ اما تا آن موقع، توسعه‌دهندگان می‌توانند این ابزار کارآمد را از طریق صفحه گیت‌هاب پروژه دریافت کرده و به کار ببندند.