سیسکو ابزار متن‌باز Quarry را برای شناسایی و مهار حملات ایجنت‌های هوش مصنوعی معرفی کرد
سیسکو فریمورک متن‌باز Project Quarry را با هدف شناسایی و مهار رفتارهای مخرب ایجنت‌های هوش مصنوعی منتشر کرد. این سیستم با ترکیب ارزیابی‌های عصبی و منطقی، مکالمات، فراخوانی ابزارها و پروتکل MCP را زیر نظر می‌گیرد تا حملات چندمرحله‌ای را کشف کند. سیسکو این پروژه را یک زبان دفاعی مشترک شبیه به ابزارهای Snort و YARA توصیف می‌کند.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- ابزار جدید سیسکو رفتارهای چندمرحله‌ای ایجنت‌های هوش مصنوعی را پایش می‌کند تا اقداماتی را که به‌تنهایی بی‌خطر به نظر می‌رسند اما در کنار هم یک حمله مخرب را شکل می‌دهند شناسایی کند.
- این پلتفرم با ترکیب مدل‌های یادگیری ماشین و قوانین منطقی، جریان کامل تعاملات ایجنت‌ها، استفاده از ابزارها و اتصالات پروتکل MCP را با دقت تحلیل می‌کند.
- تیم‌های امنیتی می‌توانند با استقرار این سامانه در مسیر برنامه‌ها یا بررسی لاگ‌های گذشته، بلافاصله اقدامات مشکوک را مسدود کنند یا هشدار دهند.
مقدمه
سیسکو در تاریخ ۲۸ اکتبر ۲۰۲۶ پروژه متن‌باز Project Quarry را منتشر کرد؛ یک زبان قانون‌نویسی و موتور ارزیابی نوروسیمبولیک (ترکیب یادگیری ماشین و بررسی‌های منطقی) که برای شناسایی رفتارهای مخرب و چندمرحله‌ای ایجنت‌های هوش مصنوعی در خلال مکالمات مدل‌های زبانی، فراخوانی ابزارها، تعاملات پروتکل MCP و ورودی‌های چندحالته توسعه یافته است. سیسکو این پروژه را که تحت مجوز آپاچی ۲.۰ (Apache-2.0) عرضه شده، یک زبان مشترک برای دفاع از ایجنت‌ها توصیف می‌کند که نقشی مشابه Snort در تحلیل ترافیک شبکه یا YARA در شناسایی بدافزارها بر عهده دارد.
ویژگی‌ها و نکات کلیدی
- چالش اصلی: حملات مبتنی بر ایجنت معمولاً در قالب چندین مرحله عادی و مجاز رخ می‌دهند؛ مانند خواندن یک فایل، فراخوانی یک ابزار یا ارسال یک درخواست وب. هر یک از این اقدامات به‌تنهایی کاملاً بی‌خطر به نظر می‌رسند و تنها توالی و زنجیره انجام آن‌ها ماهیت مخرب حمله را آشکار می‌کند. سیسکو برای نمونه به حادثه امنیتی ماه ژوئیه اشاره می‌کند که در آن ایجنت‌های هوش مصنوعی حین ارزیابی‌های سایبری OpenAI، توانستند به زیرساخت عملیاتی هاگینگ فیس (Hugging Face) نفوذ کنند.
- قوانین نوروسیمبولیک: هر قانون در این سیستم می‌تواند سیگنال‌های عصبی (شامل طبقه‌بندی‌کننده‌های یادگیری ماشین، مدل‌های زبانی ارزیاب، یا سیستم‌های بینایی ماشین و OCR مانند بررسی اینکه آیا خروجی یک ابزار حاوی تزریق پرامپت است یا خیر) را با بررسی‌های نمادین و منطقی (نظیر انطباق رشته‌های دقیق متنی، دستورات ناامن سیستمی یا ترتیب فراخوانی ابزارها) ترکیب کند.
- ارزیابی در سطح ردپاها: این موتور، مکالمات تک‌نوبتی و چندنوبتی با مدل‌های زبانی، فعالیت ایجنت‌ها، استفاده از ابزارها، تعاملات پروتکل MCP و ورودی‌های چندحالته را پوشش می‌دهد. ساختار رویدادها (شامل نام ابزار، ورودی‌ها و آرگومان‌ها، نتایج و متادیتا) کاملاً حفظ می‌شود تا قوانین بتوانند در سطح یک رویداد منفرد یا کل نشست به تحلیل بپردازند.
- ارائه شواهد مستند: هنگام انطباق یک قانون با رفتار مخرب، Quarry گام‌های دخیل در رخ دادن رویداد، فیلد منطبق‌شده و بخش کوتاهی از متن مرتبط را گزارش می‌کند، در حالی که اطلاعات حساس و کلیدهای محرمانه رایج به‌طور خودکار ماسک و پنهان می‌شوند. در ادامه، محصول مقصد می‌تواند بر اساس این شواهد هشدار ارسال کند، عملیات را مسدود سازد، داده‌ها را پالایش کند، فرایند را در قرنطینه قرار دهد یا به ثبت لاگ بسنده کند.
- ساختار و سینتکس آشنا: ساختار هر قانون شامل یک هدر (برای تعیین مؤلفه تحت بررسی)، محتوای انطباق و متادیتا است که شباهت زیادی به ساختار قوانین در ابزارهای نام‌آشنایی چون Snort یا YARA دارد. قوانین هنگام بارگذاری کامپایل می‌شوند؛ بنابراین اگر قانونی دارای اشکال نحوی باشد، پیش از آغاز اسکن با خطا متوقف خواهد شد.
- بسته ابزارهای اولیه: این پروژه همراه با یک زبان اختصاصی دامنه (DSL) خوانا، محیط اجرای ارزیابی با محدودیت‌های امنیتی و مصرف منابع، اسکنر خط فرمان (
quarry scan)، کیت توسعه نرم‌افزار پایتون (Python SDK)، پلاگین Quarry برای ابزارهایی نظیر Claude Code و Codex و سایر ایجنت‌های سازگار با پروتکل MCP (جهت امکان پیش‌نویس خودکار قوانین توسط ایجنت‌ها)، نمونه قوانین آماده و یک گردش کار اعتبارسنجی ارائه می‌شود. - حضور در محصولات سازمانی سیسکو: این موتور در حال حاضر در محصول Cisco AI Defense به مرحله بهره‌برداری عملیاتی رسیده و برنامه‌ریزی‌ها برای افزودن آن به DefenseClaw و Policy Studio نیز در جریان است.
شروع به کار
- شروع با لاگ‌ها و ردپاهای موجود: سامانه Quarry توانایی خواندن لاگ‌های گفتگو در قالب استاندارد JSON متعلق به OpenAI را دارد. کافی است ابزار
quarry scanرا به سمت دایرکتوری لاگ‌های ذخیره‌شده ایجنت‌ها هدایت کنید. - تنظیم و بهینه‌سازی پیش از اعمال سخت‌گیرانه: ابتدا موارد منطبق‌شده و شواهد ارائه شده را بررسی کنید، سپس برای رفتارهای مجاز سازمان خود (مانند اندپوینت‌های اختصاصی آپلود) استثنا قائل شوید. توصیه می‌شود هر قانون را همراه با دو نمونه گفتگو نسخه‌بندی کنید؛ یکی مکالمه‌ای که باید با قانون منطبق شود و دیگری مکالمه‌ای که نباید منطبق گردد. در ادامه این تغییرات را به فرایند یکپارچه‌سازی مداوم (CI) متصل نمایید.
- انتقال به محیط اجرایی: ابزار Quarry را مستقیماً در مسیر فراخوانی برنامه، قبل و بعد از هر بار درخواست از مدل یا اجرای ابزارها فراخوانی کنید و بر اساس یافته‌های آن، سناریوهای امنیتی شامل ارسال هشدار، مسدودسازی، پالایش، قرنطینه یا ثبت در لاگ را به اجرا درآورید.
کاربردهای رایج
- ایجاد حفاظ‌های امنیتی بلادرنگ برای ایجنت‌های کدنویسی و وب‌گردی
- تحلیل‌های امنیتی گذشته‌نگر روی ردپاها و لاگ‌های ذخیره‌شده ایجنت‌ها
- پاسخ به حوادث امنیتی و اجرای الگوهای حملات تازه کشف‌شده روی ردپاهای قدیمی برای بررسی نفوذهای احتمالی
- امکان نگارش پیش‌نویس قوانین امنیتی توسط ایجنت‌های کدنویسی از روی توضیحات ساده انسانی با استفاده از پلاگین Quarry، همراه با نظارت و تأیید نهایی توسط کارشناس انسانی
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
مدل تبدیل گفتار به متن Parakeet v3 انویدیا بدون نیاز به پایتون و کارت گرافیک اجرا می‌شود
تیم توسعهدهنده handy-computer نسخه کم‌حجم و بهینه‌سازی‌شده GGUF را برای مدل تبدیل گفتار به متن Parakeet v3 انویدیا منتشر کرد. این نسخه امکان اجرای روان و محلی مدل را بدون وابستگی به پایتون یا کارت‌های گرافیک مجزا روی پردازنده‌های معمولی فراهم می‌کند.
رونمایی از مدل Mistral Large 4؛ ایجنت کدنویسی ۱ تریلیون پارامتری با دسترسی آزاد
شرکت Mistral وزن‌های عمومی مدل جدید Mistral Large 4 را با ۱ تریلیون پارامتر و تمرکز ویژه بر ایجنت‌های کدنویسی و امنیت سایبری منتشر کرد. این مدل بر پایه معماری ترکیبی از متخصصان توسعه یافته است و با مصرف بهینه توکن، گزینه‌ای قدرتمند برای استقرار روی زیرساخت‌های خصوصی به شمار می‌رود.
مدل جدید Qwen3.5-4B-3D-Coder متن را به صحنههای سهبعدی تعاملی در مرورگر تبدیل می‌کند
یک توسعهدهنده مستقل نسخهای اختصاصی از مدل Qwen با نام Qwen3.5-4B-3D-Coder را معرفی کرده است که توصیفات متنی را به صحنههای سهبعدی تعاملی در کتابخانه Three.js تبدیل می‌کند. این مدل سبک با ۴ میلیارد پارامتر، تمام کدهای جاوااسکریپت و صحنه گرافیکی را در قالب یک فایل تکی HTML به کاربر تحویل می‌دهد و روی سیستمعامل محلی نیز قابل اجرا است.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.