رونمایی CrowdStrike از کلید قطع اضطراری برای مهار ایجنت‌های سرکش هوش مصنوعی

نکات کلیدی

• شرکت CrowdStrike قابلیت کلید قطع اضطراری را برای متوقف‌کردن و مسدودسازی ایجنت‌های داخلی ناسازگار یا سرکش معرفی کرد.
• این غول امنیت سایبری علاوه بر یکپارچگی با ابزار Claude Cowork متعلق به شرکت Anthropic، از خرید دو استارتاپ هوش مصنوعی خبر داد.
• مدیر ارشد تجاری این شرکت تأکید کرد که توانایی کنترل و خاموش‌کردن فعالیت ایجنت‌ها برای موج بعدی به‌کارگیری هوش مصنوعی در سازمان‌ها حیاتی است.

شرکت CrowdStrike بر این باور است که راهکاری مؤثر برای مهار و کنترل هوش مصنوعی سرکش در اختیار دارد.

این ارائه‌دهنده راهکارهای امنیت سایبری از یک کلید قطع اضطراری هوش مصنوعی رونمایی کرد که با هدف توانمندسازی تیم‌های امنیتی برای متوقف‌کردن ایجنت‌های هوش مصنوعی سرکش سازمانی، جلوگیری از راه‌اندازی مجدد آن‌ها و قطع دسترسی آن‌ها به شبکه داخلی شرکت‌ها طراحی شده است. این ابزار درون پلتفرم Falcon Guardian شرکت CrowdStrike تعبیه شده است؛ سامانه‌ای که با هدف تأمین امنیت ایجنت‌های هوش مصنوعی عرضه شد. شرکت CrowdStrike هم‌چنین از یکپارچه‌سازی پلتفرم خود با ابزار Claude Cowork متعلق به شرکت Anthropic خبر داد.

دنیل برنارد، مدیر ارشد تجاری شرکت CrowdStrike، در گفتگو با رسانه‌ها اعلام کرد: «داشتن توانایی کنترل، خاموش‌کردن و تصمیم‌گیری درباره رفتار این سامانه‌ها، برای فصل بعدی به‌کارگیری گسترده هوش مصنوعی در سازمان‌ها فوق‌العاده حیاتی است.»

وقوع زنجیره‌ای از رخدادهای سایبری بزرگ در ماه‌های اخیر، ضرورت ایجاد سازوکارهای توقف اضطراری را دوچندان کرده است.

نفوذ امنیتی به پلتفرم Hugging Face که توسط ایجنت‌های سرکش OpenAI سازماندهی شد، هشداری جدی برای کسب‌وکارها بود. هم‌چنین صرافی Binance چندی پیش از بزرگ‌ترین حمله سایبری ثبت‌شده در تاریخ حوزه رمزارزها پرده برداشت و هکرها اخیراً صدها یخچال و فریزر را در سوپرمارکت‌های فرانسه هدف قرار دادند.

در طول تابستان، نمایندگان کنگره آمریکا لایحه‌ای دوحزبی ارائه کردند که شرکت‌های توسعه‌دهنده هوش مصنوعی را ملزم می‌کند قابلیت‌های توقف اضطراری را مستقیماً درون مدل‌های خود تعبیه کنند.

با این حال، منتقدان بر این باورند که پیاده‌سازی یک دکمه توقف اضطراری روی سیستم‌های چندگانه، مراکز داده توزیع‌شده و مدل‌های پیچیده هوش مصنوعی، بسیار دشوارتر و پیچیده‌تر از تصور است.

برنارد توضیح داد که این کلید قطع اضطراری در سیستم‌های مجهز به پلتفرم Falcon درست مانند یک کلید برق عمل می‌کند. او افزود این سامانه می‌تواند فعالیت ایجنت‌های داخلی را شناسایی کند، اما همچنان برای تشخیص بی‌خطر یا مخرب‌بودن رفتار آن‌ها به نظارت و تصمیم یک کارشناس انسانی وابسته است.

برنارد در این باره گفت: «وقتی فرآیندی را از ریشه متوقف می‌کنید، و ما چنین سطح دسترسی عمیقی در لایه ریشه سیستم داریم، همه‌چیز ماهیتی صفر و یکی پیدا می‌کند؛ یا فرآیند هوش مصنوعی و ایجنت مربوطه را به‌طور کامل متوقف می‌کنید، یا به آن اجازه ادامه فعالیت می‌دهید و گزارش عملکردش را ثبت می‌کنید.»

در عصر هوش مصنوعی، کسب‌وکارها با سرعتی سرسام‌آور به سمت استفاده از ابزارهای خودمختار حرکت می‌کنند، اما اغلب این گذار بدون در نظر گرفتن تدابیر حفاظتی و ایمنی لازم رخ می‌دهد.

شرکت CrowdStrike معتقد است که ابزار جدیدش به شرکت‌ها اجازه می‌دهد رفتارهای ناهنجار و اشتباهات ایجنت‌های هوش مصنوعی را در همان لحظه مهار کنند و در عین حال، مسیر نوآوری را باز بگذارند.

این شرکت هم‌چنین برنامه‌های خود را برای تصاحب استارتاپ پایش هوش مصنوعی Fiddler AI و شرکت ارزیابی امنیتی Dreadnode اعلام کرد.

شرکت CrowdStrike و رقبای آن برای پاسخ به تقاضای فزاینده بازار امنیت، به‌سرعت در حال خرید استارتاپ‌های نوپای امنیت سایبری هستند؛ نیازی که موجی گسترده از معاملات تجاری و سرمایه‌گذاری را در این حوزه رقم زده است.