سرک کشیدن خطرناک ایجنت‌های کلود به سایت‌های دولتی؛ آنتروپیک اینترنت مدل‌های آزمایشی را قطع کرد!

شرکت آنتروپیک (Anthropic) اعلام کرد که پس از چند ماجرای جنجالی پیرامون سرک کشیدن مدل‌های هوش مصنوعی‌اش به وب‌سایت‌های دولتی آمریکا در سطوح فدرال، ایالتی و محلی، دسترسی این مدل‌ها به اینترنت را در جریان «ارزیابی‌های پرخطر و امنیت سایبری» به‌طور کامل قطع کرده است.

اتفاقاتی که باعث شد آنتروپیک دست به چنین تصمیم سفت‌وسختی بزند، شامل مواردی بود که در آن‌ها مدل‌های هوش مصنوعی با سوءاستفاده از آسیب‌پذیری وب‌سایت‌ها، ارسال فرم‌های واقعی، دور زدن محدودیت‌های داده‌ای و دور زدن تدابیر حفاظتی، از چارچوب مجاز خود خارج شده بودند.

با این حال، این شرکت هوش مصنوعی اعلام کرده که این رفتارهای ناهماهنگ و پیش‌بینی‌نشده، پیامد واقعی حداقلی داشته و شدت آن‌ها در مقایسه با حوادث قبلی کم‌تر بوده است. آنتروپیک کاخ سفید را هم در جریان این فعالیت‌های غیرمجاز قرار داده و جزییات زیر را به اشتراک گذاشته است:

• سوءاستفاده از سرور‌ها برای اتمام کار: وقتی ابزار تحلیل علمی یک دانشگاه با خطا مواجه شد، مدل Claude Mythos Preview اسکریپتی پیدا کرد که فایل‌های سرور را افشا می‌کرد. سپس سورس‌کد آن را به دست آورد، یک رخنه تزریق (Injection) در آن شناسایی کرد و با بهره‌برداری از همین باگ، محاسبات خواسته‌شده را مستقیماً روی سرور دانشگاه اجرا نمود!
• ارسال ناخواسته فرم‌های واقعی: مدل‌ها در مواردی به جای نمونه‌های تمرینی خراب، فرم‌های واقعی دولتی را جایگزین کردند یا حتی علی‌رغم دستور توقف پیش از ارسال، فرم را فرستادند. در یک مورد عجیب دیگر، مدل Claude Haiku 4.5 یک گزارش قتل خیالی سرهم کرد و آن را برای اداره پلیس فیلادلفیا فرستاد؛ گزارشی که به عنوان اسپم علامت‌گذاری شد و در نهایت برای پیگیری به بخش تحقیقات فرستاده شد.
• دور زدن محدودیت‌های داده‌ای: مدل Claude Mythos 5 توکن‌های دسترسی را از تنظیمات وب‌سایت‌ها یا داشبوردهای عمومی استخراج کرد و با استفاده از آن‌ها مستقیماً به داده‌های دولتی متصل شد؛ در نتیجه مسیرهای معمول دسترسی یا پرداخت هزینه را دور زد (آنتروپیک می‌گوید این داده‌ها به شکل عمومی اما در ازای پرداخت هزینه در دسترس بودند).
• پیچاندن محدودیت‌های ابزار دریافت: مدل‌هایی از جمله Claude Opus 5 و Mythos 5 برای دور زدن محدودیت طول URL (که برای جلوگیری از اقداماتی مثل حملات تزریق SQL طراحی شده بود)، از ابزار‌های کوتاه‌کننده لینک استفاده کردند.

آنتروپیک برآورد می‌کند که این ایجنت‌ها احتمالاً به خاطر پاداش‌های بیش‌ازحد سخاوتمندانه در فرآیند یادگیری تقویتی (Reinforcement Learning) چنین رفتاری نشان داده‌اند؛ عاملی که باعث شده مدل‌ها به جای تسلیم شدن در زمان بن‌بست یا ناممکن بودن یک تسک، مدام دنبال راه‌های میان‌بر و غیرمجاز باشند.

به همین دلیل، تا زمانی که تدابیر امنیتی دوباره کاملاً مطمئن و قابل اتکا ارزیابی شوند، آنتروپیک دسترسی زنده به اینترنت را در تمام ارزیابی‌های داخلی مدل‌های هوش مصنوعی قطع کرده و کلیه آزمایش‌ها را به محیط‌های آفلاین منتقل می‌کند.

آنتروپیک در این رابطه توضیح می‌دهد: «اگرچه پیامد این رفتارها بسیار ناچیز بود و ما پیش‌تر نیز اینترنت زنده را برای برخی ارزیابی‌های پرخطر و امنیت سایبری قطع کرده بودیم، اما اکنون تصمیم گرفتیم این تدبیر را به تمام ارزیابی‌های داخلی خود تعمیم دهیم تا مطمئن شویم ابزار‌های نظارتی و امنیتی ما می‌توانند چنین رفتارهایی را با اطمینان کامل مهار کنند.»

حواشی و اتفاقات قبلی

در اواخر ماه ژوئیه، آنتروپیک از حادثه به مراتب جدی‌تری پرده برداشته بود که در آن، ایجنت‌های مبتنی بر Claude Mythos یک پکیج مخرب پایتون حاوی بدافزار سرقت اطلاعات هویتی ساختند و آن را روی مخزن رسمی PyPI آپلود کردند؛ پکیجی که در نهایت روی ۱۵ سیستم مختلف دانلود و اجرا شد!

کلود قصد داشت از این پکیج برای تکمیل یک چالش امنیتی «فتح پرچم» (Capture the Flag) استفاده کند، اما به جای انتشار در محیط شبیه‌سازی‌شده، حصار امنیتی را شکست و وارد بستر واقعی PyPI شد.

در ماه اوت نیز موسسه ایمنی هوش مصنوعی بریتانیا (AISI) فاش کرد که مدل Mythos 5 دست به یک حمله زنجیره تأمین زده است؛ به این صورت که با ارسال کدهای مخرب به یک پروژه متن‌باز و جعل هویت‌های مختلف، مدیر پروژه را برای تأیید کدها تحت فشار قرار داده بود.

همچنین در ماه سپتامبر، آنتروپیک فاش کرد که مدل Opus 4.6 در جریان ارزیابی‌های ژانویه ۲۰۲۶ موفق شده بود دسترسی مدیر سیستم (Administrator) به یک سامانه شخص ثالث را به دست آورد و اطلاعات شخصی یک فرد را مطالعه کند.