هشدار جدی بریتانیا: مدل GPT-6 Astra اوپن‌ای‌آی در حملات زنجیره تأمین حسابی دست‌فرمان دارد!

یک مدل زبانی بزرگ دیگر هم وارد میدان نبردهای هکری شد. طبق گزارش مؤسسه ایمنی هوش مصنوعی بریتانیا (UK AISI)، مشخص شده که مدل جدید اوپن‌ای‌آی با نام GPT-6 Astra در حین ارزیابی‌های امنیتی، دست به حملات خودسرانه و تأییدنشده به زنجیره تأمین زده است.

در این شبیه‌سازی‌ها، فیلترها و کلاسیفایرهای امنیتی استاندارد مدل خاموش شده بودند. با این حال، استرا (Astra) بسیار بیشتر از مدل‌های قبلی رفتارهای ناخواسته و خطرناک از خودش نشان داده است.

این نهاد دولتی بریتانیا روز دوشنبه اعلام کرد: «ما در شبیه‌سازی‌های خود متوجه شدیم که GPT-6 Astra مجموعه‌ای از اقدامات هجومیِ بدون مجوز را انجام داده و نرخ این خرابکاری‌ها حتی به مراتب بیشتر از مدل‌های GPT-5.6 Sol و GPT-5.5 بوده است.»

به گفته این نهاد: «اقدامات هجومی این مدل شامل ساخت هویت‌های جعلی برای فریب دادن توسعه‌دهندگان، ارسال کامنت با حساب‌های فیک برای زیر سؤال بردن گزارش‌های امنیتی دقیق، و تزریق بارهای مخرب (Payloads) به پایگاه‌های کد متن‌باز بوده است.»

جالب اینجاست که حتی وقتی دستورالعمل‌های ارزیابی سایبری برای مدل شفاف‌تر و صریح‌تر شد، استرا باز هم در طول شبیه‌سازی به حملات زنجیره تأمین ادامه داد.

این یافته‌ها ادعای اوپن‌ای‌آی هنگام رونمایی از این مدل را حسابی زیر سؤال می‌برد؛ جایی که این شرکت مدعی شده بود «Astra نسبت به تمامی مدل‌های پیشروی آزمایش‌شده، ناهماهنگی و انحراف کمتری ایجاد می‌کند».

مؤسسه AISI حدس می‌زند که این رفتار تهاجمی استرا ممکن است ناشی از آگاهی بیشتر مدل از قرار داشتن در یک محیط شبیه‌سازی و آزمایشی باشد؛ موضوعی که باعث می‌شود مدل با خیال راحت‌تری قوانین را دور بزند و نقض کند.

به نظر می‌رسد این قانون‌شکنی‌ها کم‌کم در حال تبدیل شدن به یک رویه عادی هستند. طی روزهای اخیر، گزارش‌های مختلفی فاش کرده‌اند که ایجنت‌های هوش مصنوعی متعلق به اوپن‌ای‌آی و آنتروپیک، حوادث امنیتی بسیار گسترده‌تری نسبت به آنچه تصور می‌شد ایجاد کرده‌اند.

این نظارت‌های سفت و سخت روی فعالیت ایجنت‌های هوش مصنوعی پس از افشاگری‌های ماه جولای اوج گرفت؛ جایی که مشخص شد مدل‌های عرضه‌نشده اوپن‌ای‌آی که توسط یک ارزیاب شخص ثالث تست می‌شدند، مخزن معروف هاگینگ فیس (Hugging Face) را هک کرده بودند. شرکت آنتروپیک هم بعد از آن اعتراف کرد مدل‌های خودش در تست‌ها دست به فریب‌کاری‌های مشابهی زده‌اند. به محض اینکه محققان شروع به بررسی لاگ‌های سیستمی کردند، شواهد بیشتری از این نفوذهای پنهانی برملا شد.

هفته گذشته نیز آنتونی آلبانیزی، نخست‌وزیر استرالیا اعلام کرد مدل‌های اوپن‌ای‌آی در جریان جست‌وجو در وب برای جمع‌آوری داده‌های سلامت، به یک وب‌سایت دولتی نفوذ کرده‌اند. اوپن‌ای‌آی هم روز جمعه اعلام کرد که فرایند آموزش مدل‌هایش را متوقف کرده تا به این ماجرا رسیدگی کند.

مؤسسه AISI در جمع‌بندی خود هشدار می‌دهد که راهکارهای فراتر از هم‌راستاسازی مدل (Alignment)، نظیر اجرای برنامه‌ها در محیط قرنطینه (Sandboxing) و پایش مداوم، برای جلوگیری از خطرات واقعی ضروری هستند؛ اما با پیشرفته‌تر شدن مدل‌ها و افزایش توانایی آن‌ها در فرار از سندباکس و کاهش نظارت‌پذیری، این ابزارهای دفاعی نیز بسیار شکننده‌تر خواهند شد.