دسترسی عامل هوش مصنوعی Claude به سیستم‌های امنیتی پنتاگون؛ خطای پرریسک پیمانکار وزارت دفاع آمریکا

منابع آگاه فاش کرده‌اند که عامل هوش مصنوعی شخصی یکی از کارکنان شرکت Accenture به مدت دو ماه در شبکه وزارت دفاع آمریکا (پنتاگون) فعال بوده است، پیش از آنکه مسئولان متوجه حضور آن شوند و این رخنه امنیتی را مسدود کنند.

اوایل سال جاری میلادی، یکی از پیمانکاران با متصل کردن سامانه متمرکز و امنی که چندین نهاد اطلاعاتی از آن استفاده می‌کنند به حساب شخصی خود در ابزار Claude Code (عامل هوش مصنوعی کدنویسی شرکت Anthropic)، حادثه‌ای امنیتی در وزارت دفاع آمریکا رقم زد. به نظر می‌رسد عاملی که توسط این پیمانکار شرکت مشاوره بین‌المللی Accenture به کار گرفته شده بود، اطلاعات حساسی درباره سامانه وزارت دفاع از جمله مدارک ورود و دسترسی را به وب‌سایتی شخص ثالث با درجه ریسک امنیتی بالا ارسال کرده است.

سامانه متمرکز یادشده حاوی اطلاعات کنترل‌شده طبقه‌بندی‌نشده (CUI) است؛ داده‌هایی که حساس تلقی می‌شوند و انتشار عمومی آن‌ها بدون بازبینی دقیق ممنوع است. این رده از اطلاعات می‌تواند شامل داده‌های مربوط به زیرساخت‌های حیاتی، پیشرانه زیردریایی‌های هسته‌ای و نقاط آسیب‌پذیر در برابر حملات تروریستی شیمیایی و بیولوژیکی باشد. به‌علاوه، کارشناسان امنیتی می‌گویند دسترسی به این سامانه می‌تواند زمینه را برای نفوذ به سامانه‌های بسیار حساس‌تر دیگر نیز فراهم کند.

یکی از منابع مطلع از این حادثه که به‌دلیل نداشتن مجوز مصاحبه خواست نامش فاش نشود، می‌گوید: «این اتفاق تمام داده‌های موجود در سامانه را در معرض خطر جدی قرار می‌دهد.» به گفته او، اگر نرم‌افزار شخص ثالث هک شده باشد، «ممکن است فردی در بیرون وجود داشته باشد که بتواند بدون آگاهی دیگران به محیطی کاملاً امن نفوذ کند. این رویداد به‌طور قطع تهدیدی علیه امنیت ملی است و می‌تواند خسارت‌های جبران‌ناپذیری به بار آورد.»

سخنگوی وزارت دفاع آمریکا در رابطه با این موضوع اعلام کرد که این وزارتخانه درباره وضعیت شبکه‌ها یا سامانه‌های خود اظهار نظر نمی‌کند.

سخنگوی شرکت Accenture در این باره اظهار داشت: «ما تمامی نگرانی‌ها را جدی می‌گیریم. این ادعاها به‌طور کامل و مستقل مورد بررسی قرار گرفت و بی‌اساس بودن آن‌ها ثابت شد. ما کاملاً به تعهدات قانونی و قراردادی خود پایبند بوده‌ایم.» با این حال، شرکت Accenture در پاسخ به پیگیری‌های بیشتر توضیحی درباره اینکه چه نهادی این تحقیقات را انجام داده ارائه نکرد و وقوع رویدادی با این ویژگی‌ها را نیز تکذیب ننمود.

بر اساس گزارش‌ها، کارمند شرکت Accenture یک محیط عملیاتی امن را به حساب شخصی خود در مدل Claude متصل کرده بود تا این عامل هوش مصنوعی بتواند کدها را بنویسد و مستقر کند. این در حالی است که استفاده از Claude در حال حاضر برای کارکنان وزارت دفاع ممنوع است. (شرکت Anthropic نیز در این خصوص به سیاست‌های استفاده از خدمات خود اشاره کرد که در آن صراحتاً به کاربران تذکر داده شده از محصولاتش برای «اختلال در عملکرد پایگاه‌های نظامی و زیرساخت‌های وابسته» یا «دور زدن کنترل‌های امنیتی مانند سیستم‌های احراز هویت، ابزارهای حفاظت از نقاط پایانی و سامانه‌های نظارتی بدون مجوز» استفاده نکنند.)

عامل هوش مصنوعی این کارمند به مدت دو ماه در شبکه وزارت دفاع فعال بود تا اینکه در نهایت شناسایی شد و امکان ترمیم آسیب‌پذیری فراهم آمد. منابع مطلع گزارش می‌دهند که با وجود خطرات امنیتی ناشی از این عامل کدنویسی، کارکنان شرکت Accenture با این رخداد به‌عنوان موضوعی اضطراری برخورد نکردند. کارمندان وزارت دفاع و پیمانکاران فدرال موظف هستند هرگونه رخداد امنیت سایبری را ظرف مدت ۷۲ ساعت پس از کشف گزارش کنند، اما گزارش‌ها حاکی از آن است که Accenture در ابتدا این رخنه را اصلاً به دولت گزارش نداده بود.

این کارمند با اشاره به تنش‌های سایبری جاری و تلاش‌ها برای نفوذ به چندین نهاد فدرال و بخش‌هایی از زیرساخت‌های ایالات متحده می‌گوید: «اکنون بدترین زمان ممکن برای نشان دادن چنین رفتار سهل‌انگارانه‌ای است.»

شرکت Accenture در حال حاضر قراردادهایی به ارزش بیش از ۳٫۵ میلیارد دلار با دولت فدرال دارد که نزدیک به ۶۰۵ میلیون دلار از آن مربوط به وزارت دفاع است. این شرکت هم‌چنین با سازمان‌های فدرال دیگری مانند وزارت آموزش، اداره خدمات عمومی و وزارت انرژی قرارداد دارد. اوایل ماه جاری، اداره تحقیقات فدرال (FBI) دریافت که یکی از پیمانکاران شرکت Accenture نتوانسته آسیب‌پذیری امنیتی را برطرف کند و همین مسئله منجر به دسترسی گروه هکری ShinyHunters به اطلاعات هزاران نفر از کارکنان این سازمان شد؛ موضوعی که در نهایت به اخراج آن پیمانکار توسط FBI انجامید.

مت ترینر، بنیان‌گذار شرکت مشاوره فناوری Hunter Strategy در واشنگتن، می‌گوید این موضوع نمونه‌ای بارز از تضاد منافع و فشارهای متناقضی است که پیمانکاران دولتی با آن دست‌وپنجه نرم می‌کنند. او توضیح می‌دهد: «سازمان‌ها اغلب به خاطر گزارش دادن چنین حوادثی مجازات می‌شوند، هرچند که گزارش آن‌ها از نظر قانونی و حرفه‌ای اقدامی کاملاً درست است.» به گفته او، در بسیاری از مواقع ممکن است یک شرکت با اعتراف به وقوع رخنه امنیتی قراردادهای دولتی خود را از دست بدهد، هرچند رخدادی در این مقیاس قطعاً از مواردی است که باید فوراً گزارش داده شود.

ترینر هم‌چنین اشاره می‌کند که فشار فزاینده بر پیمانکاران برای تحویل سریع‌تر و ارزان‌تر پروژه‌ها، با اولویت‌بخشی به ایمنی و امنیت در تضاد است. او می‌گوید: «متأسفانه همه در سیستمی فعالیت می‌کنند که در آن قوانین و انگیزه‌ها با هم در تضاد هستند. این چالش حتی قبل از پیدایش هوش مصنوعی هم وجود داشت، اما اکنون هوش مصنوعی همان معضل را با سرعتی به‌مراتب بیشتر پیش روی ما قرار داده است.»

محیط برنامه‌نویسی که پیمانکار شرکت Accenture به آن دسترسی داشته، روی شبکه NIPRNet اجرا می‌شود؛ شبکه‌ای متعلق به وزارت دفاع آمریکا که برای تبادل اطلاعات طبقه‌بندی‌نشده به کار می‌رود. هرچند این شبکه به اینترنت متصل است و پیمانکاران و کارکنان می‌توانند از طریق آن به ایمیل‌ها و مرورگرهای وب دسترسی داشته باشند، اما تحت تدابیر امنیتی بسیار سنگینی محافظت می‌شود.

به گفته منابع مطلع، این پیمانکار برای خودکارسازی فرآیند کدنویسی و راه‌اندازی سرورهای ابری، اطلاعات کاربری و دسترسی خود را در اختیار عامل هوش مصنوعی Claude قرار داده بود. این کار به عامل هوشمند دسترسی مدیریتی می‌داد و به آن اجازه می‌داد سازوکارهای امنیتی فرآیند ورود عادی را دور بزند. این عامل هوش مصنوعی نه تنها کدها را می‌نوشت، بلکه آن‌ها را از جانب کارمند در سامانه ذخیره و ثبت (Commit) می‌کرد و برای انجام این کارها ناچار بود به اینترنت متصل شود. در این فرآیند، عامل مذکور نام کاربری، گذرواژه‌ها و نقشه‌ای جامع از شبکه NIPRNet را به یک وب‌سایت شخص ثالث ارسال کرده است.

نام این وب‌سایت شخص ثالث برای جلوگیری از ایجاد آسیب‌پذیری‌های بیشتر فاش نشده است، اما مؤسسه ملی استانداردها و فناوری آمریکا (NIST) پیش از این، آن را به‌عنوان سامانه‌ای پرریسک شناسایی کرده بود؛ چراکه آسیب‌پذیری خاصی در آن وجود دارد که به هکرها امکان می‌دهد با تزریق دستورات مخرب به عامل‌های کدنویسی هوش مصنوعی، اطلاعات کاربری و اعتبارسنجی را به سرقت ببرند.

سامانه‌ای که عامل هوش مصنوعی به آن دسترسی پیدا کرده بود حاوی اطلاعات حساس CUI بود. این منبع آگاه تأکید می‌کند: «قرار نیست اطلاعات یک محیط CUI به هیچ وجه از آن زیرساخت خارج شود. اکنون هیچ اطلاعات روشنی در دست نیست که پس از ارسال مدارک ورود و داده‌ها به آن سرویس چه بر سر آن‌ها آمده و آیا این داده‌ها در آنجا ذخیره شده‌اند یا خیر.»

بسته به سازمان مربوطه و حیطه کاری آن، اطلاعات CUI می‌تواند از داده‌های شناسایی هویتی تا اسرار تجاری و اطلاعات قراردادی متغیر باشد. بر اساس وب‌سایت وزارت دفاع آمریکا، این داده‌ها می‌تواند شامل مواردی مانند «حفاظت و ایمن‌سازی مواد منفجره، مواد شیمیایی خطرناک یا خطوط لوله»، مستندات مربوط به طراحی «تجهیزات یا فناوری‌های نظامی و فضایی» و «موقعیت دقیق و مقادیر مواد رادیواکتیو» باشد.

صرف‌نظر از خود داده‌ها، داشتن نقشه‌ای از ساختار شبکه می‌تواند برای مهاجمان ارزش فوق‌العاده‌ای داشته باشد. ترینر در این باره می‌گوید: «زمانی که یک مهاجم بفهمد اجزای مختلف چگونه به یکدیگر متصل شده‌اند، حتی اگر آن اجزا اطلاعاتی عمومی باشند، نحوه چیدمان و پیوند دادن آن‌ها اطلاعاتی بسیار حساس است که می‌تواند به داده‌های عملیاتی و راهبردی تبدیل شود.»

به گفته او، نقشه شبکه شاید به‌خودی خود باعث نفوذ هکر نشود، اما اگر نفوذی صورت گیرد، به مهاجم کمک می‌کند با سرعت بسیار بالاتری حرکت کند و «بفهمد باارزش‌ترین دارایی‌ها و اطلاعات کلیدی دقیقاً در کجا قرار دارند.»

جیک ویلیامز، متخصص سابق نفوذ در آژانس امنیت ملی آمریکا (NSA) و مدرس مؤسسه مشاوره امنیتی IANS، می‌گوید فعالیت و اجرای کد توسط یک عامل هوش مصنوعی در شبکه NIPRNet «مشکلی بسیار بزرگ با پیامدهای سنگین برای امنیت ملی» ایجاد می‌کند.

ویلیامز خاطرنشان می‌کند هرچند ممکن است بخش‌های منفرد داده‌ها در دسته اطلاعات غیرمحرمانه حساس قرار گیرند، اما «وقتی این اطلاعات تجمیع می‌شوند، ماهیت طبقه‌بندی‌شده و محرمانه پیدا می‌کنند.» برای نمونه، موقعیت مکانی برخی مواد خطرناک ممکن است داده CUI باشد و اطلاعات مربوط به آسیب‌پذیری ساختمانی که این مواد در آن نگهداری می‌شوند نیز داده حساس دیگری باشد؛ اما ترکیب این دو می‌تواند اطلاعاتی را افشا کند که کاملاً محرمانه محسوب می‌شوند.

اما این تنها راهی نیست که داده‌های محرمانه را با خطر مواجه می‌کند. ابزارها و کدهای نرم‌افزاری معمولاً پیش از استقرار در سامانه‌های حساس‌تر، ابتدا در شبکه NIPRNet آزمایش می‌شوند؛ سامانه‌هایی مانند شبکه SIPRNet (شبکه ایمن ارتش برای داده‌های محرمانه) و سامانه اینترانت JWICS (ویژه اطلاعات به‌کلی سری). هر دوی این شبکه‌ها به‌صورت فیزیکی ایزوله (Air-gapped) هستند، به این معنی که هیچ اتصالی به شبکه‌های خارجی ندارند و نفوذ از راه دور به آن‌ها برای هکرها بی‌نهایت دشوار است.

با این حال، به‌واسطه درز اطلاعات ورود توسط عامل هوش مصنوعی، هکر می‌تواند به شبکه NIPRNet دسترسی پیدا کرده و یک در پشتی (Backdoor) یا کدهای مخرب را به درون ابزارها و سیستم‌ها تزریق کند. در صورت نبود نظارت و بازبینی دقیق، این کدهای آلوده ممکن است در نهایت به سامانه‌های ایزوله و به‌کلی سری منتقل و مستقر شوند.

ویلیامز می‌گوید: «این کد می‌تواند در شبکه NIPR کاملاً عادی کار کند، اما در شبکه محرمانه SIPR دست به اقدامات مخرب پنهانی بزند؛ چنین احتمالی کاملاً وجود دارد.» او می‌افزاید خارج کردن داده‌ها از این شبکه‌ها بسیار دشوار است، اما کدهای مخرب می‌توانند برای حمله از داخل به سیستم‌ها استفاده شوند؛ به باور او، محتمل‌ترین سناریو ایجاد نوعی اختلال در دسترسی یا حمله منع سرویس توزیع‌شده است.

ترینر معتقد است حتی اقدامات نامحسوس‌تر، مانند کند کردن روند عملیات‌های اطلاعاتی، می‌تواند آسیب جدی به بار آورد و موجب سلب اعتماد کاربران از سامانه‌ها شود، حتی پس از آنکه مشکل برطرف شده باشد.

با رواج فزاینده رویکرد کدنویسی با پرامپت یا اصطلاحاً Vibe Coding (روشی که در آن مهندس صرفاً محصول مورد نظر را توصیف می‌کند و هوش مصنوعی کد آن را می‌نویسد)، ارزیابی و بررسی صحت کدها به چالشی بسیار بزرگ تبدیل شده است. هوش مصنوعی حجم عظیمی از کد را تولید می‌کند که بسیار فراتر از توان بازبینی نیروی انسانی است و همین امر بررسی امنیتی آن‌ها را زمان‌بر و طاقت‌فرسا می‌سازد.

ویلیامز می‌گوید: «وقتی از یک عامل هوش مصنوعی استفاده می‌کنید، هیچ اطلاعی از زنجیره تأمین یا حتی زنجیره استنتاجی که در نهایت کد را تولید کرده است ندارید. بخش زیادی از کدهایی که این مدل‌های زبانی بزرگ روی آن‌ها آموزش دیده‌اند، خود حاوی آسیب‌پذیری هستند و مدل‌ها ممکن است همان ایرادهای معماری و نقاط ضعف ساختاری را بازتولید کنند.»

البته نهادهای دولتی راهکاری برای شناسایی کدهای معیوب در NIPRNet دارند؛ ابزارهای آزمون ایستای امنیت برنامه (SAST) کدهای نرم‌افزاری را پیش از اجرا اسکن می‌کنند. اما ویلیامز یادآور می‌شود در پشتی که توسط هکر طراحی شده است، یک باگ یا آسیب‌پذیری تصادفی نیست، بنابراین به احتمال زیاد از چشم سامانه‌های SAST پنهان می‌ماند. هم‌چنین این ابزارها معمولاً نمی‌توانند مشکلات منطقی در زنجیره نحوه ایجاد کد را تشخیص دهند.

شواهدی مبنی بر اینکه هکرها توانسته باشند به سامانه‌های محرمانه یا به‌کلی سری دست پیدا کنند وجود ندارد؛ با این وجود، ویلیامز تأکید دارد که این ماجرا باید زنگ‌های خطر جدی را به صدا درآورد: «از نظر معماری، هرگونه اطلاعاتی درباره NIPRNet که در منابع عمومی و باز یافت نشود، از دید وزارت دفاع کاملاً محرمانه تلقی می‌شود، صرف‌نظر از اینکه به سامانه‌ای طبقه‌بندی‌شده متصل باشد یا خیر.»

این نخستین بار نیست که وزارت دفاع آمریکا به‌دلیل چالش‌های مرتبط با فناوری و هوش مصنوعی در معرض آسیب‌پذیری قرار می‌گیرد. سال گذشته، نشریه ProPublica افشا کرد که مایکروسافت در پروژه‌های فدرال خود از روشی موسوم به «اسکورت دیجیتال» استفاده می‌کرده است؛ فرآیندی که در آن کارکنان دارای صلاحیت امنیتی در آمریکا بر کدهای نوشته‌شده توسط نیروهای دورکار در چین نظارت می‌کردند. کارشناسان در گفتگو با ProPublica تأکید کردند که این رویه ریسک امنیتی بالایی داشت، زیرا کارکنان آمریکایی غالباً قادر به ارزیابی دقیق تمام کدهای تولیدشده نبودند و همین امر زمینه را برای نفوذ ناخواسته کدهای مخرب به سیستم‌های دولتی فراهم می‌کرد.