کدهای تولیدشده با هوش مصنوعی همچنان در آزمون‌های امنیتی رد می‌شوند؛ پیشتازی Claude و GPT-6 در رتبه‌بندی جدید

• امنیت کدهای تولیدشده توسط هوش مصنوعی پس از یک سال بهبود یافته و نرخ آسیب‌پذیری‌ها از ۴۴ درصد به ۳۸ درصد کاهش یافته است.
• مدل‌های برتر در مهار باگ‌های رایجی مانند حملات تزریق اسکریپت (XSS) بهتر عمل کرده‌اند، اما همچنان در استدلال‌های پیچیده امنیتی با چالش روبه‌رو هستند.
• پژوهشگران تأکید می‌کنند که کدهای تولیدشده با هوش مصنوعی پیش از استقرار در محیط واقعی، همچنان به آزمون‌ها و اعتبارسنجی امنیتی مستقل نیاز دارند.

کدهای برنامه‌نویسی تولیدشده توسط مدل‌های پیشروی هوش مصنوعی امن‌تر شده‌اند و در نتیجه، خطاهای آسیب‌پذیر کمتری در آن‌ها دیده می‌شود.

این یافته‌ها بر اساس گزارش جدید شرکت امنیتی Veracode مطرح شده است؛ پژوهشی که نشان می‌دهد پس از یک سال سکون، نخستین پیشرفت محسوس در حوزه امنیت کدهای حاصل از هوش مصنوعی رقم خورده است.

شرکت Veracode از ژوئیه ۲۰۲۵ انتشار گزارش تخصصی امنیت کدهای هوش مصنوعی مولد را کلید زد؛ گزارشی که به تحلیل دقیق آسیب‌پذیری‌ها و ریسک‌های امنیتی کدهای تولیدشده توسط مدل‌های زبانی بزرگ اختصاص دارد. از همان زمان، کارشناسان این شرکت به الگویی پایدار پی بردند: کدهای تولیدی تقریباً بدون نقص فنی اجرا می‌شدند، اما ساختار امنیتی آن‌ها کاستی‌های جدی و نگران‌کننده‌ای داشت.

آیا رفع باگ‌های XSS دستاورد بزرگی به‌شمار می‌رود؟

کریس وایسوپال (Chris Wysopal)، هم‌بنیان‌گذار و مدیر ارشد ترویج امنیت در Veracode، پیرامون این موضوع توضیح می‌دهد: «ما بیش از یک سال است که کدهای تولیدشده توسط چندین مدل زبانی بزرگ را زیر ذره‌بین قرار داده‌ایم. تا پیش از این، با وجود آنکه کدهای خروجی همواره از نظر عملکرد اجرایی بی‌نقص بودند، هیچ جهش ملموسی در شاخص‌های امنیتی هوش مصنوعی مشاهده نمی‌کردیم.»

او در ادامه می‌افزاید: «این نخستین باری است که از زمان آغاز ارزیابی‌هایمان، می‌توانیم تحولی مثبت و معنادار را در شاخص امنیت ثبت کنیم.»

این تحول مثبت به جهش امتیاز کلی امنیت کدهای هوش مصنوعی از ۵۶ درصد به ۶۲ درصد اشاره دارد. به‌گفته Veracode، به‌طور هم‌زمان نرخ آسیب‌پذیری‌ها نیز از ۴۴ درصد به ۳۸ درصد افت کرده که از ابتدای انتشار این گزارش‌ها، بزرگ‌ترین بهبود ثبت‌شده به‌شمار می‌آید. در این رده‌بندی، مدل‌های Claude Opus 5.5 از شرکت Anthropic و GPT-6-Sol از شرکت OpenAI با کسب امتیاز مشترک ۷۳ درصد در صدر جای گرفته‌اند و رکورد قبلی ۶۸ درصدی را که در اختیار GPT-5.5 بود پشت سر گذاشته‌اند.

وایسوپال خاطرنشان می‌کند: «در حال حاضر ۱۰ مدل توانسته‌اند از خط امتیاز ۶۰ درصد عبور کنند، در حالی که در بررسی قبلی تنها ۴ مدل به این رقم رسیده بودند و میانگین کلی نیز ۶ واحد درصد رشد نشان می‌دهد. با توجه به اینکه امروزه نزدیک به نیمی از کدها توسط ابزارهای هوش مصنوعی تولید می‌شوند، این دستاوردها بسیار امید‌بخش ارزیابی می‌شوند.»

شرکت Veracode برای تدوین این گزارش، ۱۸ مدل مختلف را در ۴ زبان برنامه‌نویسی پایتون، سی‌شارپ (#C)، جاوااسکریپت و جاوا به‌همراه ۴ دسته از نقاط ضعف امنیتی رایج (CWE شامل CWE-89، CWE-327، CWE-80 و CWE-117) بررسی کرد. مدل‌های Claude Opus 5.5 و GPT-6-Sol جایگاه نخست را با ۷۳ درصد از آن خود کردند و مدل GPT-5.5 با ۶۸ درصد در رتبه بعدی ایستاد. در گزارش ماه ژوئیه، ۶ مدل از ۱۱ مدل ارزیابی‌شده در بازه ۵۰ تا ۵۳ درصد قرار داشتند، در حالی که در گزارش حاضر تنها ۲ مدل در این دامنه باقی مانده‌اند و ۱۰ مدل حداقل امتیاز ۶۰ درصد را کسب کرده‌اند؛ هرچند ضعیف‌ترین مدل‌ها همچنان در محدوده ۴۴ تا ۵۰ درصد متوقف مانده‌اند.

اگرچه این آمارها ارزشمند هستند، اما نکته ظریفی در این پیشرفت به چشم می‌خورد. بر اساس ارزیابی‌ها، عامل اصلی جهش کلی امتیازها مربوط به دفع حملات تزریق اسکریپت از طریق وبگاه (XSS) بوده که از پایه‌ای‌ترین و ساده‌ترین دسته‌های آسیب‌پذیری محسوب می‌شود. امتیاز مهار باگ‌های XSS به ۱۸ درصد رشد رسیده که بیشترین میزان جهش در کل داده‌های این پژوهش است. به‌گفته تحلیلگران Veracode، خطاهای XSS ساده‌ترین آسیب‌پذیری‌ها برای شناسایی از طریق تشخیص الگو هستند؛ قابلیتی که مدل‌های زبانی دقیقاً بر پایه آن مهارت می‌یابند. با این وجود، در سناریوهایی که حل آن‌ها مستلزم ردیابی و استدلال عمیق جریان داده‌ها در میان چندین تابع پیچیده است (مانند حملات تزریق در لاگ)، مدل‌های هوش مصنوعی همچنان به بن‌بست می‌خورند.

مهار آسان‌ترین رخنه‌ها به‌جای حل ریشه‌ای مسئله

به بیانی روشن‌تر، هوش مصنوعی در حال حاضر صرفاً آسان‌ترین میوه‌های در دسترس را چیده و کار را تمام‌شده پنداشته است. البته نمی‌توان این دستاورد را بی‌ارزش شمرد، زیرا حملات XSS هنوز هم از شایع‌ترین مخاطرات فضای وب هستند و در سطح وسیعی رخ می‌دهند.

در این گزارش هم‌چنین به یک واقعیت کاملاً ملموس و قابل پیش‌بینی دیگر اشاره شده است: دسترسی به قدرتمندترین و امن‌ترین مدل‌های هوش مصنوعی، هزینه مالی بسیار بالاتری را تحمیل می‌کند.

با وجود این، محققان هشدار می‌دهند که صرف بودجه‌های سنگین به‌تنهایی راه‌حل نجات‌بخش نیست. وایسوپال می‌گوید: «مدل‌هایی که امن‌ترین کدها را می‌نویسند، بیشترین هزینه عملیاتی را برای اجرا در مقیاس‌های بزرگ نیاز دارند، اما همین ابزارهای گران‌قیمت نیز در بیش از ۲۵ درصد از آزمون‌های امنیتی مردود می‌شوند. پاسخ منطقی این نیست که صرفاً گران‌ترین ابزار را انتخاب کنیم و به شانس تکیه بزنیم. استفاده از یک مدل میان‌رده با نرخ قبولی ۶۰ درصد در کنار اسکنرهای تخصصی امنیتی، بسیار دقیق‌تر، مقرون‌به‌صرفه‌تر و مقیاس‌پذیرتر از به‌کارگیری یک مدل پیشرو با امتیاز ۷۳ درصد بدون هرگونه راستی‌آزمایی مستقل است.»

در نهایت، اگرچه نشانه‌های پیشرفت کاملاً آشکار است، اما به‌گفته پژوهشگران این حوزه، این گام تنها مرهمی بر بخشی از مشکلی بزرگ‌تر به‌شمار می‌رود. شرکت‌ها و تیم‌های نرم‌افزاری باید اطمینان یابند که فرآیند استفاده از کدهای هوش مصنوعی را با پایش و اعتبارسنجی مداوم و مستقل امنیتی پیوند می‌زنند تا خطاهایی که از چشمان این مدل‌ها پنهان می‌ماند، به‌موقع شناسایی و خنثی شوند.