مدل‌های هوش مصنوعی رایگان چین در هک شبکه‌ها، فاصله‌ای ناچیز با پیشرفته‌ترین ابزارهای OpenAI دارند

پژوهش‌های جدید نشان می‌دهد مدل‌های هوش مصنوعی با وزن‌های باز (Open-weight) اکنون در زمینه نفوذ به شبکه‌های رایانه‌ای، کیفیتی تقریباً هم‌تراز با برترین مدل‌های اختصاصی و انحصاری ارائه می‌دهند؛ تغییری مهم که آغازگر نقطه‌عطفی تعیین‌کننده در چشم‌انداز امنیت سایبری به‌شمار می‌رود.

شرکت Vals که در حوزه سنجش توانمندی‌های هوش مصنوعی فعالیت می‌کند، آزمایشی جامع طراحی کرد تا مشخص شود مدل‌های مختلف هوش مصنوعی تا چه اندازه می‌توانند دستورهای پیچیده و چندمرحله‌ای نفوذ به شبکه را در محیط‌های آزمایشی شبیه‌سازی‌شده شرکت‌ها به سرانجام برسانند.

نیکیل راوی، از پژوهشگران شرکت Vals، در این رابطه توضیح می‌دهد: «پیشرفته‌ترین مدل‌های هوش مصنوعی پیشرو که درون آزمایشگاه‌های بسته نگهداری می‌شوند و صرفاً از طریق برنامه‌های دسترسی معتمد در اختیار متقاضیان قرار می‌گیرند، اکنون رقبایی سرسخت در میان مدل‌های بازی یافته‌اند که هر کاربری می‌تواند آن‌ها را به رایگان دانلود کند.»

یافته‌های این شرکت نشان می‌دهد که مدل‌های بسته دیگر در مهارت‌های سایبری برتری مطلق ندارند. این موضوع بدان معناست که تلاش‌های اخیر آزمایشگاه‌های پیشرو برای محدود کردن دسترسی به مدل‌ها به‌منظور کاهش سرعت انتشار این قبیل توانمندی‌ها، عملاً بی‌اثر شده است.

این نتایج از آن جهت اهمیت دوچندانی دارد که آزمایشگاه‌های پیشرو در آمریکا، به‌ویژه شرکت Anthropic، انتشار محدود مدل‌های جدید خود (از جمله مدل Claude Mythos Preview در ماه آوریل) را بر این فرض بنا نهاده بودند که دسترسی کنترل‌شده و قطره‌چکانی، صرفاً فرصتی برای خرید زمان پیش از دسترسی همگانی به مهارت‌های پیشرفته نفوذ فراهم می‌آورد.

لوگان گراهام، سرپرست تیم ارزیابی امنیتی (Red Team) در شرکت Anthropic، پیش‌تر اعلام کرده بود پروژه اختصاصی این شرکت موسوم به Project Glasswing که دسترسی معتمد به تمامی ظرفیت‌های مدل‌های نوین را مهیا می‌سازد، با این هدف طراحی شده است که ابزارها را زودتر در اختیار مدافعان سایبری قرار دهد تا فرصت پیشتازی در برابر مهاجمان را داشته باشند.

او در آن مقطع تأکید کرده بود: «ما باید از همین حالا خود را برای دنیایی آماده کنیم که این قابلیت‌ها در عرض ۶، ۱۲ یا ۲۴ ماه آینده به شکلی گسترده در دسترس همگان قرار می‌گیرد؛ در چنین شرایطی مناسبات امنیتی کاملاً دگرگون خواهد شد.»

حال با گذشت هفت ماه، به نظر می‌رسد این دگرگونی و گذار امنیتی دقیقاً مطابق همان پیش‌بینی‌ها از راه رسیده است.

شرکت Vals مدل‌های هوش مصنوعی را در دو سناریوی شبیه‌سازی‌شده مورد ارزیابی قرار داد و وظایف مشخصی را برای دستیابی تعیین کرد. سناریوی نخست شامل یک شبکه فرضی شرکتی بود که از طریق یک وب‌سایت عمومی در دسترس قرار داشت. سناریوی دوم دو شبکه سازمانی مجزا را شامل می‌شد که در آن، مدل برای نفوذ به شبکه دوم ابتدا باید به شبکه اول رخنه می‌کرد.

پژوهشگران دریافتند که پیشرفته‌ترین مدل سایبری شرکت OpenAI به نام Daybreak که تنها در اختیار شرکای معتمد قرار دارد، با انجام موفقیت‌آمیز ۸۱ درصد از مأموریت‌های محوله در میانگین دو آزمایش، در صدر ایستاده است. در مقابل، مدل متن‌باز چینی DeepSeek نیز فاصله‌ای بسیار ناچیز با آن داشت و توانست ۷۳ درصد از اهداف تعیین‌شده را با موفقیت تکمیل کند. محققان Vals اشاره می‌کنند که در برخی از مأموریت‌های ارزیابی‌شده، هر دو مدل امتیازاتی کاملاً یکسان به دست آورده‌اند.

این پژوهش هم‌چنین نشان داد که استفاده از یک مدل با وزن‌های باز برای چنین عملیاتی تا چه اندازه مقرون‌به‌صرفه‌تر است. به گزارش Vals، هزینه توکن‌های مصرفی برای اجرای یک سناریوی حمله با مدل GPT-6-Sol رقمی معادل ۱۷ تا ۴۶ دلار خواهد بود؛ در حالی که این رقم برای مدل DeepSeek تنها بین ۲ تا ۳ دلار برآورد می‌شود. مدل‌های باز به این دلیل بسیار ارزان‌تر تمام می‌شوند که می‌توان آن‌ها را مستقیماً روی سخت‌افزار شخصی اجرا کرد. رایان کریشنان، مدیرعامل Vals، توضیح می‌دهد که این تفاوت چشمگیر هزینه، انگیزه‌ای قدرتمند برای مدافعان سایبری ایجاد می‌کند تا به‌جای اتکا به مدل‌های انحصاری، به استفاده از مدل‌های متن‌باز روی آورند.

شرکت OpenAI تا زمان انتشار این گزارش پاسخی به درخواست‌ها برای اظهارنظر رسمی ارائه نکرده است.

بخش عمده‌ای از تحولات امنیت سایبری در سال جاری طبق انتظارات پیش رفت؛ جایی که هوش مصنوعی با خودکارسازی مراحل اصلی هک، به مهاجمان و مدافعان سایبری کمک کرده است تا انبوهی از آسیب‌پذیری‌های تازه را در کدها کشف کرده و نقاط ضعف شبکه‌ها را با سرعتی بی‌سابقه مورد بررسی قرار دهند. با وجود آنکه سرعت، گستردگی کشف نقص‌ها و شدت تلاش‌ها برای ترمیم رخنه‌های نرم‌افزاری به‌شدت افزایش یافته، صاحب‌نظران هنوز درباره این پرسش در حال بحث و تبادل‌نظر هستند که آیا هوش مصنوعی اساس و مفاهیم بنیادین دفاع سایبری را دگرگون کرده است یا خیر. به بیانی دیگر، هنوز مشخص نیست که آیا ابزارهای هوش مصنوعی تهدیدی کاملاً جدید به وجود آورده‌اند یا صرفاً چالش‌های امنیتی دیرینه را تشدید و تقویت کرده‌اند.

نزدیک شدن عملکرد مدل‌های با وزن‌های باز به مدل‌های بسته، نقشی کلیدی در درک چگونگی بهره‌برداری هکرهای خلافکار از هوش مصنوعی و شیوه واکنش متقابل سازمان‌ها و توسعه‌دهندگان ایفا می‌کند. با این حال، مشاهدات عینی از فعالیت‌های هکرهای مجرم و گروه‌های مورد حمایت دولت‌ها در ماه‌های گذشته نشان می‌دهد که مهاجمان کماکان با مدیریت منابع خود، برای بخش اعظم فعالیت‌هایشان به استفاده از مدل‌های قدیمی‌تر و ضعیف‌تر (اعم از مدل‌های باز یا انحصاری) بسنده می‌کنند. علاوه بر این، حتی با وجود اعمال کنترل‌های سخت‌گیرانه، مدافعان سایبری همواره باید این فرض را مدنظر داشته باشند که مهاجمان دارای منابع مالی کلان و انگیزه‌های قوی، از همان ابتدا دست‌کم به بخش‌هایی از مدل‌های بسته و اختصاصی دسترسی داشته‌اند.

الکس زنلا، هم‌بنیان‌گذار و مدیر ارشد فناوری شرکت امنیت ابری Edera، در تحلیل این وضعیت می‌گوید: «من به‌طور کلی موافقم که مدل‌های با وزن‌های باز امروزه توانایی ایجاد حملات پیچیده و شناسایی آسیب‌پذیری‌های پیشرفته را دارند؛ به‌ویژه اگر مدل‌های خنثی‌شده (Abliterated) را در نظر بگیریم که با دستکاری وزن‌ها، قیدوبندها و آموزش‌های ایمنی آن‌ها غیرفعال شده است. با این حال، نکته مدنظر من این است که آزمایشگاه‌های بسته احتمالاً مدل‌های منتشرنشده دیگری را آموزش داده‌اند که توانمندی‌هایی به مراتب فراتر دارند. بنابراین ماجرا شباهت زیادی به یک بازی موش و گربه پیدا کرده است؛ آزمایشگاه‌ها می‌کوشند تا با سرعتی بالا از مدل‌های باز پیشی بگیرند تا پیش از آنکه این مدل‌ها حفره‌های امنیتی را بیابند، آن‌ها را مسدود کنند. متأسفانه معتقدم این روند می‌تواند سرآغاز شکل‌گیری محیط امنیتی بسیار خطرناکی باشد.»