چگونه مانع هک هوش مصنوعی شویم؟ برخی شرکت‌ها راهکار را هوش مصنوعیِ بیشتر می‌دانند

با افزایش نگرانی‌ها درباره هک‌های خودکار هوش مصنوعی و رسیدن دغدغه‌های هم‌سویی (Alignment) به سطحی تازه، تعدادی از شرکت‌ها راهکارهایی را برای حل بزرگ‌ترین مشکلات این فناوری‌های نوظهور ارائه کرده‌اند. بر اساس گزارش TechCrunch، جای تعجب نیست که این راهکار، افزودن هوش مصنوعیِ بیشتر به چرخه نظارت است.

تعدادی از استارتاپ‌ها برای مقابله با ایجنت‌های سرکش، از سیستم‌های دفاعی هوش مصنوعی استفاده می‌کنند. شرکت Apollo Research هوش مصنوعی Watcher خود را معرفی کرده است که بر کار یک ایجنت برنامه‌نویس نظارت می‌کند تا اطمینان حاصل شود که وظایف در حال اجرا مخرب نیستند، داده‌ای نشت نمی‌کند و هیچ اطلاعات مهمی بدون اجازه صریح حذف نمی‌شود.

سیستم Watcher شرکت Apollo لایه‌های مختلفی از ناظران هوش مصنوعی را به کار می‌گیرد. لایه اول بررسی سریعی روی همه‌چیز انجام می‌دهد و در صورت مشاهده هرگونه رفتار نگران‌کننده، آن را نشانه‌گذاری کرده و به یک ناظر توانمندتر ارجاع می‌دهد تا تحلیل دقیق‌تری صورت گیرد. تنها پس از این مرحله است که یک انسان وارد چرخه می‌شود تا اقدامات پیشنهادی را به‌طور رسمی تایید یا رد کند.

در همین حال، شرکت رقیب یعنی Goodfire راهکار دیگری را ارائه می‌دهد که به‌جای بررسی خروجی‌ها، فعال‌سازی‌های داخلی هوش مصنوعی را تحلیل می‌کند تا مشخص شود آیا سیستم درگیر فعالیت‌های مخرب شده است یا خیر.

پس از حمله به پلتفرم Hugging Face، مدیرعامل Goodfire در شبکه اجتماعی ایکس (توییتر سابق) اعلام کرد که این شرکت تمرکز خود را بر تفسیر هوش مصنوعی از طریق خلاصه استدلال‌ها دوچندان کرده است. وی خاطرنشان کرد که آن‌ها به‌طور ویژه بهبود ایمنی هوش مصنوعی در حوزه‌های کلیدی مانند امنیت سایبری و مهندسی زیستی را هدف قرار داده‌اند.

مسیرها و خلاصه‌های استدلالی، تکنیک‌هایی هستند که برخی از توسعه‌دهندگان هوش مصنوعی در حملات تقطیر (Distillation Attacks) از آن‌ها استفاده کرده‌اند؛ فرآیندی که در آن یک سازنده مدل، فناوری خود را با استفاده از خروجی‌های مدلی دیگر آموزش می‌دهد. با این حال، برای مقابله با چنین حملاتی، برخی از توسعه‌دهندگان اکنون خلاصه‌های استدلالی را ناخواناتر می‌کنند تا استخراج معنای واقعی آن‌ها دشوارتر شود.

البته همه معتقد نیستند که هوش مصنوعی تنها راه‌حل این مشکلات است. سیستم‌های جایگزین غیر هوشمند شامل ثبت دقیق‌تر و قوی‌تر لاگ‌های فعالیت ایجنت‌ها هستند که سپس می‌توانند با استفاده از ابزارهای سنتی‌تر تفسیر شوند؛ درست همان کاری که متخصصان امنیت سایبری سال‌هاست انجام می‌دهند. در حالی که نظارت امنیتی با هوش مصنوعی ممکن است آسان‌تر باشد، شاید استفاده ترکیبی از سیستم‌های ایمنی سنتی رویکرد هوشمندانه‌تری نسبت به اتکای کامل به اتوماسیون اثبات‌نشده باشد.