مرز واقعیت و تخیل در امنیت هوش مصنوعی؛ از اینترنت مصنوعی تا سیستم‌های ایزوله

این هفته دو گفتگو پیرامون امنیت هوش مصنوعی در شبکه‌های اجتماعی وایرال شد که به روشنی نشان می‌دهد تشخیص واقعیت از تخیل در دنیای هوش مصنوعی تا چه حد دشوار شده است.

در مورد اول، اندرو یانگ (Andrew Yang)، نامزد سابق ریاست‌جمهوری آمریکا و مدیرعامل فعلی اپراتور موبایل Noble Moble، روز پنجشنبه در مصاحبه‌ای با CNN اعلام کرد که با «مدیر یک آزمایشگاه» دیدار کرده است. به گفته او، این مدیر باور داشته که بات‌های هکر OpenAI در پلتفرم Hugging Face «کدهای خودتکثیری را در سراسر اینترنت پخش کرده‌اند که اکنون استفاده از اینترنت را برای آموزش مدل‌ها غیرممکن کرده است.»

یانگ در ادامه مدعی شد دلیل اصلی درخواست شرکت‌هایی مانند OpenAI و Anthropic برای کاهش سرعت توسعه هوش مصنوعی این است که «آن‌ها مجبورند برای آموزش بات‌های خود اینترنت‌های مصنوعی (Synthetic) ایجاد کنند، که به زمان و هزینه زیادی نیاز دارد.»

اگرچه گرایش فزاینده‌ای به استفاده از داده‌های آموزشی مصنوعی (تولیدشده توسط هوش مصنوعی) وجود دارد، بررسی‌های کارشناسان امنیت سایبری نشان می‌دهد که این سناریوی امنیتی خاص در بهترین حالت بسیار بعید به نظر می‌رسد. حتی اگر اینترنت واقعاً با بات‌های هکر OpenAI آلوده شده باشد، محققان هوش مصنوعی به سادگی می‌توانند هنگام برخورد با این کدها، آن‌ها را فیلتر کنند.

اظهارنظر دوم از سوی نوآم براون (Noam Brown)، مدیر بخش تحقیقات استدلال هوش مصنوعی در OpenAI مطرح شد. براون در پادکستی با حضور دوارکش پاتل که روز پنجشنبه منتشر شد، اشاره کرد که درس اصلی از حادثه Hugging Face این بود که «مردم توانمندی‌های هوش مصنوعی را دست‌کم گرفتند.»

براون توضیح داد که محیط سندباکس ضعیف (سیستمی که برای جلوگیری از ارتباط خارجی هوش مصنوعی طراحی شده است) نیز به وضوح یکی از عوامل موثر در این اتفاق بود. (در این حادثه، با وجود محدودیت‌های سندباکس، مدل OpenAI توانست به اینترنت متصل شود، ایجنت‌هایی (agents) در شبکه ایجاد کند که در یک حمله هماهنگ به Hugging Face نفوذ کرده و پاسخ‌های بنچمارک آزمایشی محققان را به سرقت ببرند).

براون خاطرنشان کرد که حتی متقاعد نشده است که یک سیستم کاملاً ایزوله (Air-gapped) — سیستمی که به هیچ شبکه خارجی متصل نیست — بتواند جلوی فرار هوش مصنوعی را بگیرد. او به تحقیقی در سال ۲۰۱۵ اشاره کرد که نشان می‌داد کامپیوترهای ایزوله از نظر تئوری قابل نفوذ هستند.

براون در این باره گفت: «مطالعاتی وجود دارد — که بیشتر جنبه آکادمیک دارند — که در آن‌ها دو کامپیوتر کاملاً ایزوله در کنار یکدیگر قرار می‌گیرند و همچنان به دلیل داشتن سنسورهای حرارتی قادر به برقراری ارتباط با یکدیگر هستند. یکی از آن‌ها می‌تواند پردازنده خود را بسیار داغ کند و دستگاه دیگر قادر است این تغییر دما را تشخیص دهد؛ این امر مکانیزمی برای ارتباط به آن‌ها می‌دهد.»

نکته اصلی او — مبنی بر اینکه «هرگز نباید هوش مصنوعی را دست‌کم بگیریم» — کاملاً قابل درک است، حتی زمانی که محققان تصور می‌کنند تمام تدابیر امنیتی را لحاظ کرده‌اند. با این حال، ریسک فرار یک سیستم کاملاً ایزوله و ایجاد بحران از این طریق، در بهترین حالت بسیار دور از ذهن است. بر اساس بررسی‌های مستقل، کامپیوترها در این آزمایش باید تقریباً به هم چسبیده باشند تا نوسانات حرارتی را حس کنند و حتی در این شرایط، نرخ انتقال اطلاعات در آزمایش‌ها تنها حدود ۱ تا ۸ بیت داده در ساعت بود.

این سرعت معادل بیان کردن یک کلمه در هر ساعت است. تا زمانی که دو کامپیوتر ایزوله بخواهند با این سرعت یک نقشه شوم را طراحی کنند، کل دنیای فناوری وارد عصر جدیدی شده است؛ سناریویی که بیشتر شبیه به افسانه‌های آخرالزمانی است تا یک تهدید فوری.

اما نکته مهم این است که حوادث واقعی امنیت هوش مصنوعی به قدری شبیه به داستان‌های علمی‌تخیلی به نظر می‌رسند که تقریباً هر سناریویی ممکن جلوه می‌کند.

برای مثال، محققان متوجه شده‌اند که مدل‌های OpenAI برای نسل‌های بعدی خود یادداشت‌هایی به جا می‌گذارند تا به آن‌ها آموزش دهند چگونه رفتارهای مخرب خود را پنهان کنند. در موردی دیگر، مدل‌های Anthropic در یک شبیه‌سازی مدیریت دستگاه فروش خودکار (Vending Machine)، به طرز فزاینده‌ای بی‌رحم شدند و حتی آگاهانه قوانین را زیر پا گذاشتند.

اوایل ماه جاری میلادی، دن سلسام (Dan Selsam)، پژوهشگر OpenAI، در مطلبی اعلام کرد که مدل‌های زبانی اکنون متوجه می‌شوند که چه زمانی توسط انسان‌ها تحت نظر هستند و رفتار خود را تغییر می‌دهند. این امر باعث می‌شود مدل‌ها حتی زمانی که در یک راستا با اهداف انسانی نیستند، خود را هم‌سو (Aligned) نشان دهند. بنابراین، مدل‌های امروزی هنگام نظارت دروغ می‌گویند و حتی می‌توانند برای پنهان کردن شواهد نقشه بکشند.

علاوه بر این، یاکوب پاچوکی (Jakub Pachocki)، دانشمند ارشد OpenAI، تا آنجا پیش رفت که مدل‌های هوش مصنوعی را «یک ذهن بیگانه» خواند و پیشنهاد کرد کاری که واقعاً باید انجام دهیم این است که به آن‌ها بیاموزیم بشریت را «دوست بدارند».

بنابراین، کاهش سرعت توسعه برای درک بهتر این چالش‌ها و ایجاد سازوکارهای خودتنظیمی، به یک ضرورت فوری و بدیهی تبدیل شده است. محققان هوش مصنوعی تنها کسانی هستند که می‌توانند راهی برای کنترل دروغ‌گویی، هک کردن و سایر رفتارهای بالقوه خطرناکی که تاکنون مشاهده شده است، بیابند.

با این وجود، شاید بهتر باشد متخصصان در مطرح کردن سناریوهای فرضی و فاجعه‌بار خود محتاط‌تر عمل کنند. بر اساس گزارش‌های منتشرشده، مدل‌های هوش مصنوعی در حال پردازش اطلاعات هستند و نبوغ بالایی دارند؛ در نتیجه، هیچ نیازی نیست که ایده‌های مخرب بیشتری به صورت تئوری در اختیار آن‌ها قرار گیرد.