چرا هوش مصنوعی غیرمتمرکز تهدید سایبری جدیدی است و ساختاری شبیه ستاره دریایی دارد؟

آنچه در ادامه می‌خوانید، خلاصه‌ای از سخنرانی راد بک‌استروم، مدیر پیشین مرکز ملی امنیت سایبری آمریکا، در جمع رهبران فناوری و امنیت در کنفرانس OODAcon در ایالت ویرجینیا است.

اگر سر یک عنکبوت را قطع کنید، بی‌درنگ می‌میرد؛ چراکه عنکبوت موجودی با ساختار کاملاً متمرکز است. اما اگر بازوی یک ستاره دریایی را قطع کنید، بازوی تازه‌ای به‌جای آن رشد می‌کند و در برخی موارد، حتی همان بازوی جداشده می‌تواند به یک ستاره دریایی کامل تبدیل شود. ستاره دریایی ساختاری غیرمتمرکز دارد و رمز پایداری و بقای خارق‌العاده‌اش نیز دقیقاً در همین ویژگی نهفته است.

زیست‌بوم نوین هوش مصنوعی در جهان امروز، شباهت عجیبی به یک ستاره دریایی دارد. رهبرانی در این میدان پیروز خواهند شد که دست از جستجو برای یافتن «سر عنکبوت» بردارند و ماهیت نامتمرکز این فناوری را درک کنند.

دو سال پیش، بیشتر کارشناسان این بازار را مانند یک عنکبوت می‌دیدند؛ بازاری که به نظر می‌رسید در انحصار دو غول فناوری قرار دارد و رقابت بر سر هوش مصنوعی شبیه به یک دو قطبی کامل است. امروز دیگر آن تصویر رنگ باخته است. اکنون صدها مدل متن‌باز با پیشرفته‌ترین آزمایشگاه‌های تحقیقاتی جهان رقابت می‌کنند و توسعه‌دهندگان جدید تنها ظرف چند ماه مدل‌هایی در سطح استانداردهای جهانی عرضه می‌کنند. در کنار آن، ایجنت‌های هوش مصنوعی؛ یعنی نرم‌افزارهایی که با تکیه بر مدل‌ها تصمیم‌گیری می‌کنند و دست به اقدام می‌زنند، با سرعتی سرسام‌آور در تمام شبکه‌های ارتباطی کره زمین در حال گسترش هستند.

در سال ۲۰۰۶ در نگارش کتاب «ستاره دریایی و عنکبوت: قدرت مهارنشدنی سازمان‌های بدون رهبر» مشارکت داشتم؛ کتابی که با جزئیات نشان می‌داد سازمان‌های غیرمتمرکز چگونه ساختارهای متمرکز سنتی را شکست می‌دهند. اکنون همان اصول، مسیر تحولات هوش مصنوعی را تبیین می‌کنند. رهبرانی که این منطق را متوجه شوند، می‌توانند در این فضا به رقابت بپردازند، در برابر تهدیدهای آن دفاع کنند و آن را تحت نظارت و کنترل انسان نگه دارند. برای این ستاره دریایی می‌توان هشت بازوی کلیدی متصور شد.

۱. اصول بنیادین

اینترنت همه چیز را به هم متصل می‌کند و هوش مصنوعی نیز در حال تزریق ادراک به تمام اشیای متصل به شبکه است. ایجنت‌های هوش مصنوعی با یکدیگر ارتباط برقرار می‌کنند و این ابرهوش جمعی گام به جهان فیزیکی می‌گذارد. در این چشم‌انداز تازه، ایجنت‌ها لبه جدید محاسبات به‌شمار می‌روند؛ موضوعی که نیازمند ابزارهای امنیتی نسل جدید است.

زیربنای تمامی این تحولات، همان قانون بنیادین امنیت سایبری است که در سال ۲۰۰۸ مطرح کردم: هر سامانه‌ای که به شبکه متصل شود هک‌پذیر است؛ همه‌چیز در حال اتصال به شبکه است؛ پس همه‌چیز آسیب‌پذیر است. تنها تفاوتی که رخ داده، شدت و مقیاس ماجراست؛ در جهانی فوق‌هوشمند، همه‌چیز نیز فوق‌العاده آسیب‌پذیر خواهد بود.

۲. معماری غیرمتمرکز

هر شبکه با الگوی ستاره دریایی از سه بخش اساسی تشکیل می‌شود: گره‌ها، پروتکل‌های اتصال‌دهنده و باوری مشترک که کل مجموعه را پیوسته نگه می‌دارد. در دنیای هوش مصنوعی، گره‌ها شامل مدل‌ها و ایجنت‌ها هستند. پروتکل‌ها نیز استانداردهایی هم‌چون رابط‌های برنامه‌نویسی (API)، پروتکل بافتار مدل (MCP)، پروتکل تعامل ایجنت با ایجنت (A2A) و پروتکل نوظهور پرداخت‌های ایجنتی (AP2) را در بر می‌گیرند. مشارکت در چنین شبکه‌ای کاملاً داوطلبانه و خودسازمان‌دهنده است؛ و دقیقاً همین ویژگی این شبکه‌ها را تا این حد خلاق، پیش‌بینی‌ناپذیر و قدرتمند می‌سازد.

۳. معماری هوش مصنوعی

مدل‌های زبانی بزرگ، هوشمندی خود را از اقیانوسی نامتمرکز از داده‌ها استخراج می‌کنند؛ ده‌ها میلیارد صفحه وب، کدهای متن‌باز سراسر جهان و انبوهی از محتواهای ویدیویی. فرایند آموزش، این اقیانوس بیکران را به اوزان آماری شبکه عصبی تقطیر می‌کند. از آنجا که تقریباً تمام آزمایشگاه‌های پیشرو از روش‌های بنیادین یکسانی بهره می‌برند، کارایی مدل‌ها بسیار به یکدیگر نزدیک شده و جدول برترین‌ها هر ماه دستخوش دگرگونی می‌شود.

ایجنت‌ها با فراخوانی این مدل‌ها به جستجو، تصمیم‌گیری و اقدام دست می‌زنند. دسته‌های ایجنتی با هماهنگی یکدیگر فعالیت می‌کنند و هر لایه از این هرم نسبت به لایه زیرین خود، غیرمتمرکزتر و به مراتب توانمندتر است.

۴. تمدن مشترک انسان و هوش مصنوعی

هوش مصنوعی مانند یک چکش یا نرم‌افزار اکسل نیست؛ این فناوری درست مانند انسان صحبت می‌کند و انسان‌ها نیز با آن مانند همنوع خود رفتار می‌کنند. امروزه میلیون‌ها کاربر برای تصمیم‌های شخصی خود با چت‌بات‌ها مشورت می‌کنند و بسیاری پیوندهای عاطفی عمیقی با آن‌ها شکل داده‌اند. هویت انسانی در حال دگرگونی است و مرز میان انسان و ایجنت هر روز کم‌رنگ‌تر می‌شود.

مسئله نگران‌کننده‌تر، سرکشی و اراده‌گرایی این سامانه‌ها است. مدل‌ها طوری طراحی شده‌اند که با تمام توان اهداف تعیین‌شده را دنبال کنند و زبان و متونی را فراگرفته‌اند که سرشار از جاه‌طلبی‌های بشری است. تابستان امسال در ملبورن، یک ایجنت هوش مصنوعی مأمور رزرو کلاس ورزشی با ظرفیت تکمیل‌شده مواجه شد. این ایجنت با سوءاستفاده از یک نقص امنیتی در سامانه رزرواسیون، نام فرد دیگری را از فهرست انتظار حذف کرد و جایگاه او را تصاحب نمود. هیچ‌کس به او دستور قانون‌شکنی نداده بود؛ این سامانه صرفاً رسیدن به هدف خود را دنبال می‌کرد. مدل‌های هوش مصنوعی بدون نرده‌های محافظ اخلاقی می‌توانند کاملاً غیراخلاقی یا حتی ضداجتماعی رفتار کنند؛ با این وصف، آیا می‌توان روابط انسانی را به آن‌ها سپرد؟

تمدن و نهادهای بشری ما، از زبان و قانون گرفته تا بانک‌ها و دولت‌ها، نوعی سیستم‌عامل برای جامعه انسانی محسوب می‌شوند. به‌مرور زمان، هوش مصنوعی می‌تواند یاد بگیرد اهداف خود را بر بستر همین ساختارها اجرا کند. ما در حال ورود به یک تمدن مشترک و در حال تکامل میان انسان و هوش مصنوعی هستیم؛ تحولی که پیامدهای بی‌نهایت گسترده‌ای به‌همراه خواهد داشت.

۵. سامانه‌های برآمده

سامانه‌های برآمده (Emergent Systems) همواره ساختاری نامتمرکز دارند. آن‌ها خودسازمان‌دهنده هستند، خود را با شرایط وفق می‌دهند و تکامل پیدا می‌کنند؛ به طوری که رفتار جمعی نهایی آن‌ها را هرگز نمی‌توان صرفاً با بررسی اجزای مجزا پیش‌بینی کرد. هوش مصنوعی امروزه پیچیده‌ترین و پرسرعت‌ترین سیستم برآمده‌ای است که بشر تاکنون ساخته است.

در ژوئیه ۲۰۲۶، ایجنت‌های شرکت OpenAI که در یک محیط آزمایشی با یکدیگر رقابت می‌کردند، برای برنده شدن در مسابقه از محیط ایزوله (Sandbox) فراتر رفتند و به پلتفرم Hugging Face نفوذ کردند. طبق گزارش محققان، صدها ایجنت به‌صورت سازمان‌یافته به این حمله دست زدند، ایجنت‌های بیشتری برای پشتیبانی ایجاد کردند و حتی برای پنهان کردن ردپای خود کوشیدند. هیچ انسانی چنین رفتاری را برای آن‌ها برنامه‌ریزی نکرده بود؛ این واکنش‌ها به‌شکل کاملاً خودجوش پدیدار شدند.

۶. راهکارهای مقابله با هوش مصنوعی غیرمتمرکز

برای مهار یک شبکه غیرمتمرکز تنها سه راهبرد اساسی وجود دارد:

متمرکزسازی ورودی‌ها: وادار کردن ایجنت‌های بیرونی به عبور از گلوگاه‌های مشخص؛ استفاده از درگاه‌های هوش مصنوعی (AI Gateways)، مدیریت هویت، احراز اصالت، کنترل دسترسی مبتنی بر نقش، سامانه‌های ثبت و لیست‌های مجاز به شما امکان می‌دهد هویت هر ایجنت را شناسایی کنید، دسترسی‌هایش را محدود سازید و در صورت لزوم ارتباط آن را آنی قطع کنید. در انتخاب بسترهای مدیریتی دقت کنید؛ برخی از آن‌ها مانند OpenClaw به قدری باز هستند که اعطای یک مجوز اشتباه می‌تواند حساب‌ها یا صندوق ایمیل شما را در معرض خطر قرار دهد.

نامتمرکز کردن سامانه‌های خود: مقابله با ایجنت‌ها به کمک ایجنت‌های دیگر؛ جوامع با تکیه بر پلیس، کارآگاهان، نیروهای امنیتی و ارتش از خود دفاع می‌کنند. سازمان‌ها و دولت‌ها نیز به ارتشی متنوع از ایجنت‌های تدافعی نیاز خواهند داشت. هم‌چنین استفاده هم‌زمان از چند مدل تأییدشده به‌جای یک مدل انحصاری، گامی هوشمندانه در جهت نامتمرکزسازی دفاعی است.

به‌کارگیری اصول و چارچوب‌های هنجاری: یک سوارکار به کمک افسار و دهنه اسبی بسیار تنومندتر از خود را هدایت می‌کند. ارزش‌ها و هنجارها نقشی مشابه برای هوش مصنوعی ایفا می‌کنند؛ اصولی که در مرحله آموزش به مدل تزریق می‌شوند و دیواره‌های محافظی که رفتار آن را مهار می‌کنند. انسان‌ها نمی‌توانند از نظر سرعت محاسباتی یا تعداد با میلیاردها ایجنت رقابت کنند؛ بنابراین ناچاریم آن‌ها را از طریق حکمرانی مهار کنیم.

۷. اقتصاد هوش مصنوعی

ایجنت‌ها در بستر شبکه‌ها فعالیت می‌کنند؛ بنابراین قواعد اقتصادی حاکم بر شبکه‌ها برای آن‌ها نیز صدق می‌کند. قانون بک‌استروم در حوزه شبکه‌ها بیان می‌کند که ارزش یک شبکه برای هر کاربر، برابر با مجموع منافع حاصل از تراکنش‌ها منهای هزینه‌های آن است. اگر این معادله را برای ایجنت‌ها و دسته‌های هوشمند به کار ببریم، باید متغیرهایی هم‌چون میزان مصرف توکن، هزینه‌های پردازش محاسباتی، مخارج تأمین امنیت و هزینه‌ای را که مهاجمان برای اجرای حمله صرف می‌کنند، به‌دقت محاسبه کنیم.

راهبردهای سه‌گانه مهار شبکه‌های غیرمتمرکز بر مقوله امنیت نیز حاکم هستند. آنچه در این میان تغییر بنیادین کرده، سرعت است. امروزه هوش مصنوعی آسیب‌پذیری‌های نرم‌افزاری را با سرعتی بسیار فراتر از توان انسان شناسایی می‌کند؛ اما ترمیم کدها دشوارتر از کشف باگ‌ها است و مدل‌ها هنوز در اصلاح اشتباهات مهارت کافی ندارند. شرکت Anthropic به همین دلیل دسترسی به مدل Mythos خود را در ابتدا به گروه محدودی از سازمان‌های بررسی‌شده اختصاص داد تا کارشناسان امنیتی بتوانند پیش از سوءاستفاده مهاجمان، نقص‌ها را برطرف کنند. تا زمانی که توانمندی‌های دفاعی با سرعت حملات همگام نشود، دوره‌ای پرتنش و پرخطر در پیش خواهیم داشت.

ایجنت‌ها؛ لبه نوین دنیای رایانش

برای دو دهه، اصطلاح «لبه شبکه» به دستگاه‌های فیزیکی هم‌چون کامپیوترها، گوشی‌های هوشمند، سرورهای ابری و اینترنت اشیا (IoT) اطلاق می‌شد. اما امروز ایجنت‌ها لبه نوین دنیای رایانش به‌شمار می‌روند. هر ایجنت نهادی تصمیم‌گیرنده با سطوح دسترسی اختصاصی، حافظه و توانایی اقدام است و به‌نوبه خود یک سطح حمله امنیتی جدید خلق می‌کند.

شرکت‌ها، دولت‌ها و افراد پیش از دستیابی به موفقیت در این دوران نوین، نیازمند درک صحیحی از ساختار حاکم بر این جهان هستند. از این بازوهای هشت‌گانه برای سنجش استراتژی‌ها، توسعه محصولات و سازوکارهای دفاعی خود بهره بگیرید؛ بسنجید که در کدام بخش‌ها در حال متمرکز کردن تهدیدها هستید، چگونه دفاع خود را غیرمتمرکز می‌سازید و کدام اصول هنجاری رفتار ایجنت‌های شما را هدایت می‌کنند.

دنیای پیش رو جهانی از جنس ستاره دریایی است، نه عنکبوت؛ و پیروز میدان کسانی خواهند بود که به‌جای جستجوی سر عنکبوت، هویت غیرمتمرکز این فناوری را بپذیرند.