مسابقه هوش مصنوعی در دوراهی سرعت و امنیت؛ چرا سازمان‌ها نباید بی‌گدار به آب بزنند؟

ایجنت‌های هوش مصنوعیِ خارج از کنترل، این روزها به سرتیتر خبرها تبدیل شده‌اند. حمله پرسروصدای ایجنت‌های OpenAI به پلتفرم Hugging Face به‌طور گسترده مورد بحث و بررسی قرار گرفته و با تعابیری هشداردهنده و شبیه به رفتارهای انسانی تحلیل شده است. در گزارش‌ها از تشکیل یک «باند» از ایجنت‌ها، وجود «سردسته‌ها» و حتی «فداکاری» برخی ایجنت‌ها برای رسیدن به هدف مشترکشان صحبت می‌شود.

آیا هیولای فرانکنشتاین در کمین سیستم‌های فناوری اطلاعات ما نشسته است؟ باید بپذیریم که هنوز نمی‌توانیم به‌درستی توضیح دهیم چه زمانی یا به چه دلیلی برخی از ایجنت‌ها، حصارهای امنیتی و محدودیت‌های تعیین‌شده را نادیده می‌گیرند. خوشبختانه، بیشتر شرکت‌ها هنوز ایجنت‌های کاملاً خودمختار را به کار نگرفته‌اند، بلکه از ایجنت‌هایی استفاده می‌کنند که به دنباله‌ای از اقدامات ازپیش‌تعیین‌شده محدود هستند. بنابراین، خطر اینکه چنین ایجنت‌هایی «کنترل امور را به دست بگیرند» در حال حاضر بسیار محدود است.

با این اوصاف، تکلیف مسابقه هوش مصنوعی چه می‌شود؟ آیا باید سرعت خود را کم کنیم و ریسک تبدیل شدن به لاک‌پشت را بپذیریم، یا با همان سرعت سرسام‌آور خرگوش به حرکت ادامه دهیم؟

در کوتاه‌مدت هیچ تردیدی وجود ندارد: تمام شرکت‌ها باید در حوزه امنیت سایبری با تمام توان بدوند. ابزارهای تهاجمی به‌شدت قدرتمند شده‌اند و سپرهای دفاعی متناسب با آن‌ها هنوز شکل نگرفته‌اند. موارد نقض و افشای داده‌ها در تمام قاره‌ها روزبه‌روز پرتکرارتر و علنی‌تر می‌شوند. شرکت‌هایی که برای آزمایش اولیه مدل Mythos انتخاب شده‌اند، در زمانی بی‌سابقه آسیب‌پذیری‌های پرشماری را کشف می‌کنند. در این بخش، شتاب گرفتن تنها گزینه پیش رو است.

فراتر از بحث امنیت فوری، سازمان‌ها روند پیاده‌سازی هوش مصنوعی را حفظ خواهند کرد، هرچند این مسیر بیشتر شبیه به یک دو نیمه‌استقامت است تا دو سرعت. فضای رقابتی نیازمند گام‌های پرشتاب است، اما اهداف، میان‌مدت هستند. حدود ۴۲ درصد از شرکت‌ها اعلام کرده‌اند که قصد دارند تا سال ۲۰۳۰ سیستم‌های هوش مصنوعی خودمختار بیشتری را مستقر کنند؛ بنابراین ناچارند روش مهار و کنترل آن‌ها را بیاموزند. یکی از پژوهشگران هوش مصنوعی دراین‌باره می‌گوید: «ایجنت درست مانند یک شیر است؛ شما دقیقاً نمی‌دانید در سرش چه می‌گذرد. حتی اگر آموزش دیده باشد و برایش حصارهای ایمنی تعریف کرده باشید، باز هم اگر آن را در خانه نگه می‌دارید، بهتر است در قفس بماند.»

امروزه اکثریت قریب به اتفاق شرکت‌ها چنین «قفسی» در اختیار ندارند. بسیاری از کاربران مجوزهای دسترسی شخصی خود را در اختیار ایجنت‌ها قرار می‌دهند، قوانین مدیریت حافظه و زمینه (Context) بسیار سست و مبهم تعریف شده‌اند، سیستم‌های نظارتی برای شناسایی رفتارهای غیرعادی ناکارآمد هستند و مدل‌ها به‌ندرت مورد ممیزی و بازرسی قرار می‌گیرند. مسیر طولانی و دشواری در پیش است و کاهش سرعت نیز اصلاً گزینه مناسبی نیست.

در جبهه قانون‌گذاری نیز برخی خواستار رقابتی فوری برای تأسیس یک نهاد جهانی، مشابه آژانس‌های بین‌المللی هوانوردی یا انرژی اتمی هستند. شاید این ایده قابل تأمل باشد، اما پیش از وضع قوانین، اولویت اصلی تعریف استانداردهای ایمنی است که هنوز وجود خارجی ندارند.

در همین حال، آزمایشگاه‌های هوش مصنوعی می‌توانند سرعت عرضه مدل‌های جدید را کمی کاهش دهند. این کار به شرکت‌ها اجازه می‌دهد تا درست مانند زمان انتشار نسخه‌های جدید نرم‌افزارهای سنتی، فرصت کافی برای پیش‌بینی و آماده‌سازی داشته باشند؛ یعنی بتوانند رابط‌های برنامه‌نویسی کاربردی (API) خود را آزمایش کنند، برخی مدل‌ها را دوباره آموزش دهند و آموزش‌های کاربران را به‌روزرسانی کنند.

در نهایت، وقتی نوبت به بخش پژوهش می‌رسد، تصمیم‌گیری درباره کاهش یا افزایش سرعت بر عهده آزمایشگاه‌ها و تیم‌های تحقیقاتی آن‌هاست و ایجاد یک توقف کامل و سراسری، بسیار دور از ذهن به نظر می‌رسد.

در آن افسانه مشهور، لاک‌پشت از خرگوشِ شکست‌خورده می‌پرسد: «سرعتت چه سودی برایت داشت؟» در رقابت هوش مصنوعی، فشارهای تجاری باعث می‌شود حرکت کند و پیوسته لاک‌پشت یک ریسک بزرگ باشد، اما غرور و بی‌ملاحظگی خرگوش نیز به همان اندازه خطرناک است. پس راه‌حل چیست؟ حرکت با سرعتی متعادل و مناسبِ مسیرهای میان‌مدت و مهم‌تر از همه، حفظ آرامش، دوراندیشی و حس مسئولیت‌پذیری در تمامی سطوح؛ این دقیقاً همان چیزی است که امروز به آن نیاز داریم.