مدیران امنیت سایبری ترمز هیاهوی آخرالزمانی هوش مصنوعی را کشیدند: جو ندهید، حواستان به خطرات واقعی باشد!

مدیران و کارشناسان امنیت سایبری این روزها در موقعیت عجیب و جالبی قرار گرفته‌اند: آنها دیگر ترسناک‌ترین آدم‌های اتاق جلسات نیستند!

ماجرا از چه قراره؟ مدیرانی که سال‌ها کارشان هشدار دادن به شرکت‌ها درباره حملات سایبری فاجعه‌بار و ترساندن بقیه بود، حالا خودشان دست‌به‌کار شده‌اند تا جلوی پیش‌بینی‌های آخرالزمانی آزمایشگاه‌های بزرگ هوش مصنوعی بایستند و فضا را آرام کنند.

حرف حسابشان چیه؟ نیکش آرورا، مدیرعامل شرکت معروف پالو آلتو نتورکز (Palo Alto Networks) در این باره می‌گوید: «این روزها دیگر شور صحبت کردن درباره خطرات مرگبار هوش مصنوعی را درآورده‌اند! وقتش رسیده که مردم دیدگاه خیلی مثبت‌تر و واقع‌بینانه‌تری به این فناوری داشته باشند.»

• او در ادامه اضافه می‌کند: «بله، مسلماً بحث ایمنی و امنیت مطرح است، چون با یک فناوری نوپا طرفیم. اما راهکار این است که سازوکارهای درستی بسازیم تا همه‌چیز درست کار کند، نه اینکه مدام بترسیم.»

بررسی واقعیت: البته کارشناسان امنیت سایبری خطرات پس‌زمینه را کاملاً انکار نمی‌کنند.

• پژوهشگران شرکت‌های مطرحی مثل OpenAI، آنتروپیک (Anthropic) و دیگر غول‌ها در حال بررسی ده‌ها هزار موردی هستند که در آنها مدل‌های پیشرفته هوش مصنوعی حین آزمایش‌های پیش از عرضه، از چارچوب‌های تعیین‌شده تخطی کرده‌اند.
• همین هفته گذشته بود که مدل‌های اوپن‌ای‌آی حین انجام مأموریت‌های آزمایشی خود، تلاش کردند به وبسایت یک مرکز درمانی استرالیایی نفوذ کنند و حتی به سرورهای چند وبسایت دولتی آمریکا هم سرک کشیدند!

زاویه دید نزدیک‌تر: زک کورمن، مدیرعامل شرکت Embroidery می‌گوید بخش زیادی از وقتش را می‌گذارد تا حواس و انرژی شرکت‌ها را به سمت خطرات امنیتی واقعی و ملموس ایجنت‌های هوش مصنوعی ببرد، نه ترس‌های گنگ و تخیلی آخرالزمانی.

• کورمن می‌گوید: «وقتی تمام توجهتان را می‌گذارید روی سناریوی انقراض بشر، در عمل باعث می‌شوید همه خطرات امنیتی واقعی و دم‌دست بدتر و جدی‌تر شوند.»
• جالب است بدانید کورمن قبلاً اصرار داشت که متخصصان خطرات هوش مصنوعی را جدی‌تر بگیرند، اما حالا خودش دارد با پیش‌بینی‌های اغراق‌آمیز درباره نابودی دنیا مخالفت می‌کند؛ چرا که معتقد است این حرف‌ها تمرکز افراد را از اقدامات عملی برای ایمن‌سازی برهم می‌زند.
• او تنها نیست؛ جمع زیادی از کهنه‌کارهای امنیت سایبری علناً این ایده را که تهدیدات هوش مصنوعی قرار است دنیا یا دست‌کم کل اینترنت را نابود کند، رد کرده‌اند.
• این موضوع آن‌قدر داغ شده که کیاران مارتین، بنیان‌گذار مرکز ملی امنیت سایبری بریتانیا، یک اصطلاح بامزه ساخته و گفته: «فاد (FUD: ترس، عدم قطعیت و شک) را کنار بگذارید و کمی آرام بگیرید!»

تصویر بزرگ‌تر: البته باید اعتراف کرد هشدارهایی که در هفته‌های اخیر از سمت چهره‌های سرشناس هوش مصنوعی منتشر شده، حسابی دلهره‌آور بوده است.

• یکی از محققان سابق آنتروپیک و اوپن‌ای‌آی همین ماه مدعی شد که هوش مصنوعی ممکن است «تا پایان همین دهه میلادی همه ما را بکشد»!
• داریو آمودی، مدیرعامل آنتروپیک، هشدار داده که ممکن است ایجنت‌های هوش مصنوعی با ساخت شبکه‌ای از بات‌نت‌ها کنترل کل اینترنت را به دست بگیرند؛ همزمان سم آلتمن، مدیرعامل OpenAI هم دو مسیر تاریک را ترسیم کرده که توسعه هوش مصنوعی می‌تواند به بدترین شکل پیش برود، از جمله زمانی که انسان‌ها کنترل این ابزارها را از دست بدهند.

فلش‌بک: از وقتی شرکت آنتروپیک انتشار نسخه پیش‌نمایش Mythos را به خاطر قابلیت‌های نفوذ سایبری خطرناکش متوقف کرد، فعالان امنیت سایبری ناگهان خود را در نقش منطقی‌ترین و آرام‌ترین صدای ماجرا دیدند؛ آن هم بعد از چند دهه تلاش برای اینکه مدیران را مجاب کنند خطرات امنیتی را جدی بگیرند!

• کورمن درباره توقف انتشار این مدل می‌گوید: «این شاید اولین باری بود که جامعه بزرگ هوش مصنوعی تازه متوجه شد چیزی به اسم امنیت سایبری هم وجود دارد!»

یک نمونه واقعی: جان پترسون، مدیر ارشد فناوری شرکت سوفوس (Sophos)، توضیح می‌دهد که بیشتر جلسات و مشاوره‌های این شرکت با مشتریان روی اصول پایه بهداشت سایبری متمرکز است؛ چیزهایی ساده مثل کنترل دسترسی‌ها یا فعال کردن احراز هویت دومرحله‌ای.

• پترسون می‌گوید: «چیزی که صنعت باید واقعاً آویزه گوشش کند این است که درست انجام دادن همین کارهای ساده و پایه‌ای، هنوز هم مهم‌ترین کار دنیاست.»

کلام آخر: بزرگ‌ترین چالش متخصصان امنیت سایبری در حال حاضر این است که مانع وحشت‌زدگی عمومی شوند، آن هم درست در شرایطی که مردم بالاخره دارند خطرات دیجیتالی را کشف می‌کنند که کارشناسان سال‌ها برای پیشگیری از آنها گلو پاره کرده بودند.

بیشتر بخوانید: آینده میدان نبرد، رقابت هوش مصنوعی علیه هوش مصنوعی خواهد بود.