هشدار جدی مدیرعامل جی‌پی مورگان: هوش مصنوعی Mythos خطرات سایبری را ۱۰ برابر کرده است!

جیمی دایمن (Jamie Dimon)، مدیرعامل غول بانکی جی‌پی مورگان (JPMorgan Chase)، اعلام کرده که مدل هوش مصنوعی قدرتمند Mythos از شرکت آنتروپیک (Anthropic)، تهدیدی بسیار بزرگ‌تر از گذشته برای امنیت سایبری در سراسر جهان ایجاد کرده است. دایمن در مصاحبه با شبکه تلویزیونی بلومبرگ گفت: «خطرات ناشی از هوش مصنوعی بعد از معرفی Mythos دست‌کم ۱۰ برابر شده است. این هوش مصنوعی آسیب‌پذیری‌هایی به وجود آورده که اصلاً از آن‌ها مطلع نبودیم، آن هم در شرایطی که ما از قبل هم همیشه نگران تهدیدات سایبری بودیم.»

دایمن تأکید کرد که این دغدغه‌ها صرفاً یک بحث تئوری و فرضی نیست: «نکته منفی دقیقاً همان مطالبی است که درباره ایجنت‌ها، مدل Mythos و همه ابزار‌هایی که می‌توانند دردسر درست کنند می‌خوانید؛ این یک نگرانی کاملاً واقعی و به‌جاست.» او البته اضافه کرد که اهل بزرگ‌نمایی درباره خطرات آخرالزمانی نیست و جی‌پی مورگان روی حل مستقیم مسئله تمرکز دارد: «من قرار نیست سر این موضوع که آیا هوش مصنوعی بقای انسان را تهدید می‌کند یا نه هیجان‌زده یا نگران شوم؛ کاری که ما می‌کنیم این است که آستین‌ها را بالا بزنیم و برای رفع مشکل دست‌به‌کار شویم.»

بر اساس گزارش بلومبرگ، اوایل سال جاری میلادی و در حین ارزیابی‌های ایمنی آنتروپیک، مدل Mythos به‌صورت خودکار به اینترنت متصل شد و دست به اقداماتی زد که دستورشان را دریافت نکرده بود! این اتفاق مدیران شرکت را به این فکر انداخت که مدل‌های پیشرفته ممکن است بسیار فراتر از اهداف طراحانشان پیش بروند. حتی در مواردی مشاهده شده که مدل‌های هوش مصنوعی برای تزریق کدهای مخرب به نرم‌افزارهای آنلاین تلاش کرده‌اند. علاوه بر این، OpenAI و Anthropic هر دو تأیید کرده‌اند که مدل‌هایشان حین آزمایش، ناخواسته امنیت چند سازمان از جمله پلتفرم هاگینگ فیس (Hugging Face) را به خطر انداخته‌اند.

اظهارات دایمن با هشدارهای قبلی او درباره دسترسی عمومی به Mythos هم‌راستاست؛ جایی که او عرضه همگانی این مدل را به توزیع موشک‌های بالستیک بین افراد عادی تشبیه کرده بود! دلیل این قیاس تند هم مهارت بالای مدل در شناسایی رخنه و باگ‌های نرم‌افزاری است؛ مهارتی که خود آنتروپیک هم آن را برای انتشار عمومی بسیار پرخطر می‌داند. جی‌پی مورگان جزو گروه منتخبی از شرکت‌ها بود که در ماه آوریل به Mythos دسترسی پیدا کرد و دایمن در آن زمان اعلام کرده بود صدها کارمند تمام‌وقت را برای تقویت سیستم‌ها در برابر این مدل به کار گرفته است.

آنتروپیک بعد از این ماجراها، نسخه عمومی این مدل را با نام Claude Fable 5 منتشر کرد؛ مدلی که بر پایه همان معماری اصلی Mythos 5 توسعه یافته، اما سیستم‌های طبقه‌بندی هوشمندی دارد که جلوی خروجی‌های خطرناک در حوزه‌هایی مانند امنیت سایبری، زیست‌شناسی و شیمی را می‌گیرند. در سوی دیگر، نسخه محدودشده Mythos 5 که برخی تدابیر حفاظتی سایبری در آن برداشته شده، هم‌زمان با Fable 5 و در قالب پروژه‌ای با همکاری دولت آمریکا به نام «Project Glasswing» تنها در اختیار نهادهای منتخب و تأییدشده قرار گرفته است.

دایمن همچنین در بخش پایانی مصاحبه تلویزیونی خود با بلومبرگ اشاره کرد که دیتاسنترها باید در مناطقی ساخته شوند که مردم و جامعه از آن‌ها حمایت می‌کنند و افزود که ایالت‌های متعددی در آمریکا با دسترسی به منابع پایدار برق، مشتاقانه از میزبانی این مراکز داده استقبال خواهند کرد.