پیشنهاد غیرمنتظره آمریکا به چین: راه‌اندازی «خط قرمز اضطراری» برای روز مبادای هوش مصنوعی!

«اسکات بسنت»، وزیر خزانه‌داری آمریکا، در یک گفت‌وگوی جدید اعلام کرد که قصد دارد سازوکار و فرایندی فوری برای اطلاع‌رسانی حوادث هوش مصنوعی میان آمریکا و چین پیشنهاد دهد تا در صورت بروز هرگونه اختلال یا فاجعه غیرمنتظره، دو کشور سریعاً در جریان قرار بگیرند؛ او تأکید کرده که معتقد است پکن هم با این طرح موافقت خواهد کرد.

چرا این موضوع اهمیت دارد؟ ایده بسنت از این واقعیت سرچشمه می‌گیرد که به گفته او، مقامات پکن تازه متوجه شده‌اند مدل‌های متن‌باز هوش مصنوعی خودِ چین بسیار خطرناک‌تر از آن چیزی هستند که قبلاً تصور می‌کردند.

پشت پرده ماجرا: بسنت و «هه لیفنگ»، معاون نخست‌وزیر چین، ماه گذشته و پیش از سفر رسمی «شی جین‌پینگ»، رئیس‌جمهور چین، درباره ایمنی هوش مصنوعی به مذاکره پرداختند و ایجاد یک کانال ارتباطی اختصاصی برای حوادث و بحران‌های هوش مصنوعی را روی میز گذاشتند.

• بسنت توضیح داد که این گفت‌وگوها خطرات بزرگی مثل ایجنت‌های خودمختار و کنترل‌نشده هوش مصنوعی و همچنین استفاده گروه‌ها و بازیگران غیردولتی از این فناوری برای حملات سایبری یا ساخت سلاح‌های بیولوژیکی را شامل می‌شد.

اظهارات جالب وزیر: بسنت با اشاره به مدل‌های هوش مصنوعی متن‌باز چینی که هر کسی در سراسر جهان می‌تواند آن‌ها را دانلود، دستکاری و اجرا کند، گفت: «فکر می‌کنم خود چینی‌ها هم متوجه نبودند که مدل‌های متن‌بازشان تا چه اندازه قدرتمند و مهارنشدنی شده‌اند.»

• بسنت به ماجرای اخیر مدل هوش مصنوعی چینی Kimi اشاره کرد؛ حادثه‌ای که طی آن این مدل اطلاعات حساس چینی‌ها را به سرور‌های شرکت آنتروپیک (Anthropic) فرستاده بود. او این اتفاق را یکی از جرقه‌هایی دانست که «باعث شد چینی‌ها بفهمند با چه فناوری قدرتمند و بالقوه غیرقابل پیش‌بینی‌ای طرف هستند.»
• بسنت در ادامه افزود: «بسیاری از این مدل‌های چینی واقعاً قدرتمندند؛ البته نه به اندازه پیشرفته‌ترین مدل‌های آمریکایی، اما با سیستمی طرف هستید که حدود ۸۰ تا ۹۰ درصد قدرت آن‌ها را دارد، منتها هیچ‌گونه گاردریل و حفاظ ایمنی ندارد و هر کسی در هر نقطه از دنیا می‌تواند آن را دانلود و استفاده کند.»

زاویه پنهان و نگرانی پکن: جالب اینجاست که چین پیش از این هم نگران بعد دیگری از تهدیدات هوش مصنوعی بود؛ این‌که چنین فناوری‌هایی کنترل سفت و سخت حزب کمونیست بر جریان اطلاعات و فضای رسانه‌ای را تضعیف کند.

• ماه گذشته حتی رئیس دستگاه اطلاعاتی چین هم هشدار داده بود که هوش مصنوعی ممکن است برای دامن زدن به جنگ‌های اطلاعاتی و «شناختی» علیه حاکمیت به کار گرفته شود و ثبات سیاسی و ایدئولوژیک این کشور را متزلزل کند.

نگاهی به تصویر بزرگ‌تر: از سوی دیگر، خود دولت آمریکا هم با چالش بزرگ برقراری تعادل میان توسعه سرسام‌آور هوش مصنوعی و نگرانی‌های فزاینده از پیامدهای مخرب آن دست‌وپنجه نرم می‌کند.

• بسنت درباره رویکرد واشنگتن گفت: «هدف ما شتاب‌بخشی ایمن و حرکت سریع اما حساب‌شده است.»
• او در ادامه توضیح داد که ارزیابی‌های امنیتی دولت روی مدل‌های هوش مصنوعی در حال حاضر داوطلبانه است، با این حال اگر آزمایشگاهی هشدارهای ایمنی را نادیده بگیرد و با کله‌شقی به جلو بتازد، کاخ سفید حق دخالت مستقیم را برای خود محفوظ می‌داند.
• بسنت تأکید کرد: «مسئولان اصلی و محققان این آزمایشگاه‌ها هستند که باید مسئولیت عواقب کارشان را به گردن بگیرند، و من کاملاً با این موضوع موافقم. به نظرم خود آزمایشگاه‌ها و غول‌های هوش مصنوعی هم حالا دیگر به این باور رسیده‌اند.»

سطح هشدار و پاسخ قاطع: وقتی از بسنت درباره هشدار مدیران ارشد فناوری پرسیدند که می‌گویند شاید در آینده کنترل مدل‌های بسیار قدرتمند از دستشان خارج شود، او خیلی رک و پوست‌کنده جواب داد: «خب، اگه این‌طوره، سرعتشون رو کم کنن و ترمز بکشن!»

چشم‌انداز آینده: وزیر خزانه‌داری آمریکا معتقد است واشنگتن به جای این‌که تمام تمرکزش را صرفاً روی مسابقه دیوانه‌وار برای ساخت مدل‌های بزرگ‌تر و قوی‌تر بگذارد، باید توان و توجه ویژه‌ای را به حفاظت از زیرساخت‌ها و سیستم‌های حیاتی در برابر خطرات هوش مصنوعی اختصاص دهد.

• بسنت در پایان خاطرنشان کرد: «ما برای رسیدن به مرزهای نهایی و ساخت قوی‌ترین مدل‌ها به سختی در حال تقلا و رقابت هستیم، اما واقعاً باید به همان اندازه نگران تاب‌آوری، پدافند و دفاع در برابر این سیستم‌ها هم باشیم.»