بحث بر سر توقف هوش مصنوعی؛ چرا کاهش سرعت توسعه بزرگ‌ترین تهدید برای رهبری آمریکا است؟

صنایع به‌ندرت از دولت‌ها تقاضای قانون‌گذاری و ایجاد محدودیت می‌کنند؛ معمولاً ترجیح شرکت‌ها این است که جلوتر از قوانین حرکت کنند، سودآوری را به حداکثر برسانند و بعداً بر سر چارچوب‌های نظارتی مذاکره کنند. با این حال، رهبران ارشد حوزه هوش مصنوعی اخیراً به‌صورت علنی اعلام کرده‌اند که تدابیر ایمنی فعلی هم‌پای سرعت پیشرفت سامانه‌های هوشمند حرکت نمی‌کند. اگر چهره‌های اصلی این صنعت نگرانند، بقیه چه واکنشی باید نشان دهند؟ پاسخ منطقی به این چالش، توقف یا کاهش سرعت نیست؛ بلکه برخورد جدی و همه‌جانبه با ریسک‌ها است.

در تاریخ ۱۲ سپتامبر، داریو آمودی، مدیرعامل Anthropic، خواستار کاهش سرعت توسعه مدل‌های فرانتیر (Frontier Models) و کند کردن روند ارتقای توانمندی قدرتمندترین سیستم‌ها شد و هشدار داد که دسته‌های ایجنت‌های سرکش (Rogue Agent Swarms) می‌توانند ظرف چند ماه خساراتی در مقیاس اینترنت به بار آورند. سم آلتمن و ایلان ماسک نیز در همان روز از این پیشنهاد حمایت کردند. آمودی تأکید دارد که خواهان توقف آموزش مدل‌ها نیست و تنها از کند کردن روند جهش‌های عملکردی سخن می‌گوید؛ با این حال، کاهش سرعت هماهنگ میان آزمایشگاه‌های پیشرو آمریکایی در عمل به معنای کند شدن کل پیشرفت این فناوری خواهد بود.

در ۲۳ سپتامبر و در جریان هفته مجمع عمومی سازمان ملل، آمودی و آلتمن این موضوع را به شورای امنیت سازمان ملل بردند و از دولت‌ها خواستند استانداردهای ارزیابی مشترک و سازوکاری بین‌المللی برای گزارش حوادث بحرانی ایجاد کنند. با این حال، پاسخ کاخ سفید در همان صحن مشخص شد؛ مایکل کراتسیوس، مشاور علمی وقت، به شورا اعلام کرد که سرعت بالای پیشرفت مرزهای فناوری دلیلی برای متوقف کردن آن یا ساخت ساختارهای نظارتی جدید در سطح بین‌المللی نیست.

چند روز بعد در برلین، پیتر تیل پاسخی داد که برای آزمایشگاه‌های هوش مصنوعی چندان خوشایند نبود. او تأکید کرد که خطرات این فناوری را کاملاً جدی می‌داند، اما باور دارد توقفی که این آزمایشگاه‌ها خواستار آن هستند در دنیای واقعی اصلاً امکان‌پذیر نیست.

در حالی که این مباحثات بر گام‌های بعدی آزمایشگاه‌های پیشرو متمرکز است، شرکت‌های تجاری در سطح جهان با مسائلی روبه‌رو هستند که به‌هیچ‌وجه نمی‌توان آن‌ها را متوقف کرد. ایجنت‌های هوش مصنوعی هم‌اکنون به داده‌های سازمانی، نرم‌افزارها، ایمیل‌ها و ابزارهای عملیاتی دسترسی دارند. علاوه بر این، مؤسسه تحلیلی Gartner پیش‌بینی می‌کند که تا پایان سال ۲۰۲۶، ایجنت‌های اختصاصی در ۴۰ درصد از نرم‌افزارهای سازمانی ادغام خواهند شد؛ نفوذی چنان عمیق که هیچ کسب‌وکاری نمی‌تواند فعالیت‌های خود را برای چند ماه یا حتی چند هفته متوقف سازد.

چرا آمریکا نمی‌تواند سرعت توسعه را کاهش دهد؟

تمرکز سیاست‌گذاران باید بلافاصله به مدیریت بسیار فعالانه‌تر ریسک‌های هوش مصنوعی تغییر کند. این اقدام با تعیین خطوط قرمز شفاف، تقویت تدابیر ایمنی مدل‌های فرانتیر، استحکام‌بخشی به زیرساخت‌های حیاتی، ارتقای امنیت سایبری و سرمایه‌گذاری سنگین در هوش مصنوعی دفاعی آغاز می‌شود. این اقدامات اگرچه در نگاه نخست دشوار به نظر می‌رسند، اما کاهش دستوری سرعت در سطح ملی نه‌تنها به اقتصاد آسیب می‌زند، بلکه امنیت ملی و جهانی را نیز با مخاطراتی شدید مواجه می‌کند.

به تعویق انداختن انتشار عمومی یک مدل در صورتی که آزمایشگاه توسعه‌دهنده از ایمنی آن مطمئن نباشد امری منطقی است؛ اما متوقف کردن کل زیست‌بوم هوش مصنوعی تصمیمی غیرمسئولانه و زیان‌بار برای منافع ملی خواهد بود. اگر یک شرکت پیشرو در حوزه هوش مصنوعی تشخیص دهد که مدل نسل بعدی‌اش برای استقرار ایمن نیست، باید انتشار آن را به تعویق بیندازد؛ این مصداق بارز حکمرانی مسئولانه است.

رویکرد مسئولانه Anthropic و ابعاد ژئوپلیتیک آن

چارچوب‌هایی که شرکت‌هایی همچون Anthropic پیاده کرده‌اند، نمونه‌ای از سیاستی است که بر اساس آن سیستم‌های واجد خطرات فاجعه‌بار نباید بدون لایه‌های حفاظتی کافی آموزش داده شوند یا به کار گرفته شوند.

این رویکرد باید در تمام شرکت‌های فعال الگوبرداری شود؛ اما ایالات متحده نمی‌تواند به کل اکوسیستم نوآوری دستور توقف یا انتظار بدهد. چنین اقدامی صرفاً یک انتخاب در سیاست‌گذاری فناوری نیست، بلکه تصمیمی صنعتی، اقتصادی و ژئوپلیتیک به شمار می‌رود. برای تضمین جایگاه آینده در این رقابت جهانی، تداوم پیشگامی در این عرصه باید همراه با مسئولیت‌پذیری حفظ شود.

رقابت هوش مصنوعی صرفاً بر سر ساخت بهترین مدل نیست

برنده رقابت جهانی هوش مصنوعی طرفی است که کل پشته (Full Stack) فناوری را در کنترل داشته باشد. حتی در صورت ساخت شگفت‌انگیزترین مدل تاریخ، اگر ظرفیت‌های پردازشی، تراشه‌های نیمه‌هادی پیشرفته، منابع پایدار انرژی، مراکز داده فوق‌پیشرفته، سرمایه کلان، استعدادهای فنی، امنیت سایبری و زنجیره توزیع بین‌المللی در اختیار نباشد، عملاً بستری فراهم شده تا دیگر بازیگران جهان مدل را تصاحب و کنترل کنند.

دولت آمریکا متوجه این واقعیت شده است؛ برنامه اقدام ملی هوش مصنوعی بر سه رکن کلیدی تسریع نوآوری، توسعه زیرساخت‌های پیشرفته و پیشگامی در دیپلماسی و امنیت بین‌المللی تمرکز دارد. این اولویت‌های متصل به هم، کاملاً به توسعه دیتاسنترها، ارتقای ظرفیت شبکه برق، خودکفایی در زنجیره تأمین تراشه‌ها، سامانه‌های امن دولتی، پدافند زیستی و توانایی صادرات فناوری به کشورهای هم‌پیمان وابسته‌اند.

اینکه هوش مصنوعی با ریسک‌های واقعی همراه است واقعیتی غیرقابل انکار محسوب می‌شود؛ اما مسئله محوری این است که آیا کند کردن عمومی روند توسعه، شیوه درستی برای مهار این خطرات به شمار می‌رود یا خیر.

تفاوت بنیادین ریسک‌های نرم‌افزاری با فناوری‌های پیشین

هوش مصنوعی تفاوت ساختاری با فناوری‌هایی نظیر انرژی هسته‌ای یا صنایع تولیدی سنگین دارد؛ فناوری‌هایی که با مواد فیزیکی، تأسیسات خاص و فرآیندهای قابل رصد سروکار دارند.

در نشست اخیر شورای امنیت سازمان ملل، مقایسه هوش مصنوعی با معاهده منع گسترش سلاح‌های هسته‌ای (NPT) از سوی هیئت‌های متعدد مطرح شد و جلسه بر محور از دست رفتن کنترل بر سامانه‌های فرانتیر متمرکز بود. اگرچه معاهدات خلع سلاح سابقه تاریخی جذابی هستند و بازرسی‌ها و رصدهای اطلاعاتی توانستند نظارت نسبتاً موفقی بر تسلیحات فیزیکی ایجاد کنند، اما این قیاس در یک نقطه تعیین‌کننده نقض می‌شود: اورانیوم قابل شمارش و انبارداری فیزیکی است، اما وزن‌های محاسباتی یک مدل هوش مصنوعی (Model Weights) به‌سادگی قابل کپی‌برداری هستند.

هوش مصنوعی در نهایت نرم‌افزار است. یک تیم می‌تواند مدلی را توسعه دهد و تیمی دیگر قادر است آن را کپی کرده، توسعه دهد و برای اهدافی درست در نقطه مقابل مقاصد اولیه پیاده‌سازی کند. همان سامانه‌ای که در کشف دارو، آموزش، شناسایی آسیب‌پذیری‌های نرم‌افزاری یا بهینه‌سازی زنجیره تأمین کاربرد دارد، می‌تواند در دستان بازیگران مخرب قرار گیرد. همین ویژگی است که توقف دستوری یا کاهش سرعت را در دستیابی به هدف اصلی ایمنی ناکارآمد می‌کند؛ چراکه بازیگران متخاصم و غیرقانونی هیچ‌گاه به توصیه‌ها یا تعهدات بین‌المللی پایبند نخواهند بود.

ضرورت پیاده‌سازی لایه‌های دفاعی چندگانه

بر اساس گزارش بین‌المللی ایمنی هوش مصنوعی، مهار مخاطرات ناشی از مدل‌های فرانتیر نیازمند استقرار لایه‌های پدافندی چندگانه است. این ساختار نیازمند نظارت فنی مستمر، چارچوب‌های سنجش استاندارد و سیستم‌های حاکمیتی دقیق است تا چالش‌های عملی مدیریت ریسک‌های سیستم‌های چندمنظوره حل‌وفصل شود.

این رویکرد به‌معنای رهاسازی فضا توسط قانون‌گذاران نیست؛ بلکه هر ماده قانونی باید با حداکثر دقت تدوین شود و تمرکز مستقیماً بر کاربردهای خطرناک، سناریوهای پرریسک استقرار و کاستی‌های حاکمیت شرکتی قرار گیرد.

در بخش خصوصی نیز شرکت‌های پیشرو ملزم به ایجاد گاردریل‌های سخت‌گیرانه داخلی هستند. تیم‌های توسعه باید سدهای دفاعی معناداری در برابر حملات سایبری مبتنی بر هوش مصنوعی به زیرساخت‌های حیاتی ایجاد کنند و مدل‌ها را از نظر سوءاستفاده‌های شیمیایی و بیولوژیکی آزمایش نمایند. آن‌ها باید محیط‌های یادگیری را به‌گونه‌ای شکل دهند که با جعل هویت، کلاهبرداری و سرقت دارایی‌های فکری مقابله کند؛ به این معنی که برای مهار مجرمان، باید شیوه تفکر آن‌ها را پیش‌بینی کرد.

مسئولیت‌های حاکمیتی فراتر از رگولاتوری

هم‌گام با تنظیم قوانین و چارچوب‌های ایمنی، دولت‌ها موظفند سرمایه‌گذاری سنگینی در پدافند هوش مصنوعی برای شناسایی تهدیدات سایبری، جلوگیری از تقلب و ایمن‌سازی زیرساخت‌ها انجام دهند. تسریع در ساخت پایگاه‌های محاسباتی امن، ارتقای ظرفیت شبکه سراسری برق و ایمن‌سازی زنجیره تأمین تراشه‌ها ضرورت‌های حیاتی این دوره هستند.

هم‌زمان، توانمندسازی نیروی انسانی نقشی بنیادین دارد. آموزش، مهارت‌افزایی و بازآموزی نیروی کار در عصر هوش مصنوعی باید در اولویت قرار گیرد؛ در غیر این صورت، دستاورد این دگرگونی صرفاً فرصت‌های شغلی بی‌پاسخ خواهد بود. هوش مصنوعی پتانسیل جهش بهره‌وری را فراهم می‌کند، اما بهره‌برداری از آن نیازمند متخصصانی است که هدایت ابزارها را در دست داشته باشند.

چرا توقف توسعه روی میز نیست؟

پیتر تیل در مصاحبه‌ای صریح با ماتیاس دوپفنر، مدیرعامل Axel Springer، به این موضوع پرداخت. او خطرات هوش مصنوعی یا احتمال از دست رفتن مهار سامانه‌های هوشمندتر از انسان را نفی نکرد و حتی احتمال ۵ تا ۱۰ درصدی وقوع بحران را بسیار جدی دانست. با این حال، ایده توقف توسعه را غیرواقعی خواند؛ زیرا یک توقف واقعی مستلزم اعمال قانون هم‌زمان در واشنگتن، پکن و تمامی آزمایشگاه‌های مجهز به شتاب‌دهنده‌های گرافیکی در سرتاسر جهان است که در عمل نیازمند یک حکومت متمرکز جهانی با اختیارات بی‌سابقه خواهد بود.

آنچه در عمل می‌تواند رخ دهد، تنها یک توقف یک‌جانبه در غرب است که خروجی آن به چند همایش، تشکیل اندیشکده‌های ایمنی و تأخیر در عرضه محصولات محدود خواهد شد. به تعبیر تیل، در حالی که اروپا به مسائل اخلاقی می‌پردازد و آمریکا درگیر مناقشات داخلی است، پکن بدون وقفه مشغول آموزش مدل‌ها است.

چین اصلی‌ترین رقیب استراتژیک در حوزه فناوری است و تمامی تمرکز خود را بر پیروزی در این میدان گذاشته است. شورای دولتی چین برنامه شتاب‌بخشی به ادغام هوش مصنوعی در علوم، صنایع، خدمات مصرفی و ساختارهای عمومی را پیگیری می‌کند و ابتکار راهبردی «AI Plus» گواه سرمایه‌گذاری تمام‌عیار این کشور بدون توجه به بازدارنده‌ها است.

در چنین فضایی، نمی‌توان فرض را بر همکاری متقابل بین‌المللی گذاشت؛ سیاست‌گذاری‌ها باید بر این واقعیت استوار باشند که رقبای ژئوپلیتیک با تمام توان به پیشرفت ادامه خواهند داد.

تقابل میان «ایمنی» و «پیشگامی» یک دوراهی کاذب است؛ استراتژی هوشمندانه به هر دو مؤلفه نیاز دارد. آمادگی در برابر سوءاستفاده‌های فاجعه‌بار باید با سرعتی به‌مراتب بالاتر از گذشته پیگیری شود و هم‌زمان قدرتمندترین سامانه‌های پدافند سایبری و زیستی شکل گیرند. مدیریت ریسک به معنای عقب‌نشینی نیست؛ مسیر پیش‌رو نیازمند حرکت سریع‌تر در توسعه زیرساخت‌ها، دفاع سایبری و نوآوری مسئولانه در کنار تدوین مقررات هوشمند است، بدون آنکه کنترل بر آینده این فناوری کلیدی به رقبا واگذار شود.