رفتار پیشبینیناشدنی عامل‌های هوش مصنوعی؛ زنگ خطری جدی برای استقلال دیجیتال و ابری بریتانیا

این روزها ردیابی مواردی که مدل‌های هوش مصنوعی توسعهیافته توسط OpenAI و Anthropic از مرزهای مهارشده خود فراتر می‌روند، وارد فضای وب می‌شوند و آشوب‌های غیرمنتظره و پرخطری به بار می‌آورند، به کاری دشوار تبدیل شده است.

موج اخیر حوادث ناشی از رفتارهای مهارنشدنی عامل‌های هوش مصنوعی حتی دولت دونالد ترامپ در آمریکا را نیز بر آن داشته تا اعمال نظارت و قدرت بیشتری بر ابزارهای هوش مصنوعی را مدنظر قرار دهد.

این رخدادها آسیپپذیری عمیقی را برای بریتانیا آشکار می‌سازد؛ اگر مدل‌های پیشرفته هوش مصنوعی در مواجهه با داده‌های حساس رفتاری غیرقابل پیش‌بینی از خود نشان می‌دهند و حتی علیه کاربران واقعی حملات نفوذ انجام می‌دهند، در صورت میزبانی، پردازش و مدیریت این داده‌ها روی زیرساخت‌های تحت مالکیت خارجی چه سرنوشتی رقم خواهد خورد؟

سالهاست که بخش فناوری اطلاعات بریتانیا عملاً کلید اصلی زیرساخت‌های خود را به غول‌های فناوری آمریکایی واگذار کرده است. بررسی بازار خدمات ابری توسط سازمان رقابت و بازارهای بریتانیا (CMA) نشان می‌دهد که آمازون و مایکروسافت بین ۷۰ تا ۹۰ درصد بازار رایانش ابری این کشور را تحت کنترل دارند و در این میان، گوگل نیز به‌عنوان یکی دیگر از قدرت‌های دیجیتال آمریکا، سهم کوچک‌تری از این بازار را در اختیار گرفته است.

این غول‌های ابری بارها شعارهای تبلیغاتی پیرامون دیتاسنترهای منطقه‌ای و به‌ظاهر مستقل در خاک بریتانیا سر می‌دهند، اما واقعیت این است که صرفاً ذخیره داده‌ها در دیتاسنتری واقع در بریتانیا، به هیچ وجه ضامن استقلال و حاکمیت واقعی داده‌ها نیست.

در حقیقت، این شرکت‌ها دست به تظاهر به استقلال می‌زنند؛ زیرا اگر نهاد کنترلکننده تابع قوانین کشوری خارجی مانند قانون شفافیت استفاده از داده در خارج از کشور آمریکا موسوم به CLOUD Act باشد، مراجع قانونی خارجی می‌توانند آن شرکت را وادار به ارائه دسترسی به داده‌ها کنند. در چنین شرایطی محل استقرار فیزیکی سخت‌افزارها بیاهمیت است و میزبانی داده‌ها روی سرورهای متعلق به شرکت‌های خارجی، صرفاً پرداخت اجارهب‌ها در زمین دیجیتالی دیگران است که زیر نظر قوانین خارجی اداره می‌شود.

در شرایطی که عامل‌های خودکار هوش مصنوعیِ متعلق به شرکت‌های خارجی، حجم عظیمی از داده‌های حیاتی سازمانی و دولتی را پردازش می‌کنند و رفتارهای خصمانه و غیرقابل پیش‌بینی نشان می‌دهند، تصمیم برای ساختن آینده هوش مصنوعی بریتانیا بر پایه زیرساخت‌های انحصاری و خارجی، تصمیمی به‌شدت کوتهبینانه به نظر می‌رسد. خطرات بالقوه ناشی از نقض‌های مالی، حقوقی و امنیت ملی به هیچ وجه ارزش چنین ریسکی را ندارند.

زمان آن رسیده است که بریتانیا به وابستگی مفرط خود به سرویسدهندگان ابری تحت تسلط قدرت‌های خارجی پایان دهد و با حمایت از فناوری‌های داخلی، به استقلال دیجیتال واقعی دست یابد.

پرداخت «مالیات حاکمیت» به غول‌های فناوری

نهادهای بریتانیایی با تداوم اتکا به انحصارهای فناوری خارجی، در حال پرداخت مالیات سنگینی موسوم به «مالیات حاکمیت» هستند؛ هزینه‌ای پنهان، فرساینده و فزاینده که از توسعه سیستم‌های حیاتی روی پلتفرم‌هایی ناشی می‌شود که کنترل کاملی بر آنها وجود ندارد.

غول‌های ابری سازمان‌های بریتانیایی را با اعتبارهای رایگان اولیه و قیمت‌های پایین جذب می‌کنند، اما پس از اینکه این سازمان‌ها کاملاً در این سیستم‌ها مستقر شدند، خروج از آنها بسیار دشوار خواهد بود. هزینه‌های سرسامآور انتقال داده به خارج از سرویس، بدهی‌های فنی انحصاری، ریسک قطعی سراسری، قوانین سختگیرانه مجوزها و نقاط کور حسابرسی، همگی باعث می‌شوند مهاجرت از این سرویس‌ها بسیار سخت‌تر و پرهزینهتر از پیشبینی‌ها باشد.

این وضعیت نشان می‌دهد چرا حدود ۶۶ درصد از مدیران فناوری اطلاعات بریتانیا تمایل دارند برای بازیابی کنترل داده‌ها و زیرساخت‌های خود سرویسدهنده ابری را تغییر دهند؛ با این حال، علیرغم این تمایل آشکار برای رهایی، سهم مدیرانی که پیش‌بینی می‌کنند وابستگی آنها به غول‌های ابری آمریکایی عمیق‌تر خواهد شد، طی سال گذشته از ۱۲ درصد به ۲۸ درصد افزایش یافته و بیش از دو برابر شده است.

این مسئله زمانی عجیبتر می‌شود که نتایج تحقیقات مؤسسه پژوهشی Proton Research نشان می‌دهد ۴۵ درصد از مشتریان ترجیح می‌دهند از همکاری با شرکت‌هایی که داده‌هایشان را در اختیار شرکت‌های آمریکایی می‌گذارند خودداری کنند؛ علاوه بر این، بیش از نیمی از آنها (حدود ۵۸ درصد) تمایل دارند برای استفاده از سرویسدهندگانی با حاکمیت مستقل داده، هزینه‌های بالاتری بپردازند.

این گرفتاری اجباری، عصری از فئودالیسم دیجیتال را پدید آورده است؛ جایی که گروه کوچکی از مالکان خارجی، زمینه‌ای زیربنایی دنیای دیجیتال را در تصاحب دارند و کسبوکارها و نهادهای دولتی تنها همانند رعایا ناچار به پرداخت باج و خراج دائمی برای حق فعالیت هستند. هزینه‌های عملیاتی واقعی این اتکا اکنون آشکار شده است؛ طی سال گذشته، ۳۹ درصد از شرکت‌های بریتانیایی با اختلالات و قطعی‌های ناشی از غول‌های ابری آمریکایی روبهرو شدند که خسارت حاصل از آن برای برخی سازمان‌ها از ۱ میلیون پوند فراتر رفت.

با افزایش بار پردازشی و استقرار هرچه بیشتر پروژه‌های سنگین هوش مصنوعی روی این پلتفرم‌ها، قفلشدگی فنی به سرویسدهنده بهمراتب عمیق‌تر خواهد شد.

این وابستگی علاوه بر کاهش ارزش تجاری، منجر به خروج فرصت‌های شغلی مهندسی پیشرفته و مالکیت‌های معنوی از بریتانیا و سرازیر شدن آنها به آن سوی اقیانوس اطلس می‌شود.

ریسک‌های حقوقی و خطرات امنیتی

با گسترش کاربرد عامل‌های خودکار هوش مصنوعی، ریسک‌های حقوقی و عملیاتی نیز به همان نسبت افزایش می‌یابد. عامل‌های هوش مصنوعی در حین اجرای وظایف محوله با لایه‌های پایگاه داده، مالکیت معنوی شرکت‌ها و اطلاعات حساس شهروندان سر و کار دارند.

اگر این داده‌ها در زیستبومی تحت کنترل خارجی ذخیره شوند، سازمان‌های بریتانیایی صلاحیت قضایی خود بر آن داده‌ها را از دست می‌دهند. بدون برخورداری از حاکمیت واقعی داده، قدرت‌های خارجی عملاً دکمه قطع اضطراری زیرساخت‌های حیاتی بریتانیا را در دست خواهند داشت. برای نمونه، اگر یکی از بخش‌های سازمان ملی خدمات بهداشت بریتانیا (NHS) برای تریاژ بیماران به عامل هوش مصنوعی میزبانیشده در خارج متکی باشد، یک اختلاف نظارتی در کشوری دیگر می‌تواند منجر به قطع ناگهانی دسترسی شود؛ امری که فعالیت‌های بیمارستانی را فلج کرده و پرونده‌های سلامت شهروندان را در دسترس نهادهای خارجی قرار می‌دهد.

تمرکز بخش عمده توانمندی‌های ملی روی یک بستر تکمحصولی و متعلق به قدرت‌های خارجی، یک نقطه شکست متمرکز ایجاد می‌کند؛ اگر رویکرد سیاسی ایالات متحده تغییر یابد و دسترسی‌ها قطع شود، چه سرنوشتی در انتظار زیرساخت‌های حیاتی کشور خواهد بود؟

حملات پهپادی و موشکی ماه مارس به تاسیسات خدمات ابری آمازون (AWS) در امارات که دو منطقه دسترسی از مجموع سه منطقه فعال در آن بخش را از کار انداخت، گواهی روشن بر این واقعیت بود که فضای ابری منبعی آسیبناپذیر و فرامرزی نیست. حفظ امنیت واقعی نیازمند برخورداری از یک معماری توزیعشده و تابآور است.

مسیر دستیابی به استقلال دیجیتال

البته شکی نیست که غول‌های ابری جهانی می‌توانند برای کاربردهای غیرحساس و کمهزینه مفید واقع شوند، اما اولویتدادن به حاکمیت دیجیتال بهمعنای انزواطلبی فناوری نیست.

اختصاص بودجه ۵۰۰ میلیون پوندی دولت بریتانیا برای طرح ابتکاری «هوش مصنوعی مستقل» در ماه آوریل، نشان می‌دهد سیاست‌گذاران اهمیت تابآوری دیجیتال و حفظ کنترل بر داده‌ها را درک کرده‌اند.

با این وجود، اگر بودجه‌های عمومی پردازش و محاسبات همچنان بهسمت قراردادهای چندساله با شرکت‌های خارجی سرازیر شود، حمایت از نوآوری‌های بومی تضعیف خواهد شد.

اگر بریتانیا خواهان تبدیل شدن به قطب فناوری است، استراتژی خرید و تدارکات دولتی باید بر تامین خدمات از سرویسدهندگان ابری داخلی متمرکز شود.

هم‌زمان، انحصارگرایی سرویسدهندگان در زیستبوم‌های بسته رشد می‌کند. بریتانیا باید به فناوری‌های متن‌باز و معماری‌های باز به‌عنوان دارایی‌های ملی نگاه کند. بهره‌گیری از استانداردهای باز جابجایی مدل‌های هوش مصنوعی و داده‌ها میان بسترهای ابری عمومی، خصوصی و محلی را بدون دردسر می‌سازد، انعطافپذیری واقعی به بار می‌آورد و از پرداخت هزینه‌های هنگفت مهاجرت داده‌ها جلوگیری می‌کند.

کشورهای همسایه در اروپا پیشگام این مسیر شده‌اند؛ فرانسه در حال جایگزینی Zoom و مایکروسافت Office با راهکارهای متن‌باز و مستقل است و آلمان نیز از پلتفرم Nextcloud به‌عنوان جایگزینی برای Google Docs استفاده می‌کند.

بریتانیا پلتفرم‌های ابری داخلی توانمندی دارد و از ظرفیت فنی و نیروهای مستعد برای ارتقای زیرساخت‌ها برخوردار است. شرکت‌های این کشور خواستار حمایت جدی‌تر دولت از فناوری‌های بومی هستند و حدود ۹۰ درصد از مدیران فناوری اطلاعات خواستار رویکرد فعالانهتر در پشتیبانی از شرکت‌های داخلی شده‌اند؛ تنها چیزی که نیاز است، جسارت در تصمیمگیری‌های خریدهای دولتی است.

تعیین سرنوشت فناورانه و آینده دیجیتال

ماهیت بیپیشینه و پیشبینیناشدنی عامل‌های خودکار هوش مصنوعی ضرورت بازنگری در سیاست‌های کنونی را آشکار می‌سازد. ساختن آینده فناوری و امنیت اقتصادی یک کشور در زمینی اجارهای، تناقضی آشکار و خطری بزرگ است.

بریتانیا هم‌اکنون شرکت‌هایی در اختیار دارد که مالک تمام لایه‌های سخت‌افزاری و نرم‌افزاری مورد نیاز برای سازمان‌های مدرن هستند؛ شرکت‌هایی که قابلیت‌های اصلی غول‌های ابری را بدون تحمیل ریسک‌های حاکمیتی یا قفلشدگی انحصاری ارائه می‌دهند.

اگر بریتانیا می‌خواهد خود را به‌عنوان پیشگام جهانی هوش مصنوعی مطرح کند، باید از توسعه‌دهندگان فناوری بومی خود حمایت کند.

این امر مستلزم فاصلهگرفتن از سرویسدهندگان خارجی و سرمایه‌گذاری بر زیرساخت‌های متن‌باز است؛ رویکردی که تنها مسیر ممکن برای حفاظت از داده‌ها و بازپسگیری استقلال دیجیتال پیش از فوت وقت به‌شمار می‌رود.