موج استعفا در گوگل دیپ‌مایند؛ اعتراض پژوهشگران به قراردادهای نظامی محرمانه با پنتاگون

پژوهشگران گوگل دیپ‌مایند امضای توافق محرمانه با وزارت دفاع آمریکا (پنتاگون) و تضعیف فیلترهای ایمنی هوش مصنوعی را دلایل اصلی استعفای خود اعلام کرده‌اند.

بر اساس گفت‌وگوهای بی‌بی‌سی با کارکنان فعلی و پیشین، چند تن از پژوهشگران گوگل دیپ‌مایند در اعتراض به گسترش قراردادهای نظامی این شرکت از سمت خود استعفا داده‌اند یا در حال آماده‌شدن برای ترک شرکت هستند. این کناره‌گیری‌ها پس از آن رخ داد که خبرگزاری رویترز فاش کرد گوگل توافقی محرمانه با وزارت دفاع ایالات متحده امضا کرده است؛ توافقی که اجازه می‌دهد مدل‌های هوش مصنوعی این غول فناوری برای «هر هدف قانونی دولتی»، ازجمله پروژه‌های نظامی طبقه‌بندی‌شده، به کار گرفته شوند. این توافق نگرانی‌هایی مشابه جنجال اخیر پیرامون اپلیکیشن نظارتی مأموران آمریکایی برای رصد گروه‌های سیاسی داخلی ایجاد کرده است.

پژوهشگرانی که میز کار خود را ترک کردند

دو تن از پژوهشگران به‌طور علنی علت خروج خود را نگرانی از کاربردهای نظامی و از دست رفتن امکان نظارت گوگل پس از ورود این فناوری به محیط‌های طبقه‌بندی‌شده نظامی عنوان کرده‌اند.

سوفیا لیگوری (Sofia Liguori)، مهندس پژوهشگر مقیم لندن که سه سال در گوگل دیپ‌مایند فعالیت داشت، در گفت‌وگو با بی‌بی‌سی اعلام کرد پس از سلب اعتمادش از پایبندی شرکت به ارزش‌های اخلاقی اعلام‌شده—به‌ویژه با گسترش همکاری‌ها با ارتش آمریکا و اسرائیل—از شغل خود استعفا کرده است.

آندریاس کیرش (Andreas Kirsch)، دیگر پژوهشگر هوش مصنوعی، به‌صورت جداگانه استعفا داد و تأکید کرد ساختارهای نظارتی و مدیریتی گوگل برای استقرار ایمن و مسئولانه فناوری در محیط‌های نظامی و محرمانه ناکافی است. به گزارش بی‌بی‌سی، کیرش همچنین اشاره کرده است که با ادغام این مدل‌ها در زیرساخت‌های فوق‌سری پنتاگون، گوگل عملاً توان چندانی برای نظارت یا حق وتو بر نحوه استفاده ارتش از فناوری خود نخواهد داشت.

بندهای قرارداد محرمانه چه می‌گویند؟

توافق فاش‌شده شامل محدودیت‌هایی برای برخی کاربردها است، اما در عین حال بندی دارد که امکان تغییر تنظیمات ایمنی گوگل به درخواست دولت را فراهم می‌کند.

به گزارش رویترز، در توافق‌نامه پنتاگون تصریح شده است که این سیستم‌ها نباید برای نظارت گسترده جمعی در داخل کشور یا سلاح‌های خودران بدون نظارت و کنترل کافی نیروی انسانی استفاده شوند؛ بندی که روی کاغذ تا حدی اطمینان‌بخش به نظر می‌رسد.

اما بند دوم قرارداد توجه ویژه‌ای می‌طلبد. رویترز گزارش داده است که این توافق، گوگل را ملزم می‌کند بنا به درخواست دولت در تعدیل و بازتنظیم فیلترها و تنظیمات ایمنی هوش مصنوعی همکاری کند؛ ماده‌ای که دست مقامات نظامی را برای دستکاری حفاظ‌های ایمنی باز می‌گذارد.

پروژه ماون (Project Maven) پیش‌زمینه شفافی از این ماجرا ارائه می‌دهد. این طرح پنتاگون که با همکاری شرکت پالانتیر (Palantir) توسعه یافته است، از هوش مصنوعی برای تحلیل داده‌های اطلاعاتی و کمک به نیروها در شناسایی و تعیین اهداف نظامی استفاده می‌کند. به گزارش بی‌بی‌سی، مقامات پنتاگون دستیابی به حداکثر سرعت را مؤلفه حیاتی پیروزی در نبردهای مبتنی بر هوش مصنوعی توصیف می‌کنند.

ژنرال بازنشسته جک شاناهان (Jack Shanahan)، مدیر پیشین پروژه ماون، هشدار داده است که فشارهای ناشی از عملیات جنگی ممکن است از ارزیابی‌ها و آزمایش‌های دقیق ایمنی پیشی بگیرد. سارا شوکر (Sarah Shoker)، مسئول پیشین ژئوپلیتیک در اوپنای‌آی، ابعاد عملی این چالش را برای بی‌بی‌سی چنین تشریح کرد: هوش مصنوعی زمان تصمیم‌گیری را به‌شدت فشرده می‌کند؛ این فشردگی مانع از آن می‌شود که یک ناظر انسانی بتواند صدها هدف شناسایی‌شده توسط الگوریتم‌ها را از نظر وجود خطاهای مرگبار به‌درستی بررسی و راستی‌آزمایی کند.

موضع گوگل و وضعیت کلی غول‌های فناوری

گوگل مدعی است فرآیند بازبینی قراردادهایش منسجم و شفاف است و کارکنان می‌توانند بدون ترس از تلافی نگرانی‌هایشان را مطرح کنند؛ بااین‌حال گوگل تنها شرکتی نیست که به سراغ همکاری‌های نظامی رفته است.

گوگل در پاسخ به بی‌بی‌سی اعلام کرده است که فرآیند بازبینی قراردادهای این شرکت با سیاست‌های کاربری مجاز و اصول راهنمای هوش مصنوعی آن هماهنگ است و کارکنان کانال‌های مشخصی برای بیان نگرانی‌های خود بدون ترس از عواقب شغلی دارند. طبق اصول منتشرشده هوش مصنوعی گوگل، پروژه‌ها ملزم به رعایت نظارت انسانی، قوانین بین‌المللی و موازین حقوق بشر هستند.

گزارش بی‌بی‌سی تأیید می‌کند که گوگل در این مسیر تنها نیست: شرکت‌هایی همچون اوپنای‌آی، مایکروسافت، آمازون، اسپیس‌ایکس، اوراکل، انویدیا و رفلکشن (Reflection) همگی توافق‌نامه‌های نظامی امضا کرده یا در پی همکاری با ارتش آمریکا هستند.

پیش از این نیز قرارداد ۱٫۲ میلیارد دلاری «پروژه نیمبوس» (Project Nimbus) میان گوگل، آمازون و دولت و ارتش اسرائیل با اعتراض گسترده کارکنان مواجه شده بود. گوگل در آن زمان ادعا کرده بود پروژه نیمبوس به خدمات نظامی یا اطلاعاتی حساس مرتبط با تسلیحات اختصاص ندارد. بااین‌حال، ادعاهای مربوط به استفاده از هوش مصنوعی برای هدف‌گیری نظامی در قالب این قرارداد با مناقشات شدیدی همراه بوده است؛ اگرچه یکی از وزرای دولت اسرائیل در گفت‌وگو با بی‌بی‌سی، ادعاهای مطرح‌شده در مستند «نازا» (Naza) را ساختگی و تحریف‌شده خوانده است.

پرسش بی‌پاسخی که استعفاها بر جای گذاشتند

مسئله‌ای که هنوز بی‌پاسخ مانده این است که آیا «نظارت انسانی» واقعاً به معنای بازبینی موشکافانه و پاسخگو خواهد بود، یا صرفاً حضور صوری یک انسان در فرآیندی که سریع‌تر از توان پردازش هر فردی پیش می‌رود.

این پرسشی نیست که بتوان تنها با کلمات حقوقی در متن یک قرارداد به آن پاسخ داد. برای هر متخصصی که تلاش می‌کند سیستم‌های هوش مصنوعی را بر پایه اصول و تعهدات اخلاقی بسازد، همین ابهام حل‌نشده، خودِ ریشه اصلی بحران است.