کاخ سفید از OpenAI و Anthropic خواست ارائه مدل‌های جدید به بریتانیا را متوقف کنند

کاخ سفید از OpenAI و Anthropic خواست ارائه مدل‌های جدید به ارزیاب‌های بریتانیا را تا زمان بررسی آمریکا متوقف کنند

بر اساس گزارش نشریه POLITICO به نقل از یک منبع آگاه و یکی از مقام‌های ارشد دولت ایالات متحده، کاخ سفید از شرکت‌های OpenAI و Anthropic درخواست کرده است تا پیش از ارزیابی مدل‌های جدید هوش مصنوعی خود توسط دولت آمریکا، این مدل‌ها را در اختیار آژانس ارزیابی دولتی بریتانیا قرار ندهند.

این درخواست که از سوی دفتر مدیریت ملی امنیت سایبری آمریکا مطرح شده، شرکت‌های فناوری را در موقعیت دشواری قرار داده است؛ آن‌ها اکنون باید میان عدم ارائه مدل‌های خود به «مؤسسه ایمنی هوش مصنوعی بریتانیا» (UK AISI) ــ یکی از مجهزترین آژانس‌های ارزیابی دولتی در جهان که پیش‌تر از دسترسی زودهنگام و ویژه به مدل‌ها بهره‌مند بود ــ یا به خطر انداختن روابط خود با کاخ سفید در دولت ترامپ دست به انتخاب بزنند. به گفته این مقام ارشد، کاخ سفید تأکید دارد پیش از به اشتراک‌گذاری مدل‌ها با شرکای بین‌المللی ایالات متحده، ارزیابی آن‌ها در خاک آمریکا انجام شده و تدابیر لازم برای اطمینان از امنیت سیستم‌های این کشور اتخاذ شود.

این مقام ارشد آمریکایی در توضیح این تصمیم اعلام کرد: «آن‌ها شرکت‌هایی آمریکایی هستند و این سیاست ما در قبال هر مدل فرانتیر جدیدی است که معرفی می‌شود.»

کاخ سفید تا زمان انتشار این خبر به درخواست‌ها برای اظهار نظر پاسخی نداده است.

به نظر می‌رسد Anthropic تا این لحظه با این درخواست موافقت کرده است. این شرکت مدل Claude Mythos 5.1 خود را در اختیار UK AISI قرار نداد و در بیانیه رسمی خود اعلام کرد که این مدل «تنها در دسترس مجموعه‌ای از سازمان‌های مستقر در آمریکا» قرار دارد.

در وبلاگ رسمی Anthropic هنگام معرفی این مدل آمده است: «ما با دولت ایالات متحده در حال هماهنگی هستیم تا دسترسی به مدل را در سریع‌ترین زمان ممکن برای طیف گسترده‌تری از شرکای داخلی و بین‌المللی فراهم کنیم.» شرکت Anthropic از اظهار نظر بیشتر در این خصوص خودداری کرد.

هنری دی زوئت (Henry de Zoete)، مدیر UK AISI، اوایل ماه جاری در نامه‌ای به یکی از کمیته‌های پارلمان بریتانیا با اذعان به عدم دسترسی به مدل جدید Anthropic تأکید کرد: «ما روابط مستحکم خود را با تمامی توسعه‌دهندگان مدل‌های فرانتیر هوش مصنوعی حفظ کرده‌ایم و همچنان به دسترسی پیش از انتشار به برخی از قدرتمندترین مدل‌های جهان ادامه می‌دهیم.» او خاطرنشان کرد که این مؤسسه پیش از عرضه عمومی، مدل GPT-6 Astra متعلق به OpenAI را مورد ارزیابی و آزمایش قرار داده بود.

دی زوئت در ادامه نوشت: «روابط مبتنی بر اعتمادی که مؤسسه AISI برقرار کرده، ما را قادر می‌سازد تا طیفی از مدل‌ها را که نشان‌دهنده جهش‌های بزرگ در سطح صنعت هستند، آزمایش کنیم.»

شرکت OpenAI نیز به درخواست‌ها برای ارائه توضیحات پاسخی نداده است.

درخواست دولت ترامپ در شرایطی مطرح می‌شود که کاخ سفید در تلاش است سازوکار مدیریت مدل‌های قدرتمند و جدید هوش مصنوعی را مشخص کند؛ مدل‌هایی که طبق گزارش‌ها، در جریان ارزیابی‌های فنی توانسته‌اند به ساختارهای خارجی، از جمله یک وب‌سایت دولتی در استرالیا، نفوذ کنند.

علاوه بر این، مهندسان سابق و چهره‌های برجسته شرکت‌های بزرگ هوش مصنوعی اخیراً هشدار داده‌اند که پیشرفت مهارنشده این مدل‌ها بدون نظارت کافی می‌تواند پیامدهای فاجعه‌باری به همراه داشته باشد.

مؤسسه UK AISI که در سال ۲۰۲۳ تأسیس شد، پیوندهای نزدیکی با آزمایشگاه‌های پیشرو هوش مصنوعی برقرار کرده و به‌طور داوطلبانه و مستمر، جدیدترین مدل‌های آن‌ها را پیش از عرضه عمومی بررسی و ارزیابی می‌کند.

دولت بریتانیا تخصص فنی و دسترسی AISI به مدل‌ها را به محور اصلی راهبرد خود برای پاسخ به نگرانی‌های ایمنی هوش مصنوعی و همچنین زمینه‌سازی برای پیشتازی در توافق‌های بین‌المللی این حوزه تبدیل کرده است.

اندی برنهام (Andy Burnham)، نخست‌وزیر بریتانیا، این هفته اعلام کرد که هوش مصنوعی در کانون توجه ریاست این کشور بر گروه G20 در سال آینده میلادی قرار خواهد داشت.

با این حال، دسترسی ویژه این مؤسسه بریتانیایی به مدل‌های فرانتیر توسعه‌یافته در آزمایشگاه‌های آمریکایی، با اصرار دولت ترامپ بر لزوم اولویت دولت آمریکا در دسترسی به سیستم‌های نوظهور، تحت فشارهای جدی قرار گرفته است.

بریتانیا تلاش کرده است از شدت هرگونه تنش بکاهد؛ به طوری که برنهام این هفته در مجمع عمومی سازمان ملل متحد اعلام کرد مؤسسه ایمنی بریتانیا «همکاری بسیار تنگاتنگی با ایالات متحده و آزمایشگاه‌های پیشرو در زمینه ایمنی هوش مصنوعی دارد». او خواستار ایجاد «مجموعه‌ای یکپارچه از اصول و استانداردهای جهانی» برای ارتقای شفافیت، آمادگی و تضمین توسعه ایمن هوش مصنوعی شد.

اد میلیبند (Ed Miliband)، وزیر امور خارجه بریتانیا، نیز روز چهارشنبه در شورای امنیت سازمان ملل موضع مشابهی اتخاذ کرد و گفت دولت‌ها باید اطمینان حاصل کنند که مدل‌های فرانتیر «به‌صورت دقیق و سخت‌گیرانه آزمایش می‌شوند» و امکان نظارت کافی بر عملکرد شرکت‌ها وجود دارد.

میلیبند در این باره اظهار داشت: «شرکت‌های پیشرو هوش مصنوعی تعهد داده‌اند که این شفافیت را فراهم کنند. این موضوع از اهمیتی حیاتی برخوردار است و پیشنهادی به شمار می‌رود که ما و آن‌ها باید به اجرای آن متعهد بمانیم.»

سخنگوی دولت بریتانیا نیز اعلام کرد: «بریتانیا یکی از پیشگامان جهانی در امنیت هوش مصنوعی است و مؤسسه ایمنی هوش مصنوعی به همکاری نزدیک خود با دولت آمریکا، شرکای بین‌المللی و شرکت‌های پیشرو هوش مصنوعی از جمله OpenAI و Anthropic ادامه می‌دهد.»

وی افزود: «این خطرات در مرزهای ملی متوقف نمی‌شوند و هیچ کشوری نمی‌تواند به‌تنهایی با آن‌ها مقابله کند. ما به همکاری نزدیک با ایالات متحده و سایر شرکا در زمینه آزمایش هوش مصنوعی پیشرفته ادامه خواهیم داد؛ در حالی که درک علمی دقیق خود را از این سیستم‌ها تقویت کرده و رویکردی مبتنی بر شواهد را دنبال می‌کنیم.»

در همین حال در ایالات متحده، کنگره و کاخ سفید در پی تخصیص منابع بیشتری به «مرکز استانداردها و نوآوری هوش مصنوعی» (CAISI) وابسته به وزارت بازرگانی هستند. این نهاد به عنوان هسته اصلی حاکمیت هوش مصنوعی در آمریکا شناخته می‌شود، اما در حال حاضر بدون مدیر دائمی فعالیت می‌کند و با توجه به اینکه با چند ده نیروی فنی باید موج فزاینده مدل‌های فرانتیر را ارزیابی کند، با کمبود شدید توان عملیاتی و منابع مواجه شده است.

شرکت OpenAI این هفته اعلام کرد که CAISI باید هدایت تدوین استانداردهای بین‌المللی برای نظارت بر پیشرفت و ایمنی هوش مصنوعی را با همکاری سایر مؤسسات ملی، از جمله UK AISI، بر عهده بگیرد.

این گزارش بر اساس اطلاعات منتشرشده در نشریه POLITICO تنظیم شده است.