تحقیقات چین از DeepSeek و Moonshot بهدلیل ارسال مخفیانه دادههای کاربران به Anthropic

بر اساس گزارش‌های منتشرشده، «اداره فضای سایبری چین» (CAC) در حال تحقیق از شرکت‌های DeepSeek و Moonshot AI بر سر داده‌های کاربرانی است که احتمالاً بدون اطلاع مشتریان به سرورهای Anthropic رسیده است. مقامات از هر دو شرکت بازدید کرده‌اند تا از مدیران و کارکنان بازجویی کنند و این تحقیقات در حالی ادامه دارد که هنوز تصمیمی در مورد مجازات‌ها گرفته نشده است.

نقطه شروع این ماجرا، گزارش اطلاعاتی ۱۵۴ صفحه‌ای بود که Anthropic در ۱۰ سپتامبر منتشر کرد. در این گزارش، این شرکت هفت آزمایشگاه هوش مصنوعی مستقر در چین را متهم کرد که درخواست‌های مشتریان را از طریق Claude هدایت کرده‌اند تا از خروجی‌های آن برای آموزش مدل‌های خود استفاده کنند؛ رویه‌ای که Anthropic آن را تقطیر غیرقانونی (illicit distillation) می‌نامد. هفت شرکت نامبرده شامل Alibaba، Moonshot AI، DeepSeek، Zhipu، MiniMax، Xiaomi و SenseTime بودند. پس از انتشار این گزارش، اداره فضای سایبری چین نمایندگان تمام هفت شرکت را احضار کرد، اما در نهایت تمرکز خود را روی DeepSeek و Moonshot قرار داد.

نگرانی پکن دقیقاً در جهت مخالف نگرانی Anthropic است. شکایت Anthropic این است که آزمایشگاه‌های چینی قابلیت‌های مدل آن را استخراج کرده‌اند. اما نگرانی نهاد نظارتی چین این است که چه چیزی در مسیر برگشت جابه‌جا شده است: فرود آمدن داده‌های کاربران چینی روی سرورهای یک شرکت آمریکایی بدون اطلاع آن کاربران، که به‌طور بالقوه ناقض قوانین امنیت داده چین است.

گزارش Anthropic نمونه‌های خاصی را در مورد هر دو شرکت ارائه داد. در یک مورد، کاربری که Anthropic او را وابسته به ارتش آزادی‌بخش خلق چین (PLA) شناسایی کرد، از Kimi (چت‌بات Moonshot) خواست تا ویدیوی نظارتی از یک فرد را که توسط صدها دوربین پلیس در چنگدو ضبط شده بود، بررسی کند؛ از جمله دوربین‌هایی که در خارج از تاسیسات PLA و موسسات مرتبط با دفاع مستقر بودند. بر اساس این گزارش، Moonshot سپس هم درخواست و هم فیلم را به Claude منتقل کرده است، آن هم کاملاً بدون اطلاع کاربر. در موردی دیگر، DeepSeek درخواست‌های مهندسانی را که در حال ساخت یک سیستم مدیریت پرونده‌های نظارتی پلیس بودند، بازپخش کرد و اعتبارنامه‌های زنده‌ای را که به یک پایگاه داده دولتی روسیه متصل بود، افشا نمود.

به گفته Anthropic، شرکت Moonshot بیش از ۲۳ میلیون تبادل را در بازه زمانی مه تا ژوئیه از طریق Claude ارسال کرده است، در حالی که عملیات DeepSeek بیش از ۱۲٫۱ میلیون تبادل را تنها در یک دوره ۱۴ روزه در ماه ژوئیه ایجاد کرده است. در هر دو مورد، گزارش نشان داد که کاربران هیچ ایده‌ای نداشتند که پرسش‌های آنها توسط سیستم Anthropic پردازش می‌شود.

زمان‌بندی این اتفاق پیچیدگی‌هایی را برای هر دو شرکت به همراه دارد. بر اساس گزارش‌ها، قرار است DeepSeek در این هفته و در جریان مجمع عمومی، به شورای امنیت سازمان ملل درباره خطرات هوش مصنوعی گزارش دهد. Moonshot با مشکل متفاوتی روبه‌رو است: این شرکت به‌طور محرمانه برای عرضه اولیه سهام (IPO) در هنگ‌کنگ با هدف جذب ۳ میلیارد دلار درخواست داده است و یک تحقیق نظارتی باز، نیازمند افشای اطلاعات در هرگونه امیدنامه خواهد بود.

این تحقیقات همچنین در شرایطی انجام می‌شود که شی جین‌پینگ، رئیس‌جمهور چین، آماده سفر به واشنگتن در اواخر این هفته می‌شود؛ جایی که انتظار می‌رود هوش مصنوعی یکی از محورهای گفتگو با دونالد ترامپ، رئیس‌جمهور آمریکا باشد. به گزارش منابع آگاه، این گفتگوها شامل سازوکار پیشنهادی برای اطلاع‌رسانی متقابل درباره حوادث هوش مصنوعی با پیامدهای امنیت ملی خواهد بود.

مجموع فعالیت تقطیر در میان هر هفت شرکت به حدود ۱۹۰ میلیون تبادل رسید که Alibaba با بیش از ۱۵۱ میلیون مورد، سهمی بسیار بیشتر از سایر شرکت‌های نامبرده داشت. با وجود این گستردگی، Alibaba در حال حاضر موضوع تحقیق CAC نیست. نهاد نظارتی هنوز جدول زمانی مشخص نکرده و نشان نداده است که آیا DeepSeek یا Moonshot را جریمه خواهد کرد یا خیر.