جنجال کپی‌برداری از هوش مصنوعی؛ اوپن‌ای‌آی مچ استارتاپ چینی مون‌شات را گرفت!

نکات کلیدی

• اوپن‌ای‌آی اعلام کرد که این فعالیت مشکوک طی دو روز به ۱۶ هزار درخواست از سوی بیش از ۴ هزار کاربر اوج گرفت و در مجموع، ردپای آن در میان بیش از ۱۵ هزار حساب کاربری شناسایی شد.
• این شرکت تأکید کرده که عاملان این اقدام هیچ‌گونه نفوذی به لایه‌های رمزنگاری، پایگاه‌های داده یا گفتگوهای ذخیره‌شده کاربران نداشته‌اند.
• این یافته‌ها تنها چند هفته پس از آن منتشر می‌شود که آنتروپیک، دیگر غول هوش مصنوعی، توسعه‌دهندگان چینی از جمله استارتاپ مون‌شات و علی‌بابا را به استفاده مخفیانه از کلود (Claude) برای آموزش مدل‌های خود متهم کرده بود.

لوگوی اوپن‌ای‌آی روی نمایشگر یک گوشی هوشمند.

تصویر: Nurphoto | Getty Images

شرکت اوپن‌ای‌آی (OpenAI) اعلام کرد موفق به شناسایی و متوقف کردن یک کمپین هماهنگ شده که طی آن، افرادی در تلاش بودند فرآیند و زنجیره استدلالِ محافظت‌شده مدل‌های هوش مصنوعی این شرکت را بیرون بکشند. اوپن‌ای‌آی هسته اصلی این فعالیت را به استارتاپ چینی مون‌شات (Moonshot AI)، توسعه‌دهنده چت‌بات کیمی (Kimi)، پیوند داده است.

به گفته اوپن‌ای‌آی، این تحرکات از اوایل ماه ژوئیه کلید خورد و در ادامه طی تنها دو روز، با ارسال ۱۶ هزار درخواست از سوی بیش از ۴ هزار کاربر اوج گرفت. این غول هوش مصنوعی در نهایت فعالیت‌های مرتبط را در شبکه‌ای شامل بیش از ۱۵ هزار حساب کاربری ردیابی کرد و اعلام نمود تا تاریخ ۲۸ ژوئیه، این عملیات را به طور کامل متوقف کرده است.

این افشاگری درست چند هفته پس از آن صورت می‌گیرد که شرکت آنتروپیک (Anthropic)، رقیب سرسخت اوپن‌ای‌آی، چندین توسعه‌دهنده چینی از جمله مون‌شات و علی‌بابا را متهم کرد که مخفیانه از مدل هوش مصنوعی کلود (Claude) برای آموزش سیستم‌های اختصاصی خود استفاده کرده‌اند. این موضوع نگرانی‌های روزافزون شرکت‌های فناوری آمریکایی را عیان‌تر کرده؛ جایی که هراس دارند رقبا بتوانند با استفاده از دسترنج آن‌ها، مدل‌های رقیب را بسیار سریع‌تر و با هزینه‌ای ناچیز توسعه دهند.

اوپن‌ای‌آی این شیوه جدید را «تقطیر خصمانه» (Adversarial Distillation) نامیده است؛ روشی که در آن از خروجی‌ها یا منطق استدلال یک مدل هوش مصنوعی برای آموزش یا بهبود مدلی دیگر سوءاستفاده می‌شود. این شرکت تأکید کرده که استخراج چنین زنجیره تفکری به دیگران اجازه می‌دهد بدون صرف میلیاردها دلار هزینه برای تحقیق، توسعه و ایمن‌سازی مدل‌های پیشرو، قابلیت‌های پیشرفته را کپی کنند؛ موضوعی که می‌تواند ریسک‌های جدی ایمنی و امنیت ملی به همراه داشته باشد.

البته بر اساس توضیحات این شرکت، این افراد هیچ‌گونه رخنه‌ای به لایه‌های رمزنگاری، پایگاه‌های داده یا پیام‌ها و تاریخچه گفتگوهای کاربران اوپن‌ای‌آی نداشته‌اند. در عوض، آن‌ها با روش‌های هوشمندانه و دستکاری تعامل با مدل، ساختار سوالات را طوری چیده بودند تا فرآیند تفکر و استدلال پنهانِ پشت پاسخ‌ها را به شکلی خوانا برای خود آشکار سازند.

اوپن‌ای‌آی اشاره کرده که هنوز مشخص نیست آیا تمامی افراد درگیر به یک مرجع واحد وصل بوده‌اند یا خیر، اما بخش اعظم و هسته اصلی این تحرکات را به افراد مرتبط با استارتاپ مون‌شات منتسب دانسته است. این شرکت همچنین اعلام کرد که اطلاعات و یافته‌های خود را از طریق «انجمن مدل‌های پیشرو» (Frontier Model Forum) با سایر شرکت‌های هوش مصنوعی و کانال‌های اطلاع‌رسانی دولتی به اشتراک گذاشته است.

استارتاپ مون‌شات تا زمان انتشار این گزارش پاسخی به درخواست‌ها برای اظهار نظر ارائه نکرده است.