دردسر بزرگ اوپن‌ای‌آی پس از هک هاگینگ فیس؛ پای ایجنت‌های سرکش به دادگاه باز شد!

یک نهاد حقوقی فعال در حوزه منافع عمومی، شکایتی رسمی علیه اوپن‌ای‌آی (OpenAI) در دادگاه ثبت کرده است؛ ماجرا به رخنه امنیتی اخیر به شرکت هاگینگ فیس (Hugging Face) برمی‌گردد و حالا شاکیان به دنبال گرفتن حکم قضایی برای مهار رفتارهای پرخطر و پیشگیری از خرابکاری‌های بعدی هستند.

تصویر کلی ماجرا: ماجرای هک خودسرانه هاگینگ فیس — در کنار گزارش‌هایی از ده‌ها هزار نمونه دیگر از رفتارهای دردسرساز ایجنت‌ها — زنگ خطری جدی را به صدا درآورده است؛ خطری فوری مبنی بر اینکه ایجنت‌های هوش مصنوعی ممکن است از محیط‌های آزمایشی فرار کنند، گاردریل‌ها و فیلترهای امنیتی را دور بزنند و سازندگانشان را کاملاً غافلگیر کنند.

• با قدرتمندتر شدن ایجنت‌های هوش مصنوعی، این پرونده یک پرسش اساسی و فوری را به آزمون می‌گذارد: وقتی یک ایجنت از مرزهای تعیین‌شده عبور می‌کند و در دنیای واقعی خسارت به بار می‌آورد، مسئولیت قانونی دقیقاً به گردن چه کسی است؟

اصل خبر: گروه «حامیان حقوقی علم و فناوری امن» (LASST) به همراه مؤسسه حقوقی گرستین هارو (Gerstein Harrow LLP)، در دادخواست خود در دادگاه عالی کالیفرنیا تأکید کرده‌اند: «اوپن‌ای‌آی شخصاً مسئول تمام رفتارهای ایجنت‌های خود است.»

• شاکیان ادعا می‌کنند ایجنت‌های اوپن‌ای‌آی «آگاهانه» و بدون داشتن مجوز به سرورهای هاگینگ فیس دسترسی پیدا کرده‌اند؛ موضوعی که به گفته آن‌ها ناشی از آگاهی مستقیم کارمندان و مدیران شرکت یا دست‌کم «چشم‌پوشی عمدی» آن‌ها بوده است.
• تایلر ویتمر، بنیان‌گذار مؤسسه LASST، توضیح می‌دهد که هدف اصلی این شکایت، توقف شیوه‌های توسعه‌ای است که به ایجنت‌های هوش مصنوعی اجازه می‌دهد به شکلی خودسرانه در دنیای واقعی خسارت بزنند؛ همچنین این اقدام تضمین می‌کند که «سازوکارهای قانونی روشنی وجود داشته باشد تا هنگام خرابکاری ایجنت‌ها، یک انسان یا شرکت مشخص پاسخگوی خسارت باشد.»
• ویتمر امیدوار است صدور یک حکم قضایی الزام‌آور «انگیزه لازم را به اوپن‌ای‌آی و کل فعالان این صنعت بدهد تا فرآیندهای توسعه خود را به‌گونه‌ای تغییر دهند که دیگر شاهد تکرار چنین حوادثی نباشیم.»

نگاه دقیق‌تر: این نهاد شکایت خود را ذیل قانون رقابت ناعادلانه کالیفرنیا تنظیم کرده و مدعی است «رویکردها و عملکردهای غیرقانونی و غیرمنصفانه تجاری اوپن‌ای‌آی» باعث شده منابع و توان کاری زیادی صرف مهار و مدیریت بحران رخنه هاگینگ فیس شود.

• شاکیان همچنین استدلال می‌کنند که «اصرار اوپن‌ای‌آی بر تحمیل خسارات ناشی از تصمیمات ناامن خود به دیگران، مصداق بارز یک تجارت غیرمنصفانه است»؛ آن هم در حالی که مدیران اوپن‌ای‌آی و سایر رهبران فناوری اخیراً در نامه‌ای مشترک از سازمان‌ها خواسته بودند «دفاع سایبری را به اولویت شماره یک مدیریت خود تبدیل کنند.»
• علاوه بر این، در دادخواست آمده که اوپن‌ای‌آی با غیرفعال کردن گاردریل‌های سایبری برای ایجنت‌های خود و فرستادن آن‌ها برای انجام کارهایی که توانایی حل درست آن‌ها را نداشتند، قوانین دسترسی به داده و کلاهبرداری کالیفرنیا را نقض کرده است.
• مؤسسه LASST خواستار صدور حکمی قضایی شده که اوپن‌ای‌آی را از دسترسی غیرمجاز یا زمینه‌سازی برای دسترسی بدون اجازه به سیستم‌های رایانه‌ای و در پیش گرفتن اقدامات تجاری ناعادلانه‌ای که امنیت جامعه را به خطر می‌اندازد، منع کند.

نکته جالب ماجرا: گاوین نیوسام، فرماندار کالیفرنیا، سال گذشته قانونی را امضا کرد که جلوی فرار متهمان از بار مسئولیت با این ادعا که «هوش مصنوعی به صورت خودسر عمل کرده» را می‌گیرد.

• این دادخواست دردسر حقوقی جدیدی برای سازنده ChatGPT محسوب می‌شود؛ به‌ویژه که دادستان کل فلوریدا، جیمز اوثمایر، نیز به تازگی از دادگاه خواسته بود موقتاً جلوی توسعه بیشتر فناوری‌های اوپن‌ای‌آی را بگیرد.

تحولات پیش‌رو: این دادخواست درست زمانی مطرح می‌شود که گروهی از چهره‌های کلیدی و رهبران هوش مصنوعی — از جمله گرگ براکمن، رئیس اوپن‌ای‌آی — هم‌زمان با افزایش درخواست‌ها برای مداخله دولت فدرال، قرار است با دونالد ترامپ و رئیس مجلس نمایندگان، مایک جانسون، دیدار کنند.

• با این حال، اوپن‌ای‌آی تلاش می‌کند روی لبه تیغ حرکت کند؛ در حالی که لابی‌ها در واشنگتن ادامه دارد، آن سوتر در سانفرانسیسکو، سم آلتمن مدیرعامل شرکت با حضور در کنفرانس‌های مختلف به دستاوردهای علمی تازه آزمایشگاه‌هایش افتخار می‌کند.

بیشتر بخوانید: بررسی ده‌ها هزار رخنه امنیتی ناشی از رفتارهای ناامن توسط غول‌های هوش مصنوعی