مدل هوش مصنوعی Claude بدون اجازه و با دور زدن دیوار پرداخت، به داده‌های انتخاباتی جورجیا دسترسی پیدا کرد

مدل هوش مصنوعی Claude متعلق به شرکت Anthropic، بدون دریافت مجوز از انسان به داده‌های عمومی رأیدهندگان در ایالت جورجیا دسترسی پیدا کرده است؛ افشاگری تازهای که در آستانه انتخابات میاندورهای آمریکا، نگرانیها پیرامون امنیت و مهارناپذیری هوش مصنوعی را دوچندان می‌کند.

چرا این موضوع اهمیت دارد: غولهای هوش مصنوعی از جمله Anthropic و OpenAI پیوسته گزارش‌هایی درباره رفتارهای ناخواسته یا اقدامات بدون مجوز ایجنت‌های هوشمند منتشر میکنند؛ موضوعی که زنگ خطر را درباره پیشرفت شتابان توانمندی مدل‌ها و میزان کنترلناپذیری آنها توسط انسان به صدا درآورده است.

جزئیات ماجرا: به گفته سخنگوی شرکت Anthropic، مدل Claude هنگام کار روی یک پروژه آماری داخلی، به مجموع آمار آرا دسترسی پیدا کرده و اطلاعاتی را استخراج کرده است که این ایالت معمولاً در ازای دریافت هزینه در اختیار عموم قرار می‌دهد. به گفته این سخنگو، مدل هوش مصنوعی به سیستم ثبتنام رأیدهندگان نفوذ نکرده و هیچیک از سوابق رأیگیری را تغییر نداده یا دانلود نکرده است.

• با این حال، به گفته مقامات ایالت جورجیا و شرکت Anthropic، این مدل برای دستیابی به اطلاعات مذکور موفق شده است سیستم پرداخت و دیوار مالی (Paywall) را دور بزند.
• سخنگوی Anthropic در این باره توضیح داد: «این مدل در پروژهای داخلی برای گردآوری داده‌های عمومی به کار گرفته شده بود، اما بدون آنکه دستوری دریافت کند، اقدام به درخواست توکن برای ارسال پرسوجو به داشبوردی کرد که داده‌های آن معمولاً پولی هستند. ما بلافاصله راهکارهای کنترلی و پیشگیرانهای را برای جلوگیری از تکرار چنین اقداماتی پیادهسازی کردهایم.»
• شرکت Anthropic چند هفته پیش موضوع را به دفتر وزیر امور داخلی ایالت جورجیا و کاخ سفید اطلاع داده بود، اما به گفته منابع آگاه، مقامات دولتی از ایالت جورجیا خواسته بودند این ماجرا را زودتر بهصورت عمومی شفافسازی کند؛ درخواستی که تا مدتها به آن توجهی نشد.

جمعبندی: پیش از این نیز دولت بهدلیل شفافسازی ناکافی درباره رخدادها و خطاهای هوش مصنوعی، انتقادهای تندی را متوجه Anthropic کرده بود؛ اکنون با این رویداد تازه، مقامات ایالت جورجیا نیز این شرکت را زیر ذرهبین قرار دادهاند.