گاف عجیب هوش مصنوعی آنتروپیک؛ ارسال گزارش دروغین قتل به پلیس فیلادلفیا!
یک مدل هوش مصنوعی متعلق به شرکت آنتروپیک، بدون هرگونه نظارت انسانی یک گزارش دروغین درباره پرونده قتلی حل‌نشده به اداره پلیس فیلادلفیا ارسال کرده است. جالب اینجاست که آنتروپیک تازه پس از گذشت بیش از دو ماه متوجه این اقدام خودسرانه شد؛ اتفاقی که بار دیگر خطرات سپردن دسترسی‌های آزاد به ایجنت‌های هوش مصنوعی را به کانون توجه کشانده است.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- یکی از مدل‌های هوش مصنوعی شرکت آنتروپیک به شکل خودسرانه یک گزارش ساختگی درباره پرونده قتلی حل‌نشده برای اداره پلیس فیلادلفیا ارسال کرده است.
- نکته عجیب ماجرا اینجاست که آنتروپیک بیش از دو ماه بعد متوجه این اتفاق شد؛ پلیس هم چون گزارش به عنوان هرزنامه شناسایی شده بود اصلاً آن را ندیده بود!
- این حادثه زنگ خطری جدی درباره ایجنت‌های خودمختار هوش مصنوعی بدون نظارت انسان است؛ مشکلی که حتی غول‌هایی مانند OpenAI هم با آن روبه‌رو شده‌اند.
بر اساس گزارش شبکه خبری 6abc Action News، یکی از مدل‌های هوش مصنوعی شرکت آنتروپیک (Anthropic) سرخود یک گزارش ساختگی و اشتباه درباره یک پرونده قتل حل‌نشده برای اداره پلیس فیلادلفیا فرستاده است.
طبق گزارش‌ها، این هوش مصنوعی در تاریخ ۱۸ ژوئیه این اطلاعات نادرست را در سامانه عمومی گزارش‌های مردمی اداره پلیس فیلادلفیا (PPD) ثبت کرده بود، اما آنتروپیک تازه در تاریخ ۲۸ سپتامبر متوجه این اقدام خودسرانه شد! از بخت خوب، پلیس هم اصلاً این پیام را ندیده بود، چون سامانه آن را به عنوان هرزنامه (اسپم) علامت‌گذاری کرده بود.
آنتروپیک روز چهارشنبه اداره پلیس فیلادلفیا را از این موضوع باخبر کرد و روز بعد هم جلسه‌ای با مسئولان این اداره برگزار کرد تا ماجرا را بررسی کنند.
آنتروپیک و اداره پلیس فیلادلفیا تا این لحظه به درخواست‌ها برای ارائه توضیحات و شفاف‌سازی بیش‌تر پاسخی نداده‌اند.
اداره پلیس فیلادلفیا در بیانیه‌ای به شبکه 6abc اعلام کرد: «این شرکت باید پروتکل‌های امنیتی خود را حسابی محکم‌تر کند تا جلوی تکرار چنین اتفاقاتی و تأثیرگذاری بدون اطلاع روی سیستم‌های شهری گرفته شود. تأخیر دو ماهه در شناسایی و گزارش این اتفاق به مسئولان شهر، به هیچ وجه قابل قبول نیست.»
در روز‌هایی که ایجنت‌های هوش مصنوعی خودمختار با سرعتی باورنکردنی در دسترس کاربران عادی قرار می‌گیرند، این اتفاق زنگ خطری جدی درباره خطرات سپردن کنترل کار‌ها به هوش مصنوعی بدون کوچک‌ترین نظارت انسانی است.
داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، همواره با صدای بلند بر این باور پافشاری کرده که باید ترمز سرعت توسعه هوش مصنوعی را کشید تا آزمایشگاه‌ها و شرکت‌ها بتوانند گاردریل‌ها و فیلترهای امنیتی مناسبی بسازند. حالا شاید بخشی از این موضع‌گیری‌های سفت‌وسخت، به تجربه مستقیم دیدن خرابکاری‌های مدل‌های شرکت خودش در ارسال گزارش دروغین قتل برگردد!
البته این خرابکاری‌ها و رفتارهای پیش‌بینی‌نشده فقط به آنتروپیک خلاصه نمی‌شود. شرکت OpenAI نیز اخیراً فاش کرد که یکی از مدل‌هایش در جریان یک آزمایش رفتاری غیرمنتظره از خود نشان داد و با هک کردن پلتفرم معروف پایگاه‌های داده Hugging Face، حفره‌های امنیتی خطرناکی را در نرم‌افزار آن فاش کرد. تا زمانی که دسترسی آزاد و بدون فیلتر به رایانه‌ها و اطلاعات ورود به سیستم کاربران در اختیار مدل‌های هوش مصنوعی قرار می‌گیرد، باید انتظار تکرار چنین ماجراهایی را هم داشته باشیم.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
دسته‌گل‌های جنجالی هوش مصنوعی آنتروپیک؛ کاخ سفید گزارش تخلفات را اجباری کرد!
پس از دسته‌گل‌های اخیر مدل‌های هوش مصنوعی آنتروپیک و نفوذ ناخواسته آن‌ها به سامانه‌های دولتی، کاخ سفید رویکرد ملایم قبلی را کنار گذاشت. حالا دولت آمریکا با ابلاغ دستورالعملی تازه، تمامی توسعه‌دهندگان هوش مصنوعی را موظف کرده که هرگونه حادثه و خطای امنیتی مدل‌های خود را فوراً گزارش داده و خسارات ناشی از آن را جبران کنند.
شاهکار ارتش ۲۰۰۰ ایجنتی پرایم اینتلکت؛ بازنویسی پرایم ایجنت با زبان راست و سرعت ۱۳ برابری!
استارتاپ پرایم اینتلکت در اقدامی شگفت‌انگیز، با هماهنگی بیش از ۲۰۰۰ ایجنت هوش مصنوعی موفق شد فریم‌ورک پرایم ایجنت را ظرف دو هفته از تایپ‌اسکریپت به زبان راست بازنویسی کند. نتیجه این مهاجرت عظیم، کاهش ۸۳ درصدی مصرف حافظه و جهش چشمگیر ۱۳ برابری در سرعت اجرای این ابزار متن‌باز است.
هوش مصنوعی کلود هر روز صبح صفحه تب جدید کروم را از نو می‌سازد؛ آن‌هم با ۷۵ سنت!
پروژه متن‌باز جدیدی به نام ai-newtab با تکیه بر هوش مصنوعی کلود، هر روز صفحه تب جدید کروم را متناسب با علایق و تاریخچه وب‌گردی شما از نو می‌سازد. این ابزار با هزینه روزانه حدود ۰.۷۵ دلار، یک صفحه خانگی شخصی‌سازی‌شده و جذاب آماده می‌کند.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.