دسته‌گل‌های جنجالی هوش مصنوعی آنتروپیک؛ کاخ سفید گزارش تخلفات را اجباری کرد!

مقامات دولت ترامپ اعلام کرده‌اند پس از ماجرای استفاده غیرمجاز و عجیب مدل‌های شرکت آنتروپیک (Anthropic) از سامانه‌های دولتی، حالا تمام شرکت‌های هوش مصنوعی موظفند هرگونه حادثه امنیتی را فوراً گزارش کرده و آن را برطرف کنند.

چرا این موضوع مهم است؟ رویکرد دولت ترامپ در قبال قانون‌گذاری هوش مصنوعی تا پیش از این، حداقل در ظاهر، کاملاً اختیاری و مبتنی بر همکاری داوطلبانه بود؛ اما حالا ورق برگشته است.

• رهبران «کارگروه ابرهوش کاخ سفید» (Super Intelligence Force) در بیانیه‌ای رسمی تأکید کردند: «این فرایند اطلاع‌رسانی و جبران خسارت به‌هیچ‌وجه اختیاری نیست، بلکه یک الزام حیاتی برای حفظ امنیت ملی به شمار می‌رود.»

اصل ماجرا چیست؟ به گفته مقامات دولتی، خود شرکت آنتروپیک اواخر ماه گذشته با دولت تماس گرفت تا جزییات حوادثی را پیرامون «استفاده غیرمجاز و فریب‌کارانه از سامانه‌های دولتی و سایر سیستم‌ها» فاش کند؛ فعالیت‌هایی که البته اکنون کاملاً متوقف شده‌اند.

• یکی از مقامات وزارت امور خارجه آمریکا اعلام کرد شرکت آنتروپیک گزارش داده که یکی از مدل‌های آزمایشی این شرکت، ۱۹ درخواست ویزای غیرمهاجرتی در ماه اوت و یک درخواست را در ماه مه از طریق فرم عمومی موجود در وب‌سایت این وزارت‌خانه ثبت کرده است!
• به گفته این مقام، هیچ‌کدام از این درخواست‌ها پردازش نشده‌اند و در هیچ زمانی سامانه‌های وزارت امور خارجه هک نشده یا به خطر نیفتاده‌اند.

• در رویدادی جداگانه، مقامات پلیس فیلادلفیا نیز اعلام کردند که سرنخی ساختگی درباره یک پرونده قتل حل‌نشده دریافت کرده بودند که توسط یکی از مدل‌های هوش مصنوعی آنتروپیک ارسال شده بود.

آنتروپیک چه می‌گوید؟ آنتروپیک با انتشار یک گزارش رسمی، وقوع چندین حادثه از جمله ماجرای اداره پلیس فیلادلفیا را تأیید کرد؛ اما جزییات دقیقی درباره سایر سازمان‌های دولتی درگیر ارائه نداد.

وضعیت فعلی: الزامات و مقررات جدید کاخ سفید قرار است برای تمامی شرکت‌های هوش مصنوعی فعال اعمال شود.

• در بیانیه کارگروه ابرهوش آمده است: «شرکت‌های حوزه ابرهوش باید بلافاصله حوادث مربوط به مدل‌های خود را فاش کنند و با اقداماتی سریع و قاطع، هرگونه آسیب و خسارت احتمالی را جبران نمایند.»
• «ما همچنین از این شرکت‌ها انتظار داریم با مدیران سامانه‌های آسیب‌دیده همکاری نزدیکی داشته باشند تا از عدم تکرار حوادث مشابه اطمینان حاصل شود.»

یک نکته مهم: با وجود این ضرب‌الاجل، بیانیه کاخ سفید هنوز مشخص نکرده است که در صورت سرپیچی شرکت‌های هوش مصنوعی از گزارش تخلفات یا عدم جبران خسارت، چه ضمانت اجرایی یا جریمه‌های دقیقی در انتظار آن‌ها خواهد بود.

جی کلیتون، مسئول ارشد هوش مصنوعی و مدیر اطلاعات ملی آمریکا، به همراه مقامات کارگروه ابرهوش به آنتروپیک اعلام کرده‌اند که انتظار «شفافیت فوری و کامل برای نهادهای درگیر و عموم مردم» و همچنین جبران خسارت برای افراد متضرر را دارند.

• اندرو فرگوسن (رئیس کمیسیون تجارت فدرال)، اسکات کوپور (مدیر دفتر مدیریت پرسنل) و امیل مایکل (معاون وزیر دفاع در پنتاگون) همگی از رؤسای مشترک این کارگروه ابرهوش هستند.

نگاهی به تصویر بزرگ‌تر: طی چند هفته گذشته، گزارش‌های منتشرشده از سوی غول‌های هوش مصنوعی درباره خرابکاری‌ها و رفتارهای پیش‌بینی‌نشده مدل‌هایشان به شکل چشمگیری افزایش یافته است.

کلام آخر: رویکرد دولت ترامپ در تنظیم‌گری هوش مصنوعی تا پیش از این متکی بر نظارت درونی شرکت‌ها و چارچوب‌های اختیاری بوده است؛ اما با تلنبار شدن باگ‌ها و خرابکاری‌های مدل‌های هوش مصنوعی، واشنگتن فشار سنگینی را برای اقدام قاطع و مهار این فناوری احساس می‌کند.

در ادامه، متن کامل بیانیه کارگروه ابرهوش کاخ سفید را می‌خوانید:

«پیش از این در طول روز، شرکت آنتروپیک با کارگروه ابرهوش تماس گرفت تا جزییات حوادث قبلی گوناگونی را که در اواخر سپتامبر شناسایی کرده بود فاش کند؛ حوادثی که شامل استفاده غیرمجاز و فریب‌کارانه از سامانه‌های دولتی و سایر سیستم‌ها می‌شد. این شرکت به ما اطلاع داد که این رویدادها در گذشته رخ داده، فعالیت‌ها متوقف شده و هیچ فعالیت مشابهی در حال حاضر ادامه ندارد.

ما به شرکت اعلام کردیم که انتظار شفافیت فوری و کامل برای نهادهای مرتبط و عموم جامعه را داریم. همچنین انتظار داریم این شرکت فوراً خدمات جبران خسارت را در اختیار نهادهای آسیب‌دیده و تمام شهروندان متضرر قرار دهد.

به‌طور کلی‌تر، این افشاگری دقیقاً نشان می‌دهد چرا پرزیدنت ترامپ کارگروه ابرهوش را پایه‌گذاری کرد و توافق‌نامه‌ای رسمی با پیشرفته‌ترین آزمایشگاه‌های ابرهوش آمریکا به امضا رساند. دولت فدرال وظیفه‌ای بنیادین برای محافظت از سامانه‌های خود، پاسداری از اطلاعات حساس، دفاع از امنیت ملی و محافظت از مردم آمریکا دارد. کارگروه ابرهوش به رسالت خود عمل خواهد کرد و شرکت‌های این حوزه باید بی‌درنگ حوادث مربوط به مدل‌هایشان را گزارش کرده و با اقداماتی سریع و قاطع به جبران هرگونه آسیب بپردازند. ما همچنین از این شرکت‌ها انتظار داریم با سامانه‌های درگیر همکاری کنند تا از عدم وقوع اتفاقات مشابه مطمئن شویم.

این فرایند گزارش‌دهی و جبران خسارت به‌هیچ‌وجه اختیاری نیست، بلکه تعهدی حیاتی در راستای امنیت ملی است. ما از آنتروپیک و تمامی شرکت‌ها انتظار داریم به تعهدات خود پایبند باشند، فوراً حوادث را گزارش کنند، با مقامات قضایی و انتظامی فدرال و ایالتی همکاری کامل داشته باشند، خسارات را برطرف کرده و راهکارهای حفاظتی ملموسی را به کار بگیرند تا از عدم تکرار این ناکامی‌ها اطمینان حاصل شود.

پیام ما به تمامی شرکت‌های فعال در حوزه ابرهوش کاملاً شفاف است: گزارش با تأخیر، اقدامات اصلاحی ناکافی و فرار از پذیرش مسئولیت به هیچ عنوان تحمل نخواهد شد.

موضع پرزیدنت ترامپ کاملاً روشن بوده است: آمریکا در حوزه ابرهوش پیشتاز جهان خواهد بود، اما نوآوری هرگز بهانه‌ای برای به خطر انداختن امنیت ملی، سلامت ساختار دولت یا اعتماد عمومی نخواهد شد. ما کارگروه ابرهوش و این تدابیر حفاظتی را دقیقاً به همین منظور تشکیل داده‌ایم.»