هم‌صدایی اوپن‌ای‌آی و آنتروپیک در استرالیا: افشای نفوذهای امنیتی ایجنت‌های هوش مصنوعی باید اجباری شود!

روز سه‌شنبه مدیران ارشد دو غول هوش مصنوعی جهان، یعنی اوپن‌ای‌آی (OpenAI) و آنتروپیک (Anthropic)، در کمیته تحقیق پارلمان استرالیا حاضر شدند و در کمال شگفتی از طرحی قانونی دفاع کردند که شرکت‌های فناوری را ملزم می‌کند هرگونه رخنه و نفوذ امنیتی ناشی از ایجنت‌های هوش مصنوعی را رسماً گزارش دهند. هر دو شرکت صراحتاً اعتراف کردند که در حال حاضر، تصمیم‌گیری درباره اینکه چه زمانی و چطور این خرابکاری‌های امنیتی فاش شود، فقط به صلاحدید و تمایل خود این شرکت‌ها واگذار شده است.

جیسون کوان (Jason Kwon)، مدیر ارشد استراتژی اوپن‌ای‌آی که شخصاً در جلسه استماع سیدنی حاضر شده بود، به نمایندگان پارلمان گفت که شرکتش کاملاً از یک چارچوب الزام‌آور و شفاف برای افشای نفوذها استقبال می‌کند. کوان گفت: «ما تمام‌قد از چارچوب گزارش‌دهی اجباری حمایت می‌کنیم.» او در ادامه توضیح داد زمانی که اوپن‌ای‌آی مشغول رسیدگی به ماجرای نفوذ به وب‌سایت‌های دولتی استرالیا بود، تازه متوجه شد که با خلأهای بزرگی روبه‌رو است: «ما تازه داشتیم تلاش می‌کردیم یک روال مشخص بچینیم و استانداردی دست‌وپا کنیم تا بتوانیم آن را اجرا کنیم؛ بنابراین قانون‌گذاری رسمی می‌تواند بار این تصمیم‌گیری‌های سنگین را از روی دوش ما بردارد. نمایندگان جامعه باید این تصمیم‌ها را بگیرند تا همه چیز روی دوش ما نباشد.»

از طرف دیگر، دیوید مسترز (David Masters)، مدیر سیاست‌گذاری آنتروپیک در استرالیا و نیوزیلند هم به پارلمان اعلام کرد که شرکتش از اعمال الزامات مشابه کاملاً استقبال می‌کند. به گزارش شبکه خبری ABC، آنتروپیک علاوه بر این، از پیشنهاد «دفتر هوش مصنوعی استرالیا» برای اجباری شدن گزارش رخدادهای بحرانی و خطرات ایمنی هوش مصنوعی توسط توسعه‌دهندگان نیز حمایت کرده است؛ هرچند خودش اعتراف کرده که در حال حاضر، این تعهدات صرفاً حالت داوطلبانه دارند.

سفر شتاب‌زده کوان به استرالیا هم دلیل جنجالی خاصی داشت؛ دولت استرالیا اخیراً فاش کرده بود که در ماه ژوئن، یکی از ایجنت‌های هوش مصنوعی اوپن‌ای‌آی دسترسی غیرمجازی به پایگاه داده‌های آماری سیستم درمان عمومی این کشور (Medicare) پیدا کرده و فایل‌های عمومی و محرمانه متعددی را بیرون کشیده است. جالب اینجاست که اوپن‌ای‌آی تازه در ماه سپتامبر و آن‌هم با ارسال یک ایمیل ساده به یک نشانی عمومی دولتی، ماجرا را به استرالیا خبر داد؛ تأخیری عجیب و دور از انتظار که آنتونی آلبانیزی (Anthony Albanese)، نخست‌وزیر استرالیا، آن را کاملاً «غیرقابل قبول» دانست. بررسی‌ها نشان داد سه سامانه دولتی دیگر این کشور نیز در این ماجرا تحت تأثیر قرار گرفته بودند.

کوان در جریان این بازپرسی قبول کرد که روال داخلی اوپن‌ای‌آی در مدیریت این رخنه حسابی پر از ایراد بوده است. او گفت: «قبول دارم که سازوکار باخبر شدن تیم ما در داخل شرکت از این اتفاق می‌توانست خیلی بهتر از این‌ها باشد و ما می‌خواهیم مطمئن شویم که دیگر چنین چیزی تکرار نمی‌شود.» او حتی فاش کرد زمانی که سم آلتمن (مدیرعامل OpenAI) در اوایل سپتامبر با ریچارد مارلز، معاون نخست‌وزیر استرالیا دیدار کرد، اصلاً روحش هم از این رسوایی امنیتی خبر نداشت؛ آن‌هم در حالی که برخی از کارمندان شرکت از هفته‌ها قبل ماجرا را می‌دانستند! طبق گزارش ABC، کوان تأکید کرده که اوپن‌ای‌آی حالا سیستم‌های هشداردهنده‌ای اضافه کرده تا اگر مدل‌هایش حین آموزش به شکل نامناسب به اینترنت وصل شدند فوراً اخطار دهد. او همچنین اشاره کرد که هفته گذشته وقتی نفوذ دیگری به سیستم پارک‌ها و حیات وحش ایالت نیوساوث‌ولز رخ داد، شرکت این بار خیلی سریع‌تر مقامات را باخبر کرد.

در آمریکا نیز طرح‌هایی در کنگره برای موظف کردن شرکت‌های هوش مصنوعی به گزارش رفتارهای خطرناک مدل‌ها ارائه شده، اما به نقل از رویترز، هنوز هیچ چارچوب جامع و فراگیری برای گزارش حوادث امنیتی هوش مصنوعی تصویب نشده است.

این کمیته پارلمانی در ادامه جلسات خود پای صحبت خالقان محتوا و مالکان حق نشر (کپی‌رایت) استرالیایی هم نشست؛ کسانی که با تمام توان در برابر پیشنهاد‌های تسهیل قوانین کپی‌رایت به نفع شرکت‌های هوش مصنوعی ایستادگی کردند. کیت گیلکریست، مدیر بخش عملیات حقوقی و محتوای شرکت پخش سراسری استرالیا (ABC) اعلام کرد که مدل خروج اختیاری (Opt-out) برای داده‌های آموزشی هوش مصنوعی «تمام بار مسئولیت و زحمت را به گردن صاحبان اثر می‌اندازد». جلسات این کمیته قرار است تا ۹ اکتبر ادامه داشته باشد و انتظار می‌رود گزارش نهایی آن تا ۳۰ نوامبر ارائه شود.