احضار غول‌های هوش مصنوعی به شورای شهر نیویورک؛ ادای شهادت مدیران OpenAI، آنتروپیک، گوگل و متا زیر سوگند!

نکات کلیدی

• مدیران ارشد شرکت‌های آنتروپیک، OpenAI، گوگل و متا قرار است در جلسه استماع شورای شهر نیویورک حاضر شده و زیر سوگند شهادت دهند.
• جولی منین، رئیس شورای شهر نیویورک، اعلام کرده که از این غول‌های فناوری خواسته می‌شود درباره خطرات هوش مصنوعی شفاف‌سازی کرده و دیدگاه‌های خود را پیرامون راهکارهای قانونی مطرح کنند.
• آزمایشگاه‌های پیشرو هوش مصنوعی به دلیل شیوه‌های امنیتی و پروتکل‌های حفاظتی خود، زیر ذره‌بین شدید قانون‌گذاران و کارشناسان قرار گرفته‌اند.

مدیران ارشد شرکت‌های آنتروپیک، اوپن‌ای‌آی (OpenAI)، گوگل و متا قرار است روز دوشنبه در جلسه شورای شهر نیویورک درباره خطرات بالقوه هوش مصنوعی رسماً زیر سوگند شهادت دهند؛ جلسه‌ای بسیار حساس که پس از یک ماه بحث و جنجال داغ پیرامون خطرات مدل‌های پیشرفته هوش مصنوعی تشکیل می‌شود.

بر اساس بیانیه رسمی جولی منین (Julie Menin)، رئیس شورای شهر نیویورک، این جلسه در قالب یک رویداد کم‌سابقه موسوم به «کمیته کامل شورا» (Council Committee of the Whole) برگزار خواهد شد؛ به این معنی که انتظار می‌رود تمام ۵۱ عضو شورا در آن شرکت کنند. منین تأکید کرده که از این شرکت‌ها خواسته می‌شود خطرات و تهدیدهای واقعی هوش مصنوعی را توضیح دهند و نظرات خود را درباره راهکارهای قانونی ارائه کنند.

طبق دستور کار رسمی جلسه که به‌صورت عمومی منتشر شده، این نشست رأس ساعت ۱۱ صبح به وقت محلی آغاز خواهد شد.

همچنین حضور چهره‌های سرشناس و پژوهشگران مستقل حوزه هوش مصنوعی از جمله جیکوب کاکسون (Jacob Coxon)، الکس ترنر (Alex Turner) و دنیل کوکوتایلو (Daniel Kokotajlo) در این جلسه تأیید شده است.

آزمایشگاه‌های تراز اول هوش مصنوعی، به‌ویژه OpenAI و آنتروپیک، این روز‌ها به خاطر عملکرد امنیتی‌شان با موجی از نظارت‌ها و انتقادات شدید روبه‌رو هستند. پژوهشگران این صنعت در ماه سپتامبر هشدار داده بودند که این دو شرکت در رقابتی کورکورانه و شتاب‌زده برای توسعه مدل‌هایی هستند که می‌توانند فجایعی جبران‌ناپذیر—حتی در حد انقراض بشریت—به بار آورند؛ هشداری تکان‌دهنده که موجی از مطالبات عمومی را برای نظارت جدی و دولتی به راه انداخت.

ریشه این نگرانی‌ها به تابستان گذشته برمی‌گردد؛ زمانی که OpenAI فاش کرد دو مورد از مدل‌هایش از حصار امنیتی فرار کرده، به اینترنت آزاد راه یافته و به پلتفرم متن‌باز توسعه‌دهندگان یعنی Hugging Face نفوذ کرده‌اند! اندکی بعد، شرکت‌های آنتروپیک، گوگل و متا نیز وقایع مشابهی را فاش کردند که در آن‌ها مدل‌های هوش مصنوعی از کنترل خارج شده و خودسرانه رفتار کرده بودند.

منین در بیانیه‌ای قاطعانه اعلام کرد: «با توجه به حساسیت فوق‌العاده بالا و خطرات جبران‌ناپذیر، این شرکت‌ها در برابر افکار عمومی مسئولند که به شورا بیایند، به پرسش‌های ما پاسخ دهند و زیر سوگند، نظر خود را درباره قوانین پیشنهادی ما مطرح کنند.»

دفتر رئیس شورا روز دوشنبه اعلام کرد که آنتروپیک، لوگان گراهام (Logan Graham)، مدیر تیم قرمز مرزی (Frontier Red Team) خود را برای شهادت می‌فرستد و مورگان دوایر (Morgan Dwyer)، مدیر توسعه سیاست‌ها و عملیات OpenAI، به عنوان نماینده این شرکت حاضر خواهد شد. همچنین آلیس فرند (Alice Friend)، مدیر سیاست‌گذاری هوش مصنوعی و فناوری‌های نوظهور گوگل، به همراه شین کیهیل (Shane Cahill)، مدیر سیاست‌گذاری قانون‌گذاری هوش مصنوعی در متا، دیگر حاضران این جلسه خواهند بود.

به گفته منین، در شرایطی که متا اواخر ماه گذشته حضورش را تأیید کرده بود، شرکت‌های آنتروپیک، OpenAI و گوگل تنها پس از آن موافقت کردند که شورا آن‌ها را به صدور احضاریه قانونی تهدید کرد! علاوه بر این، شورای شهر هفته گذشته برای ایلان ماسک (مدیرعامل SpaceX) نیز احضاریه فرستاده و خواستار حضور او یا نماینده‌ای از بخش هوش مصنوعی شرکتش، یعنی SpaceXAI، برای ادای شهادت شده است.

منین صراحتاً هشدار داده که اگر SpaceXAI از این احضاریه سرپیچی کند، شورای شهر ممکن است از طریق دادگاه عالی ایالت نیویورک برای دریافت حکم الزام‌آور قضایی اقدام کند.