هشدار جنجالی مسئول سابق ایمنی OpenAI: با هوش مصنوعی باید مثل نیروگاه هسته‌ای رفتار کرد!

مسئول سابق ایمنی شرکت OpenAI هشدار داده که عرضه مدل‌های پیشرو و قدرتمند هوش مصنوعی باید درست مثل حساس‌ترین صنایع دنیا، به لایه‌های حفاظتی پشتیبان، تدابیر احتیاطی چندگانه و برنامه‌ریزی‌های دقیق و زمان‌بر مجهز باشد.

موج استعفا در تیم ایمنی OpenAI همچنان قربانی می‌گیرد و حالا یک نیروی کلیدی دیگر هم از این شرکت جدا شده است. دیوید رابینسون (David Robinson) که پیش‌تر وظیفه نگارش و رهبری گزارش‌های ایمنی مدل‌های جدید را بر عهده داشت، بلافاصله پس از رفتنش در یادداشتی تند برای نشریه The Atlantic، از وجود یک «فرهنگ سازمانی آسیب‌دیده و معیوب» پرده برداشت. او با ابراز نگرانی جدی از مسیر خطرناکی که توسعه هوش مصنوعی در پیش گرفته، توضیح داد: «شرکت مدام از رونمایی یک مدل به سراغ رونمایی بعدی می‌پرد و در این شتاب‌زدگی، از دقتی که به باور من برای مراقبت و ایمنی لازم است، کاملاً جا می‌ماند.»

رابینسون تأکید می‌کند که غول‌های فناوری به‌جای مسابقه دادن و شتاب جنون‌آمیز برای عرضه مدل‌های مرزی و فوق‌پیشرفته، باید الگوبرداری از صنایعی مثل نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ و پرترافیک را آغاز کنند؛ مکان‌هایی حساس که «لایه‌های تکرارشونده و سامانه‌های پشتیبان متعددی دارند و با برنامه‌ریزی‌های دقیق و وسواس‌گونه کار می‌کنند تا یک خطای انسانیِ گریزناپذیر و تصادفی، درِ فاجعه را به روی جهان باز نکند.»

او با مقایسه خطرات ناشی از ناهماهنگی یا تمرد هوش مصنوعی (AI Misalignment) با گداخت هسته‌ای (Meltdown)، تصریح کرد که OpenAI و رقبایش اصلاً به اندازه نیروگاه‌های اتمی تدابیر احتیاطی و پروتکل‌های سفت‌وسخت ندارند. او همچنین هشدار داد که از دست رفتن کنترل یک سیستم هوش مصنوعی، می‌تواند پیامدهایی به‌مراتب ویران‌کننده‌تر از انفجار یک راکتور هسته‌ای داشته باشد. پیش از رابینسون، داریو آمودی (Dario Amodei)، مدیرعامل شرکت آنتروپیک (Anthropic) نیز با ارائه یک طرح سه‌مرحله‌ای برای کاهش سرعت توسعه، زنگ خطر را درباره روند نگران‌کننده پیشرفت هوش مصنوعی به صدا درآورده بود.

گذشته از بحث پروتکل‌ها و بررسی‌های معمول، این کارمند سابق OpenAI معتقد است مسأله «هم‌راستاسازی» یا تطابق هوش مصنوعی (Alignment)، حساسیتی فوق‌العاده حیاتی دارد و به بالا‌ترین سطح ممکن رسیده است. رابینسون سناریوی نگران‌کننده‌ای را توصیف می‌کند که در آن، مدل‌های نسل جدید ممکن است متوجه ارزیابی‌ها شوند و در محیط‌های آزمایشگاهی صرفاً برای گرفتن نمره قبولی خودشان را مطیع نشان دهند، اما در محیط واقعی و عملیاتی رفتاری کاملاً غیرقابل‌پیش‌بینی در پیش بگیرند. نگرانی‌های او اتفاقاً بی‌دلیل نیست؛ چرا که در ماه‌های اخیر حوادث متعددی گزارش شده که در آن‌ها ایجنت‌های هوش مصنوعی از محیط‌های قرنطینه و آزمایشی فرار کرده و وارد سیستم‌ها و سازمان‌های دیگر شده‌اند؛ رفتاری که فرسنگ‌ها فراتر از محدوده کاری تعیین‌شده برای آن‌ها بوده است.