پیش از سخنرانی سم آلتمن در سازمان ملل، OpenAI راهکارهای جدیدی برای ردیابی خطرات هوش مصنوعی پیشنهاد داد

شرکت OpenAI روز دوشنبه استانداردهای بین‌المللی ایمنی هوش مصنوعی را منتشر کرد؛ این اقدام در حالی صورت می‌گیرد که رهبران جهان، به‌ویژه ایالات متحده و چین، در حال بررسی راه‌هایی برای کاهش خطرات این فناوری هستند.

چرا این موضوع اهمیت دارد: رویکرد ایالات متحده در هماهنگی با چین پیرامون خطرات هوش مصنوعی، به‌شدت تحت تأثیر توصیه‌های پیشگامان این صنعت قرار خواهد گرفت.

جزئیات خبر: اسکات بسنت، وزیر خزانه‌داری ایالات متحده و هی لیفنگ، معاون نخست‌وزیر چین، در آخر هفته گذشته درباره ایجاد یک کانال گفتگوی مشترک در حوزه هوش مصنوعی بحث و تبادل نظر کردند. هدف از این گفتگوها، اطلاع‌رسانی به کشور مقابل در زمان رسیدن حوادث مرتبط با هوش مصنوعی به سطح خطرات امنیت ملی است.

• جزئیات این توافقات بسیار تعیین‌کننده است و OpenAI راهکارهایی را پیشنهاد می‌دهد که قرار است سم آلتمن، مدیرعامل این شرکت، روز چهارشنبه در سخنرانی خود در شورای امنیت سازمان ملل در نیویورک به آن‌ها بپردازد.

گفته‌ها و پیشنهادها: شرکت OpenAI توصیه می‌کند برای تسهیل در تعیین استانداردها، از مؤسسات ایمنی هوش مصنوعی در سراسر جهان از طریق «مرکز امنیت و نوآوری هوش مصنوعی ایالات متحده» که بخشی از وزارت بازرگانی است، بهره‌برداری شود.

• این شرکت همچنین خواستار تدوین معیارهای جهانی مشترک برای طبقه‌بندی حوادث و تعیین نحوه ردیابی، گزارش و واکنش به مشکلات هم‌راستایی (Alignment) است.
• بر اساس گزارش‌های منتشرشده از سوی مقامات OpenAI، هدف نهایی این طرح دستیابی به استانداردهای بین‌المللی برای حوادثی است که پیش از استقرار در محیط‌های آزمایشی رخ می‌دهند، و همچنین حوادثی که در دنیای واقعی به وقوع می‌پیوندند.

چشم‌انداز آینده: انتظار می‌رود همزمان با جلب توجهات به دیدارهای روسای جمهور آمریکا و چین و ضیافت شامی که اواخر این هفته با حضور چهره‌های برجسته صنعت برگزار می‌شود، سایر آزمایشگاه‌های توسعه هوش مصنوعی نیز نظرات و پیشنهادهای خود را در این زمینه مطرح کنند.