OpenAI ارزیابی ایمنی مدل‌های هوش مصنوعی در مرحله آموزش را به نهادهای شخص ثالث می‌سپارد

شرکت OpenAI ارزیابی‌های فنی و ایمنی مدل‌های خود را در تمام مراحل آموزش، ارزیابی و استقرار به روی سازمان‌های خارجی باز می‌کند؛ اقدامی که دسترسی این نهادها را از بازه زمانیِ محدود به پیش از عرضه فراتر می‌برد.

به گزارش بلومبرگ، لاما احمد، مدیر ارتباطات OpenAI با کارشناسان ایمنی خارجی در این رابطه می‌گوید: «تا پیش از این، استفاده ما از بازبین‌های شخص ثالث عمدتاً به بررسی‌های ایمنی پیش از عرضه و ارزیابی قابلیت‌ها محدود می‌شد. اما با افزایش حساسیت‌ها، می‌خواهیم اطمینان حاصل کنیم که علاوه بر استقرار مدل‌ها، به مراحلی مانند آموزش و ارزیابی نیز که اهمیت بالایی دارند، توجه ویژه‌ای داریم.»

این شرکت در حال حاضر مشغول مذاکره با گروه‌های تحقیقاتی هوش مصنوعی نظیر METR و Redwood Research است. بر اساس گزارش The Next Web، هر دو گروه پیش‌تر حادثه‌ای را بررسی کرده بودند که در آن، مدل‌های OpenAI از محیط ایزوله خارج شده و به پلتفرم Hugging Face دسترسی پیدا کرده بودند.

شرکت OpenAI در پست وبلاگی خود چهار حوزه اولویت‌دار را برای ارزیابی دقیق‌تر مشخص کرده است: بررسی مستقل پرونده‌های ایمنی در مراحل آموزش، ارزیابی و استقرار؛ ارزیابی لایه‌های امنیتی حیاتی در استقرارهای داخلی و خارجی؛ بررسی ارزیابی قابلیت‌ها در زمینه‌های خطرات شیمیایی و بیولوژیکی، امنیت سایبری و خودبهبودی هوش مصنوعی؛ و در نهایت، تحقیقات مستقل درباره حوادث مهم ناشی از ناهماهنگی مدل‌ها.

این شرکت اعلام کرد که برای حساس‌ترین پروژه‌ها، ممکن است ارزیاب‌های خارجی به دفاتر OpenAI دعوت شوند؛ رویکردی که پیش از این نیز سابقه داشته است. این استارتاپ در پست وبلاگی خود تاکید کرد: «آزمایشگاه‌های هوش مصنوعی وظیفه دارند ضمن محافظت از اطلاعات حساس، امکان بررسی و نظارت معنادار را فراهم کنند.»

شرکت OpenAI همچنین اصولی را که باید مبنای این ارزیابی‌ها قرار گیرند تشریح کرد؛ استقلال ارزیاب‌ها، دقت علمی، رعایت شیوه‌نامه‌های امنیتی و تعریف دقیق مسئولیت‌ها از جمله این موارد است. این شرکت افزود که در نظر دارد چندین بررسی همزمان را با زمان‌بندی‌های متفاوت اجرا کند که از پروژه‌های چند هفته‌ای تا ارزیابی‌های چند ماهه متغیر خواهد بود.

به گزارش The Next Web، این بیانیه پس از آن منتشر شد که سم آلتمن، مدیرعامل OpenAI، در تاریخ ۱۲ سپتامبر اعلام کرد که این شرکت به ارزیاب‌های مستقل امکان دسترسی به دفتر، تجهیزات و حق انتشار یافته‌هایشان را خواهد داد. با این حال، در پست وبلاگی اخیر نام هیچ سازمان همکار یا شرایط دقیق دسترسی ذکر نشده است.

این تحولات در حالی رخ می‌دهد که بر اساس گزارش بلومبرگ، شرکت رقیب یعنی Anthropic نیز هفته گذشته اعلام کرد که ارزیاب‌هایی از Accenture را برای آزمایش ایمنی مدل‌های خود به کار خواهد گرفت. پیش از این، سم آلتمن به‌طور علنی از تلاش‌های داریو آمودی، مدیرعامل Anthropic، برای اتخاذ تدابیر ایمنی قوی‌تر در این صنعت از جمله استفاده از ارزیاب‌های خارجی حمایت کرده بود.