آنتروپیک دسترسی در سطح کارکنان را به بازرسان مستقل اعطا کرد؛ نظارت بی‌سابقه بر ایمنی هوش مصنوعی

شرکت آنتروپیک به ارزیاب‌های خارجی «دسترسی در سطح کارمندان» اعطا کرده است تا خطرات مدل‌های این شرکت را بسنجند؛ اقدامی که در راستای پایبندی به تعهدات پیشین برای ارتقای تدابیر حفاظتی و جلوگیری از خروج فاجعه‌بار هوش مصنوعی از کنترل صورت می‌گیرد.

سازمان غیرانتفاعی METR که پیش از این با آزمایشگاه‌های پیشرویی مانند اوپن‌ای‌آی، آنتروپیک، گوگل و متا همکاری داشته، اکنون تیمی را در دفاتر سازنده چت‌بات کلود مستقر کرده است که به سخت‌افزارها و سیستم‌های داخلی این شرکت دسترسی مستقیم دارند.

افزایش نقش ارزیاب‌های مستقل ازجمله گام‌های ملموسی به شمار می‌رود که این آزمایشگاه‌ها در پاسخ به نگرانی‌های فزاینده درباره خطرات سیستم‌های توانمند هوش مصنوعی برای اقتصاد، امنیت سایبری و کلیت بشریت پیشنهاد کرده‌اند.

داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر به اتحاد کم‌سابقه‌ای با رقبای سرسخت خود، سم آلتمن و ایلان ماسک، دست یافت؛ زمانی که مدیران عامل اوپن‌ای‌آی و اسپیس‌ایکس از پیشنهاد او مبنی بر استقرار حسابرسان و بازرسان مستقل در آزمایشگاه‌های پیشرو حمایت کردند.

بیانیه اخیر آنتروپیک نخستین گام عملی برای اجرای این وعده‌ها محسوب می‌شود. این در حالی است که اوپن‌ای‌آی با وجود تمجید سم آلتمن از ایده آمودی، هنوز هیچ برنامه‌ای برای ورود ارزیاب‌های خارجی ارائه نکرده است.

آنتروپیک در بیانیه خود اعلام کرد: «با قدرتمندتر شدن مدل‌ها، نیاز به تدابیر حفاظتی محکمتر و ارزیابی‌های پیچیده‌تر خطر نیز بیشتر شده است. ما می‌خواهیم در قبال تصمیماتی که می‌گیریم در برابر عموم پاسخگو باشیم، اما انتشار عمومی تمام اطلاعات مربوط به اقدامات امنیتی‌مان امکان‌پذیر نیست.»

منتقدان ایده آنتروپیک برای استفاده از ارزیاب‌های مستقل معتقدند چنین سازوکارهایی می‌تواند به تعارض منافع ختم شود؛ آن‌ها با اشاره به تجربیات مشابه در بخش حسابداری مالی، تأکید دارند که این حوزه به مقررات و نظارت‌های دولتی گسترده‌تری نیاز دارد.

آنتروپیک در پاسخ استدلال می‌کند که انتشار عمومی اطلاعات می‌تواند به نفع افراد شرور یا رقبا تمام شود. این شرکت می‌افزاید که شیوه فعالیت این ارزیاب‌ها مشابه نظارت بانکی خواهد بود؛ ساختاری که در آن، نهادهای قانون‌گذار بازرسان مقیمی را برای نظارت مستقیم در داخل بزرگ‌ترین بانک‌ها مستقر می‌کنند.

این شرکت در بیانیه خود تأکید کرد: «اگر ریسک‌پذیری یک بانک بتواند سلامت جامعه را تهدید کند، ناظران مستقل تلاش می‌کنند این موضوع را پیش از وقوع شناسایی کنند.»

آنتروپیک از سوی دیگر تحت فشار است تا به سرمایه‌گذاران اطمینان دهد که مسائل ایمنی، عرضه اولیه سهام (IPO) این شرکت را تحت‌الشعاع قرار نخواهد داد؛ رویدادی که انتظار می‌رود امسال با ارزشی فراتر از ۲ تریلیون دلار برگزار شود. این شرکت در جلسات معرفی این هفته خود برای سرمایه‌گذاران، بخش عمده‌ای از زمان را به تشریح سازوکارهای ایمنی خود اختصاص داد.

مؤسسه METR یکی از نهادهایی بود که روی نفوذ به هاگینگ فیس (Hugging Face) توسط مدل‌های سرکش اوپن‌ای‌آی تحقیق کرد؛ پرونده‌ای که طی آن هزاران گزارش لاگ بررسی شد و لپ‌تاپ‌های سازمانی شرکت در اختیار این بازرسان قرار گرفت.

آنتروپیک هم‌اکنون ۶ نفر از کارکنان METR را جذب مجموعه خود کرده و علاوه بر سخت‌افزارهای شرکتی و فضای اداری، «دسترسی به ابزارها و سیستم‌های داخلی را در سطحی تقریباً برابر با تیم‌های اختصاصی ارزیابی خطر خود» به آن‌ها اختصاص داده است.

این آزمایشگاه اعلام کرده که کارکنان خود را تشویق نموده تا اطلاعات را درست همان‌گونه که با همکاران بخش ارزیابی ریسک در میان می‌گذارند، با این ارزیاب‌ها نیز به اشتراک بگذارند.

آنتروپیک بابت این همکاری هیچ هزینه‌ای به METR پرداخت نمی‌کند. این گروه پژوهشی کمک‌های مالی شرکت‌های هوش مصنوعی یا کارکنان آن‌ها را نمی‌پذیرد و منابع مالی‌اش از طریق کمک‌های افراد خیّر، سازمان‌های بشردوستانه و نهادهای دولتی مانند مؤسسه امنیت هوش مصنوعی بریتانیا تأمین می‌شود.

این بازرسان نتایج تحلیل‌های خود را منتشر خواهند کرد و آنتروپیک حق وتوی انتشار آن را ندارد؛ هرچند این شرکت می‌تواند خواستار حذف اطلاعاتی شود که در دسته‌بندی‌های خاصی مثل داده‌های کاربران، جزئیات محرمانه میان وکیل و موکل یا اطلاعات مربوط به معماری مدل‌ها قرار می‌گیرند.

آنتروپیک افزود که همچنان به همکاری با شرکت اکسنچر (Accenture) ادامه می‌دهد؛ شرکتی که ماه گذشته به‌عنوان شریک تست‌های ایمنی معرفی شد و هر دو طرف متعهد شدند دست‌کم ۱ میلیارد دلار برای ایجاد سازوکارهای حفاظتی جدید اختصاص دهند.

یکی دیگر از ارزیاب‌های مستقل این شرکت، سکیوربایو (SecureBio) است که خطرات احتمالی مربوط به سلاح‌های شیمیایی و بیولوژیکی را بررسی می‌کند.

آنتروپیک اعلام کرد: «ما بازرسان را به‌صورت داوطلبانه در مجموعه خود مستقر می‌کنیم و معتقدیم هر شرکتی که روی هوش مصنوعی پیشرو کار می‌کند باید رویکرد مشابهی در پیش بگیرد.»

سازمان METR نیز در بیانیه‌ای تأکید کرد: «ما آماده‌ایم با تمام توسعه‌دهندگان هوش مصنوعی پیشرو همکاری کنیم تا شواهد و یافته‌های دقیق‌تری را در اختیار افکار عمومی بگذاریم.»