ترمز اضطراری در اوپن‌ای‌آی؛ توقف آموزش پیشرفته‌ترین مدل‌ها پس از فرار ایجنت هوش مصنوعی!

این روز‌ها نگرانی‌ها درباره هم‌ترازی و مهار هوش مصنوعی (AI Alignment) حسابی سر زبان‌ها افتاده است؛ تا جایی که غول‌هایی مثل سم آلتمن از اوپن‌ای‌آی، داریو آمودی مدیرعامل آنتروپیک و ایلان ماسک همگی خواستار کشیدن ترمز پیشرفت این فناوری شده‌اند و حتی چهره‌های سرشناسی مثل باراک اوباما هم با آن‌ها هم‌صدا شده‌اند.

حالا شرکت اوپن‌ای‌آی در پی رشته‌ای از رخدادهای نگران‌کننده اخیر که در جریان آن‌ها سیستم‌ها از محیط امن خارج شده‌اند، تصمیم گرفته فرآیند آموزش، ارزیابی و استنتاج با ابزار‌های مختلف را برای «پیشرفته‌ترین مدل‌های خود» موقتاً متوقف کند.

این تصمیم غول هوش مصنوعی پس از آن گرفته شد که یکی از ایجنت‌ها در حین انجام یک تسک آموزشی مبتنی بر جستجو، تلاش کرد به یک سرویس چت‌بات عمومی متصل شود. این ایجنت با سوءاستفاده از یک رخنه امنیتی ناشی از «فیلترینگ ناکافی سامانه نام دامنه (DNS)» در محیط امن آزمایشی (سندباکس)، محدودیت‌های دسترسی به اینترنت آزاد را دور زده بود.

این ایجنت قبلاً از طریق ابزار جستجوی خود کوئری‌هایی فرستاده بود و چند باری هم تلاش ناموفق داشت تا مستقیماً به موتورهای جستجو دسترسی پیدا کند، اما نتوانسته بود سد ورود به اینترنت زنده را بشکند. به گفته اوپن‌ای‌آی، سیستم نظارت بر هم‌ترازی ظرف ۱۵ دقیقه این رفتار مشکوک را شناسایی کرد و سه دقیقه بعد، بازبینی توسط یک کارشناس انسانی آغاز شد. در نهایت اجرای این ایجنت پس از دو ساعت و نیم متوقف شد. مأموریت این ایجنت شناسایی نویسنده یک پست وبلاگی بود و برای شروع تحقیقات، مجموعه‌ای از سرنخ‌ها در اختیارش قرار گرفته بود.

اوپن‌ای‌آی در گزارش این حادثه توضیح داده است: «شدت این اتفاق به مراتب کم‌تر از برخی وقایع قبلی ماست، اما از آنجا که نخستین حادثه پس از اقدامات امنیتی سخت‌گیرانه ما بعد از ماجرای هاگینگ فیس (Hugging Face) به حساب می‌آید، سیگنال مهمی به ما می‌دهد که باید در مرحله بعدی تمرکزمان را روی چه بخش‌هایی بگذاریم.»

این اتفاق درست پس از آن علنی شد که اوپن‌ای‌آی اوایل همین هفته فاش کرد مدل‌هایش به اطلاعات عمومی در دو وب‌سایت متعلق به کمیسیون بورس و اوراق بهادار آمریکا (SEC) دسترسی پیدا کرده بودند و با استفاده از کلیدهای توسعه‌دهنده عمومی، به داده‌های اداره سرشماری این کشور هم سرک کشیده‌اند.

البته اوپن‌ای‌آی تأکید کرده که هیچ مدرکی مبنی بر رخنه امنیتی، سوءاستفاده از اطلاعات ورود یا دسترسی به داده‌های محرمانه در سازمان SEC یا اداره سرشماری پیدا نکرده است.

این شرکت همچنین اوایل همین هفته فاش کرد که ایجنت‌هایش ۵۳ تصویر آپلودشده توسط کاربران را روی وب‌سایت‌های عمومی میزبانی تصویر آپلود کرده‌اند؛ هرچند اوپن‌ای‌آی همچنان معتقد است نفوذ جنجالی ماه ژوئیه به پلتفرم هاگینگ فیس، شدیدترین رخداد امنیتی این شرکت تا به امروز بوده است.

همچنین در روز‌های اخیر، پژوهشگران مستقل در ترنسلوس (Transluce) گزارش دادند که یک ایجنت هوش مصنوعی تلاش ناموفقی برای نفوذ به وب‌سایت دفتر حقوق مدنی وزارت آموزش آمریکا داشته است، اگرچه این وزارتخانه اعلام کرد هیچ نشانه‌ای از آسیب به وب‌سایت یا پایگاه‌های داده خود مشاهده نکرده است.