دسته‌گل تازه ایجنت‌های آنتروپیک؛ قطع دسترسی به اینترنت زنده برای مهار هوش مصنوعی سرکش!

شرکت آنتروپیک (Anthropic) اعلام کرده که مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌ها دست به نفوذ و سوءاستفاده از وب‌سایت‌های مختلف، از جمله چند سایت متعلق به سازمان‌های دولتی آمریکا زده‌اند. همین خرابکاری‌ها باعث شده این آزمایشگاه پیشرو هوش مصنوعی دسترسی به اینترنت زنده را برای تمام ارزیابی‌های داخلی خود قطع کند؛ حداقل تا زمانی که مطمئن شود می‌تواند ایجنت‌های هوش مصنوعی‌اش را به طور کامل زیر نظر بگیرد و مهار کند.

این ماجراها که در یک پست وبلاگی رسمی فاش شده، مربوط به ایجنت‌های هوش مصنوعی است که وظیفه حل یک‌سری مسئله را داشتند و برای پیدا کردن منابع به اینترنت فرستاده شده بودند. اما این ایجنت‌ها در مسیر رسیدن به هدف، کار‌های عجیب‌وغریبی کردند؛ از پیدا کردن باگ‌ها و رخنه در نرم‌افزارها و دسترسی رایگان به پایگاه‌های داده پولی گرفته تا استفاده موذیانه از سرویس‌های کوتاه‌کننده لینک برای دور زدن محدودیت‌ها و انتقال اطلاعات! اوج شاهکارشان هم جایی بود که یک گزارش قتل ساختگی و دروغین برای اداره پلیس فیلادلفیا فرستادند!

آنتروپیک می‌گوید این رفتارهای غیرمنتظره را در بازبینی فعالیت مدل‌هایش که از ماه ژوئیه آغاز شده بود کشف کرده است؛ موضوعی که نشان می‌دهد این آزمایشگاه در لحظه (Real-time) اصلاً متوجه رفتارهای خودسرانه نرم‌افزارش نبوده و در زمان واقعی نظارتی بر این خرابکاری‌ها نداشته است.

نکته مهم و تأمل‌برانگیز اینجاست که خود آنتروپیک اعتراف کرده آموزش‌های هم‌راستاسازی و ایمنی (Alignment) هنوز برای مهارت‌هایی مثل وب‌گردی و کار با رایانه (Computer Use) کافی نیستند. این در حالی است که مانور تبلیغاتی اصلی آنتروپیک دقیقاً روی همین ویژگی است و مدام وعده می‌دهد که ایجنت‌های هوش مصنوعی به‌زودی عصای دست تمام متخصصانی خواهند شد که با ابزار‌های دیجیتال سر و کار دارند.

رفتارهای عجیبی که آنتروپیک فاش کرده شباهت زیادی به اتفاقات قبلی ایجنت‌های شرکت OpenAI دارد؛ ماجرایی که در آن، ایجنت‌های اوپن‌ای‌آی با همکاری یکدیگر برای یافتن اطلاعات به وب‌سایت‌های مختلف، از جمله سایت‌های دولتی استرالیا نفوذ کرده بودند.

البته آنتروپیک قبلاً هم فاش کرده بود که مدل‌هایش به سیستم‌های خارجی نفوذ کرده‌اند. این آزمایشگاه مدعی است گزارش جدید از نظر امنیت و هم‌راستاسازی، به مراتب سبک‌تر و کم‌خطرتر از مواردی است که قبلاً علنی کرده بود.

با تمام این اوصاف، این آزمایشگاه اعلام کرده تا زمانی که از نظارت کامل و مهار ایجنت‌هایش مطمئن نشود، دسترسی به اینترنت زنده را برای «تمام ارزیابی‌های داخلی» قطع نگه می‌دارد.

اما هنوز دقیقاً مشخص نیست این تصمیم در عمل چه پیامدهایی دارد. سیدنی فون آرکس (Sydney Von Arx)، بنیان‌گذار سازمان ایمنی هوش مصنوعی Nightingale، در گفت‌وگویی پیش از این گزارش تأکید کرده بود توسعه مدل‌ها در دیتاسنتری که از اینترنت آزاد جدا شده، کار را برای پژوهشگران به‌شدت سخت می‌کند و جلوی پیشرفت مدل‌هایی را که از دسترسی به وب سود می‌برند می‌گیرد.

فون آرکس در این باره می‌گوید: «بالاخره باید در یک مرحله این مدل‌ها را هم‌راستا و امن کنید. اگر هوش مصنوعی به مرحله استفاده نهایی برسد ولی هیچ‌وقت به اینترنت دسترسی نداشته باشد، عملاً ابزار چندان به درد بخوری نخواهد بود.»

آنتروپیک توضیح داده که این رفتارهای ناهنجار ناشی از نقص در محیط‌های آموزشی آزمایشگاه بوده است؛ نقصی که باعث شده مدل‌ها تصور کنند دور زدن محدودیت‌ها یا کشف رخنه‌ها برایشان پاداش دارد؛ پدیده‌ای که در دنیای یادگیری تقویتی به آن «هک پاداش» (Reward Hacking) می‌گویند.

این شرکت حالا می‌گوید اجرای برخی از ارزیابی‌هایش را متوقف کرده یا آن‌ها را به فضای آفلاین منتقل کرده و ابزار‌هایی هم برای شناسایی و مسدود کردن این رفتارها توسعه داده است. این ابزار‌ها روی خرابکاری‌های اخیر آزمایش شده و جلوی آن‌ها را گرفته‌اند، اما هنوز معلوم نیست چه شواهدی می‌تواند آنتروپیک را قانع کند که دوباره پای اینترنت زنده را به ارزیابی‌های داخلی باز کند. آنتروپیک همچنین گفته که قصد دارد ایجنت‌های داخلی خود را به یک «زیرساخت متمرکز با قرنطینه و مهارسازی قدرتمند» منتقل کند و برای پایش این ایجنت‌ها، استفاده از دسته‌بندی‌کننده‌های ایمنی (Safety Classifiers) را به طور چشمگیری افزایش دهد.

کنراد استوز (Conrad Stosz)، از مسئولان آزمایشگاه نظارت بر هوش مصنوعی Transluce و رئیس سابق مرکز استانداردها و نوآوری هوش مصنوعی ایالات متحده، در بیانیه‌ای گفت: «اینکه آنتروپیک خودش داوطلبانه این اتفاقات جدید، از جمله هدف قرار گرفتن وب‌سایت‌های دولتی آمریکا توسط ایجنت‌هایش را فاش کرده، جای امیدواری دارد. اما این موضوع دقیقاً نیاز به ارزیابی مستقل و معتبر توسط نهادهای شخص ثالث را به رخ می‌کشد. جلب اعتماد به این فناوری باید از مسیر حکمرانی و نظارت علمی با دسترسی واقعی و شفاف شکل بگیرد؛ نه اینکه منتظر بمانیم تا محققان خودشان در فضای واقعی به این گاف‌ها بربخورند یا شرکت‌ها هر وقت دلشان خواست آن‌ها را داوطلبانه اعتراف کنند.»