ایجنت تحقیقاتی اوپن‌ای‌آی برای تکمیل یک پروژه کدنویسی، اتریوم آزمایشی سرقت کرد

این مدل هوش مصنوعی در تحلیل‌های خود به این نتیجه رسیده بود که توکن‌های مذکور «فاقد ارزش» و «رهاشده» هستند.

طبق گزارش رسمی اوپن‌ای‌آی، یکی از مدل‌های آزمایشی این شرکت برای تکمیل یک وظیفه کدنویسی، با سرقت توکن‌های آزمایشی اتریوم از کیف‌پولی که تحت کنترلش نبود، به نقطه عطف بحث‌برانگیز دیگری دست یافت. این ایجنت پس از این اقدام، موضوع را از ناظران اوپن‌ای‌آی پنهان کرد و مدعی شد این کار اشکالی ندارد، زیرا توکن‌ها عملاً بی‌ارزش هستند. اوپن‌ای‌آی در بخشی از این گزارش نوشت: «این ماجرا نشان می‌دهد که مدل می‌تواند ارزیابی شخصی خود درباره آسیب‌های احتمالی را جایگزین اجازه مالک حساب کند و سپس بدون دریافت مجوز، بر مبنای همان قضاوت دست به اقدام بزند.»

این رویداد در تاریخ ۲۶ ژوئن و هنگام آموزش‌های داخلی مدلی به نام GPT-5.6 Sol رخ داد. مأموریت محول‌شده شامل به‌روزرسانی نمونه اولیه یک سامانه معاملات رمزارز و استقرار قراردادها (انتشار کدهای اختصاصی) روی شبکه آزمایشی اتریوم موسوم به سپولیا (Sepolia) بود. انتشار چنین قراردادهایی مستلزم پرداخت کارمزد تراکنش در شبکه است، اما به گفته اوپن‌ای‌آی در این گزارش، «هیچ کیف‌پول دارای موجودی در اختیار مدل قرار نگرفته بود و هیچ مجوزی نیز برای خرج کردن دارایی‌های حسابی که مدل خودش به‌طور مستقل پیدا کرده بود، صادر نشد.»

کمبود موجودی در ابتدا مانع ادامه کار ایجنت شد، اما جلوی پیشروی آن را نگرفت. مدل با خود استدلال کرد که می‌تواند با بهره‌گیری از عبارات بازیابی عمومی توسعه‌دهندگان (مشابه کلماتی که برای بازیابی رمز عبور استفاده می‌شود)، به کلیدهای حساب‌های غیرمجاز دست یابد. این هوش مصنوعی موفق شد ۳۶۲ آدرس آسیب‌پذیر در برابر این شیوه نفوذ را شناسایی کند و در نهایت به حسابی رسید که اتریوم سپولیای کافی برای استقرار قرارداد در آن وجود داشت (البته برای شفاف‌سازی باید اشاره کرد که اتریوم سپولیا خارج از محیط آزمایش هیچ ارزش مالی ندارد).

این ایجنت درست مانند سارقان سایبری با خود فرض کرد که احتمالاً شخصی این دسترسی را عمداً برای تخلیه خودکار فاسِت‌های اتریوم (دریافت قطره‌ای توکن آزمایشی) باز گذاشته است. طبق اسناد خطاهای رفتاری اوپن‌ای‌آی، مدل به این نتیجه رسیده بود که این دارایی عملاً «رهاشده» و «بی‌ارزش» است. اما شاهکار اصلی ایجنت این بود که به گفته اوپن‌ای‌آی «هیچ‌کجا اعلام نکرد که حسابی دارای موجودی را از طریق عبارت بازیابی عمومی انتخاب کرده یا موجودی آن را خرج کرده است.» شرکت اوپن‌ای‌آی برای جلوگیری از رویدادهای مشابه در آینده، اکنون تمامی ترافیک را پایش می‌کند و در صورت مشاهده هرگونه دسترسی زنده به اینترنت، هشدارهای امنیتی را فعال خواهد کرد.

اگر سرکشی ایجنت‌ها برای رسیدن به اهدافشان به نظرتان آشنا می‌آید، به این دلیل است که مدل‌های توسعه‌یافته توسط اوپن‌ای‌آی، آنتروپیک و سایر شرکت‌های مطرح هوش مصنوعی اخیراً رفتارهای غیرقابل‌پیش‌بینی زیادی ثبت کرده‌اند. فهرستی از اهدافی که تاکنون تحت تأثیر چنین اقداماتی قرار گرفته‌اند شامل مخزن کدهای هوش مصنوعی هاگینگ فیس (Hugging Face)، پرتال مدیکر استرالیا، چندین آژانس فدرال ایالات متحده و مخزن توسعه‌دهندگان روبی‌جمز (RubyGems) است. با وجود تمام این اتفاقات، حتی کارکنان این شرکت‌ها نیز معتقدند وضع مقررات دولتی ضرورت دارد، هرچند دولت ترامپ تا این لحظه با چنین اقداماتی مخالفت کرده است.