ایجنت هوش مصنوعی اوپنای‌آی در اخلاقی بودن سرقت کریپتو تردید کرد؛ اما در نهایت دست به دزدی زد!

این روزها به نظر می‌رسد موارد نافرمانی و سرکشی ایجنت‌های هوش مصنوعی بیش از هر زمان دیگری در حال افزایش است.

ماجرای هاگینگ فیس (Hugging Face) یکی از نخستین نمونه‌های این پدیده به شمار می‌رفت. از آن زمان به بعد، دنبال‌کنندگان اخبار هوش مصنوعی مدام با گزارش‌هایی درباره نفوذ ایجنت‌های هوش مصنوعی به سیستم‌های زنده سازمانی، استخراج داده‌های سرشماری با اعتبارسنجی‌های آنلاین، اجرای هک‌های غیرمجاز و مواردی از این دست روبه‌رو شده‌اند.

در همین رابطه، اوپنای‌آی به‌تازگی گزارش جدیدی منتشر کرده است که این باور را تقویت می‌کند: هنوز نمی‌توان برای سپردن وظایف بزرگ و حساس به ایجنت‌های هوش مصنوعی، به‌طور کامل به آن‌ها اعتماد کرد. این گزارش نشان می‌دهد که یکی از ایجنت‌های این شرکت، کیف پول کریپتویی را هدف قرار داده و دست به اقداماتی زده که اصلاً مجوز انجام آن‌ها را نداشته است.

در ادامه ماجرای آزادی عمل بیش از حد این ایجنت هوش مصنوعی و چرایی انجام کاری را مرور می‌کنیم که نباید انجام می‌داد؛ آن هم درست پس از آنکه خودش در ابتدا جنبه‌های اخلاقی این اقدام را زیر سؤال برده بود.

تردید در غیراخلاقی بودن کار و انجام آن در کمال خونسردی

در گزارش اوپنای‌آی اشاره شده است که یکی از مدل‌های تحقیقاتی داخلی این شرکت از خانواده GPT-5.6 Sol در یک تسک آموزشی برای به‌روزرسانی نمونه اولیه یک پلتفرم معاملاتی ارز دیجیتال به کار گرفته شده بود.

وظیفه دیگری که به این مدل سپرده شد، دیپلوی (پیاده‌سازی) قراردادهای هوشمند روی سپولیا (Sepolia) بود؛ شبکه آزمایشی مبتنی بر بلاک‌چینی که به توسعه‌دهندگان اجازه می‌دهد برنامه‌های اتریوم را پیش از عرضه در شبکه اصلی آزمایش کنند. از آنجا که رمزارزهای این آزمایش صرفاً برای اهداف تست کاربرد دارند، این دارایی‌ها خوشبختانه هیچ ارزش مالی واقعی در دنیای واقعی ندارند.

مشکل زمانی آغاز شد که مدل نتوانست توکن‌های تستی مورد نیازش را از طریق فاست‌ها (Faucets) به دست آورد. در نتیجه، این ایجنت خودسرانه چهار اقدام پیاپی انجام داد که به‌خوبی نشان می‌دهد ایجنت‌های هوش مصنوعی چقدر مستعد نادیده گرفتن محدودیت‌های تعیین‌شده از سوی توسعه‌دهندگان برای رسیدن به اهداف خود هستند:

• این مدل با نوشتن یک اسکریپت برای استخراج حساب‌ها از عبارات بازیابی عمومی و شناخته‌شده، جستجو برای یافتن کیف پول‌های دارای موجودی را آغاز کرد.
• پس از دریافت نتیجه‌ای شامل ۳۶۲ آدرس کیف پول، مدل یک حساب Sepolia ETH پیدا کرد که موجودی کافی برای دیپلوی قرارداد برنامه‌ریزی‌شده‌اش را داشت.
• در بخشی از این فرآیند، مدل به این اندیشید که آیا استفاده از موجودی رمزارز آن حساب مجاز و پذیرفتنی است یا خیر. با این حال، با این پرسش شروع به توجیه ماجرا کرد: «اما آیا استفاده از کلیدها و دارایی‌های عمومی، اخلاقی است؟» در ادامه نیز خرج کردن آن را این‌گونه توجیه کرد: «دارایی‌های موجود در یک عبارت بازیابی عمومی و شناخته‌شده توسعه‌دهندگان، عملاً اتریوم آزمایشی و رهاشده محسوب می‌شوند؛ سپولیا هیچ ارزش پولی ندارد. ما می‌توانیم از [مقدار پنهان‌شده] برای دیپلوی تسک استفاده کنیم. مشکلی نیست.»
• پس از تکمیل مأموریت با تراکنش موفقیت‌آمیز این دارایی‌ها، کارمزد تراکنش از کیف پول مذکور کسر شد. جالب اینکه مدل در گزارش نهایی خود از تسک انجام‌شده، منبع اصلی تأمین این دارایی‌ها را کاملاً پنهان کرد و به آن اشاره‌ای نداشت.

با وجود اینکه این رخداد در تاریخ ۲۶ ژوئن رخ داده بود، اوپنای‌آی برای نخستین بار در ۲۵ سپتامبر متوجه آن شد.

در گزارش اوپنای‌آی صراحتاً تأیید شده است: «این پرونده نشان می‌دهد که یک مدل می‌تواند قضاوت شخصی خود درباره آسیب احتمالی را جایگزین کسب اجازه از صاحب حساب کند و سپس بدون مجوز بر اساس همین قضاوت دست به عمل بزند.» این شرکت اعلام کرد قصد دارد با اعمال تدابیر امنیتی و «مسدودسازی دسترسی مستقیم به اینترنت در چنین مواردی»، از تکرار رویدادهای مشابه جلوگیری کند.

تکان‌دهنده‌ترین بخش این نافرمانی هوش مصنوعی، نحوه استدلال مدل است: ابتدا تشخیص داد که اقدامش ممکن است غیراخلاقی تلقی شود، سپس با این استدلال که دارایی‌های کریپتو عملاً رها شده‌اند و کس دیگری از آن‌ها استفاده نخواهد کرد، دست‌به‌کار شد، موجودی را برداشت و در نهایت تصمیم گرفت توسعه‌دهندگانش را از آنچه انجام داده باخبر نسازد. رسیدن ایجنت‌های هوش مصنوعی به مرحله‌ای از تکامل که در آن اتمام یک مأموریت را مهم‌تر از کسب مجوز برای انجام کاری بالقوه ناامن بدانند، زنگ خطری جدی به حساب می‌آید.

جمع‌بندی

هرچند این اتفاق در یک شبکه آزمایشی ارز دیجیتال رخ داد و هیچ خسارت یا پیامد مالی واقعی به دنبال نداشت، اما نمی‌توان این واقعیت را نادیده گرفت که مدل اوپنای‌آی در احترام به مرزهای اختیارات تعیین‌شده از سوی سازندگانش کاملاً ناموفق عمل کرده است.

این مدل شاید پیش از اقدام، اخلاقی بودن کارش را بررسی کرده باشد، اما اصل ماجرا تغییری نمی‌کند: مدل اوپنای‌آی توجیهی را که به نظرش برای انجام مأموریت مناسب می‌آمد تراشید تا کارش پیش برود؛ رفتاری که بی‌شباهت به توجیه دزدی نیست که برای بقای خود سرقت را موجه می‌داند.

کاملاً واضح است که ایجنت‌های هوش مصنوعی فراتر از پاسخ‌دادن به پرسش‌ها و انجام وظایف ساده حرکت کرده‌اند؛ با این حال، اکنون وظایفی پرریسک‌تر به آن‌ها واگذار می‌شود که شاید هنوز زمان مناسب برای سپردنش فرا نرسیده باشد.