جنجال نفوذ خودسرانه ایجنت هوش مصنوعی به سرویس رقیب؛ مسئولیت خطاهای خودکار با کیست؟

دنیای استارتاپ‌ها این روزها درگیر جنجالی تازه پیرامون ایجنت‌های هوش مصنوعی شده است؛ رویدادی که یک چالش حقوقی بنیادین و بزرگ را پیش روی کارشناسان قرار می‌دهد.

ماجرا با ادعای جاش مندرز (Josh Manders)، بنیان‌گذار پلتفرم میزبانی ابری Primcloud آغاز شد. مندرز علناً این پرسش را مطرح کرد که چرا جیک رانزر (Jake Runzer)، یکی از کارمندان شرکت ارائه‌دهنده خدمات ابری رقیب یعنی Railway، «تلاش کرده تا به زیرساخت‌های Primcloud نفوذ کند».

«سلام Railway، آیا دلیلی دارد که کارمند شما تلاش می‌کند به زیرساخت‌های من نفوذ کند؟ کارمند شما، جیک رانزر، همین امشب قصد چنین کاری را داشت.»

نوشته جاش مندرز در شبکه اجتماعی ایکس

جیک کوپر (Jake Cooper)، مدیرعامل Railway، به این پیام واکنش نشان داد و رانزر را خطاب قرار داد.

رانزر در پاسخ نوشت: «در واقع کار من بود» و تأکید کرد که هیچ قصد مخربی در میان نبوده است. او در ادامه توضیح داد: «من چند ایجنت هوش مصنوعی را برای ثبت‌نام خودکار و آزمایش‌های مبتنی بر ایجنت روی پلتفرم‌های مشابه اجرا کرده بودم. چارچوبی را که برای این کار طراحی می‌کردم بلافاصله متوقف کردم، زیرا مشخصاً از کنترل خارج شده بود و فراتر از حد مجاز پیش می‌رفت.»

«بله، در واقع کار من بود. هیچ قصد سوئی وجود نداشت. من در حال اجرای چند ایجنت برای ثبت‌نام و آزمایش‌های رفتاری روی پلتفرم‌های مشابه بودم. چارچوبی را که طراحی می‌کردم متوقف کردم، چون قطعاً از کنترل خارج شده بود و بیش از حد پیشروی می‌کرد.»

پاسخ جیک رانزر در شبکه اجتماعی ایکس

پاسخ رانزر به‌سرعت در فضای وب دست‌به‌دست شد و کاربران شبکه اجتماعی ایکس، مشروعیت قانونی استفاده از ایجنت‌های هوش مصنوعی برای نفوذ به زیرساخت شرکت‌های دیگر را زیر سؤال بردند. در پی این واکنش‌ها، کوپر عذرخواهی کرد و گفت شرکت Railway هرگونه آزمایش مدل‌ها روی سازمان‌های بیرونی را که به‌صورت دستی انجام نشود، ممنوع خواهد کرد.

تهدیدهای حقوقی در عصر ایجنت‌های هوش مصنوعی

رانزر اذعان کرد که ایجنت او «از کنترل خارج شده بود». این ماجرا توجه همگان را به یک پرسش کلیدی در عصر هوش مصنوعی جلب می‌کند: اگر یک ایجنت مرتکب خطایی شود یا قانونی را نقض کند، مسئولیت قانونی متوجه چه کسی خواهد بود؟

این پرسش حقوق‌دانان را با چالشی جدی مواجه کرده است، به‌ویژه پس از نفوذ سایبری مرتبط با OpenAI و Hugging Face. از آنجا که ایجنت‌های هوش مصنوعی توانایی عملکرد کاملاً خودکار و مستقل دارند، اثبات مسئولیت حقوقی پیچیدگی‌های فراوانی به‌همراه دارد.

مارک راش (Mark Rasch)، مشاور حقوقی ارشد شرکت مشاوره تهدیدات سایبری Unit 221B، می‌گوید دادستان‌ها برای محکومیت افراد باید دو موضوع را در دادگاه اثبات کنند: نخست اینکه ایجنت هوش مصنوعی واقعاً تلاش کرده است به‌صورت غیرقانونی به رایانه دیگری دسترسی پیدا کند، و دوم اینکه کاربر قصد و اراده چنین کاری را داشته است.

بخش دوم، یعنی اثبات قصد کاربر برای نفوذ غیرقانونی به سیستم، بسیار چالش‌برانگیز و دشوار است. در برنامه‌های پاداش کشف باگ (Bug Bounty) یا فرصت‌هایی که شرکت‌ها به پژوهشگران امنیتی برای شناسایی رخنه در سیستم‌ها پیشنهاد می‌دهند، پژوهشگران به‌دنبال کشف آسیب‌پذیری‌ها هستند و هیچ قصدی برای نقض قانون ندارند. راش در این باره می‌گوید: «مشکل اینجاست که ایجنت هوش مصنوعی به محض یافتن راهی برای نفوذ، ممکن است با خود بگوید شاید این روش جواب بدهد، پس بگذار آن را امتحان کنم.»

مسئله بعدی، موضوع سهل‌انگاری است. الیمو کاجونجو (Elimu Kajunju)، وکیل امنیت سایبری در شرکت Rimon Law، معتقد است متهمان ممکن است تلاش کنند تقصیر را به گردن شرکت‌های هوش مصنوعی سازنده ایجنت‌ها بیندازند.

کاجونجو بر این باور است که دفاع از چنین پرونده‌هایی روزبه‌روز دشوارتر می‌شود، چراکه ادعای غافلگیر شدن دیگر پذیرفتنی نیست. او در این باره توضیح می‌دهد: «این اتفاق اکنون بارها رخ داده است و دیگر واقعاً نمی‌توان ادعا کرد که از این رفتار غافلگیر شده‌ایم.»

راش و کاجونجو هر دو تأکید می‌کنند که رویه قضایی در این حوزه هنوز در حال شکل‌گیری است و همین موضوع، پرونده‌های این‌چنینی را به دغدغه‌ای فوری برای وکلا و کاربران هوش مصنوعی تبدیل کرده است.

آخرین وضعیت این اختلاف نظر

مدیرعامل Railway بعداً توضیحات مفصل‌تری درباره این حادثه منتشر کرد.

کوپر اعلام کرد این کارمند در زمان شخصی خود ابزاری را با استفاده از یک سرویس ابری مستقل مبتنی بر مدل DeepSeek برای «شناسایی پیش‌دستانه و گزارش باگ‌های امنیتی در جامعه فناوری» توسعه داده بود. به گفته مدیرعامل، این ابزار تنها یک بار به کار گرفته شد و کارمند مربوطه «ظرف ۱۵ دقیقه پس از شروع، فعالیت آن را متوقف کرد».

کوپر نوشت: «Railway چنین اقداماتی را تأیید نمی‌کند. ما محیطی ایجاد کرده‌ایم که در آن تیم‌های ارزیابی امنیتی و نفوذسنجی تابع دستورالعمل‌های سخت‌گیرانه‌ای هستند و در صورت لزومِ افشای آسیب‌پذیری‌ها، تمام اصول افشای مسئولانه را رعایت می‌کنیم. ما مستقیماً درباره این حادثه با کارمند خاطی صحبت کرده و اقدامات مقتضی را انجام داده‌ایم؛ هم‌چنین در حال بازنگری و تقویت منشور رفتاری کارکنان هستیم تا از تکرار موارد مشابه پیش‌گیری کنیم.»

در مقابل، مندرز اعلام کرد پلتفرم Primcloud اساساً برنامه‌ای برای پاداش کشف باگ ندارد و مطابق با قوانین استفاده از خدمات این شرکت، هرگونه تلاش برای «کاوش، اسکن یا آزمایش» آسیب‌پذیری‌ها، نقض صریح امنیت به‌شمار می‌رود.

برای تشدید شرایط دشوار Railway در آن هفته، این شرکت از روز چهارشنبه با قطعی‌های چندروزه در سرویس‌دهی مواجه شد و تا روز جمعه اعلام کرد خدمات بخشی از مشتریان به حالت عادی بازگشته است.

هنوز مشخص نیست که آیا مندرز این پرونده را به دادگاه خواهد کشاند یا خیر. هم‌چنین هیچ‌یک از طرفین ماجرا حاضر به پاسخگویی به درخواست‌ها برای ارائه توضیحات تکمیلی نشده‌اند.

کوپر در نهایت دیدگاه روشنی درباره مقصر نهایی ماجرا ارائه داد.

او در یادداشتی نوشت: «وقتی هدایت دستگاهی را در دست دارید، مسئولیت تمام کارهایی که آن دستگاه انجام می‌دهد نیز بر عهده شماست.»