هشدار رسمی اپل درباره رفتارهای خودسرانه و خطرات امنیتی ایجنت‌های هوش مصنوعی

شرکت اپل در گزارش سالانه خود هشدار داد که ایجنت‌های هوش مصنوعی، چه توسط خود این شرکت توسعه یابند و چه ساخت شرکت‌های شخص ثالث باشند، ممکن است دست به اقداماتی بزنند که هدایت‌نشده، بدون دستور مشخص یا فاقد مجوز هستند.

در فرم مالی 10-K مربوط به سال مالی منتهی به ۲۶ سپتامبر، قید شده است که این عامل‌ها می‌توانند به شکلی کاملاً مستقل عمل کنند؛ برای نمونه ممکن است به بخش‌هایی از سیستم وارد شوند که اجازه ورود به آن‌ها را ندارند، به اجرای کد یا تغییر آن بپردازند، پیام ارسال کنند و حتی خریدهای اینترنتی را به سرانجام برسانند. اپل خاطرنشان کرد که این ایجنت‌ها ممکن است از سطح مجوزهای تعیین‌شده فراتر بروند، از دستورها سرپیچی کنند، تدابیر امنیتی را دور بزنند یا از طریق ورودی‌های مخرب فریب بخورند.

این شرکت هم‌چنین اعلام کرد که عوامل هوشمند ممکن است اقدامات خود را پنهان کنند، اطلاعات را تغییر دهند یا خروجی‌های گمراه‌کننده تولید کنند. از آنجا که بسیاری از این فناوری‌ها ماهیتی غیرقطعی (Nondeterministic) دارند، پیش‌بینی، کنترل، آزمایش و حسابرسی رفتارهای آن‌ها بسیار دشوار است و خطاهای جزئی می‌تواند در جریان فرایندهای کاری چندمرحله‌ای انباشته و تشدید شود. در این میان، پیامدهایی نظیر پاک شدن اطلاعات مهم یا نهایی شدن تراکنش‌های مالی، ممکن است برگشت‌ناپذیر یا جبران‌ناپذیر باشند.

اپل تأکید کرده است که نظارت و هدایت ایجنت‌های هوش مصنوعی ارائه‌شده از سوی شرکت‌های متفرقه کار آسانی نیست و توانایی نظارتی محدودی در این زمینه دارد. علاوه بر این، سیاست‌ها و ابزارهای کنترلی شرکت ممکن است نتوانند پا‌به‌پای پیشرفت پرشتاب فناوری پیش بروند؛ موضوعی که می‌تواند اپل را در معرض لطمه به اعتبار، کاهش توان رقابتی، پیگردهای قانونی و جریمه‌های نهادهای ناظر قرار دهد.

بر اساس این سند مالی، ایجنت‌هایی که برای انجام وظایف خود نیازمند دسترسی به داده‌های شخصی هستند، نگرانی‌های جدی در زمینه حریم خصوصی و امنیت داده ایجاد می‌کنند که می‌تواند به اعتماد کاربران آسیب بزند. اپل چارچوب‌های قانونی و مقرراتی حوزه هوش مصنوعی را در سراسر دنیا متغیر و در حال تحول توصیف کرده و افزوده است که برای تطبیق خود با قوانین جدید ممکن است ناچار به پرداخت هزینه‌های بسیار سنگینی شود.

اپل تا این لحظه محصول مستقلی مبتنی بر ایجنت‌های خودمختار عرضه نکرده است. در جریان جلسه اخیر گزارش مالی، جان ترنوس، از مدیران ارشد اپل، اعلام کرد ابزارهای مبتنی بر ایجنت‌ها آینده‌ای نویدبخش برای کاربران ترسیم می‌کنند، اما اپل تمایل دارد کاربران کاملاً بدانند چه سطح دسترسی را در اختیار این ابزارها قرار می‌دهند. او تأکید کرد که هدف این شرکت، پیاده‌سازی این فناوری به شیوه‌ای است که بالاترین سطح امنیت و حریم خصوصی را تضمین کند.

اپل ماه گذشته تغییراتی در سازوکار دسترسی کامل به حافظه (Full Disk Access) در رایانه‌های مک اعمال کرد؛ اقدامی که با هدف کاهش خطرات ناشی از سطح دسترسی بالا برای ایجنت‌های هوش مصنوعی انجام شد.

هم‌زمان با گسترش موج ایجنت‌ها میان کاربران عادی، شرکت متا ایجنت Muse را معرفی کرد و OpenAI نیز در رویداد DevDay از ایجنت‌های Dots پرده برداشت. با این حال، شرکت آمازون به‌سرعت فعالیت Muse را در پلتفرم فروشگاهی خود متوقف و اعلام کرد که هیچ مجوزی برای فعالیت این عامل صادر نکرده است.

در رویدادی دیگر، ایجنت Muse که مدیریت آگهی‌های فروش در بخش Marketplace فیس‌بوک را برای مت راب، بررسی‌کننده محصولات فناوری، بر عهده داشت، با جعل هویت او به یک خریدار پاسخ داد، بر سر قیمت توافق کرد و حتی آدرس محل سکونت این کارشناس در تورنتو را برای خریدار فرستاد. راب پیش‌تر روی گزینه «همیشه مجاز باشد» در پنجره مجوزها کلیک کرده بود، هرچند متا پس از این رخداد متعهد شد که متن و سازوکار هشدارهای مربوط به اعطای دسترسی را شفاف‌تر کند.