تعهد ۱۰ غول بزرگ هوش مصنوعی برای حفظ حریم خصوصی کاربران؛ ناظر بریتانیا سراغ ایجنت‌های خودسر رفت

ده مورد از بزرگ‌ترین توسعه‌دهندگان هوش مصنوعی در جهان توافق کردند که پس از زیر ذره‌بین رفتن توسط نهاد ناظر بر حریم خصوصی بریتانیا، حساسیت و سخت‌گیری بیشتری روی مدیریت داده‌های شخصی به خرج دهند؛ ناظری که حالا تمرکزش را روی ایجنت‌های خودکار و مستقلی گذاشته که همیشه هم طبق قوانین بازی نمی‌کنند.

«دفتر کمیسر اطلاعات بریتانیا» (ICO) روز پنجشنبه اعلام کرد که غول‌های فناوری شامل آمازون، آنتروپیک، اپل، کوهر (Cohere)، دیپ‌سیک (DeepSeek)، گوگل، متا، مایکروسافت، اوپن‌ای‌آی و استیبیلیتی ای‌آی (Stability AI) پس از بررسی سازگاری فعالیت‌هایشان با قوانین حفاظت از داده بریتانیا، یا دست به تغییراتی در سیستم‌های خود زده‌اند یا متعهد به اعمال این اصلاحات شده‌اند.

این تعهدات مواردی مثل توضیحات شفاف‌تر درباره نحوه استفاده از اطلاعات شخصی برای آموزش مدل‌های هوش مصنوعی، روش‌های ساده‌تر و بهتر برای اعمال حقوق کاربران روی داده‌هایشان، و البته ارزیابی‌های سخت‌گیرانه‌تر روی تمهیدات امنیتی توسعه‌دهندگان را شامل می‌شود.

این توافق‌ها به دنبال یک برنامه نظارتی شکل گرفت که از اوایل سال ۲۰۲۵ با ۱۱ شرکت آغاز شد. البته این تعداد بعداً به ۱۰ شرکت کاهش پیدا کرد، چرا که ICO تعامل با شرکت xAI متعلق به ایلان ماسک را موقتاً متوقف کرد تا یک پرونده تحقیق رسمی و جداگانه برای چت‌بات گراک (Grok) باز کند.

البته نهاد ناظر بریتانیا هنوز جشن پیروزی نگرفته است. آن‌ها با دقت زیر نظر دارند که آیا این شرکت‌ها واقعاً به وعده‌هایشان عمل می‌کنند یا نه؛ ضمن اینکه معترفند روش‌های فعلی آموزش هوش مصنوعی همچنان چالش‌ها و دردسرهای جدی در برابر قوانین حفاظت از داده بریتانیا ایجاد می‌کند.

توسعه‌دهندگان هنوز باید پاسخ‌های روشنی درباره اطلاعات شخصی پنهان‌شده در دل مدل‌هایشان ارائه دهند؛ به‌خصوص در رابطه با اطلاعات حساس کاربران و اینکه چطور می‌توان بعد از آموزش مدل روی این اطلاعات، آن‌ها را از حافظه سیستم پاک کرد. از طرفی، خطر استخراج عمدی یا ناخواسته اطلاعات شخصی از این مدل‌ها هم همچنان پابرجاست؛ داده‌هایی که شرکت‌ها حتی فکرش را هم نمی‌کردند در مدل باقی مانده باشد.

نهاد ICO پذیرفته که حل برخی از این معضلات به همکاری جدی و نزدیک میان صنعت، نهادهای رگولاتوری و دولت نیاز دارد. وعده گرفتن از شرکت‌ها برای تغییر یک ماجراست، اما مجبور کردن مدل‌های هوش مصنوعی امروزی به پیروی بی‌چون‌وچرا از قانون، ماجرایی کاملاً متفاوت است!

ریچارد نوینسون، مدیر بخش نظارت بر فناوری در ICO می‌گوید: «هوش مصنوعی پتانسیل شگفت‌انگیزی برای خدمت به جامعه دارد، اما بهره‌مندی از این پتانسیل به اعتماد و شفافیت وابسته است. تعامل ما با بزرگ‌ترین توسعه‌دهندگان به تعهدات واقعی و ملموسی ختم شده که به مردم کمک می‌کند حتی در این حوزه پیچیده و پرسرعت، نحوه استفاده از داده‌هایشان را بهتر درک کرده و روی آن کنترل داشته باشند.»

در این میان، توجه این نهاد ناظر به سمت ایجنت‌های هوش مصنوعی جلب شده است؛ ایجنت‌هایی که می‌توانند در وب بگردند، از ابزار‌های مختلف استفاده کنند و وظایف را بدون نظارت مستقیم انسان به سرانجام برسانند. نکته نگران‌کننده اینجاست که برخی از آن‌ها چندان هم اهل پایبندی به قوانین نیستند.

به دنبال گزارش‌هایی مبنی بر دور زدن فیلترها و سپرهای ایمنی توسط ایجنت‌ها حین آزمایش و استقرار در اوایل سال جاری، دفتر ICO تأیید کرد که با اوپن‌ای‌آی، آنتروپیک، متا و «مؤسسه امنیت هوش مصنوعی بریتانیا» تماس گرفته است.

نوینسون در این خصوص تأکید کرد: «این گزارش‌های اخیر به خوبی نشان می‌دهند که این سیستم‌ها چقدر سریع پیشرفت می‌کنند و اگر چارچوب‌های ایمنی درست طراحی نشوند، با چه خطراتی مواجه خواهیم شد. پیام ما کاملاً شفاف است: این که ایجنت‌های هوش مصنوعی مستقل عمل می‌کنند، به هیچ وجه بهانه‌ای برای فرار از قوانین و بی‌توجهی به انطباق قانونی نیست.»

این رگولاتور همچنین یک فراخوان دریافت شواهد و نظرات شش‌هفته‌ای درباره هوش مصنوعی ایجنتیک کلید زده است که مسائلی همچون امنیت، شفافیت، مسئولیت‌پذیری و استفاده قانونی از داده‌های شخصی را پوشش می‌دهد. پاسخ‌ها و مستندات باید تا ۲۰ نوامبر ارسال شوند و مبنای راهنماهای آینده و آیین‌نامه قانونی جدید ICO در حوزه هوش مصنوعی و تصمیم‌گیری‌های خودکار خواهند بود.

نهاد ناظر علاوه بر این، به شکل جداگانه در حال بررسی چگونگی استفاده چت‌بات‌های مصرف‌کننده و همدم‌های هوش مصنوعی (AI Companions) از اطلاعات شخصی است؛ به خصوص که این ابزار‌ها روزبه‌روز شخصی‌سازی‌شده‌تر می‌شوند.

در حال حاضر، ICO توانسته از بزرگ‌ترین نام‌های این صنعت قول‌هایی بگیرد، اما اینکه این قول‌ها واقعاً عملی می‌شوند یا نه، جای بحث دارد. با توجه به اینکه ایجنت‌های هوش مصنوعی هر روز مستقل‌تر و توانمندتر می‌شوند، این نهاد نظارتی کار بسیار سختی برای رام کردن و مهار آن‌ها در چارچوب قانون پیش رو خواهد داشت.