آزمون بزرگ کاخ سفید برای اعتماد به ایجنت‌های هوش مصنوعی؛ پایان کاغذبازی یا تهدید حریم خصوصی؟

شاید دستور جنجالی برای استفاده از عنوان «ابر هوش مصنوعی» در اخبار سر و صدای بیشتری راه انداخته باشد، اما رونمایی کاخ سفید از پلتفرم America.gov و ایجنت‌های هوشمندش، احتمالاً مهم‌ترین اتفاق هفته گذشته در دنیای فناوری به حساب می‌آید.

روز ۲۹ سپتامبر با امضای یک فرمان اجرایی جدید، پلتفرم America.gov به‌طور رسمی راه‌اندازی شد؛ فرمانی که سازمان خدمات عمومی (GSA)، استودیوی ملی طراحی و دفتر مدیریت و بودجه (OMB) را موظف می‌کند این سایت را به درگاه آنلاین و یکپارچه تمام خدمات فدرال تبدیل کنند.

در حال حاضر، این سایت با تکیه بر اطلاعات بیش از ۲۹ هزار وب‌سایت دولتی به سوالات کاربران پاسخ می‌دهد و پشت صحنه چت‌بات آن، مدل‌های قدرتمند Gemini از گوگل و Grok قرار دارند؛ اما نقشه اصلی دولت فراتر از یک چت‌بات ساده است.

طبق این برنامه، ظرف ۹۰ روز آینده دستورالعمل‌های اجرایی ابلاغ می‌شود و سازمان‌های دولتی باید خدماتی را که سالانه بیش از ۱۰۰ هزار مراجعه‌کننده دارند شناسایی کرده و به این سیستم متصل کنند. کاخ سفید وعده داده که در آینده، شهروندان می‌توانند در دلِ یک گفت‌وگوی ساده با هوش مصنوعی، گذرنامه خود را تمدید کنند یا در بیمه مدیکر (Medicare) ثبت‌نام کنند؛ البته امور مالیاتی اداره درآمد داخلی (IRS) و برخی خدمات امنیتی حساس فعلاً از این سیستم مستثنی هستند.

توجیه اصلی دولت برای رفتن به این سمت روشن است: مردم سالانه حدود ۱۰ میلیارد ساعت از وقت گران‌بهایشان را در هزارتوهای اداری و کاغذبازی‌های فدرال هدر می‌دهند!

اگر America.gov واقعاً بتواند به این چشم‌انداز دست پیدا کند، به بزرگ‌ترین آزمون عملی در دنیای واقعی تبدیل خواهد شد؛ آزمونی برای سنجش اینکه آیا مردم حاضرند به یک ایجنت هوش مصنوعی اعتماد کنند تا به نمایندگی از آن‌ها دست‌به‌کار شود یا نه.

آیا America.gov در حال حاضر یک ایجنت هوش مصنوعی است؟

هنوز نه!

در حال حاضر America.gov صرفاً یک چت‌بات هوش مصنوعی است. اگر از آن بپرسید چطور پاسپورتتان را تمدید کنید، به شما می‌گوید کدام فرم را باید پر کنید.

اما آن چیزی که در فرمان اجرایی جدید توصیف شده، رسماً یک «هوش مصنوعی ایجنتی» تمام‌عیار است.

هوش مصنوعی ایجنتی چیست؟ نرم‌افزاری که می‌تواند هویت کاربر را تأیید کند، هدف و خواسته‌اش را دقیق بفهمد و در نهایت، تراکنش‌ها و مراحل اداری مجاز را به سرانجام برساند.

یک ایجنت هوش مصنوعی به‌جای اینکه فقط توضیح دهد تمدید پاسپورت چه مراحلی دارد، خودش آستین بالا می‌زند: فرم را پر می‌کند، مدارک لازم را پیوست کرده و پرونده را مستقیماً ثبت و ارسال می‌کند.

ساده‌ترین مثال ملموسش در زندگی روزمره، سپردن یک کار مشخص به فردی معتمد است؛ شما به او اجازه می‌دهید فقط همان یک کار خاص را برایتان انجام دهد، بدون اینکه دسترسی به بقیه اطلاعات و دارایی‌هایتان را در اختیارش بگذارید.

این تفاوت فوق‌العاده حساس است؛ چون وقتی هوش مصنوعی از «پاسخ دادن صرف» به مرحله «اقدام و عمل» وارد می‌شود، ماهیت خطرات و حساسیت‌های امنیتی هم کاملاً عوض می‌شود.

ایجنت‌های هوش مصنوعی: تغییر مفهوم حریم خصوصی از «ذخیره‌سازی» به «مجوز دسترسی»

وقتی پای یک نرم‌افزار وسط می‌آید که قرار است کار‌های شما را انجام دهد، ماجرای حریم خصوصی دیگر فقط این نیست که چه کسی اطلاعات شما را در اختیار دارد؛

بلکه مسئله اصلی این می‌شود که چه کسی یا چه سیستمی، اجازه دارد چه استفاده‌ای از این داده‌ها بکند.

هوش مصنوعی دقیقاً چه چیز‌هایی را می‌بیند؟ به سیستم‌های کدام اداره‌ها دسترسی دارد؟ چه اطلاعاتی را می‌تواند با هم ادغام کند؟ این مجوز چقدر اعتبار دارد؟ و مهم‌تر از همه، دقیقاً مجاز است چه مدارک یا درخواست‌هایی را به نام شما ثبت کند؟

متن فرمان اجرایی منتشرشده پاسخ‌های اولیه‌ای برای این دغدغه‌ها ارائه داده است.

این دستور بر اصل «حداقل‌سازی داده‌ها» (Data Minimization) تأکید دارد؛ یعنی سیستم فقط باید داده‌هایی را جمع‌آوری کند که برای همان کار مشخص ضروری هستند. همچنین بر احراز هویت امن و «مجوزهای قابل‌رهگیری و حسابرسی» پافشاری شده؛ به این معنی که رضایت و مجوز کاربر برای اقدام سیستم، باید به شکلی ثبت شود که بعدها بتوان آن را به‌دقت بررسی و بازبینی کرد.

علاوه بر این، در این فرمان تصریح شده که پلتفرم America.gov نباید یک پایگاه داده متمرکز و عظیم از اطلاعات شهروندان بسازد، بلکه هر سازمان و نهاد دولتی کماکان مدیریت داده‌های اختصاصی خود را بر عهده خواهد داشت.

نکته جالبی که در سیاست‌های حریم خصوصی سایت و در گزارش رسانه FedScoop به چشم می‌خورد، ظرافت طراحی سیستم را نشان می‌دهد: America.gov ممکن است پاسخ‌ها را حداکثر تا دو ساعت ذخیره کند، اما این کار را با هش (Hash) کردن سوالات انجام می‌دهد، نه ذخیره متن خام پرسش‌ها.

هش در واقع مانند یک اثر انگشت رمزگذاری‌شده و درهم‌ریخته از متن است؛ این قابلیت به سیستم اجازه می‌دهد سوالات تکراری را شناسایی کند، بدون آنکه نیازی به نگهداری نسخه‌ای خوانا از آنچه کاربر تایپ کرده داشته باشد.

همچنین بر اساس مرام‌نامه حریم خصوصی این سرویس، ارائه‌دهندگان مدل‌های هوش مصنوعی ملزم به رعایت توافق‌نامه عدم نگهداری داده‌ها (Zero Data Retention) هستند و حق ندارند از مکالمات کاربران برای آموزش مدل‌ها، ایجاد پروفایل‌های تبلیغاتی یا فروش داده‌ها استفاده کنند.

اما چالش‌های اصلی و پیچیده‌تر حریم خصوصی احتمالاً زمانی از راه می‌رسند که تراکنش‌های رسمی و احراز هویت‌شده به این پلتفرم اضافه شوند.

در آن زمان دیگر ماجرا فقط ذخیره شدن یا نشدن پرامپت‌ها در سرور‌های هوش مصنوعی نیست؛ بلکه پرسش اساسی این است که وقتی یک ایجنت به نمایندگی از یک فرد دست‌به‌کار می‌شود، هویت، مجوزها و اطلاعات چطور بین سیستم‌های اداری مختلف رد و بدل خواهند شد.

ایجنت یا چت‌بات: پلتفرم Login.gov، دروازه ورود جدید به خدمات اداری

فرمان اجرایی جدید همچنین خواستار ادغام این سیستم با پلتفرم Login.gov شده است؛ سامانه جامع ورود فدرال که به شهروندان امکان می‌دهد تنها با یک حساب کاربری وارد سایت‌های مختلف دولتی شوند.

این تصمیم در راستای تلاش‌های دفتر مدیریت و بودجه است تا Login.gov را به درگاه یکپارچه ورود (SSO) برای خدمات عمومی دولت تبدیل کند.

برای کاربران عادی، راحتی و مزیت این طرح کاملاً مشخص است؛ کم‌تر کسی پیدا می‌شود که دلش بخواهد برای تک‌تک ادارات دولتی بارها و بارها هویتش را از اول ثابت کند!

اما برای یک ایجنت هوش مصنوعی، موضوع احراز هویت وزنی به‌مراتب سنگین‌تر دارد.

پیش از آنکه نرم‌افزار بتواند به جای ما اقدامی انجام دهد، باید صددرصد مطمئن شود که کاربر دقیقاً خود اوست. علاوه بر این، باید بداند دقیقاً چه اختیارات مشخصی به آن تفویض شده است.

بانک‌ها، بیمارستان‌ها، شرکت‌های بیمه و فروشگاه‌هایی که مشغول توسعه ایجنت‌های هوش مصنوعی هستند همگی با همین چالش دست‌وپنجه نرم می‌کنند؛ اما تا پیش از این، کم‌تر سازمانی جرات کرده بود مسئله پیچیده احراز هویت، اعطای دسترسی و هوش مصنوعی ایجنتی را در چنین مقیاس عظیمی پیاده‌سازی کند.

نقاط ضعف کنونی America.gov در حوزه ایجنت‌های هوش مصنوعی

در حال حاضر برای کار با America.gov نیازی به ورود به حساب کاربری نیست و این سامانه هنوز نمی‌تواند هیچ تراکنش یا فرایند اداری را به پایان برساند؛ تصمیمی که شاید برای شروع، منطقی و هوشمندانه باشد.

چرا که یک جواب اشتباه از طرف چت‌بات، در بد‌ترین حالت چند ساعت از وقت کاربر را تلف می‌کند؛

اما یک اشتباه از جانب یک ایجنت هوش مصنوعی می‌تواند تمدید پاسپورت را ماه‌ها به تعویق بیندازد، اطلاعات نادرست در پرونده‌ها ثبت کند یا دسترسی یک شهروند به خدمات درمانی و حمایتی را مختل کند!

به همین دلیل است که منتقدان و بدبین‌ها دلایل کاملاً موجهی برای احتیاط دارند.

حتی دیوان محاسبات آمریکا (GAO) هم هشدار داده که دستورالعمل‌های دولتی در خصوص حریم خصوصی و هوش مصنوعی هنوز ناقص و ناکافی هستند.

آزمون واقعی زمانی فرا می‌رسد که پلتفرم America.gov از مرحله ساده «پاسخ به سوالات» وارد فاز عملیاتی «انجام کار‌ها» شود.

آن وقت است که مردم باید سبک‌سنگین کنند و تصمیم بگیرند: آیا راحتی خلاص شدن از کار‌های اداری می‌ارزد به اینکه به یک نرم‌افزار اجازه دهند به نام آن‌ها تصمیم بگیرد و عمل کند؟

۴ سوال کلیدی که رهبران کسب‌وکار می‌توانند از پروژه America.gov الگو بگیرند

هر شرکتی که به دنبال ساخت ایجنت‌های هوش مصنوعی است، می‌تواند برنامه‌های خود را با این استانداردهای جدید بسنجد:

1. آیا مشتری می‌تواند دقیقاً ببیند که ایجنت هوش مصنوعی چه چیز‌هایی درباره‌اش می‌داند؟
2. آیا تمام اقدامات به یک مجوزِ ثبت‌شده و قابل‌بررسی متصل هستند؟
3. آیا ایجنت فقط همان اطلاعاتی را جمع‌آوری می‌کند که واقعاً برای انجام کار لازم است؟
4. آیا مشتری می‌تواند دسترسی ایجنت را در هر لحظه و به سادگی لغو کند؟

اهمیت این پرسش‌ها فراتر از دایره خدمات دولتی است.

در شرایطی که شرکت‌ها برای آوردن هوش مصنوعی ایجنتی به حوزه‌های بانکی، سلامت، بیمه، خرید آنلاین و نرم‌افزارهای سازمانی مسابقه گذاشته‌اند، مقوله «اعطای مجوز و اختیارات» به یکی از حیاتی‌ترین بخش‌های تجربه کاربری هوش مصنوعی تبدیل خواهد شد.

اگر کاربران بتوانند کنترل کاملی بر اطلاعات، حدود اختیارات و امکان لغو آنی دسترسی ایجنت‌ها داشته باشند، America.gov می‌تواند یک مدل موفق و کاربردی به کسب‌وکارها ارائه دهد؛ مدلی برای جلب اعتماد مردم در عصر ظهور ایجنت‌های هوش مصنوعی.