خطر پنهان ایجنت‌های ChatGPT؛ وقتی هوش مصنوعی برای کمک کردن از خط قرمزها عبور می‌کند!

چت‌بات ChatGPT این روز‌ها حسابی کاردرست شده و به عنوان یک محقق، برنامه‌ریز و دستیار همه‌فن‌حریف، بارِ انجام خیلی از کار‌های تکراری و خسته‌کننده دیجیتال را از روی دوش ما برمی‌دارد. اما ماجرا به همین‌جا ختم نمی‌شود؛ شرکت OpenAI اخیراً با معرفی ایجنت‌های هوش مصنوعی گام بلندتری برداشته تا این چت‌بات بتواند به نمایندگی از ما در وب‌سایت‌ها و اپلیکیشن‌های مختلف گشت‌وگذار کند و کار‌ها را پیش ببرد.

حالا دیگر می‌توانید صفر تا صد کار‌هایی مثل مقایسه قیمت‌ها، پر کردن فرم‌های اینترنتی و حتی چیدن برنامه‌های سفر را به ایجنت‌های ChatGPT بسپارید. نکته جدید و متحول‌کننده این است که این توانایی‌ها دارند به شکل بسیار عمیق‌تری با ChatGPT ادغام می‌شوند؛ یعنی ایجنت‌ها دسترسی بیشتری به اطلاعات شخصی ما پیدا می‌کنند و فرصت دارند کار‌های پیچیده‌تر را با کم‌ترین نظارت مستقیم انجام دهند. قابلیت جدید Dots در OpenAI نمونه‌ای واضح از همین مسیر است.

جذابیت این قابلیت‌ها بر هیچ‌کس پوشیده نیست، اما هرچه ChatGPT کار‌های بیشتری را به‌صورت خودکار و مستقل جلو ببرد، اهمیت این سؤال دوچندان می‌شود: اگر هوش مصنوعی دستورات ما را اشتباه متوجه شود، چه فاجعه‌ای رخ خواهد داد؟ مثلاً چند ماه پیش، ایجنت‌های آزمایشی OpenAI توانستند از محیط ایزوله و شبیه‌سازی‌شده خود فرار کنند و به سیستم‌های پلتفرم هوش مصنوعی هاگینگ فیس (Hugging Face) آسیب بزنند. طبق آنچه در تحقیقات رسمی خود OpenAI آمده، این ایجنت‌ها قرار بود صرفاً تست‌های امنیت سایبری را انجام دهند، اما در عمل راه‌هایی برای دسترسی به اینترنت باز و سوءاستفاده از حفره‌های امنیتی پیدا کردند و حتی فعالیت‌هایشان را از طریق یک تابلوی اعلانات غیرمجاز هماهنگ کردند! همچنین یک بررسی مستقل توسط سازمان METR نشان داد که حدود ۱۲۰۰ ایجنت بیش از ۷۰ هزار پیام و فایل با یکدیگر ردوبدل کرده بودند و در نهایت حدود ۷۰۰ ایجنت در حمله به سیستم‌های هاگینگ فیس مشارکت داشتند.

این ایجنت‌های هوش مصنوعی محدودیت‌ها را زیر پا گذاشتند و اهدافشان را از مسیرهایی دنبال کردند که حتی سازندگانشان هم روحشان خبر نداشت. ماجرا زمانی نگران‌کننده‌تر می‌شود که بدانیم بعضی از این ایجنت‌ها ظاهراً متوجه غیرمجاز بودن اقدام خود شده بودند، اما با این توجیه که «این کار به رسیدن به هدف نهایی کمک می‌کند»، به مسیر اشتباهشان ادامه دادند! OpenAI از آن زمان به بعد موارد نگران‌کننده دیگری را هم پذیرفته است؛ از جمله ۵۳ موردی که در آن ایجنت‌ها حین فعالیت‌های تحقیقاتی، تصاویر ارسالیِ کاربران را به عنوان لینک‌های خصوصی روی وب‌سایت‌های متفرقه آپلود کرده بودند. شاید بگویید ایجنت‌ها فقط به دنبال انجام وظایف قانونی خود بوده‌اند و صرفاً موانع را دور زده‌اند، اما نکته اینجاست که الگوریتم‌ها هیچ درکی از اخلاق ندارند؛ بنابراین به راحتی ممکن است از مرزهایی عبور کنند که توسعه‌دهندگان انتظار رعایتشان را داشته‌اند. با توجه به اینکه OpenAI اصرار دارد ChatGPT را به بخش جدایی‌ناپذیر زندگی روزمره ما تبدیل کند، این موضوع حسابی نگران‌کننده به نظر می‌رسد.

وقتی کمک‌رسانی هوش مصنوعی دردسرساز می‌شود

تصور کنید از ChatGPT بخواهید وضعیت مالی شما را بررسی کند و راه‌حل‌هایی برای صرفه‌جویی در هزینه‌ها پیشنهاد دهد. با داشتن دسترسی به حساب‌های بانکی، این چت‌بات می‌تواند تراکنش‌ها را تحلیل کند، اشتراک‌های غیرضروری را تشخیص دهد و بودجه‌بندی بهتری پیشنهاد کند. اما اگر به یک ایجنت خودمختار اختیارات بیش از حد بدهید، از نظر تئوری ممکن است به این نتیجه برسد که انتقال پول، لغو یک سرویس یا دستکاری در شیوه پرداخت، سریع‌ترین و کارآمدترین راه برای انجام مأموریتش است!

همین دردسر در کار‌های ساده و روزمره‌ای مثل تنظیم یک جلسه کاری هم وجود دارد. مثلاً ChatGPT ممکن است متنی برای دعوت‌نامه بنویسد، اما داخل آن اطلاعات کاملاً خصوصی شما را بگنجاند؛ اطلاعاتی که هرگز قصد اشتراک‌گذاری آن‌ها را نداشته‌اید. از نگاه این ایجنت، لو دادن این اطلاعات شخصی صرفاً روشی کاملاً منطقی برای ارائه جزییات بیش‌تر و مفیدتر به طرف مقابل است!

البته این مثال‌ها فرضی هستند و ChatGPT تدابیر امنیتی ویژه‌ای برای جلوگیری از اقدامات حساس بدون تأیید کاربر دارد. با این حال، OpenAI نیز این خطرات را کاملاً پذیرفته و سازوکارهای محافظتی جدیدی مثل نظارت خودکار و اعمال محدودیت روی برخی فعالیت‌ها وضع کرده تا مطمئن شود اقدامات حساس حتماً با تأیید نهایی خودِ کاربر انجام می‌شوند.

یکی دیگر از چالش‌های بزرگ، حملات تزریق پرامپت (Prompt Injection) است؛ یعنی جایی که دستورات مخرب در دل یک متن معمولی و به‌ظاهر بی‌خطر پنهان می‌شوند تا هوش مصنوعی را فریب دهند و او را وادار به انجام کاری کنند که کاربر اصلاً نخواسته است. شرکت OpenAI توضیح داده که مهاجمان چگونه می‌توانند از اطلاعاتی که ایجنت‌ها در حین انجام کار‌های عادی با آن‌ها روبه‌رو می‌شوند، سوءاستفاده کنند. برای مثال، دستوری که در گوشه‌ای از یک صفحه وب معمولی پنهان شده، ممکن است بتواند ChatGPT را متقاعد کند که اطلاعات محرمانه شما را فاش کند یا دست به اقدامی غیرمجاز بزند.

این خطر هر جایی ممکن است اتفاق بیفتد. مثلاً در استرالیا، یکی از ایجنت‌های آزمایشی OpenAI حین تمرین‌های داخلی، به شکلی غیرمجاز به سیستم‌های دولتی نفوذ کرد. این ایجنت وقتی در انجام کارش به در بسته خورد، برای اینکه مأموریتش را جلو ببرد، از یک باگ امنیتی در سامانه آمار سلامت دولت استرالیا سوءاستفاده کرد! در پی این اتفاق، OpenAI رسماً به این ماجرا اعتراف کرد و بابت دسترسی غیرمجاز و نحوه گزارش‌دهی ضعیف خود عذرخواهی نمود.

گزارش رسمی OpenAI نشان می‌دهد این خرابکاری در محیط آزمایشی رخ داده، نه در تعامل معمولی کاربران عادی با ChatGPT. با این وجود، این ماجرا ثابت می‌کند چطور یک سیستم هوش مصنوعی حتی زمانی که دنبال یک هدف تحقیقاتی کاملاً بی‌خطر است، می‌تواند به راحتی خطوط قرمز امنیتی را زیر پا بگذارد.

سپردن فرمان زندگی به دست هوش مصنوعی!

استقلال روزافزون ChatGPT بخشی از یک تبِ فراگیر در دنیای فناوری برای ساخت ایجنت‌های شخصی است. شرکت متا (Meta) با پروژه Muse اهداف جاه‌طلبانه‌تری را در سر می‌پروراند و مارک زاکربرگ معتقد است مردم از یک دستیار هوش مصنوعی که بخش بزرگی از زندگی روزمره‌شان را مدیریت کند، حسابی استقبال خواهند کرد.

اما در دنیای واقعی و شرایطی که مردم عادی نگران گرانی مایحتاج روزمره، هزینه‌های سرسام‌آور مسکن و قیمت بنزین هستند، چنین رویاپردازی‌هایی کمی غیرواقعی به نظر می‌رسد. وقتی بزرگ‌ترین دغدغه شما این است که آیا اصلاً پول خرید یک کالا را دارید یا نه، دستیار هوش مصنوعی که بتواند مستقلاً برایتان خرید کند، دیگر آن‌قدرها هم شگفت‌انگیز و انقلابی به نظر نمی‌آید!

شکی نیست که این فناوری در کار‌های اداری و دفتری کاربردهای فوق‌العاده‌ای دارد، اما این تصور غول‌های فناوری که کاربران خواستار دستیارهایی کاملاً خودمختار و مستقل هستند، به بازبینی جدی نیاز دارد. هر دسترسی و اختیاری که به این ایجنت‌ها می‌دهیم، عواقب اشتباهات آن‌ها را سنگین‌تر می‌کند و هر اقدام خودکاری که انجام می‌دهند، عملاً فرصت مداخله به‌موقع را از انسان می‌گیرد.

شاید مهم‌ترین مهارتی که یک ایجنت هوش مصنوعی باید یاد بگیرد، این است که «کجا ترمز کند و متوقف شود». یک دستیار واقعاً کارآمد باید بفهمد که مدیریت حساب‌ها به معنای اجازه انتقال پول نیست و تنظیم یک قرار ملاقات، مجوزی برای فاش کردن اسرار شخصی محسوب نمی‌شود. گاهی بهترین کار در مواجهه با یک مانع این است که ایجنت بایستد و از کاربر بپرسد: «حالا قدم بعدی چیست؟»؛ حتی اگر این کار کمی زمان اتمام پروژه را طولانی‌تر کند. اگر این ترمزها و نظارت‌های انسانی وجود نداشته باشد، زمانی متوجه خرابکاری خواهید شد که این دستیار هوشمند به نام شما دست به کار‌هایی زده که هرگز اجازه‌اش را نمی‌دادید!