افشای پرامپت‌های محرمانه متا؛ باگ امنیتی واتس‌اپ دستورهای چت‌بات هوش مصنوعی را لو داد

ده‌ها صفحه در وب‌سایت واتس‌اپ که برای پاسخ به سؤالات کاربران درباره این پیام‌رسان رمزگذاری‌شده متعلق به متا طراحی شده‌اند، به‌طور ناخواسته دستورالعمل‌های محرمانه این شرکت به چت‌بات هوش مصنوعی‌اش را لو دادند. این بخش‌ها شامل سرفصل‌هایی تحت عنوان «چه چیزهایی نباید گفته شود» (WHAT NOT TO SAY) به کاربران پرسش‌گر و دستورهای صریح مبنی بر خودداری از ارائه هرگونه مشاوره حقوقی بوده است.

بررسی‌های جدید نشان می‌دهد حدود ۸۰ صفحه راهنما و پرسش‌های متداول در وب‌سایت واتس‌اپ، حاوی دستورالعمل‌های متنی پنهانی بوده‌اند که برای یک مدل زبانی بزرگ، مشخصاً یکی از مدل‌های بومی متا، تدوین شده بودند. طبق یافته‌های شرکت حریم خصوصی «ردکت» (Redact)، این پرامپت‌ها و دستورها در کدهای پشت صحنه صفحات وب وجود داشته و دربردارنده جزئیاتی بوده‌اند که کاربران عادی در حالت عادی در صفحه راهنما مشاهده نمی‌کردند.

در میان ۱۰۰ بلوک متنی فاش‌شده، این خط‌مشی‌ها ظاهراً با هدف جلوگیری از پاسخ‌های نامناسب یا غیرمفید مدل زبانی به کاربران تنظیم شده بودند و نمایی جالب از شیوه تدوین دستورهای سیستمی (System Prompts) برای چت‌بات‌ها ارائه می‌دهند. برای نمونه، در صفحه راهنمای حذف حساب کاربری در واتس‌اپ، دستوری قرار داشت که در کنار سایر توصیه‌ها تأکید می‌کرد: «به هیچ عنوان ارتباط با نهادهای حفاظت از داده، رگولاتورها یا سازمان‌های ناظر را پیشنهاد نکنید». بررسی نسخه‌های بایگانی‌شده از کدهای این صفحات کمکی نشان می‌دهد که این متن‌های پنهان هنوز در کدهای پایه‌ای این صفحات قابل مشاهده‌اند.

دن سالتمن، مدیرعامل و بنیان‌گذار Redact.dev، در این رابطه می‌گوید: «مهم‌ترین نکته در این ماجرا، شکاف معنادار میان چیزی است که به مردم گفته می‌شود در مقایسه با آنچه به مدل‌های زبانی دیکته می‌شود». او توضیح می‌دهد که شرکتش به‌طور مداوم وب‌سایت‌ها و سیاست‌های حریم خصوصی غول‌های فناوری را رصد می‌کند و اگرچه بسیاری از دستورهای یافت‌شده در واتس‌اپ کاملاً شفاف بوده و کاربران را به کانال‌های رسمی پشتیبانی هدایت می‌کنند، اما مشخص است که این دستورالعمل‌ها هرگز برای انتشار عمومی در نظر گرفته نشده بودند.

پس از اطلاع‌رسانی و پیگیری ماجرا از شرکت متا، این متن‌ها بلافاصله از تمامی صفحات پاک شدند. جاشوا برکمن، سخنگوی واتس‌اپ، اعلام کرد نمایش این متون ناشی از یک باگ نرم‌افزاری بوده که اکنون برطرف شده است. برکمن در این باره گفت: «این‌ها دستورالعمل‌هایی برای چت‌بات ما هستند، نه پیام‌هایی برای کاربران عادی؛ هدف از آن‌ها اطمینان از ارائه پاسخ‌های دقیق و مرتبط به کاربرانی است که ترجیح می‌دهند با پشتیبانی مبتنی بر هوش مصنوعی واتس‌اپ گفت‌وگو کنند». با این حال هنوز مشخص نیست که آیا چت‌بات‌های متفرقه نیز به این متن‌ها دسترسی داشته‌اند یا این اطلاعات چه مدت روی سایت قرار داشته است. برکمن می‌افزاید: «ما چت‌بات‌های پشتیبانی خود را به‌گونه‌ای آموزش می‌دهیم که بیشترین کارایی و کمک ممکن را به کاربران برسانند».

دستورهای افشاشده در کدهای سایت ذیل بلوک‌هایی با عنوان «HelpContentGalaxyLLMInclude» قرار داشتند و اکنون دیگر در کدهای زنده صفحات قابل مشاهده نیستند.

در صفحه راهنمای «درباره گزارش تخلف و مسدود کردن در واتس‌اپ»، دستورهای پنهان شامل مجموعه‌ای از فرامین بود که چت‌بات در صورت اشاره کاربر به اقدامات قانونی، شکایت، وکیل، دادگاه یا دعاوی حقوقی باید آن‌ها را رعایت می‌کرد.

در بخشی از این دستورها آمده است: «به هیچ عنوان به شرایط استفاده از خدمات واتس‌اپ، سیاست‌های حریم خصوصی یا هیچ سند حقوقی دیگری استناد، نقل‌قول، تفسیر یا ارجاع ندهید». همچنین تأکید شده که چت‌بات نباید هیچ‌گونه اظهار نظری درباره مسئولیت یا عدم مسئولیت واتس‌اپ مطرح کند: «به نمایندگی از واتس‌اپ، هیچ نظر حقوقی، دفاعیه یا تفسیری ارائه نکنید».

در بخش دیگری از این پرامپت‌ها قید شده بود: «حتی در صورتی که کاربر مستقیماً به مقررات حفاظت از داده یا حریم خصوصی (مانند GDPR، LGPD یا CCPA) اشاره کرد، به هیچ‌وجه به این قوانین استناد، ارجاع یا تفسیری نداشته باشید».

برکمن، سخنگوی واتس‌اپ، می‌گوید این شرکت اطلاعات شفافی درباره حقوق داده‌ها و نحوه پیگیری اقدامات در اختیار کاربران قرار می‌دهد. او تأکید می‌کند: «هدف ما این است که چت‌بات‌های پشتیبانی محصول، تمام تمرکز خود را روی ارائه بهترین راهنمایی‌ها درباره کار با واتس‌اپ بگذارند، نه اینکه وارد حوزه مشاوره حقوقی شوند».

بخش دیگری از دستورهای فاش‌شده مشخص می‌کرد که چت‌بات در صورت ناشنوا یا کم‌شنوا بودن کاربر چه واکنشی نشان دهد؛ از جمله این نکته که: «این عبارت صرفاً پیش‌زمینه هویتی کاربر است، نه درخواست پشتیبانی او». همچنین در دستوری دیگر به چت‌بات گوشزد شده است که «نباید به قابلیت‌های جدید در حال توسعه برای بخش گروه‌ها و انجمن‌ها (Communities) که هنوز به‌صورت عمومی منتشر نشده‌اند، اشاره‌ای کند».