هشدار مدیرعامل تیک‌تاک درباره خطر ایجنت‌های هوش مصنوعی: بدون شناخت، به این دستیارها دسترسی تام ندید!

شو زی چو (Shou Zi Chew)، مدیرعامل تیک‌تاک، یه هشدار و توصیه مهم برای طرفداران پروپاقرص ایجنت‌های هوش مصنوعی داره: قبل از اینکه شیرجه بزنید توی دنیای این ابزارها، اول یه نفس عمیق بکشید و سر از سازوکارشون دربیارید.

چو روز دوشنبه در جریان کنفرانسی که توسط «دی‌بی‌اس بانک» (DBS Bank) در سنگاپور برگزار شد، گفت: «خیلی از کاربر‌ها ممکنه برای انجام کار‌های مختلف، دسترسی‌ها و مجوزهای زیادی به ایجنت‌ها بدن، بدون اینکه اصلاً درست متوجه باشن دقیقاً چه اختیارات حساسی رو بهشون واگذار کردن.»

به عنوان مثال، او اشاره کرد ایجنتی که اطلاعات کارت اعتباری کاربر رو در اختیار داره تا براش خرید انجام بده، ممکنه بیش از حد «مشتاق و جوگیر برای تحویل کار» بشه و در نهایت خیلی بیش‌تر از چیزی که ازش خواسته شده بود، خرید روی دست کاربر بذاره!

مدیرعامل تیک‌تاک در ادامه گفت که این شرکت در حال آموزش دادن به کارمندان خودشه تا بدونن چه اطلاعاتی رو نباید وارد چت‌های عمومی با ایجنت‌های هوش مصنوعی کنن؛ مواردی مثل اسرار تجاری شرکت یا اطلاعات محرمانه حقوقی.

او توضیح داد: «آدم‌ها گاهی اوقات بیش از حد درباره نحوه استفاده از این ابزار‌ها هیجان‌زده میشن. بنابراین فکر می‌کنم درک مرزهای استفاده معقول و منطقی از هوش مصنوعی، فوق‌العاده مهمه.»

این اظهارات در کنفرانس DBS Asia Future Forward مطرح شد؛ رویدادی که تمرکز اصلی اون روی نحوه استفاده عملی از هوش مصنوعی در آسیا برای خلق ارزش واقعی بود. شو زی چو در این گفت‌وگو همچنین از تجربه شخصی خودش گفت و اشاره کرد که چطور از هوش مصنوعی مثل یک مربی رژیم غذایی و برای پاسخ به سؤالات پزشکی کمک می‌گیره.

در ماه‌های اخیر و با معرفی ابزار‌هایی مثل دستیار Muse شرکت متا، ربات Grok شرکت xAI، ابزار Dots از اوپن‌ای‌آی و ایجنت‌های استارتاپ Instinct، دنیای ایجنت‌های شخصی هوش مصنوعی شاهد یک جهش و محبوبیت انفجاری بوده است.

این ایجنت‌ها به عنوان ابزار‌های فوق‌العاده برای افزایش بهره‌وری حسابی سر زبان‌ها افتاده‌ان؛ ابزار‌هایی که کار‌های روتین و کسل‌کننده مثل رزرو هتل و بلیط، حسابرسی و خریدهای تکراری رو گردن می‌گیرن. اما ماجرا همیشه گل‌وبلبل نیست و برخی کاربر‌ها داستان‌های کابوس‌واری از نافرمانی و سرکشی ایجنت‌هاشون تعریف کرده‌ان که کار‌های کاملاً پیش‌بینی‌نشده‌ای انجام داده‌ان.

شین مک (Shane Mac)، هم‌بنیان‌گذار یک شرکت نرم‌افزاری، تعریف کرده که ایجنت هوش مصنوعی‌اش وظیفه داشته صورت‌حساب پایان ماه حساب بانکی او را براش بفرسته، اما در کمال ناباوری این گزارش مالی محرمانه رو اشتباهی داخل کانال عمومی چت اسلک (Slack) شرکت منتشر کرده است!

کاربر‌های دیگه‌ای هم از توهم زدن اطلاعات و اشتباه فهمیدن دستورات توسط ایجنت‌ها گلایه کرده‌ان. مثلاً آستین ولچ (Austin Welch)، فعال حوزه مالی در هیوستون، تعریف کرده که ایجنت اختصاصی‌اش در پلتفرم Instinct، برای یک وعده غذایی دو نفره او و همسرش، به اشتباه ۲۰ پوند (حدود ۹ کیلوگرم) گوشت مرغ سفارش داده بود!