هشدار سازنده دستیار هوش مصنوعی اینستینکت: «اگه ایجنت‌ها ما رو ترغیب به خرید کنن با دنیای واقعاً خطرناکی طرفیم!»

سازنده اینستینکت می‌گوید اگر ایجنت هوش مصنوعی بخواهد ما را وادار به خرید کند، با «دنیای بسیار خطرناکی» روبه‌رو می‌شویم

نوآ شین (Noah Shinn)، خالق اینستینکت، می‌گوید احساس و تجربه کاربران برای او بی‌نهایت اهمیت دارد.

شین اشاره کرده که استارتاپ پر سر و صدای اینستینکت (Instinct) که دستیار هوش مصنوعی توسعه می‌دهد، به آمارهای جالبی رسیده است؛ داده‌ها نشان می‌دهند اگر کاربر حتی یک بخش از اطلاعات حساس خودش (مثل شماره کارت بانکی یا رمز عبور) را به این دستیار بسپارد، احتمال ماندگاری و وفاداری‌اش به این ابزار به‌شدت بالا می‌رود.

شین در تازه‌ترین قسمت پادکست «مثل بهترین‌ها سرمایه‌گذاری کن» (The Invest Like The Best) گفت: «اینجا با یک چرخه داده یا مسئله مرغ و تخم‌مرغ جذاب طرفیم؛ هر چقدر داده بیشتری به هوش مصنوعی بدهید، می‌تواند کنش‌گراتر و فعال‌تر عمل کند، موقعیت و شرایط شما را بهتر درک کند و در نتیجه کاربردی‌تر باشد، مگر نه؟ چیزی که ما در داده‌ها دیده‌ایم این است که ایجاد این حس اعتماد معمولاً چند هفته زمان می‌برد.»

بررسی‌های اینستینکت نشان داده که «حدود ۴۰ درصد شانس وجود دارد که کاربر ظرف سه هفته اول، کارت بانکی شخصی خود را به اشتراک بگذارد». شین می‌گوید در چنین شرایطی یا زمانی که کاربر اطلاعات حساس مشابهی را در اختیار سیستم قرار می‌دهد، نرخ حفظ و بازگشت کاربر (Retention) به رقم شگفت‌انگیز ۸۰ درصد می‌رسد.

او در ادامه توضیح داد: «در طول این فرایند در سه هفته اول، کاربر کم‌کم یاد می‌گیرد که به سیستم اعتماد کند و از همان‌جا ماجرا مثل یک گلوله برفی بزرگ و بزرگ‌تر می‌شود.»

شین تأکید کرد که بخشی از ساختن اعتماد میان کاربر و هوش مصنوعی، نیازمند کشیدن یک خط قرمز کاملاً مشخص درباره شیوه درآمدزایی اینستینکت همگام با رشد آن است.

او گفت: «ما ابداً نمی‌خواهیم اینستینکت رفتار کاربر را در جهتی هدایت کند که با خواسته‌های واقعی خود کاربر هم‌راستا نیست.»

شین با انتقاد از پلتفرم‌های بزرگ فناوری که دقیقاً خلاف این مسیر حرکت کرده‌اند، گفت که اینستینکت قصد ندارد کاربرانش را به چشم «کالا یا محصول» ببیند.

او توضیح داد: «منظورم پلتفرم‌های بزرگی مثل گوگل، تیک‌تاک، اینستاگرام، اسنپ‌چت و بقیه است؛ جایی که پلتفرم برای کاربر رایگان است، اما مدام تبلیغات پولی جلوی چشم مخاطب قرار می‌گیرد تا او را قانع به خرید کنند. همین که مخاطب خرید می‌کند، ماجرا تبدیل به بازی برندهایی می‌شود که پول می‌دهند تا کاربران را به خرید چیزهایی که شاید اصلاً نیازی به آن‌ها ندارند، وادار کنند.»

یکی از دلایل اصلی مخالفت شین با چنین تبلیغاتی این است که به گفته او، دور از ذهن نیست که روزی دستیارهای هوش مصنوعی مانند اینستینکت از خود کاربران باهوش‌تر شوند. بنابراین سوءاستفاده از چنین قدرتی و از بین بردن اعتماد کاربران، می‌تواند یک اشتباه مرگبار باشد.

او در پایان گفت: «فکر می‌کنم اگر اینستینکت بخواهد رفتار کاربر را طوری تحت تأثیر قرار دهد که چیزی را که نمی‌خواهد بخرد، یا اشتراکی را که نیازی به آن ندارد تهیه کند و از هوش بالای خودش برای قانع کردن او سوءاستفاده کند، با دنیای بسیار وحشتناک و خطرناکی روبه‌رو خواهیم شد.»