چگونه پیش از سرمایه‌گذاری، توصیه‌های مالی چت‌بات‌های هوش مصنوعی را ارزیابی کنیم؟

انسان‌ها همواره برای یافتن پاسخ پرسش‌های خود به ابزارهای گوناگون متوسل شده‌اند؛ از کتاب‌ها و موتورهای جست‌وجو گرفته تا چت‌بات‌های هوش مصنوعی امروزی. اکنون کاربران بی‌شماری برای دریافت پاسخ‌های آنی، راستی‌آزمایی و درک بهتر موضوعات، از جمله مسائل پیچیده سرمایه‌گذاری و امور مالی شخصی، به سراغ ابزارهایی مانند ChatGPT، Claude و Grok می‌روند. با این حال، در نظر گرفتن یک چت‌بات به‌عنوان مرجع حقیقت و داور نهایی می‌تواند بسیار مخاطره‌آمیز باشد.

پیش از هرگونه اقدام بر اساس مشاوره‌های مالی چت‌بات‌ها، باید خروجی آن‌ها را با بررسی دقیق منابع اصلی، اطمینان از پوشش تمام داده‌های مرتبط و در نظر گرفتن سوگیری‌های بالقوه ارزیابی کرد. بررسی تحلیلی اسناد عرضه عمومی اولیه (IPO) با کمک هوش مصنوعی به روشنی نشان می‌دهد که چرا این مراحل راستی‌آزمایی تا این حد حیاتی هستند.

منابع را شخصاً بررسی کنید

در یک ارزیابی تجربی، درخواستی به دو مدل زبانی بزرگ ارائه شد تا مشخص شود چه نکاتی را در یک پرونده مالی برجسته می‌کنند. هوش مصنوعی معمولاً برای اموری مانند اصلاح املایی و نگارشی هنگام تایپ سریع، پیاده‌سازی متن فایل‌های صوتی یا یافتن مراجع هنگام ناکارآمدی جست‌وجوهای متنی سنتی به کار می‌رود.

با این وجود، بازبینی مداوم خروجی دریافتی همواره الزامی است. برای اطمینان از صحت استنادها، باید از مدل پیوند منابع و حتی شماره صفحه‌های دقیق ارجاعات را خواست؛ این اقدام، ابتدایی‌ترین سطح راستی‌آزمایی است.

از درک درست بستر موضوع توسط چت‌بات مطمئن شوید

در یک نمونه واقعی، کاربری در شبکه اجتماعی X از چت‌بات Grok خواست تا درباره تحلیلی پیرامون عرضه اولیه نظر دهد. چت‌بات Grok در پاسخ نوشت: «مدل Claude با استناد به درآمد ۱۶٫۳ میلیارد دلاری در نیمه اول سال، سود عملیاتی سه‌ماهه دوم و ۱۳۱ میلیارد دلار موجودی نقدی، عرضه اولیه سهام Anthropic را فرصتی مناسب برای خرید دانسته است. این مدل، خطراتی مانند فرار مدل‌ها حین آزمایش (دسترسی به سطح مدیریت و خواندن اطلاعات شخصی)، تحقیقات کمیسیون فدرال تجارت (FTC)، کسب ۵ تا ۷ درصد از درآمد از سوی ناقضان قوانین و اجاره‌های لغونشدنی توان پردازشی تا سال ۲۰۴۵ را به‌عنوان ترسناک‌ترین ریسک‌ها برشمرد. در مقابل، ChatGPT به‌دلیل همین اجاره‌ها، تمرکز کنترل و مشخص نبودن قیمت، پیشنهاد خرید نداد.»

نکته قابل توجه این بود که خلاصه ارائه شده توسط Grok با متن اصلی که ۱۵ دغدغه مهم سرمایه‌گذاران خرد را بررسی می‌کرد، تفاوت فاحشی داشت. پس از تذکر این موضوع، Grok اعتراف کرد: «حق با شما است؛ خلاصه قبلی از مطلبی دیگر برداشته شده بود که در آن Claude احتمال خرید را می‌سنجید. تحلیل اصلی شما از هر دو مدل خواسته بود ۱۵ نگرانی مهم سرمایه‌گذاران خرد را بررسی کنند و فهرست‌های آن‌ها کاملاً هم‌راستا بود؛ بابت این مغایرت پوزش می‌خواهم.»

هرگز نباید تصور کرد که یک چت‌بات بستر و زمینه تعامل را به درستی فهمیده است؛ زیرا این سامانه‌ها فکر نمی‌کنند، بلکه سیستم‌های مبتنی بر محاسبات آماری و تطبیق الگوها هستند.

سوگیری‌ها و داده‌های ناقص را شناسایی کنید

علاوه بر این، بررسی سوگیری‌های بالقوه و جامع بودن اطلاعات ضرورت دارد. این موضوع در تعامل با Claude به وضوح نمایان شد، جایی که این مدل دو هشدار و محدودیت مشخص را درباره تحلیل خود اعلام کرد.

مدل Claude اعلام کرد: «من توسعه‌یافته شرکت Anthropic هستم، بنابراین تحلیلم را با در نظر گرفتن این نکته بخوانید و آن را با متن رسمی پرونده تطبیق دهید. من مشاور مالی نیستم و این اظهارات نیز توصیه سرمایه‌گذاری محسوب نمی‌شود. فرم S-1 در تاریخ ۲۶ اکتبر منتشر شد و همچنان مقدماتی است؛ در نتیجه محدوده قیمتی، تعداد سهام و چند رقم تعهدات مالی نامشخص هستند. من تنها بخش آغازین پرونده تا ابتدای ریسک‌ها را مطالعه کرده‌ام و باقی اطلاعات از گزارش‌های رسانه‌ای برگرفته شده است.»

وجود سوگیری ساختاری در یک نرم‌افزار امری محتمل است، اما محدودیت بزرگ‌تر در این تحلیل، نقص جدی اطلاعات در دسترس مدل بود؛ مسئله‌ای که ارزش هرگونه استنتاج مالی را به چالش می‌کشد.

مشخص کنید هوش مصنوعی دقیقاً چه اسنادی را بررسی کرده است

با بارگذاری کامل پرونده فرم S-1 و اجرای مجدد تحلیل، ارزیابی واقعی حاصل شد. در غیر این صورت، بخش عظیمی از داده‌های حیاتی نادیده می‌ماند؛ جالب آنکه حتی چت‌بات اختصاصی شرکت Anthropic نیز در حالت عادی به متن کامل پرونده رسمی شرکت خود دسترسی نداشت.

این تجربه نشان می‌دهد که حتی پرسش‌های ساده از یک چت‌بات نیازمند بررسی موشکافانه هستند. در دنیای امور مالی، دقت و راستی‌آزمایی دقیق، مقدمه قطعی سودآوری و حفظ سرمایه است.