پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

خطر پنهان گزارش‌دهی خودکار و هوش مصنوعی؛ وقتی داده‌های غلط کاملاً درست به نظر می‌رسند

انتشار:۱۴ آبان ۱۴۰۵
۶ دقیقه زمان مطالعه
۰ دیدگاه
اشتراک و پسندیدن

اتوماسیون و هوش مصنوعی سرعت تهیه گزارش‌های سازمانی را به‌شدت افزایش داده‌اند، اما یک خطر بزرگ در کمین است. وقتی داده‌های اولیه بدون اعتبارسنجی وارد سیستم می‌شوند، خطاهای کوچک در طول محاسبات بزرگ‌نمایی شده و در نهایت به اعدادی غلط اما ظاهراً معتبر روی داشبورد مدیران تبدیل می‌شوند.

خطر پنهان گزارش‌دهی خودکار و هوش مصنوعی؛ وقتی داده‌های غلط کاملاً درست به نظر می‌رسند

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • بزرگ‌ترین ریسک سیستم‌های گزارش‌دهی خودکار، پردازش داده‌های نادرستی است که پس از چندین مرحله محاسبه، ظاهری کاملاً موجه و معتبر پیدا می‌کنند.
  • طبق آمارها ۷۷ درصد از شرکت‌ها کیفیت پایین داده‌ها را اصلی‌ترین مانع برای بهره‌گیری مؤثر از هوش مصنوعی و اتوماسیون در سازمان خود می‌دانند.
  • استفاده از فناوری‌های اعتبارسنجی هوشمند در همان لحظه ورود اطلاعات، مانع از نفوذ و انباشت خطاها در گزارش‌های نهایی و تصمیم‌گیری‌های کلان می‌شود.

بزرگ‌ترین خطر در گزارش‌دهی خودکار، یک عدد کاملاً غلط و تابلو نیست؛ بلکه عددی اشتباه است که ظاهری کاملاً درست و بی‌نقص دارد.

هرچه کسب‌وکارها فرآیندهای جمع‌آوری، پردازش و گزارش‌دهی اطلاعات را بیشتر به سیستم‌های خودکار می‌سپارند، احتمال عبور خطاها از زیر رادار سیستم‌ها نیز بیشتر می‌شود. تا زمانی که یک داده مشکوک به داشبورد مدیریتی یا گزارش هیئت‌مدیره برسد، احتمالاً چندین بار دسته‌بندی، محاسبه و تجمیع شده است. همین فرآیند به عدد نهایی چنان اعتبار ظاهری و فریبنده‌ای می‌بخشد که داده اولیه هرگز استحقاق آن را نداشته است.

راه‌حل این مشکل، بررسی دقیق داده‌ها در مراحل بسیار ابتدایی فرآیند است. کسب‌وکارها به‌جای تکیه بر بررسی‌های نهایی پس از تولید خروجی، می‌توانند از فناوری کمک بگیرند تا کیفیت داده‌ها را در همان لحظه ورود به چرخه گزارش‌دهی بسنجند؛ یعنی درست پیش از آنکه یک اشتباه اولیه فرصت کند به نتیجه‌ای ظاهراً معتبر و رسمی تبدیل شود.

تزریق کیفیت به قلب فرآیندها

فاصله گرفتن از گزارش‌دهی دستی، مشکلات فراوانی را حل کرده است. اطلاعاتی که روزی باید به زحمت از دل فایل‌های صفحه‌گسترده، ایمیل‌ها و تیم‌های مختلف بیرون کشیده می‌شد، اکنون با بهره‌وری بسیار بالاتری جمع‌آوری، محاسبه و گزارش می‌شود. این پیشرفت جای تعجب ندارد، اما کیفیت داده‌های پایه همچنان یک مانع بزرگ به‌شمار می‌رود. اتوماسیون به‌خودی خود برداشت‌های متناقض را حل نمی‌کند، بلکه اغلب دامنه آن‌ها را وسیع‌تر می‌سازد.

در واقع، ۷۷ درصد از شرکت‌های بریتانیایی می‌گویند که داده‌ها بزرگ‌ترین چالش آن‌ها برای استفاده مؤثر از هوش مصنوعی هستند. هرچه اتوماسیون و هوش مصنوعی نقش پررنگ‌تری در نحوه مدیریت و تفسیر اطلاعات در کسب‌وکارها ایفا می‌کنند، پی‌ریزی درست این پایه‌ها اهمیتی دوچندان می‌یابد.

فردی که یک گزارش را به‌صورت دستی تنظیم می‌کند، ممکن است متوجه موردی غیرعادی شود و آن را زیر سؤال ببرد. اما اتوماسیون بدون اعتبارسنجی، این لحظات طبیعیِ بازبینی و دقت انسانی را حذف می‌کند و اطلاعات را دقیقاً مطابق دستورالعمل پردازش می‌نماید، بدون آنکه لزوماً تشخیص دهد بخشی از اطلاعات جا افتاده، متناقض یا اساساً غیرمنطقی است.

یک ورودی نادرست با حرکت در طول محاسبات بعدی، می‌تواند بیش از پیش غیردقیق شود. اگر مقدار اشتباهی وارد سیستم شود و سپس به معیار یا ارزش‌گذاری نادرستی پیوند بخورد، عدد نهایی حاصل از آن می‌تواند بسیار فراتر از واقعیت جلوه کند. شکار این خطا در همان نقطه ورود، مانع از انباشته شدن و بزرگ‌نمایی آن در مراحل بعدی می‌شود.

سنجش «ارزش اجتماعی» (Social Value) مثال خوبی در این زمینه است. از آنجا که سازمان‌ها برای اثبات تأثیرات مثبتی که ایجاد می‌کنند با فشار فزاینده‌ای روبه‌رو هستند، کیفیت داده‌های پشتوانه این ادعاها اهمیت زیادی پیدا می‌کند. با این حال، در حالی که ۹۵ درصد از متخصصان ارشد حوزه پایداری، داده‌های باکیفیت را مهم می‌دانند، تنها ۲۷ درصد از آن‌ها می‌گویند که در حال حاضر چنین داده‌هایی را در اختیار دارند.

به‌طور تاریخی، فرآیند گزارش‌دهی همیشه کمتر از خودِ عملیات اجرایی به بلوغ رسیده است. فعالیت‌های مربوط به ارزش اجتماعی ممکن است در بخش‌های مختلف یک سازمان رخ دهند و مجریان نیز به حق ابتدا بر ایجاد اثر مثبت تمرکز می‌کنند و ثبت اطلاعات مربوط به آن را به بعد موکول می‌نمایند. نتیجه این می‌شود که سازمان‌ها شاید کارهای واقعاً ارزشمندی انجام دهند، اما همچنان برای نمایش دقیق آن‌ها با مشکل دست‌وپنجه نرم کنند. مستندات ضعیف از یک تأثیر، لزوماً به معنای ضعیف بودن خود آن تأثیر نیست، اما از نگاه بیرونی، قائل شدن تفاوت میان این دو بسیار دشوار است.

چالش اصلی، تبدیل کردن آن فعالیت‌ها به داده‌هایی قابل اعتماد و یکپارچه است. اطلاعات ممکن است در تیم‌های مختلف به شکل‌های متفاوتی ثبت شده باشند، در برابر شاخص اشتباهی قرار گرفته باشند یا فاقد شواهد لازم برای اثبات باشند. این وضعیت می‌تواند به معنای ثبت نادرست آمار مشاغل تمام‌وقت، نقص در مدارک، تعاریف منسوخ‌شده یا انتخاب معیار اشتباه توسط یک کارمند صرفاً به‌دلیل تشابه اسمی ظاهری آن با معیار اصلی باشد.

برای کسب‌وکارهای کوچک‌تر، مدیریت الزامات مربوط به ارزش اجتماعی همین حالا هم می‌تواند بسیار چالش‌برانگیز باشد؛ به‌طوری که ۷۳ درصد از کسب‌وکارهای کوچک و متوسط (SMEs) از دشواری در تدوین تعهدات ارزش اجتماعی برای مناقصات دولتی خبر می‌دهند. بنابراین، قوی‌تر کردن فرآیند گزارش‌دهی نباید صرفاً به معنای افزودن پیچیدگی‌های بیشتر باشد. فناوری باید ثبت اطلاعات درست را در همان گام نخست آسان‌تر کند.

با افزایش وزن و اهمیت داده‌های ارزش اجتماعی، این موضوع حیاتی‌تر می‌شود. این ارقام می‌توانند بر پیشنهادهای قیمت و عملکرد قراردادها اثر بگذارند و روزبه‌روز بیشتر از سازمان‌ها انتظار می‌رود تأثیراتی را که مدعی ایجاد آن هستند، با مدرک اثبات کنند. از این رو، صحت داده‌ها دیگر صرفاً یک مسئله فنی در دقت گزارش‌دهی نیست، بلکه به موضوع اعتبار سازمانی گره خورده است. اگر مدیران نتوانند به شواهد پشت یک عدد اعتماد کنند، نمی‌توانند با اطمینان از آن برای ارزیابی عملکرد، تخصیص سرمایه‌گذاری یا اثبات ادعاهای خود در بیرون از سازمان بهره ببرند.

گذر از گزارش‌دهی خودکار به اعتبارسنجی هوشمند

با این اوصاف، یک اتوماسیون بهینه چه شکلی دارد؟ داده‌های مربوط به اثرگذاری باید از همان ابتدا ساختاریافته، اعتبارسنجی و درک شوند، نه اینکه صرفاً به حسابرسی یا بررسی دستی در پایان کار برای کشف مشکلات تکیه شود. این یعنی باید از فناوری برای آزمودن اطلاعات در لحظه ثبت استفاده کرد؛ پیش از آنکه خطاها در تار و پود فرآیند گزارش‌دهی ریشه بدوانند.

برطرف کردن ورودی‌های مشکوک در همان نقطه ورود، زمانی که فرد واردکننده اطلاعات هنوز زمینه و جزئیات ماجرا را به یاد دارد، بسیار ساده‌تر از آن است که تیم‌ها بخواهند ماه‌ها بعد ماجرا را بازسازی کنند. فناوری می‌تواند با علامت‌گذاری و هشدار دادن درباره اطلاعاتی که ناقص، متناقض یا غیرمنطقی به نظر می‌رسند، پیش از ورود آن‌ها به محاسبات کلان، کمک شایانی به سازمان‌ها بکند.

هماهنگی و یکپارچگی میان تیم‌ها نیز اهمیت دارد. گنجاندن تعاریف و الزامات شفاف در دل فرآیند گزارش‌دهی می‌تواند جای خالی برای تفسیرهای شخصی را کاهش دهد و تضمین کند که اطلاعات در سراسر سازمان به یک شیوه واحد ثبت می‌شوند.

کسب‌وکارها هم‌چنین باید به سرنوشت شواهد و مدارک پشت یک عدد در حین حرکت در سیستم فکر کنند. هر عدد نهایی باید تا منبع اصلی خود قابل ردیابی باشد تا در صورت بروز هرگونه تردید یا چالش در آینده، تیم‌ها بتوانند بفهمند این عدد از کجا آمده، چگونه محاسبه شده و چه مدارکی از آن پشتیبانی می‌کنند. حفظ این قابلیت ردیابی، با خودکار شدن مراحل بیشتری از فرآیند گزارش‌دهی، اهمیتی روزافزون پیدا می‌کند.

هیچ‌یک از این موارد به معنای حذف قضاوت انسانی نیست. هدف این است که با کمک اتوماسیون، قضاوت و دقت انسانی را در جایی متمرکز کنیم که بیشترین ارزش افزوده را ایجاد می‌کند؛ نه اینکه از افراد بخواهیم همه‌چیز را به‌صورت دستی بررسی کنند یا در پایان کار به تمیزکاری و رفع خطاها بپردازند.

اتوماسیون همین حالا هم گزارش‌دهی را سریع‌تر و کارآمدتر کرده است. چالش بعدی، اطمینان از این است که گزارش‌دهی را قابل اعتمادتر نیز بکند. کیفیت بررسی‌های تعبیه‌شده در دل فرآیند، به اندازه سرعت پردازش اطلاعات اهمیت خواهد یافت. اعتماد به عدد نهایی باید از این اطمینان حاصل شود که داده‌های پشتوانه آن، توان سربلند بیرون آمدن از هرگونه موشکافی و بررسی دقیق را دارند.

بازخورد و اشتراک‌گذاری این مطلب

اگر این گزارش برایتان مفید بود، با پسندیدن و اشتراک‌گذاری آن با دیگران، از محتوای تخصصی هوش مصنوعی حمایت کنید.

اشتراک‌گذاری در شبکه‌های اجتماعی:

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

پیام‌رسان‌ها و تماس‌های ویدیویی؛ شکارگاه جدید هکرهای مجهز به هوش مصنوعی
آخرین اخبار

پیام‌رسان‌ها و تماس‌های ویدیویی؛ شکارگاه جدید هکرهای مجهز به هوش مصنوعی

با گسترش هوش مصنوعی و دیپ‌فیک، مهاجمان سایبری دیگر تنها به سرورها و شبکه‌ها حمله نمی‌کنند، بلکه پیام‌رسان‌های سازمانی و جلسات ویدیویی را هدف قرار داده‌اند. شرکت‌ها برای جلوگیری از خسارت‌های میلیون دلاری باید امنیت ابزارهای ارتباطی را به اندازه زیرساخت‌های اصلی خود جدی بگیرند.

۴ دقیقه مطالعه
۰
۱۴ آبان
پیش‌بینی دقیق‌تر برداشت محصولات کشاورزی با مدل هوش مصنوعی NeuralCrop؛ ثبت عملکردی ۸۰ درصد بهتر از روش‌های سنتی
آخرین اخبار

پیش‌بینی دقیق‌تر برداشت محصولات کشاورزی با مدل هوش مصنوعی NeuralCrop؛ ثبت عملکردی ۸۰ درصد بهتر از روش‌های سنتی

پژوهشگران دانشگاه فنی مونیخ با ترکیب شبکه‌های عصبی و مدل‌های زیست‌محیطی، سامانه هوش مصنوعی NeuralCrop را توسعه داده‌اند. این مدل ترکیبی، دقت برآورد میزان برداشت محصول و تحلیل ریسک‌های اقلیمی را تا ۸۰ درصد نسبت به روش‌های سنتی افزایش می‌دهد.

۲ دقیقه مطالعه
۰
۱۴ آبان
چگونه داده‌های بدون ساختار، موتور محرک ایجنت‌های هوش مصنوعی در سازمان‌ها می‌شوند؟
آخرین اخبار

چگونه داده‌های بدون ساختار، موتور محرک ایجنت‌های هوش مصنوعی در سازمان‌ها می‌شوند؟

بیش از ۸۰ درصد داده‌های سازمان‌ها به‌شکل اسناد متنی، تصاویر و ایمیل‌های بدون ساختار ذخیره شده‌اند و اغلب بلااستفاده می‌مانند. این حجم عظیم از اطلاعات در صورت ساماندهی دقیق، به سوخت اصلی ایجنت‌های هوش مصنوعی تبدیل شده و اتوماسیون سازمانی را متحول می‌کنند.

۶ دقیقه مطالعه
۰
۱۴ آبان