هوش مصنوعی پزشکی در خدمت جان بیماران است یا جیب بیمه‌ها؟ معمای بزرگ تصمیم‌گیری الگوریتم‌ها

با هجوم پرشتاب ابزارهای هوش مصنوعی بالینی به نظام مراقبت‌های سلامت، یک پرسش بنیادین و نگران‌کننده مطرح شده است: این الگوریتم‌ها دقیقاً در خدمت منافع چه کسی کار می‌کنند؟

چرا این موضوع مهم است: جهان به‌سرعت به سمتی می‌رود که در آن هوش مصنوعی ممکن است همان تصمیماتی را بگیرد که تاکنون بر دوش پزشکان و کادر درمان بوده است؛ آن هم بدون دغدغه‌های اخلاقی یا سایر پیچیدگی‌های ذاتی که در تصمیم‌گیری‌های انسان وجود دارد.

ریشه ماجرا: باب واکتر، رئیس دپارتمان پزشکی دانشگاه کالیفرنیا، سان‌فرانسیسکو، ابعاد این چالش سرنوشت‌ساز را در یادداشتی در ساب‌استک با عنوان «مسئله هم‌ترازی در نظام سلامت: یک بیماری زمینه‌ای» تشریح کرده است.

• ابزارهای پشتیبان تصمیم‌گیری با همان چالشی روبه‌رو هستند که کادر درمان همیشه با آن دست‌به‌گریبان بوده‌اند: در علم پزشکی به‌ندرت تنها یک تصمیم «کاملاً درست» وجود دارد و انتخاب بهترین مسیر درمانی همواره به سبک‌سنگین کردن عواملی چون هزینه‌ها در مقایسه با بیشترین منفعت برای بیمار بستگی دارد.
• واکتر می‌نویسد: «اگر الگوریتم طوری تنظیم شود که کیفیت مراقبت درمانی را برای تک‌تک افراد به حداکثر ممکن برساند، کل سیستم درمانی و در واقع کل جامعه را به سوی ورشکستگی کشانده‌ایم. اما اگر مقرون‌به‌صرفه‌بودن را معیار پیش‌فرض قرار دهیم، عبارت جنجالیِ "کمیته‌های مرگ هوش مصنوعی" ظرف یک هفته دوباره به سرتیتر مباحث عمومی بازخواهد گشت.»

پشت پرده ماجرا: به‌کارگیری گسترده ابزارهای مجهز به هوش مصنوعی به این معناست که الگوریتم‌ها می‌توانند تعیین کنند که آیا برای یک بیمار ام‌آر‌آی تشخیصیِ زودهنگام تجویز شود یا دارویی گران‌قیمت با اثربخشی اندک در اختیارش قرار گیرد.

• هر کس فرآیند تصمیم‌گیری این سیستم‌ها را طراحی کند و منافع نهایی را اولویت ببخشد، قدرتی بی‌اندازه به دست خواهد آورد.
• این سازوکار در حال حاضر در چت‌بات‌هایی که بیماران برای راهنمایی‌های پزشکی استفاده می‌کنند نیز وجود دارد؛ ابزارهایی که به گفته واکتر به‌گونه‌ای طراحی شده‌اند که «کاربر را درگیر و معتاد به چت نگه دارند»، بدون آنکه لزوماً برای حفظ سلامت و بهبود حال واقعی بیمار بهینه‌سازی شده باشند.
• راهکاری که واکتر پیشنهاد می‌دهد شفافیت است: این ابزارها باید بتوانند چندین گزینه و پیشنهاد را به پزشکان ارائه دهند و سود و زیان یا هزینه‌فایده هر مسیر درمانی را به‌روشنی بازگو کنند.

نگاهی از نزدیک: پرسش بنیادین درباره اینکه هوش مصنوعی برای چه کسی سودمند است، همین حالا در چند پرونده حقوقی جنجالی علیه غول‌های بیمه در دادگاه‌ها جریان دارد.

• در یک پرونده، بیماران طرح «مدیکر ادونتیج» و خانواده‌هایشان از شرکت بیمه یونایتدهلث (UnitedHealth) شکایت کرده‌اند؛ زیرا این شرکت به‌جای قضاوت پزشکان، از یک ابزار هوش مصنوعی موسوم به nH Predict برای تعیین زمان پایان توان‌بخشی پس از بیماری حاد یا مراقبت‌های پرستاری ویژه استفاده کرده است؛ تصمیمی که در مواردی عواقب مرگباری در پی داشته است. یونایتدهلث هرگونه استفاده از این ابزار را در تصمیم‌گیری‌های پوشش بیمه‌ای رد کرده است.
• پرونده مشابه دیگری علیه شرکت بیمه هیومنا (Humana) نیز اتهامات یکسانی را مطرح کرده است؛ با این ادعا که یک ابزار پیش‌بینی، مدت‌زمان ریکاوری استانداردی را به بیمارانی تحمیل کرده که عملاً به دوره درمانی بسیار طولانی‌تری نیاز داشته‌اند.
• پژوهش‌های پیشین نیز نشان داده بودند که چگونه یک الگوریتم متداول بیمارستانی که بر مبنای کاهش هزینه‌ها طراحی شده بود، بیماران سیاه‌پوست پرخطر با بیماری‌های مزمن و نیازمند خدمات پزشکی بیشتر را کنار می‌گذاشت. در آن ماجرا، توسعه‌دهندگان ناچار شدند با همکاری پژوهشگران، سوگیری نژادی موجود در مدل را اصلاح کنند.

نکته تأمل‌برانگیز: صاحب‌نظران حقوقی تأکید می‌کنند که قوانین سنتی مربوط به قصور پزشکی و مسئولیت ناشی از عیب کالا، برای مواردی که سیستم‌های هوش مصنوعی سلامت بیمار را به خطر می‌اندازند پاسخگو نیست؛ چراکه عملکرد مدل ممکن است در هر مرکز درمانی متفاوت باشد و الگوریتم‌ها نیز ماهیتی ناشناخته و جعبه‌سیاه دارند.

• برخی از کارشناسان پیشنهاد داده‌اند که بیمارستان‌ها باید شخصاً مسئولیت اعتبارسنجی عملکرد مدل‌های هوش مصنوعی را بر عهده بگیرند؛ هرچند پیچیدگی این ابزارها غالباً به این معناست که خود مراکز درمانی نیز داده‌های فنی لازم برای پیشگیری مؤثر از آسیب‌های احتمالی را در دست ندارند.

کلام آخر: هر چقدر هم گفت‌وگوهای کارشناسی و عمیق درباره این مسئله انجام شود، این دوراهی‌ها سرشار از ریسک و بحران‌اند. در سال‌های آینده باید چشم‌انتظار بحث‌های تند سیاسی و نبردهای حقوقی بسیار سنگین و پرهزینه در این عرصه باشیم.