نسخه داروی شما را هوش مصنوعی تمدید می‌کند! ماجرای مجوز جنجالی ایالت یوتا به استارتاپ‌های سلامت

ایالت یوتای آمریکا برای اولین بار به سه پروژه آزمایشی هوش مصنوعی در حوزه سلامت چراغ سبز نشان داد؛ پروژه‌هایی که حسابرسان مستقل بر آن‌ها نظارت می‌کنند، اما مقامات هنوز متعهد نشده‌اند که نرخ خطاها، حوادث ناگوار بالینی یا گزارش‌های ارزیابی را به صورت عمومی منتشر کنند.

تصور کنید زمان تمدید داروی نسخه بیماری مزمن شما فرا رسیده است. این بار اما خبری از پزشکتان نیست که ویزیت قبلی را به یاد بیاورد؛ بلکه یک الگوریتم هوشمند با بررسی پرونده و سوابق پزشکی شما این کار را انجام می‌دهد. جالب اینکه این سناریو حالا در ایالت یوتا و زیر نظر مستقیم نهادهای دولتی رسماً قانونی و مجاز شده است.

دفتر سیاست‌گذاری هوش مصنوعی یوتا در قالب «محیط آزمون تنظیم‌گری» (سندباکس)، سه پروژه سلامت مبتنی بر هوش مصنوعی را برای تصمیم‌گیری‌های بالینی، تجویز داروها و پایش بیماران تحت درمان تأیید کرده است. ساختار نظارتی طراحی‌شده برای این طرح‌ها بسیار دقیق‌تر و سنگین‌تر از برنامه‌های مشابه در سایر ایالت‌هاست؛ اما نکته مبهمی که مسئولان هنوز پاسخی شفاف به آن نداده‌اند این است: اگر خطایی در تجویز یا تشخیص رخ دهد، دقیقاً چه اتفاقی می‌افتد و چه کسی اول از همه باخبر می‌شود؟

دولت یوتا دقیقاً چه مجوزی صادر کرده است؟

در حال حاضر سه شرکت مختلف مجوز رسمی دریافت کرده‌اند تا بخشی از خدمات درمانی و بالینی را خودکارسازی کنند که هرکدام سطح ریسک متفاوتی دارند.

استارتاپ Nolla Health مجوز ارزیابی افراد بزرگسال مبتلا به آکنه‌های خفیف تا متوسط و کمک به تجویز اولیه داروهای موضعی را به دست آورده است. در حال حاضر، پزشکان و کادر درمانی دارای پروانه قبل از اینکه نسخه به داروخانه ارسال شود، آن را به دقت بررسی و تأیید می‌کنند.

با این حال، ممکن است در آینده ایالت یوتا اجازه دهد که این نسخه‌ها حتی بدون نیاز به بازبینی اولیه پزشک صادر شوند؛ البته هنوز در بیانیه‌های منتشرشده مشخص نشده که تحت چه شرایط و معیارهایی چنین تغییری مجاز خواهد بود.

شرکت August AI نیز در حال آزمایش سیستمی برای تمدید هوشمند نسخه‌های قبلی (داروهای غیرتحت‌کنترل و کم‌خطر) برای بیماری‌های مزمن است. این سیستم کار خود را با فهرستی شامل حدود ۱۴۸ قلم دارو آغاز کرده و اولویت را به دسته‌های دارویی کم‌خطر داده است.

این سیستم نسخه جدیدی صادر نمی‌کند، دوز دارو را تغییر نمی‌دهد و دارویی را جایگزین نمی‌کند. علاوه بر این، یک پزشک دارای پروانه طبابت در یوتا هر بار تمدید نسخه را بررسی می‌کند تا پیش از تأیید نهایی، همه‌چیز کنترل شود.

پلتفرم Expect Fitness هم به سراغ پزشکی از راه دور با پشتیبانی هوش مصنوعی رفته تا فیزیوتراپی عضلات کف لگن را برای سلامت بانوان، به‌ویژه در دوران بارداری و مراقبت‌های پس از زایمان، آزمایش کند. در این پلتفرم نیز فیزیوتراپیست‌های متخصص نظارت کاملی بر پذیرش بیمار، برنامه‌ریزی درمانی و پیگیری‌های بعدی دارند.

زیرساخت نظارتی مستحکم؛ یوتا فقط یک برگه مجوز ساده نداده است

حضور شش ارزیاب مستقل، مشارکت دو سامانه بزرگ بهداشت و درمان، و تعیین دوره‌ای ۱۲ ماهه با پایش مداوم، به این پروژه وزن و اعتبار ساختاری ویژه‌ای بخشیده است.

مسئولان ایالت یوتا صرفاً یک برگه مجوز اداری به دست استارتاپ‌ها نداده‌اند. شش ارزیاب و حسابرس مستقل در کنار ناظران دولتی حضور دارند تا محدودیت‌های ایمنی سیستم را تحت فشار تست کنند، گزارش‌های تصمیم‌گیری هوش مصنوعی را زیر ذره‌بین ببرند و نتایج درمان بیماران را بررسی نمایند.

این تیم‌های ارزیاب شامل ائتلاف هوش مصنوعی سلامت (CHAI)، شرکت‌های Clarion AI Partners، Glacis Technologies، mpathic AI، Vega Health و مرکز تحقیقات تعالی بالینی دانشگاه استنفورد می‌شوند. همچنین توافق‌نامه‌های کلان با سامانه‌های درمانی «دانشگاه یوتا» و «Intermountain Health» یک لایه حاکمیتی کاملاً رسمی ایجاد کرده تا کار بر اساس تصمیم‌های سلیقه‌ای یا مقطعی پیش نرود.

این دوره‌های آزمایشی به مدت ۱۲ ماه ادامه خواهند داشت و هرگونه توسعه یا تعمیم آن‌ها مشروط به رعایت الزامات عملکردی سخت‌گیرانه دولت است؛ بنابراین با یک محیط آزمون صوری روبه‌رو نیستیم.

حلقه مفقوده ماجرا: جای خالی شفافیت و پاسخگویی عمومی

با اینکه چارچوب نظارتی روی کاغذ بسیار محکم و دقیق به نظر می‌رسد، اما در اطلاعیه‌های منتشرشده هیچ توضیحی داده نشده که ایالت یوتا چه زمان و چگونه نتایج را به اطلاع عموم خواهد رساند.

در این اطلاعیه‌ها هنوز مشخص نشده که نرخ خطای مدل‌ها، عوارض جانبی پیش‌آمده، اختلافات آماری جمعیتی، شکایات بیماران یا یافته‌های حسابرسان چگونه منتشر خواهد شد. بدون شفاف‌سازی این داده‌ها، نه بیماران، نه پزشکان و نه ناظران مستقل نمی‌توانند ادعاهای مطرح‌شده درباره عملکرد این هوش مصنوعی را راستی‌آزمایی کنند.

پروژه شرکت Nolla نیاز به موشکافی بسیار بیشتری دارد؛ زیرا عبور از «تجویز زیر نظر پزشک» و رسیدن به «تجویز کاملاً خودکار و بدون نظارت هوش مصنوعی»، یک تغییر جزئی نیست، بلکه جهشی بزرگ به سوی سطحی کاملاً متفاوت از ریسک پزشکی است. معیارهایی که اجازه این گذار پرخطر را می‌دهند یا مانع آن می‌شوند، باید پیش از پایان این طرح ۱۲ ماهه شفاف شوند، نه اینکه بعد از وقوع حوادث درباره‌شان تصمیم‌گیری شود.

حسابرسان مستقل نیز تنها تا اندازه‌ای استقلال دارند که قراردادهایشان به آن‌ها اجازه می‌دهد. بنابراین دولت یوتا باید متن قراردادهای این ناظران، بیانیه‌های عدم تضاد منافع و استانداردهای شواهد بالینی مورد استفاده را منتشر کند.

طبق بیانیه شرکت Vega Health، ارزیاب‌ها مزایای مورد انتظار، حالت‌های احتمالی شکست و شواهدی را که می‌تواند منجر به رد یا تأیید صلاحیت یک سیستم شود بررسی خواهند کرد؛ معیارهایی حیاتی که باید در دسترس همه باشد، نه اینکه صرفاً در قالب یک خلاصه کوتاه در بیانیه خبری به آن‌ها اشاره شود.

شفافیت کامل، تنها آزمون واقعی برای موفقیت پروژه

اگر یوتا داده‌ها را با شجاعت منتشر کند، این پروژه به الگویی ماندگار برای سراسر دنیا تبدیل می‌شود؛ اما اگر شفافیتی در کار نباشد، فقط یک شکست پر سر و صدا خواهد بود که در پشت تبلیغاتی جذاب پنهان شده است.

چنانچه آمار دقیق نتایج بالینی، نرخ خطاها و یافته‌های حسابرسان با جزئیات کامل منتشر شود تا سایر قانون‌گذاران بتوانند از آن درس بگیرند، یوتا به یک الگوی معتبر برای هوش مصنوعی بالینی تبدیل خواهد شد. در غیر این صورت، این طرح نیز به جمع پروژه‌هایی می‌پیوندد که در ابتدا وعده پاسخگویی دادند اما خروجی‌شان تنها به بیانیه‌های تبلیغاتی ختم شد. مرز میان این دو نتیجه، تنها یک کلمه است: شفافیت عمومی پیش از آنکه ساعت ۱۲ ماهه طرح به پایان برسد.