پشت پرده نسخه‌های پزشکی چت‌جی‌پی‌تی؛ ارتش مخفی پزشکان اوپن‌ای‌آی وارد میدان شد

پزشکی که اوپن‌ای‌آی را از میدان مین سلامت عبور می‌دهد

اگر این روز‌ها متوجه شده‌اید که چت‌جی‌پی‌تی توصیه‌های بهتری درباره کمردرد یا علائم بیماری‌تان ارائه می‌دهد، احتمالاً باید مدیون پزشکی باشید که هزاران کیلومتر آن‌طرف‌تر نشسته است.

هر هفته بیش از ۳۰۰ میلیون نفر برای دریافت مشاوره‌های مرتبط با سلامت سراغ چت‌جی‌پی‌تی می‌روند. شرکت اوپن‌ای‌آی (OpenAI) برای آن‌که توسعه هوش مصنوعی خود را در این مسیر حساس به‌درستی هدایت کند، صدها پزشک باتجربه و شاغل را از سراسر جهان به خدمت گرفته است.

این پزشکان قراردادی که به ۴۹ زبان مختلف صحبت می‌کنند، نمونه مکالمات کاربران یا پزشکان با چت‌بات را ارزیابی می‌کنند تا نقاطی را که ممکن است هوش مصنوعی کاربر را به اشتباه بیندازد یا حتی جان کسی را به خطر بیندازد، شناسایی کنند.

رهبری این تلاش‌ها بر عهده پزشکی به نام ربکا ساسکین هیکس (Rebecca Soskin Hicks) است؛ متخصصی که سال ۲۰۲۴ به اوپن‌ای‌آی پیوست و حالا به رابط و زبان گویای پزشکان در این غول فناوری تبدیل شده تا هوش مصنوعی را در حوزه سلامت ارتقا دهد.

ساسکین هیکس در این باره می‌گوید: «این حوزه به شدت حساس و پرریسک است. چیزی به نام خط پایان برای "به اندازه کافی خوب بودن" وجود ندارد. تا جایی که من می‌دانم، ما قرار است روند بهبود را بدون وقفه و تا ابد ادامه دهیم؛ کاملاً پیوسته و بی‌وقفه.»

ریسک این ماجرا واقعاً بالاست. در ماه جولای، یک کشیش از شرکت اوپن‌ای‌آی به خاطر پاسخ‌های چت‌جی‌پی‌تی درباره بحران ریوی‌اش شکایت کرد. او مدعی شد که مدل هوش مصنوعی GPT-4o بیماری او را اشتباه تشخیص داده و علائم خطرناکش را دست‌کم گرفته است. این شکایت حقوقی حتی به دنبال آن بود که فعالیت محصولات پزشکی اوپن‌ای‌آی به طور کامل متوقف شود.

با این حال، اوپن‌ای‌آی با امید به شبکه پزشکانش برای ارتقای هوش مصنوعی، تصمیم گرفته با تمام قوا به مسیرش ادامه دهد؛ آن هم در شرایطی که قوانین حقوقی پیرامون چت‌بات‌ها، مشاوره‌های پزشکی و مسئولیت ناشی از خسارت محصولات هنوز در هاله‌ای از ابهام است. اشلی الکساندر، مدیر بخش محصولات سلامت اوپن‌ای‌آی، معتقد است که هوش مصنوعی در واقع نسخه بسیار بهتری از همان جست‌وجوهای اینترنتی است که میلیون‌ها نفر همین حالا هم روزانه انجام می‌دهند.

او توضیح می‌دهد تلقی کردن چت‌بات به عنوان تمام واقعیت یا مرجع نهایی یک تصمیم پزشکی، شرایط را «بیش از حد ساده‌انگارانه» نشان می‌دهد و «ریسک آن را دارد که مانع از رساندن مزایای واقعی این فناوری به دست بیش‌ترین تعداد ممکن از مردم شود.»

الکساندر تأکید می‌کند: «ما کاملاً شفاف اعلام کرده‌ایم که نباید از چت برای تشخیص و درمان بیماری‌ها استفاده شود.» شرایط استفاده از خدمات شرکت هم صراحتاً این موضوع را بیان می‌کند؛ هرچند اگر از چت‌بات سوال بپرسید، همچنان حاضر است به ارزیابی اولیه بیماری‌ها و آسیب‌ها کمک کند.

پزشکان به دنبال «حفره‌ها» در توصیه‌های سلامت چت‌جی‌پی‌تی

حالا وظیفه ارتقای توصیه‌های پزشکی چت‌جی‌پی‌تی بر دوش پژوهشگران و پزشکان افتاده است. ساسکین هیکس تیم پزشکان خود را به همراه کاران سینگال تشکیل داد؛ متخصصی که هدایت بخش پژوهش‌های سلامت اوپن‌ای‌آی را بر عهده دارد و اوایل امسال گفته بود دلش می‌خواهد بیماران، چت‌جی‌پی‌تی را مثل یک «حامی و محافظ در مسیر درمانی خود» ببینند.

ساسکین هیکس می‌گوید هدف این شبکه پزشکی، ایجاد تنوع جغرافیایی گسترده و پوشش طیف متنوعی از تخصص‌های پزشکی است.

این پزشکان به صورت پاره‌وقت و قراردادی با اوپن‌ای‌آی کار می‌کنند و از کشور‌هایی مثل کنیا، نپال و برزیل به این پروژه پیوسته‌اند. تا ماه جولای، آن‌ها بیش از ۷۰۰ هزار پاسخ تولیدشده توسط چت‌جی‌پی‌تی را زیر ذره‌بین برده‌اند تا نحوه ارتقای مدل‌ها را ارزیابی کنند. البته این پزشکان داده‌های خام برای آموزش هوش مصنوعی تأمین نمی‌کنند، هرچند اوپن‌ای‌آی و دیگر سازندگان مدل‌ها روزبه‌روز بیش‌تر از داده‌های متخصصان حوزه‌های تخصصی برای تقویت فناوری‌هایشان بهره می‌برند.

ساسکین هیکس می‌گوید: «برای این‌که این کار واقعاً اثربخش باشد، باید شرایطی را آزمایش کنیم که مبهم، شلوغ، پیچیده و تعریف‌نشده هستند.»

او اضافه می‌کند که بعد از بررسی مدل‌ها توسط پزشکان، آن‌ها به تیم تحقیقاتی می‌گویند «حفره‌ها و کمبودها کجاست و عملکرد مدل در چه بخش‌هایی می‌تواند بهتر شود.» پس از آن، تیم پژوهشی سراغ داده‌های جدید و روش‌های آموزشی تازه می‌رود تا به چت‌جی‌پی‌تی یاد دهد چطور شرایط اورژانسی را دقیق‌تر تریاژ کند، اطلاعات ناقص را از کاربر بپرسد، عدم قطعیت را شفاف بگوید و پاسخ‌هایی با جزئیات متناسب ارائه دهد.

بالا رفتن از «نردبان شواهد» در هوش مصنوعی سلامت

در حال حاضر، اوپن‌ای‌آی اتصال سرویس Apple Health و برخی پرونده‌های پزشکی به چت‌جی‌پی‌تی را بسیار آسان کرده است. از طرفی، کاران سینگال مدل جدید GPT-6 Astra را در بنچمارک‌های حوزه سلامت به عنوان پیشرفته‌ترین مدل روز معرفی کرده است. ماه گذشته نیز این شرکت بنچمارک ویژه‌ای را برای سنجش نحوه پاسخ‌دهی مدل‌ها به موضوعات سلامت روان معرفی کرد.

ساسکین هیکس معتقد است بازخورد پزشکان و عملکرد مدل‌ها در تست‌های بنچمارک، تنها گام‌های اولیه در گردآوری شواهد علمی به شمار می‌روند. او امیدوار است در گذر زمان، مطالعات بالینی نشان دهند که استفاده از چت‌بات‌ها برای دریافت توصیه‌های سلامت واقعاً می‌تواند وضعیت سلامت افراد و کل جامعه را بهبود ببخشد.

او در پایان می‌گوید: «نردبانی از شواهد پیش روی ماست؛ ما در حال بالا رفتن از آن هستیم و هنوز به بالای نردبان نرسیده‌ایم.»