评估可解释的人工智能对临床医生的决策影响:一项关于ICU停留时间预测研究
Jinsun Jung1, Sunghoon Kang2, Jeeyae Choi3
1College of Nursing, Seoul National University, Seoul, Republic of Korea; Center for Human-Caring Nurse Leaders for the Future by Brain Korea 21 (BK 21) Four Project, College of Nursing, Seoul National University, Seoul, Republic of Korea.
可解释AI (XAI) 解释改善了临床医生的信任和对重症监护室 (ICU) 停留时间 (LOS) 预测的理解. 虽然与心理模型的调整并不完美,但解释增强了临床医生和AI在医疗保健中的合作.
科学领域:
- 人工智能在医学中的应用
- 临床决策支持系统 临床决策支持系统
- 医疗保健信息学 医疗保健信息学
背景情况:
- 可解释的人工智能 (XAI) 对于临床医生对医疗保健AI的信任至关重要.
- 人工智能解释对临床决策的影响需要进一步调查.
研究的目的:
- 评估AI解释如何影响临床医生的心理模型,信任和对ICU停留时间 (LOS) 预测的满意度.
- 评估不同类型的AI解释 ("为什么"",为什么不"",如何"",如果").
主要方法:
- 对8,579名手术ICU患者的EHR数据 (2019-2022) 的回顾性分析.
- 开发和评估七个机器学习模型用于ICU LOS预测.
- 使用SHapley添加式解释 (SHAP) 解释的最高性能随机森林模型的解释.
- 通过基于网络的实验,调查和采访评估15名ICU临床医生的解释.
主要成果:
- 临床医生特征选择与AI模型后解释更好地协调 (斯皮尔曼相关性从-0.147增加到0.868).
- 临床医生的平均信任分数显著改善 (从2.8到3.9).
- 满意度得分因解释类型而异,其中"如果"得分最高 (4.1).
结论:
- 人工智能解释增强了临床医生的理解和对ICU LOS的人工智能预测的信任.
- 临床医生心理模型与人工智能预测的完全对齐并未实现.
- 为了实现最佳的临床医生-人工智能协作和临床整合,需要进一步完善XAI.
更多相关视频
04:09Predicting Treatment Response to Image-Guided Therapies Using Machine Learning: An Example for Trans-Arterial Treatment of Hepatocellular Carcinoma
Published on: October 10, 2018
10:38Observational Study Protocol for Repeated Clinical Examination and Critical Care Ultrasonography Within the Simple Intensive Care Studies
Published on: January 16, 2019
相关概念视频
Current Trends in Nursing II
Issues And Trends In Healthcare Delivery System
Cost Containment
Payment for healthcare services has historically promoted adoption of costly and often unnecessary or inefficient...
Methods of Documentation VI: Case Management Model
For example, a patient with a chronic...
Patient-centered Care
Critical Thinking I
Methods of Documentation III: PIE
