在临床决策支持系统中整合可解释的机器学习:涉及修改设计思维方法的研究
Michael Shulha1,2, Jordan Hovdebo3, Vinita D'Souza1,2
1Lady Davis Institute for Medical Research, Jewish General Hospital, Centre intégré universitaire de santé et de services sociaux (CIUSSS) du Centre-Ouest-de-l'Île-de-Montréal, Montreal, QC, Canada.
在整个设计过程中,让临床医生参与是开发可靠的可解释机器学习 (XML) 工具的关键. 这种方法确保人工智能系统与用户需求和临床工作流程保持一致,改善采用.
科学领域:
- 医疗信息学 医疗信息学
- 医疗保健中的人工智能
- 人与计算机的交互
背景情况:
- 由于缺乏透明度,机器学习 (ML) 在医疗保健中的临床实施滞后.
- 可解释机器学习 (XML) 和设计思维方法可以改善ML工具的采用.
研究的目的:
- 探索临床医生的参与,以解决在临床环境中不采用ML工具的问题.
- 调查在决策支持界面中呈现可解释性的挑战.
主要方法:
- 使用设计思维方法与理论框架,包括NASSS框架来定义问题.
- 开发了一种预后工具,通过胸部X射线预测重症监护室入院的可能性.
- 整合了一个度量框架来评估医生对人工智能工具的信任 (域名表示,可操作性,一致性).
主要成果:
- 医生们发现原型设计优雅,数据表示适合领域.
- 一个简化的可解释性覆盖突出显示了关键预测领域,解释了90%的风险得分.
- 医生们重视对多个X射线进行比较和切换可解释性的能力,以获得一致的评估.
结论:
- 该方法通过理论框架和原型设计使人工智能与临床医生的信任保持一致.
- 在整个设计过程中,最终用户的整合对于AI调整至关重要.
- 尽早吸引最终用户对于创建可靠和可用的基于XML的临床决策支持工具至关重要.
更多相关视频
07:31Implementation of a Real-Time Psychosis Risk Detection and Alerting System Based on Electronic Health Records using CogStack
Published on: May 15, 2020
04:09Predicting Treatment Response to Image-Guided Therapies Using Machine Learning: An Example for Trans-Arterial Treatment of Hepatocellular Carcinoma
Published on: October 10, 2018
相关概念视频
Critical Thinking II
Methods of Documentation VI: Case Management Model
For example, a patient with a chronic...
Patient-centered Care
Nursing Clinical Information System
A Nursing Clinical Information System (NCIS) is a specialized type of healthcare information system tailored to meet the unique needs of nursing practice. It incorporates the principles of nursing informatics to streamline information management and improve the quality of care delivery.
Critical attributes of NCIS include:
Issues And Trends In Healthcare Delivery System
Cost Containment
Payment for healthcare services has historically promoted adoption of costly and often unnecessary or inefficient...
Critical Thinking I
