评估人工智能模型与医疗保健专业人员之间的沟通差距:对人工智能驱动的临床决策的可解释性,实用性和信任
Oskar Wysocki1,2, Jessica Katharine Davies3, Markel Vigo1
1Department of Computer Science, The University of Manchester, United Kingdom of Great Britain and Northern Ireland.
在临床决策支持中,可解释的机器学习 (ML) 模型显示出混合的结果. 在减少自动化偏差和帮助经验较少的专业人员的同时,它们也可以增加医疗保健专业人员 (HCP) 的过度依赖和确认偏差.
科学领域:
- 临床信息学 临床信息学
- 人工智能在医学中的应用
- 人与计算机的交互
背景情况:
- 可解释机器学习 (ML) 模型越来越多地被用于临床决策支持.
- 了解这些模型在临床工作流程中的实用影响对于有效实施至关重要.
- 医疗保健专业人员 (HCP) 的看法和ML解释对他们的决策过程的实际影响需要进行彻底的调查.
研究的目的:
- 务实地评估可解释的ML模型在临床决策支持中的作用和影响.
- 确定ML解释的好处和缺点,当它们被整合到现实世界的临床环境中时.
- 探索解释如何影响医疗保健人员的信任,依赖和理解ML模型的局限性.
主要方法:
- 在临床环境中开发可解释的ML模型的务实评估框架.
- 医疗保健人员与ML解释的互动和感知的定性和定量评估.
- 对决策的影响分析,包括确认偏差,自动化偏差和知识获取.
主要成果:
- 解释可以减少自动化偏差,并帮助在模两可的临床案例.
- 标准解释模型显示,对于促进对ML限制的批判性理解的能力有限.
- 观察到的负面影响包括确认偏差和对一些参与者的模型过度依赖.
- 解释支持经验较少的医疗保健工作者获得新的领域知识.
结论:
- 可解释的ML模型在临床决策支持中起着微妙的作用,其影响取决于上下文.
- 虽然提供了降低自动化偏差等好处,但必须管理确认偏差等潜在缺点.
- 未来的发展应该集中于提高对模型限制的批判性理解,并支持各种各样的HCP需求.
更多相关视频
05:27Gap Junctional Intercellular Communication: A Functional Biomarker to Assess Adverse Effects of Toxicants and Toxins, and Health Benefits of Natural Products
Published on: December 25, 2016
09:47An Iodide-Yellow Fluorescent Protein-Gap Junction-Intercellular Communication Assay
Published on: February 1, 2019
相关概念视频
14:32Using Visual and Narrative Methods to Achieve Fair Process in Clinical Care
05:27Gap Junctional Intercellular Communication: A Functional Biomarker to Assess Adverse Effects of Toxicants and Toxins, and Health Benefits of Natural Products
09:47An Iodide-Yellow Fluorescent Protein-Gap Junction-Intercellular Communication Assay
06:18The Collective Trust Game: An Online Group Adaptation of the Trust Game Based on the HoneyComb Paradigm
06:36Biomechanical Analysis Methods to Assess Professional Badminton Players' Lunge Performance
07:37Assessment and Communication for People with Disorders of Consciousness
