影响医学人工智能辅助决策有效性的因素:一个范围审查

科学领域:

• * 医学信息学 医学信息学
• * 人与计算机的交互
• * 医学中的人工智能

背景情况:

• *对基于人工智能 (AI) 的临床决策支持系统 (AI-CDS) 的研究产生了不一致的结果,关于它们对临床医生的决策影响.
• *人工智能-CDS有效性变化的原因并不总是清楚.
• *了解临床医生层面和技术设计因素对于优化AI-CDS实施至关重要.

研究的目的:

• *进行范围审查,确定影响AI-CDS有效性的因素.
• * 澄清现有证据,说明临床医生层面和技术设计如何影响人工智能辅助的医疗决策.
• *分析这些因素对临床医生的态度,决策和表现的影响.

主要方法:

• * 通过MEDLINE,Web of Science和Embase进行全面的文献搜索,寻找相关的同行评审研究.
• * 识别和分析临床医生层面和技术设计因素,影响AI-CDS的有效性.
• *对三个关键结果的影响评估:临床医生对人工智能的态度,决策 (例如,建议接受) 和绩效.

主要成果:

• *在45项纳入研究中,确定了四个常见的临床医生级别和技术设计因素.
• *与非专家相比,专家临床医生可能从AI-CDS中获得的益处较小,结果各不相同.
• *可解释的人工智能可以增强信任,但也可能导致过度依赖错误的建议,可能会损害协作性能.
• *临床医生对AI的基线态度显著预测了他们对AI建议的接受率.
• * 人与人工智能的协作表现是最常被评估的结果.

结论:

• * 有限因素对它们对AI-CDS有效性的影响进行了广泛研究.
• *跨研究的相互矛盾的结果凸显了对微妙方法的需要.
• *未来的研究应该关注"适当的信任"的概念,以指导AI-CDS的开发和评估.
• * 目标应该是确保临床医生只在合理的情况下信任人工智能建议,而不是普遍增加信任或接受.