解释能力在医学人工智能中的作用是什么? 一个基于案例的方法

科学领域:

• 医疗人工智能 医疗人工智能
• 医疗信息学 医疗信息学
• 临床决策支持系统 临床决策支持系统

背景情况:

• 可解释性是人工智能在医疗保健中的一个关键考虑因素,特别是临床决策支持系统 (CDSS).
• 了解可解释性的作用和影响对于AI在医疗环境中安全有效地部署至关重要.

研究的目的:

• 思考医疗AI中的可解释性概念,特别是基于AI的CDSS.
• 通过各种用例分析可解释性的作用,相关性和影响.
• 识别实证数据中的差距,并提出未来的研究方向.

主要方法:

• 介绍AI中的可解释性和基于AI的CDSS的概述.
• 介绍了基于AI的CDSS的四个不同的用例,展示了不同的解释类型 (黑子,后期,混合,因果).
• 讨论了与可解释性相关的七个关键主题:目标人,决策相关性,解释类型,准确性权衡,自动化偏见,个人价值观和患者自主权.

主要成果:

• 在基于AI的CDSS中,可解释性的相关性和作用高度依赖于上下文.
• 这项研究强调了关于可解释性及其对医学AI的影响的经验数据稀缺.
• 指出了可解释性和准确性之间的潜在冲突,以及认识论权威和自动化偏见的问题.

结论:

• 基于人工智能的医疗CDSS的解释性很重要,但其影响在不同的工具和环境中有很大差异.
• 基于用例的进一步研究对于了解技术方面以及临床医生和患者的观点至关重要.
• 需要对可解释性的影响进行实证研究,以指导未来的开发和实施.