人工智能在健康领域的信任标准:规范性和认识论性考虑

科学领域:

• 医疗信息学 医疗信息学
• 人工智能在医学中的应用
• 临床决策支持 临床决策支持

背景情况:

• 医疗保健人工智能/ML方面的进步需要了解用户的信任,以确保安全的临床决策.
• 对AI/ML工具的错误校准的信任 (过度或不足) 可能会对患者的安全和结果产生负面影响.
• 利益相关者和用例之间信任标准的变化影响了AI/ML在临床环境中的采用.

研究的目的:

• 确定用于左心室辅助器件 (LVAD) 治疗决策中的AI/ML生存预测算法的信任标准.
• 了解医生和患者如何评估对临床AI/ML工具的信任.

主要方法:

• 这是一项为期五年的多机构研究,由医疗保健研究和质量署资助.
• 与40名参与LVAD治疗的患者和医生进行半结构面试.
• 对面试数据进行主题分析,以确定信任标准.

主要成果:

• 医生和患者有着相似的信任标准,主要是认识系统的,重点是AI/ML估计的准确性和有效性.
• 信任评估强调了培训数据的质量 (性质,完整性,相关性),而不是算法复杂性.
• 关系因素 (例如,同行认可) 和个人信仰/经验也在较小程度上影响了信任.

结论:

• 对临床AI/ML工具的信任在很大程度上是由经验验证和数据质量驱动的,而不仅仅是算法透明度.
• 区分"源"和"功能"可解释性对于适当的信任校准至关重要.
• 调查结果为促进对AI/ML对关键医疗保健决策的负责任信任的战略提供了信息.