可解释的AI困境在专业AI的知识不平衡下,用于初级医疗保健中的青光眼转诊

科学领域:

• 眼科医生 眼科 眼科
• 医疗保健中的人工智能
• 临床决策支持 临床决策支持

背景情况:

• 初级眼科护理提供者转诊的眼光患者依赖于临床经验.
• 专门的人工智能 (AI) 推模型是根据临床数据进行训练的,但可能无法将其推广到现实世界的实践中.
• 人工智能能力与实际临床应用之间存在一个知识差距.

研究的目的:

• 调查人工智能解释在协助初级眼科护理提供者治疗青光眼转诊时的有效性.
• 评估人工智能与人类的合作,在解释的帮助下,是否可以提高推准确性,而不是仅仅与人类判断相比.
• 了解人工智能解释对提供商信任和决策偏见的影响.

主要方法:

• 开发人工智能模型,从常规眼部护理数据中识别急需的青光眼转诊.
• 创建内在和后 hoc AI 解释方法.
• 一项涉及87名眼科医生的用户研究,评估了带有和没有解释的AI预测.

主要成果:

• 人类-人工智能团队实现了60%的准确性,单独表现优于人类 (51%),但单独表现低于人工智能 (80%).
• 人工智能解释没有提高性能,并引入了不确定性,增加了过度依赖不正确的人工智能建议.
• 内在和后期解释都导致了定偏见,导致参与者更紧密地与AI推保持一致.

结论:

• 目前的人工智能解释方法并不能有效地支持初级眼科护理提供者在青光眼转诊中.
• 在设计人工智能支持系统方面仍然存在挑战,这些系统可以增强人类-人工智能协作,而不会影响临床判断或引入偏见.
• 需要进一步的研究来开发有效的AI整合机制,以保持人类代理并超越AI性能.