评估人工智能辅助的临床实用性及其在质瘤分级任务上的解释
Weina Jin1, Mostafa Fatehi2, Ru Guo2
1School of Computing Science, Simon Fraser University, Burnaby, Canada.
Artificial intelligence in medicine
|February 7, 2024
概括
人工智能 (AI) 的帮助提高了神经外科医生在质瘤分级中的准确性. 然而,人工智能解释并没有进一步提高性能,突出了对更具临床相关性的可解释人工智能的需求.
科学领域:
- 医学成像分析 医学成像分析
- 人工智能在医学中的应用
- 神经外科决策支持
背景情况:
- 人工智能 (AI) 的临床采用需要安全,问责和有效性的强有力的证据.
- 模型可解释性对于建立信任和确保在医疗保健中负责任地部署人工智能至关重要.
研究的目的:
- 评估人工智能辅助的临床实用性及其对神经外科医生在脑MRI扫描上进行质瘤分级的解释.
- 评估AI预测和可解释AI (XAI) 对诊断准确性和决策过程的影响.
主要方法:
- 一项以用户为中心的评估,涉及35名神经外科医生,评估了25个脑部MRI扫描来分类质瘤.
- 与AI预测和解释 (SmoothGrad算法) 和没有AI预测和解释的诊断准确性的比较.
- 对医生的表现和决策模式进行定量和定性分析.
主要成果:
- 医生的准确性显著增加,从82.5%到87.7%的人工智能预测辅助 (p=0.002).
- 准确性保持相似 (88.5%),除了人工智能解释,没有显著的改善 (p=0.35).
- 医生决策模式与AI预测趋同,变化主要发生在不同意AI时.
结论:
- 人工智能辅助在改善神经外科医生的质瘤分级准确度方面证明了临床实用性.
- 目前可解释的AI方法,如SmoothGrad,可能缺乏有效帮助医生辨别AI预测所需的临床背景.
- 未来XAI的进步应该集中在提供明确的临床特征和推理,以提高医生的信任和表现.
