突出性地图在增强眼科医生对人工智能模型的信任方面的作用
Carolyn Yu Tung Wong1, Fares Antaki1, Peter Woodward-Court1
1Institute of Ophthalmology, University College London, London, United Kingdom.
概括
目前, Saliency 地图 (SM) 并没有提高人工智能解释性或临床医生对眼科的信任. 需要进一步的研究来了解它们的技术局限性和对模型调试和性能增强的潜在好处.
科学领域:
- 眼科的人工智能
- 医学成像分析 医学成像分析
- 可解释的人工智能
背景情况:
- 突出地图 (SM) 可视化AI决策,旨在提高解释性和临床医生的信心.
- 它们在眼科中的应用有助于理解人工智能对眼,近视,AMD和DR等疾病的预测.
研究的目的:
- 审查使用案例和SMs对临床医生的理解和对眼科人工智能模型的信任的影响.
- 探索SMs在提高眼科疾病AI的解释性和信心方面的有效性.
主要方法:
- 在 MEDLINE,Embase 和 Web of Science 进行了系统的文献搜索.
- 纳入标准侧重于使用SMS治疗青光眼,近视,与年龄相关的黄斑变性 (AMD) 或糖尿病视网膜病变 (DR) 的研究.
主要成果:
- SMs经常用于验证人工智能模型,可能导致偏见的采用索赔.
- 确定了SM的技术局限性和表面质量评估.
- 关于SMs在建立对AI临床信任方面的作用仍然存在不确定性.
结论:
- 目前的SM对人工智能解释性或临床实践中的信任建设没有好处.
- SMs显示出AI模型调试,性能增强和假设生成的潜力,例如识别新的生物标志物.
