相关实验视频
Updated: May 5, 2026
09:17
Using Retinal Imaging to Study Dementia
Published on: November 6, 2017
21.6K
对糖尿病视网膜病变检测中人工智能可解释性的热图分析:阐明深度学习决策的合理性
Fernando Korn Malerbi1,2,3, Luis Filipe Nakayama1, Paulo Prado2
1Department of Ophthalmology and Visual Sciences, Federal University of Sao Paulo, Sao Paulo, Brazil.
Annals of translational medicine
|November 7, 2024
概括
分析用于糖尿病视网膜病变 (DR) 检测的人工智能 (AI) 的热图差异,揭示了微妙的图像质量差异. 这项研究提高了AI的解释性,并促进了对深度学习系统的临床信任.
科学领域:
- 眼科医生 眼科 眼科
- 医疗成像医学成像
- 人工智能的人工智能
背景情况:
- 人工智能 (AI) 决策过程的不透明性阻碍了其在医疗保健中的采用.
- 了解AI的推理对于临床整合至关重要,尤其是在糖尿病视网膜病变查等敏感领域.
研究的目的:
- 为了调查从糖尿病患者的视网膜图像中略有变化的热图中产生的差异.
- 了解用于糖尿病视网膜病变检测的深度学习 (DL) 算法的决策过程.
主要方法:
- 来自糖尿病患者的视网膜图像对 (扩张前/扩张后) 使用卷积神经网络进行了分析,以检测糖尿病视网膜病变 (DR).
- 基于梯度的类激活地图 (GradCam) 可视化了激活的区域,并根据激活总和,计数和分数差异将不一致的对与一致的对进行了比较.
主要成果:
- 人工智能模型实现了高性能:89.8%的灵敏度,96.3%的特异性和0.95.5%的AUC.
- 关于客观热图参数,在一致和不一致的图像对之间观察到显著差异.
- 定性评估强调了微妙的图像质量变化作为结果不一致的因素.
结论:
- 热图参数和DL输出差异之间存在明确的关系,支持热图用于AI解释性.
- 这项研究加强了可解释AI (XAI) 技术的实用性,例如热图,以建立对临床应用DL系统的信心.
