对图像数据的可解释性技术进行比较评估
Mykyta Skliarov1, Radwa El Shawi2, Chedia Dhaoui3
1Institute of Computer Science, University of Tartu, Tartu, 51009, Estonia.
Scientific reports
|November 25, 2025
概括
没有一个单独的可解释的人工智能 (XAI) 方法在所有领域都超越. 基于梯度的技术,如集成梯度和SmoothGrad提供优越的保真性和稳定性,但在解释质量和计算效率之间存在权衡.
科学领域:
- 计算机视觉 计算机视觉
- 机器学习 机器学习
- 可解释的人工智能 (XAI)
背景情况:
- 深度神经网络在计算机视觉方面实现了人类水平的性能.
- 黑盒模型的兴起需要透明度和可解释性.
- 突出度地图在图像数据分析中很受欢迎,但难以评估.
研究的目的:
- 对六种广泛使用的突出性地图可解释性技术进行全面的比较评估.
- 评估LIME,SHAP,GradCAM,GradCAM++,集成梯度 (IntGrad) 和SmoothGrad 的优点和局限性.
- 用五个定量指标来评估技术:忠实性,稳定性,同一性,可分离性和计算时间.
主要方法:
- 六种突出地图技术的比较评估.
- 在三个基准数据集和三个深度学习架构中应用五个定量指标.
- 统计分析以确定性能差异.
主要成果:
- 没有一个XAI方法在所有指标中表现最好.
- 集成梯度和SmoothGrad显示出最好的保真性和稳定性.
- 格拉德卡姆和格拉德卡姆++提供了最高的计算效率,但保真度较低.
- 在SVHN数据集上,SHAP表现强.
结论:
- 在XAI方法中,解释质量和计算效率之间存在固有的权衡.
- 基于梯度的方法通常提供更好的保真性和稳定性.
- 在不同的数据集和任务中,方法性能有很大差异.