温索-CAM:通过层级智能的温索化,从深度网络中获得人为调节的视觉解释
IEEE transactions on pattern analysis and machine intelligence
|February 25, 2026
概括
温索-CAM通过聚合所有层的解释和使用温索化来提高稳定性来提高卷积神经网络 (CNN) 的解释性. 这种方法提供了用户可调节的语义控制,并且在本地化和关键应用程序的忠实性方面优于现有的技术.
科学领域:
- 计算机视觉 计算机视觉
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 解释卷积神经网络 (CNN) 对安全关键领域如医疗保健和自动驾驶至关重要.
- 像Grad-CAM这样的现有方法通常依赖于单层,可能缺少多层信息,导致不稳定的解释.
- 需要强大且可调节的方法来提高CNN视觉解释的可靠性.
研究的目的:
- 介绍Winsor-CAM,一种基于单通梯度的新方法,用于解释CNN.
- 增强由CNNs生成的突出地图的稳定性和语义层面的可调性.
- 为专家在循环分析提供更全面,更强大的视觉解释工具.
主要方法:
- 温索-CAM从所有卷积层汇总了Grad-CAM地图.
- 它应用基于百分点的Winsorization来减少异常特征的影响.
- 一个用户可控制的参数 $p$ 允许调整从低级纹理到高级对象特征的解释.
主要成果:
- 与六种CNN架构中的七种基线方法相比,Winsor-CAM在本地化 (IoU,CoM距离) 和保真性 (插入/删除AUC) 方面表现优异.
- 在DenseNet121上,Winsor-CAM实现了46.8%的IoU和0.059 CoM距离,超过了Grad-CAM (39.0%的IoU,0.074 CoM距离).
- 该方法在一般计算机视觉任务 (PASCAL VOC 2012) 和医疗成像 (PolypGen多片细分) 中都表现出有效性.
结论:
- 温索-CAM为CNN的解释提供了一种高效,强大和人为调节的方法.
- 该方法能够结合多尺度线索和减弱异常值,从而产生更稳定,更可靠的突出度地图.
- 温索-CAM是增强安全敏感应用程序中专家循环分析的宝贵工具.
