AD-CAM:通过轻量化框架提高卷积神经网络的可解释性 - - 从黑盒到玻璃盒

科学领域:

• 机器视觉 机器视觉 机器视觉
• 人工智能的人工智能
• 深度学习 (Deep Learning) 是一种深度学习.

背景情况:

• 卷积神经网络 (CNN) 在机器视觉中至关重要,但经常充当"黑子",阻碍可解释性.
• 现有的可解释性方法,如类激活地图 (CAM) 和Grad-CAM有局限性,包括架构约束和梯度计算要求.
• 人工智能系统越来越需要更加透明和易于理解.

研究的目的:

• 介绍一种新的,简单的框架,称为基于自适应学习的CAM (Adaptive-CAM),用于增强CNN的解释性.
• 为了提高透明度,利用激活地图和网络预测之间的关系.
• 解决现有的基于CAM的可解释性方法的缺点.

主要方法:

• 开发了Adaptive-CAM,这是一个临时掩盖CNN内部特定特征图的框架.
• 利用激活地图和网络预测之间的连接来生成突出地图.
• 使用基于残余网络模型和VGG16.0的平均下降一致性复杂性 (ADCC) 度量来评估该方法.

主要成果:

• 与Score-CAM和其他基于CAM的方法相比,适应式CAM在剩余网络模型上表现出更好的性能,性能改进范围为3.78%至7.72%.
• 通过Adaptive-CAM生成的度图与其他基于CAM的方法可比,并且明显优于其他基于CAM的方法 (约为153倍).
• VGG16型号的性能略有下降,为1.94%.

结论:

• 适应式CAM提供了一种有前途的方法,通过有效利用特征地图掩盖来提高CNN的可解释性.
• 该方法提供了高效的突出性地图,提高了对CNN决策过程的理解.
• 适应式CAM代表了在机器视觉中创造更透明,更易于理解的AI系统的重大进步.