InfoCAM:一种信息加权的类激活映射,用于解释视觉神经网络

科学领域:

• 计算机视觉 计算机视觉
• 人工智能的人工智能
• 深度学习 (Deep Learning) 是一种深度学习.

背景情况:

• 深度学习模型,特别是视觉神经网络,由于复杂的非线性函数和超参数调整而表现出黑子行为.
• 缺乏透明度阻碍了对视觉神经网络中的决策过程的理解.

研究的目的:

• 提高深度视觉神经网络的透明度和可解释性.
• 提出一个突出视觉解释框架,提供可靠的解释.

主要方法:

• 拟议的信息加权类激活映射 (InfoCAM),一个新的突出性视觉解释框架.
• 引入了一个双流信息瓶 (DSIB) 模块,使用变异推理将特征激活分解为歧视性和噪声流.
• 优化了区分流和输出预测之间的相互信息,为激活地图赋予忠实权重.

主要成果:

• 通过忠实地将权重分配给功能激活地图,InfoCAM产生可靠的视觉解释.
• 该框架能够应对破碎梯度问题,并与各种网络架构和任务无集成.
• 通过澄清理论界限和降低对输出得分波动的敏感性,改进了忠实度评估指标 (平均下降和平均上升).

结论:

• InfoCAM为视觉神经网络提供了可靠的解释方法,提高了透明度.
• 在干扰测试和基于能量的指针游戏评估中表现出卓越的表现.
• 在创建可解释的计算机视觉深度学习模型方面,InfoCAM提供了显著的进步.