联盟CAM:通过消除噪音,加权融合和选择性高质量类激活映射来提高CNN的解释性

科学领域:

• 计算机视觉 计算机视觉
• 人工智能的人工智能
• 机器学习 机器学习

背景情况:

• 深度卷积神经网络 (CNN) 在计算机视觉方面表现出色,但缺乏可解释性.
• 目前用于可视化CNN决策 (激活地图) 的方法经常遭受噪音和不完整的对象表示.
• 这限制了CNN在关键应用中的可信度和采用.

研究的目的:

• 引入联盟类激活地图 (UnionCAM),这是一个创新的框架,用于生成高质量,可解释的类激活地图 (CAM).
• 通过减少背景噪声和确保对象的完全激活来解决现有方法的局限性.
• 提高CNN模型的可靠性和理解性.

主要方法:

• 联盟CAM采用了三步的方法:消除噪音,加权融合和自动选择.
• 一个消噪模块使用自适应值来消除CAM的背景噪声.
• 一个联盟模块可自适应地融合多个CAM,然后是一个选择模块以确定最佳的解释地图.

主要成果:

• 与最先进的方法相比,UnionCAM可以显著抑制背景噪声,并捕捉完整的对象区域.
• 对ILSVRC2012和VOC2007数据集的实验显示了插入和删除得分的优异性能.
• 该框架为CNN决策提供了更直观,更全面的视觉解释.

结论:

• 通过改进的激活地图,UnionCAM提供了一个强大的解决方案,以提高CNN的解释性.
• 该方法弥合了CNN性能和可信度之间的差距,促进了负责任的AI部署.
• 在现实世界中,UnionCAM为理解和验证基于CNN的系统提供了有价值的工具.