基于基本真相的突出地图算法算法的比较
Karolina Szczepankiewicz1, Adam Popowicz2, Kamil Charkiewicz1
1Independent Researcher, Warsaw, Poland.
Scientific reports
|October 6, 2023
概括
评估深度神经网络 (DNN) 的解释性至关重要. 本研究引入了一种实用的方法和新的指标来评估突出性地图技术,确定可靠的视觉解释方法.
科学领域:
- 计算机科学 计算机科学
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 深度神经网络 (DNN) 在图像处理和自然语言处理等各个领域都表现出色.
- 视觉解释方法,特别是突出地图,对于理解DNN决策非常受欢迎.
- 解释突出地图和评估其准确性仍然是一个重大挑战.
研究的目的:
- 开发一种实用的方法来评估显著性地图生成方法的有效性.
- 为了从数量上比较不同的显著性地图技术.
- 识别可靠和不可靠的突出性地图方法.
主要方法:
- 利用了三种最先进的深度神经网络架构.
- 员工专门准备的基准数据集用于评估.
- 提出了一种用于量化比较突出度地图方法的新型指标.
主要成果:
- 进行了突出地图生成技术的实际评估.
- 确定了具有高可靠性的特定方法.
- 突出了在评估测试中始终失败的技术.
结论:
- 拟议的方法提供了一个可靠的框架来评估突出性地图的有效性.
- 这项研究成功地确定了最可靠的突出地图技术.
- 研究结果为研究人员和从业人员提供了关于DNN可解释性的宝贵见解.
