解释深层物体探测器中的边界盒,使用自动驾驶系统的后 hoc 方法

科学领域:

• 计算机视觉 计算机视觉
• 人工智能的人工智能
• 自主系统 自主系统

背景情况:

• 深度学习模型对于自动驾驶感知任务,如对象检测至关重要.
• 这些模型的"黑子"性质需要安全性和可靠性的解释性.
• 现有的可解释的人工智能 (XAI) 技术需要在复杂的自动驾驶环境中进行彻底评估.

研究的目的:

• 探索和比较可解释的AI (XAI) 技术,用于自动驾驶中的物体检测.
• 评估基于梯度和基于扰动的突出度方法,包括D-RISE.
• 分析不同骨干架构和数据集对解释质量的影响.

主要方法:

• 基于梯度 (例如,指导反向传播) 和基于干扰 (例如,D-RISE) 的突出性方法的比较.
• 广泛的实验使用不同的骨干架构和数据集.
• 视觉解释和解释方法的数值评估.

主要成果:

• 无论是D-RISE还是指导反向传播,都产生了局部化的解释.
• D-RISE突出了更多具有语义意义的区域,导致了更多人类可以理解的解释.
• 这项研究是第一个针对对象检测的边界框坐标回归的解释.

结论:

• 与其他经过测试的突出性方法相比,D-RISE为自动驾驶物体检测提供了更优质,人类可以理解的解释.
• 可解释性AI (XAI) 对于建立对安全关键应用程序 (如自动驾驶) 深度学习模型的信任至关重要.
• 进一步研究XAI用于自动驾驶中的回归任务是有必要的.