物理对抗性攻击与计算机视觉相遇:十年调查
概括
这项研究探讨了对深度神经网络 (DNN) 的物理对抗性攻击,强调了物理文物的影响. 引入了一个新的指标,hiPAA,以全面评估这些攻击.
科学领域:
- 计算机视觉 计算机视觉
- 人工智能安全 的人工智能安全
背景情况:
- 深度神经网络 (DNN) 显示对敌对攻击的脆弱性,降低了性能.
- 这些攻击超越了数字环境,进入了物理世界,构成安全风险.
研究的目的:
- 提供对物理对手攻击的全面概述.
- 引入一个新的术语,对抗媒介,用于带有扰动的文物.
- 为物理对抗性攻击提出一个系统的评估指标.
主要方法:
- 提炼了发动物理敌对攻击的四个一般步骤.
- 引入了"对抗媒介"的概念来描述物理文物.
- 开发了hiPAA,这是一种用于物理对抗攻击的新型评估指标.
主要成果:
- 物理对抗性攻击受到艺术品的影响,称为对抗性媒介.
- 该指标从六个角度评估攻击:有效性,隐身性,坚固性,实用性,美学和经济性.
- 介绍了任务类别之间的比较结果,提供了洞察力.
结论:
- 物理对抗性攻击需要系统评估,因为它们在现实世界中具有影响.
- 对抗媒介概念和hiPAA指标为在物理环境中评估DNN安全提供了一个框架.
- 建议根据比较分析和观察进行进一步的研究.
