广告还是对抗性? AdvSign:艺术广告标志伪装,用于对目标进行物理攻击,以对物体检测器进行攻击

科学领域:

• 计算机视觉 计算机视觉
• 人工智能的人工智能
• 网络安全 网络安全

背景情况:

• 深度学习模型容易受到物理对抗性攻击,这些攻击很难被检测和追踪.
• 现有的身体攻击缺乏强度,灵活性和隐蔽性.
• 自动驾驶系统在现实场景中特别容易受到对抗性的操纵.

研究的目的:

• 提出一种创新的方法来创建强大,灵活和不显眼的物理对抗性攻击.
• 开发一种以艺术为基础的伪装技术,用于对象检测,命名为对抗性广告标志 (AdvSign).
• 提高自动驾驶中的对抗性攻击的不可追踪性和有效性.

主要方法:

• 通过将可训练的对抗补丁与移动运营商上的艺术图案 (标志,广告) 结合起来,设计了AdvSign.
• 利用CARLA模拟器在各种交通场景中生成各种2D复合场景图像,并使用AdvSign补丁.
• 引入了一种具有艺术模式约束的新损失函数,用于在对抗训练期间针对性地调整像素.
• 训练有素的最先进的物体探测器,如YOLOv5,使用这些合成图像和对抗补丁.

主要成果:

• 在模拟和现实实验中,AdvSign在对物体探测器的物理攻击中表现出了高效率.
• 艺术伪装成功误导了自动驾驶系统,导致交通标志 (例如"停止"标志) 的错误识别.
• 拟议的培训策略增强了不同环境和艺术模式的攻击强度和适应性.

结论:

• AdvSign提供了一种有前途的方法,用于创建微妙和无法追踪的物理对抗性攻击.
• 这种以艺术为基础的伪装有效地利用了艺术模式中的视觉不一致性容忍.
• 这种方法显著提高了对抗攻击的隐形性和有效性,这对自动驾驶安全构成了重大挑战.