适应性跨模态可转移的对抗性攻击从图像到视频

科学领域:

• 人工智能的人工智能
• 计算机视觉 计算机视觉
• 网络安全 网络安全

背景情况:

• 对抗性示例的跨模型可转移性是实际黑子攻击的关键.
• 攻击通常需要相同模式的输入,这在安全关键情况下很难获得.
• 跨模式攻击,欺骗具有不同输入类型的模型,对现实世界深度神经网络 (DNN) 应用构成重大威胁.

研究的目的:

• 调查对抗性示例的跨模式可转移性.
• 从白盒图像模型生成视频对抗示例,以攻击视频卷积神经网络 (CNN) 和视觉转换器 (ViT) 模型.

主要方法:

• 引入了图像对视频 (I2V) 攻击,利用图像和视频模型之间共享的低级别功能.
• I2V通过最大限度地减少良性和敌对之间的中间特征相似性来优化图像模型上的干扰.
• 开发了一种适应性方法,用于从图像模型组合中重新权衡多层特征,以实现高效的集成.

主要成果:

• 证明了I2V攻击在从图像模型生成视频对抗示例中的有效性.
• 成功攻击视频CNN和ViT模型,使用交叉模式对抗的例子.
• 适应性特征集成方法提高了多层扰动的效率.

结论:

• 拟议的I2V攻击提供了一种用于生成跨模式对抗实例的实用方法.
• 这项研究强调了视频模型对来自不同模式的攻击的脆弱性.
• 这些发现强调了需要在DNN中开发强大的防御,以抵御跨模式的对抗性攻击.