通过规模丰富提高对抗性攻击的可转移性
Yuhang Zhao1, Jun Zheng1, Xianfeng Gao1
1School of Cyberspace Science and Technology, Beijing Institute of Technology, Beijing, 100081, China.
概括
对深度学习模型的敌对攻击可以使用Scale Enriching Method (SEM) 来改进. SEM提高了具有不同输入大小的模型中对抗性示例的可转移性,从而提高了攻击成功率.
科学领域:
- 计算机科学 计算机科学
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 深度学习模型容易受到对抗性攻击.
- 基于转移的对抗性示例通常缺乏在黑盒设置中具有不同输入大小的模型之间的可转移性.
研究的目的:
- 提出Scale Enriching Method (SEM) 方法,以提高对抗性示例的可转移性.
- 提高对不同输入大小的模型进行对抗性攻击的有效性.
主要方法:
- 开发了一个输入规模丰富框架 (SEM).
- 在特定范围内的缩放代用模型输入以丰富注意力区域.
- 通过避免在扰动生成过程中产生外来噪声来保持固有的纹理特征.
主要成果:
- 显著提高了具有不同输入大小的模型之间的对抗性示例的可转移性.
- 缓解了ImageNet实验中的可转移性差距.
- 在绕过各种防御机制方面取得了超过90%的成功率.
- 证明了与现有的敌对攻击方法的成功集成.
结论:
- SEM有效地提高了对抗性示例的可转移性,特别是在具有不同输入大小的模型中.
- 该方法保留了图像特征,同时提高了攻击的稳定性和成功率.
相关概念视频
01:36Mismatch Repair
Overview
01:19Conjugation
Conjugation is a form of horizontal gene transfer that primarily occurs in bacteria and some archaea, promoting genetic diversity and adaptation. Bacteria can acquire resistance genes through conjugative plasmids, allowing them to survive antibiotic treatments that would otherwise be lethal. This process involves direct contact between cells through specialized structures such as the sex pilus and is mediated by conjugative plasmids, including the F (fertility) factor.Conjugation requires...