对人类姿势估计网络进行本地无形的对抗性攻击.
Fuchang Liu1, Shen Zhang1, Hao Wang1
1School of Information Science and Technology, Hangzhou Normal University, Hangzhou, 311121, Zhejiang, China.
Visual computing for industry, biomedicine, and art
|November 20, 2023
概括
研究人员开发了针对人类姿势估计 (HPE) 网络的局部不可察觉攻击的新方法. 这些攻击有效地破坏了身体关节检测,视觉变化最小,仅使用约4%的改变像素.
科学领域:
- 计算机视觉 计算机视觉
- 人工智能的人工智能
- 机器学习安全 机器学习安全
背景情况:
- 深度神经网络 (DNN) 容易受到敌对攻击.
- 针对人类姿势估计 (HPE),特别是身体关节检测的对抗性攻击的研究仍然有限.
- 将基于分类的攻击调整为身体关节回归具有挑战性,攻击的有效性通常与不可察觉性相冲突.
研究的目的:
- 为HPE网络提出新的局部不可察觉的攻击方法.
- 为了应对平衡HPE攻击有效性和视觉不可感知性的挑战.
- 开发一种针对身体关节回归任务量身定制的感知对抗性攻击的方法.
主要方法:
- 将身体关节回归的不可察觉攻击重新构成一个受约束的最大允许攻击问题.
- 采用代梯度基础的强度提炼和基于贪的像素选择来获得近似的解决方案.
- 开发一种优化人类感知和攻击效率的方法.
主要成果:
- 证明了局部不可察觉攻击对HigherHRNet,DEKR和ViTPose等先进HPE模型的有效性.
- 实现高攻击效率,显著减少扰乱的像素,通常只需要大约4%的像素.
- 展示了精良的不感知工艺制造的对抗性干扰.
结论:
- 拟议的方法成功地为HPE产生了有效和不可察觉的对抗性攻击.
- 该方法为保护HPE系统免受对手操纵提供了可行的解决方案.
- 最小的像素扰动足以危害HPE模型,突出显示当前系统的脆弱性.
