相关实验视频
Updated: Jun 2, 2026
13:19
Deep Neural Networks for Image-Based Dietary Assessment
Published on: March 13, 2021
9.0K
用最小的噪音攻击医疗图像:利用医疗深度学习系统中的漏洞
Wei Wang1,2,3, Moritz Wildgruber4, Yisong Wang1,2
1College of Computer Science and Technology, Guizhou University, Guiyang, China.
Quantitative imaging in medicine and surgery
|December 19, 2024
概括
这项研究引入了一种新的减少组差异进化 (DGDE) 方法,通过微小地改变医疗图像来创建对抗样本. 该DGDE方法成功地将图像错误分类,只有很少的像素修改,证明了其在损害深度神经网络完整性的有效性.
科学领域:
- 计算机科学 计算机科学
- 人工智能的人工智能
- 医疗成像医学成像
背景情况:
- 深度神经网络 (DNN) 容易受到对抗性攻击,在这种情况下,轻微的图像干扰会导致错误分类.
- 这些攻击对DNN的完整性构成重大风险,特别是在医学诊断等关键应用中.
研究的目的:
- 在医学图像中使用最小的像素修改来破坏DNN完整性的策略.
- 在严格的条件下开发和评估一种用于生成对抗性医学图像的新方法.
主要方法:
- 提出了减少组差异演变 (DGDE) 方法来生成对立图像.
- 将DGDE应用于胸部放射 (cxr),黑色细胞病变 (皮肤) 和糖尿病视网膜病变 (dr) 数据集.
- 在保持错误分类能力的同时,DGDE反复地减少了扰乱像素的数量.
主要成果:
- 通过最小的像素变化,DGDE实现了成功的攻击:11 (cxr),7 (derm) 和7 (dr).
- 修改的像素的平均百分比非常低:0.0598% (cxr),0.0359% (derm) 和0.0219% (dr).
- 该方法在生成与传统方法相比较少的像素修改的对抗样本方面表现出高效率.
结论:
- 该DGDE方法提供了一种有效的方法,以最小的像素扰动生成对抗样本.
- 通过使用可变的种群数量和新的策略,DGDE方法修改的像素比传统的差分演变 (DE) 少.
- 未来的研究将专注于了解和改进不同数据集的初始攻击的可变成功率.
