在医学图像分类中对可解释深度学习的双重对抗性攻击

科学领域:

• 医疗成像医学成像
• 人工智能的人工智能
• 计算机视觉 计算机视觉

背景情况:

• 可解释的深度学习 (XDL) 提高了临床医生对医学图像分类的信心.
• XDL模型容易受到影响预测和解释的对抗性扰动的影响.
• 现有的攻击单独针对预测或解释,而不是它们的合漏洞.

研究的目的:

• 提出双重对抗性攻击,同时针对预测和解释.
• 引入一种新的评估指标,即攻击成功率 (ASR),用于联合评估.
• 解决XDL在医学成像中的被忽视的合漏洞.

主要方法:

• 开发一个双重对抗性攻击框架,使用位置和Top-k攻击策略.
• 在L-无限约束下利用代梯度基础的优化,以对不可察觉的干扰进行优化.
• 使用ASR量化有效性,测量错误分类和解释扭曲.

主要成果:

• 双重攻击在各种医学成像数据集 (胸部X射线,基底镜,皮肤镜) 中始终实现高ASR.
• 在操纵预测和解释方面展示可靠的有效性和广泛的适用性.
• 实验涉及ResNet50,DenseNet121和EfficientNet-V2模型,其中包括集成梯度,GradCAM和ScoreCAM.

结论:

• 医学成像中的XDL系统表现出预测和解释的脆弱性.
• 不易察觉的干扰可以同时降低分类准确性和解释可靠性.
• 强调迫切需要防御,以保护临床应用中的准确性和可解释性.