在医疗图像分类的联合学习中进行最小数据中毒攻击:攻击者的视角

科学领域:

• 医学成像分析分析 医学成像分析
• 机器学习安全性 机器学习安全性
• 协作数据建模协作数据建模

背景情况:

• 联合学习 (FL) 能够在机构之间进行深度神经网络的协作培训,而无需共享敏感的患者数据,解决数据稀缺和分布挑战.
• 由于FL的分布和不透明性质,它容易受到数据中毒攻击的攻击,这些攻击旨在损害模型完整性.
• 现有的数据中毒攻击往往忽略了诸如攻击预算和可见性等关键因素,这对于现实世界的敌人战略至关重要.

研究的目的:

• 为医疗图像进行联合学习开发数据中毒攻击,以平衡高影响,低攻击预算和低可见性.
• 解决医疗成像中数据中毒的独特挑战,因为它与自然图像相比具有主观性.

主要方法:

• 建议联合学习注意力引导最小攻击 (FL-AGMA) 使用类注意力地图进行有针对性的图像干扰.
• 引入图像扭曲度 (IDD) 来量化攻击预算和反机制来控制攻击的可见性.
• 通过根据实时攻击可见性进行适应性调整IDD来优化攻击预算.

主要成果:

• 在三个大型医疗数据集 (Covid-chestxray,Camelyon17,HAM10000) 上,FL-AGMA实现了测试准确度的44.49%降低.
• 与其他方法相比,该攻击以显著较低的攻击预算 (24%的IDD) 和降低的可见性证明了有效性.
• 提出的方法成功地平衡了攻击影响,预算和可见性,用于医学图像分类的联合学习.

结论:

• FL-AGMA攻击为针对医疗成像中的联合学习的对手提供了一种新且有效的战略.
• 考虑攻击预算和可见性对于现实和有影响力的数据中毒攻击在现实世界中至关重要.
• 开发的方法在理解和减轻协作医疗AI的安全漏洞方面取得了重大进展.