在乳腺癌中对抗性攻击和防御 深度学习系统

科学领域:

• 人工智能在医学中的应用
• 医学图像分析 医学图像分析
• 计算病理学计算病理学

背景情况:

• 深度学习显著提高了医疗诊断,特别是乳腺癌病理图像,提高了准确性和效率.
• 然而,现有的深度学习模型容易受到对抗性攻击,对关键医疗应用构成安全风险.
• 深度学习系统的漏洞可能导致乳腺癌病理图像的错误分类,影响患者的护理.

研究的目的:

• 调查乳腺癌病理学图像识别中使用的深度学习模型对对抗性攻击的脆弱性.
• 开发和评估一个强大的深度学习系统,并增强对此类攻击的防御机制.
• 提高AI驱动的医疗成像诊断工具的安全性和可靠性.

主要方法:

• 利用快速渐变信号方法 (FGSM) 的对抗性攻击算法来测试乳腺癌深度学习系统的易感性.
• 开发了一种新的深度学习系统,专门用于乳腺癌病理学图像识别,并改进了安全功能.
• 评估了新系统对抗敌对干扰的防御性能.

主要成果:

• 证明当前用于乳腺癌病理学图像分析的深度学习系统容易受到FGSM的对抗性攻击,导致错误分类.
• 新开发的深度学习系统与现有模型相比,在对抗攻击时表现出优越的防御性能.
• 改进后的系统在被攻击的情况下也能保持高准确度对乳腺癌病理图像进行分类.

结论:

• 医疗图像诊断的深度学习模型需要强大的安全措施来防止对手操纵.
• 开发的深度学习系统为乳腺癌病理学图像识别提供了更安全和可靠的方法.
• 提高医疗深度学习系统的安全性对于其安全有效的临床部署至关重要.