通过使用轨迹异常检测方法在联合在线学习中识别交替中毒攻击
Zhiying Ding1, Wenshuo Wang1, Xu Li1
1School of Computer and Control Engineering, Yantai University, Yantai, 264005, China.
Scientific reports
|August 31, 2024
概括
在联合学习中隐含的模型中毒是很难检测的. 本研究介绍了一种使用轨迹异常检测来有效识别恶意客户端的隐私保护方法,实现高精度.
科学领域:
- 机器学习 机器学习
- 网络安全 网络安全
- 数据科学数据科学数据科学
背景情况:
- 联合学习 (FL) 面临隐性中毒攻击,恶意节点微妙地改变梯度.
- 现有的检测方法,依赖于时间分析或离线处理,往往是无效或延迟.
- 隐蔽攻击可以绕过常见的在线检测技术,如同位数相似性和聚类.
研究的目的:
- 调查在联合学习中检测隐性中毒的挑战.
- 开发一种新的,保护隐私的算法,用于识别FL系统中的恶意客户端.
- 加强联合学习模型的安全性和完整性,防止微妙的操纵.
主要方法:
- 重计算梯度更新以揭示不同的恶意客户端特征.
- 设计基于轨迹异常检测的隐私保护检测算法.
- 使用矩阵的奇数值作为特征,并改进了隔离森林用于异常检测.
主要成果:
- 拟议的方法在基准数据集 (MNIST,FashionMNIST,CIFAR-10) 上实现了94.3%的检测准确度.
- 假阳性率保持在1.2%以下,显示出高精度.
- 该算法有效地识别了暗示模型中毒攻击的恶意行为.
结论:
- 时间分析本身不足以检测FL中复杂的隐性中毒攻击.
- 重计算梯度更新提供了一种可行的方法来发现恶意活动.
- 开发的保护隐私的轨迹异常检测方法对于确保联合学习是准确和有效的.


