随机异构的尖端神经网络用于对抗防御.
Jihang Wang1,2,3,4, Dongcheng Zhao1,3,4,5, Chengcheng Du1,6,3,4
1Brain-inspired Cognitive AI Lab, Institute of Automation, Chinese Academy of Sciences, Beijing, China.
iScience
|June 13, 2025
概括
随机异构尖端神经网络 (RandHet-SNN) 通过引入神经元多样性来增强对抗攻击的稳定性. 这种方法可以提高神经网络的安全性,而不会损害性能.
科学领域:
- 计算神经科学是一种神经科学.
- 人工智能的人工智能
- 机器学习安全 机器学习安全
背景情况:
- 尖端神经网络 (SNN) 模仿生物神经元,但容易受到敌对攻击,类似于人工神经网络 (ANN).
- 确保SNN的稳定性对于它们在现实应用中可靠部署至关重要.
研究的目的:
- 开发一种新的SNN架构,即随机异构尖端神经网络 (RandHet-SNN),以改善对抗对象的防御.
- 为了提高网络安全,利用生物神经系统的特征,如异质性和随机性.
主要方法:
- 通过结合随机时间衰变常数,在SNN中引入神经元水平的多样性.
- 在每次向前传递时,为每个神经元启用独特的时间性质.
- 评估了RandHet-SNN对各种对抗性攻击的性能.
主要成果:
- 兰德赫特-SNN显著提高了对抗敌对攻击的网络稳定性.
- 拟议的架构对网络的清洁精度的影响最小.
- 结果突出了神经元多样性在加强SNN安全方面的有效性.
结论:
- RandHet-SNN提供了一个有前途的解决方案,用于在不利条件下创建强大的和节能的SNN.
- 这项研究证实了生物启发异质性在提高AI安全方面的潜力.
