走向全球神经网络抽象化,并进行本地精确的重建
Edoardo Manino1, Iury Bessa2, Lucas C Cordeiro1
1University of Manchester, Department of Computer Science, Oxford Road, Manchester M13 9PL, United Kingdom.
概括
我们介绍了全球间隔神经网络抽象与中心精确重建 (GINNACER),这是解释神经网络行为的一种新技术. 在整个输入域中,GINNACER提供了更紧密,更准确的安全界限.
科学领域:
- 人工智能的人工智能
- 机器学习 机器学习
- 神经网络分析 神经网络分析
背景情况:
- 神经网络是强大的非线性功能,但它们的黑盒性质阻碍了可解释性和安全认证.
- 现有的抽象技术提供了有限的精度,将其使用限制在小输入区域.
研究的目的:
- 为神经网络开发一种新的抽象技术,在全球范围内提供健全的超近似界限.
- 为了确保抽象域内的任何本地输入的确切重建.
主要方法:
- 建议使用中心精确重建 (GINNACER) 进行全球间隔神经网络抽象.
- 开发一种适用于整个输入域的声音超近似界限的方法.
- 纳入对本地输入的精确重建能力.
主要成果:
- 在整个输入域中,GINNACER 实现了合理的超近似界限.
- 该技术保证了针对特定本地输入的准确重建.
- 实验结果表明,GINNACER比现有的全球方法更紧密,并且与本地方法具有竞争力.
结论:
- GINNACER显著提高了全球神经网络抽象的精度.
- 这种技术提高了神经网络的可解释性和安全认证.
- GINNACER提供了一种更有效的解决方案,用于分析神经网络在整个输入空间上的行为.
