一个基于INN的抽象方法,用于大规模的神经网络验证

科学领域:

• 人工智能的人工智能
• 计算机科学 计算机科学
• 软件工程 软件工程 软件工程

背景情况:

• 神经网络 (NN) 越来越多地用于关键应用,需要强大的验证方法.
• 可扩展性仍然是验证大规模NNs的一个重大挑战.
• 现有的验证方法与实际神经网络的计算需求作斗争.

研究的目的:

• 介绍INNAbstract,一种抽象神经网络的方法,以提高验证可扩展性.
• 开发一种方法,减少NN大小,同时确保过度近似进行准确的分析.
• 支持神经网络内的多种激活功能.

主要方法:

• INNAbstract将神经元合并,创建一个较小的抽象模型,过度接近原来的NN.
• 启发式用于节点选择,以提高抽象模型的精度.
• 该方法旨在与各种激活功能兼容.

主要成果:

• 拟议的INNAbstract方法显著提高了NN验证和可访问性分析的可扩展性.
• 实验结果表明,与现有的抽象技术相比,INNAbstract的效率更高.
• INNAbstract可以将验证工具应用于更大的神经网络.

结论:

• INNAbstract有效地解决了神经网络验证中的可扩展性限制.
• 该方法为分析复杂的人工智能系统提供了实用解决方案.
• INNAbstract促进了具有多种激活功能的NN的验证,提高了它们在安全关键领域的可靠性.