实现高精度和低延迟的尖端神经网络,采用双阶段优化

科学领域:

• 人工智能的人工智能
• 计算神经科学是一种神经科学.

背景情况:

• 尖端神经网络 (SNN) 通过稀疏计算提供能源效率.
• 人工神经网络 (ANN) -SNN转换是深度SNN实现的一个流行的方法.
• 现有的转换方法遭受准确性损失,特别是有限的时间步骤,阻碍边缘设备应用.

研究的目的:

• 为了解决ANN-SNN转换中的精度下降.
• 为了提高SNN在延迟敏感边缘设备上的性能.

主要方法:

• 识别的性能降低来源:对残留膜潜力的误解.
• 分解转换错误成量化,剪切和残余潜力表示错误.
• 提出了一种两阶段的转换算法来最大限度地减少这些错误.

主要成果:

• 两个阶段的算法显著降低了转换错误.
• 在CIFAR-10,CIFAR-100和ImageNet数据集上在精度,延迟和能源效率方面实现了最先进的性能.
• 在超低延迟下,在对象检测回归性能方面取得了显著的收益.

结论:

• 拟议的转换方法有效地提高了SNN的准确性和效率.
• 这种方法使SNNs在资源受限制的边缘计算中能够得到更广泛的应用.
• 该算法显示出对实时,低功耗AI任务的承诺.