一个通用的ANN-to-SNN框架,用于实现高精度和低延迟的深度尖端神经网络
Yuchen Wang1, Hanwen Liu1, Malu Zhang1
1School of Computer Science and Engineering, University of Electronic Science and Technology of China, Chengdu 610054, PR China.
概括
本研究介绍了DNISNM框架,用于将人工神经网络 (ANN) 转换为尖端神经网络 (SNN),显著减少转换错误. 这种新的方法提高了SNN的准确性和精度,而不改变原始ANN,在低延迟时实现高性能.
科学领域:
- 计算神经科学是一种神经科学.
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 尖端神经网络 (SNN) 提供了生物可信性,低功耗和神经形态硬件潜力.
- 将人工神经网络 (ANN) 转换为SNN是一种具有成本效益的SNN开发方法.
- 现有的ANN-to-SNN转换方法经常存在错误和缺乏通用性,需要对原始ANN进行修改.
研究的目的:
- 为ANN-SNN转换提供一个通用和有效的框架,尽量减少错误.
- 解决因网络传输中的离散性和异步性引起的转换不准确性.
- 为了提高转换后的SNN的准确性和性能,而不改变源 ANN.
主要方法:
- 开发了DNISNM框架,包括基于数据的神经元初始化 (DNI) 和带记忆的签名神经元 (SNM).
- DNI机制应对来自隐性差异的错误.
- SNM机制解决了来自异步差异的错误.
主要成果:
- DNISNM框架成功地将ANN转换为SNN,准确度提高.
- 在转换的SNN中实现了高精度和低推断延迟.
- 在CIFAR10,CIFAR100和ImageNet-1k等具有挑战性的数据集上表现出有效性.
结论:
- DNISNM框架为ANN-SNN转换提供了一个通用的解决方案,克服了以前方法的局限性.
- 该框架可以提高SNN的准确性和性能,而不会改变原来的ANN架构.
- DNISNM能够实现高精度,低延迟的SNN,适合对象识别等苛刻应用.
