芯片在循环中SNN代理学习:一种新方法,可以有效地训练尖端神经网络

科学领域:

• 人工智能的人工智能
• 神经科学是一个神经科学.
• 计算机工程 计算机工程

背景情况:

• 目前的尖端神经网络 (SNN) 训练方法,包括人工神经网络 (ANN) 转换和直接代用梯度训练,依赖于基于的计算.
• 这种基于框架的方法与SNN固有的异步,事件驱动的性质产生了不匹配,导致模拟器和硬件的性能显著下降.
• 这种退化阻碍了SNN在实时应用中的有效部署.

研究的目的:

• 提出并验证基于硬件的SNN代理学习方法,即Chip-In-Loop SNN代理学习 (CIL-SPL).
• 消除由同步训练方法和异步SNN硬件执行之间的差异引起的性能差距.
• 为了证明CIL-SPL在实时异步计算期间保持模型性能方面的有效性.

主要方法:

• 开发了一种新的基于硬件的方法,名为Chip-In-Loop SNN代理学习 (CIL-SPL).
• 在公共数据集上使用CIL-SPL训练SNN模型,包括N-MNIST.
• 在SNN模拟器和实际硬件芯片上评估训练模型以评估性能.

主要成果:

• CIL-SPL有效地减轻了在部署基于框架的训练SNN在异步硬件上时通常观察到的性能退化.
• 与经典训练方法相比,使用CIL-SPL训练的模型在SNN模拟器和硬件上表现相似或更好.
• 提出的方法成功地解决了同步-异步计算不匹配的问题.

结论:

• 芯片在循环SNN代理学习 (CIL-SPL) 为SNN部署中的性能降低问题提供了可行的解决方案.
• 这种硬件意识的培训方法使SNNs的实时异步计算更有效,更准确.
• CIL-SPL为在边缘计算和神经形态硬件应用中更有效地利用SNN铺平了道路.