零射击时间分辨率域适应用于尖端神经网络

科学领域:

• 人工智能的人工智能
• 计算神经科学是一种神经科学.
• 机器学习 机器学习

背景情况:

• 尖端神经网络 (SNN) 为神经形态硬件上的时间数据处理提供能源效率和低延迟.
• 当训练和部署数据的时间分辨率不匹配时,特别是在没有微调能力的情况下,SNN的性能会显著下降.
• 现有的适应方法,如时间常数缩放,往往不足以解决分辨率不匹配的问题.

研究的目的:

• 开发SNN的新领域适应技术,以解决时间分辨差异.
• 为了使SNN参数适应,而不需要对目标分辨率数据进行重新训练.
• 为在不同的时间数据分辨率上部署SNNs提供强大的解决方案.

主要方法:

• 提出了三种基于SNN神经元动态和状态空间模型 (SSM) 之间的映射的新领域适应方法.
• 将方法应用于一般的神经元模型,证明了广泛的适用性.
• 在时空数据集上评估性能:音频关键字发现 (SHD,MSWC) 和神经形态图像识别 (NMINST).

主要成果:

• 提出的方法显著优于仅仅缩放时间常数的参考方法.
• 实现了实质性的准确性改进:例如,在SHD上89.5%与53.0%相比,在目标分辨率是源的两倍时,在MSWC上93.6%与38.8%相比.
• 通过对较低时间分辨率数据进行有效培训,可以证明对高时间分辨率数据的高精度是可以实现的.

结论:

• 基于SSM的新型域调整方法有效地解决了SNN中的时间解析不匹配问题.
• 这些方法为现有技术提供了优质的替代方案,使SNN能够在各种时间分辨率上进行稳健的部署.
• 在较低的时间分辨率上进行高效的训练可以在更高的时间分辨率任务上获得高精度,从而减少计算负担.