STCA-SNN:基于自我注意的时间道联合注意力,用于尖端的神经网络

科学领域:

• 人工智能的人工智能
• 机器学习 机器学习
• 神经形态计算是一种神经形态计算.

背景情况:

• 尖端神经网络 (SNN) 在时空数据处理方面比传统的人工神经网络 (ANN) 有优势.
• 目前,显著的性能差距限制了SNN在实际应用中的广泛采用.
• 无线网络具有固有的事件驱动特性和时间动态,对于从事件流中提取特征至关重要.

研究的目的:

• 通过有效利用它们的时间处理能力来提高SNNs的性能.
• 为SNN引入一种新的注意力机制,同时分析时间和通道维度.
• 为了实现SNNs的端到端培训,以提高事件流分类的准确性.

主要方法:

• 开发基于自我注意的时间通道联合注意SNN (STCA-SNN).
• 实施自我注意机制,以建模跨时间和道信息的全球相关性.
• 在SNN架构中,在时间和通道维度上同时推断注意力重量.

主要成果:

• 在基准事件流数据集上,STCA-SNN实现了最先进的性能:N-MNIST (99.67%),CIFAR10-DVS (81.6%) 和N-Caltech 101 (80.88%).
• 与现有的SNN模型相比,拟议的STCA-SNN架构在事件流分类任务中表现出更高的准确性.
• 废除研究证实了联合时通道注意力机制在改善SNN性能方面的有效性.

结论:

• 拟议的STCA-SNN有效地解决了SNN和ANN在事件流处理中的性能差距.
• 联合时间通道关注是提高SNN特征提取能力的有希望的方法.
• STCA-SNN代表了神经形态计算在时空数据的实际应用方面取得的重大进展.