TCJA-SNN:用于尖端神经网络的时间通道联合注意力
IEEE transactions on neural networks and learning systems
|April 10, 2024
概括
这项研究引入了一种新的时间通道联合注意力机制,用于尖端神经网络 (SNN). 新的TCJA-SNN框架提高了SNN在分类和图像生成任务中的性能.
科学领域:
- 人工智能的人工智能
- 计算神经科学是一种神经科学.
- 机器学习 机器学习
背景情况:
- 尖端神经网络 (SNN) 提供生物可信性,能源效率和强大的时空数据表示.
- 注意力机制对于提高神经网络性能至关重要.
- 将SNN与注意力机制集成,有望实现节能,高性能计算.
研究的目的:
- 为SNN (TCJA-SNN) 引入一种新的时间通道联合注意力机制.
- 增强SNN评估跨空间和时间维度的尖峰序列意义的能力.
- 将框架应用于高级分类和低级图像生成任务.
主要方法:
- 为SNN开发了一个时间通道联合注意力机制 (TCJA-SNN).
- 利用压缩操作和1D卷曲来进行独立的时间和通道特征提取.
- 引入了一个交叉卷积融合 (CCF) 层,以建模时间和通道维度之间的相互依赖.
主要成果:
- 在各种静态和神经形态数据集 (时尚-MNIST,CIFAR10,CIFAR100,CIFAR10-DVS,N-Caltech 101,DVS128手势) 上,TCJA-SNN显著超过了最先进的方法.
- 在图像生成任务的变量自编码器中成功应用TCJA-SNN.
- 在分类和图像生成方面都表现出卓越的性能.
结论:
- TCJA-SNN框架有效地将注意力机制集成到SNN中,以提高性能.
- 这项工作代表了SNN注意力机制对分类和生成任务的首次应用.
- 拟议的方法为节能和高性能人工智能提供了一个有前途的方向.
更多相关视频
05:19Using Neuron Spiking Activity to Trigger Closed-Loop Stimuli in Neurophysiological Experiments
Published on: November 12, 2019
7.0K
08:45Mapping Cortical Dynamics Using Simultaneous MEG/EEG and Anatomically-constrained Minimum-norm Estimates: an Auditory Attention Example
Published on: October 24, 2012
14.7K
