精度和效率的平衡:混合量子化和统一计算架构的共同设计,用于尖端神经网络

科学领域:

• 人工智能的人工智能
• 计算机架构 计算机架构
• 神经形态工程的神经形态工程

背景情况:

• 尖端神经网络 (SNN) 由于算法与硬件不匹配,在资源受限的边缘设备上部署时面临挑战.
• 在SNN中,积极的量化会导致准确性降低,而传统的硬件设计会导致资源冗余.

研究的目的:

• 开发一种新的算法-硬件联合设计框架,以解决边缘设备上SNN部署的局限性.
• 通过统一量子化和硬件架构,实现高效准确的SNN计算.

主要方法:

• 引入了一个Ternary-8位混合重量量化 (T8HWQ) 方案,将第一层重量量化为2位,随后的层量化为8位.
• 开发了一个通道智能双补偿策略,使用自适应值神经元来减轻量子化导致的准确性损失.
• 提出了一种统一的计算架构,以实现高效的处理数组复杂化.

主要成果:

• 在CIFAR-100上以单个时间步骤实现了几乎无损的准确性 (<0.7%的降解),与最先进的低位SNNs相比.
• 与脱架构相比,Xilinx Virtex 7平台上的查找表 (LUT) 资源节省了20.2%.
• 与现有的SNN加速器相比,实现了6倍的吞吐量改善,并降低了功耗.

结论:

• T8HWQ方案和统一架构有效地弥合了边缘设备上的SNN的算法硬件差距.
• 拟议的框架允许高性能,低延迟的SNN实现,具有显著的资源和功率效率.
• 这项工作促进了SNN在资源有限的环境中的实际应用.