在量子化和修剪的RRAM横杆阵列上实现超低功耗神经网络
Hyoseob Kim1, Kyungho Hong2, Sungjoon Kim3
1Department of Intelligent Semiconductor Engineering, Chung-Ang University, Seoul, Republic of Korea.
Materials horizons
|July 7, 2025
概括
超低功率尖端神经网络 (SNN) 的推断是在电阻随机存储器 (RRAM) 交叉阵列上实现的. 网络轻量化技术显著降低了图像推断操作的功耗.
科学领域:
- 材料科学 材料科学 材料科学
- 计算机工程 计算机工程
- 人工智能的人工智能
背景情况:
- 尖端神经网络 (SNN) 提供了节能AI的潜力.
- 电阻随机访问存储器 (RRAM) 是神经形态计算的一个有前途的非易失性存储器技术.
- 在RRAM硬件上实现超低功耗SNN推断仍然是一个重大挑战.
研究的目的:
- 为了在制造的RRAM交叉杆阵列上演示超低功率SNN推断.
- 使用精确的数组级模型预测SNN推理的平均功耗.
- 评估网络轻量化技术对电力效率的影响.
主要方法:
- 制造一个24 × 24非丝状HT-RRAM横杆阵列.
- 将网络轻量化技术 (量化和修剪) 应用于SNN重量.
- 开发和利用一个紧的HT-RRAM模型用于数组级仿真.
- 量化和修剪重量的实验转移到RRAM阵列和模拟中.
主要成果:
- 成功的重量转移 (>94%) 在制造的阵列和模拟模型上都有很小的误差幅度 (2nS).
- 高度一致的SNN推断输出电流超过25个时间步骤.
- 预计MNIST图像推断的功耗为243nW (仅量子化) 和222nW (量子化和修剪).
结论:
- 超低功率的SNN推断在RRAM交叉阵列上是可行的.
- 网络轻量化技术有效地减少了RRAM上的SNN的功耗.
- 开发的数组级模型为神经形态硬件提供了准确的功耗预测.
