模拟纳米光子计算在实践中:光子深度学习引擎用于以动态精度进行瓦式光学矩阵乘法
George Giamougiannis1, Apostolos Tsakyridis1, Miltiadis Moralis-Pegios1
1Department of Informatics, Center for Interdisciplinary Research & Innovation, Aristotle University of Thessaloniki, Thessaloniki, Greece.
Nanophotonics (Berlin, Germany)
|December 5, 2024
概括
本研究引入了一种使用光子处理器的新型动态精密神经网络 (NN) 推断方法. 这种方法可以将深度神经网络 (DNN) 的计算速度加快55%,而不会牺牲准确性.
科学领域:
- 光子学 是一个光子学.
- 人工智能的人工智能
- 计算机工程 计算机工程
背景情况:
- 模拟光子计算为深度神经网络 (DNN) 提供高带宽和低功耗.
- 硬件尺寸和组件位精度的限制使光子处理器无法超过数字处理器.
- 现有的光子解决方案在实现高速,高精度的DNN推断方面面临挑战.
研究的目的:
- 提出和演示一个速度优化的动态精度神经网络 (NN) 推断系统.
- 开发一种理论模型,将光子神经元噪声与位精度要求联系起来.
- 在使用矩阵乘法 (TMM) 的光子处理器上加速DNN推断.
主要方法:
- 在光子处理器上进行动态精度NN推理的实验演示.
- 实现矩阵乘法 (TMM) 用于高达50 GHz的光学计算.
- 应用一个理论模型来确定层特定的比特精度要求.
- 混合精度推理方案调整每个神经层的操作计算速率.
主要成果:
- 与固定精度方法相比,线性运算的执行时间减少了55%.
- 在连贯光子神经元上成功证明了动态精度NN推理.
- 该系统保持了IRIS数据集的分类准确性.
- 建立了一个理论模型,以比特精度将噪声数字关联起来.
结论:
- 在光子处理器上的动态精度NN推理显著加快了DNN计算的速度.
- 提出的方法克服了固定精度光子硬件的局限性.
- 这种方法可以使用模拟光子计算实现高精度,高速的AI加速.
