概括
本研究介绍了光学神经网络 (ONN) 的现场前稀疏培训 (IFST) 框架. IFST使用光学计算实现了高效,大规模的ONN培训,大大提高了能源效率.
科学领域:
- 光电学是指光电子产品.
- 人工智能的人工智能
- 计算机工程 计算机工程
背景情况:
- 不断增长的神经网络模型需要节能硬件.
- 光学神经网络 (ONN) 提供并行性和低能耗,但面临培训挑战.
- 目前的ONN培训依赖于能源密集型电子平台,否定光学优势.
研究的目的:
- 为大规模光学神经网络 (ONN) 开发一个新的培训框架.
- 通过最大限度地利用光学计算来提高ONN培训的能源效率.
- 为了使ONN能够有效地扩展复杂任务的ONN.
主要方法:
- 为 ONNs 引入了一个现场预先稀疏培训 (IFST) 框架.
- 利用光学前推断进行平行梯度计算,最大限度地减少电子依赖.
- 通过参数激活面罩和动态梯度修剪,将光学平行与稀疏性结合起来.
主要成果:
- 在ONN培训期间,在光学操作方面取得了显著的增长.
- 在图像分类和细分方面表现出与反向传播相似的性能.
- 在训练大规模衍射ONN时显著提高能源效率.
- 经过IFST培训的ONN在动态环境中得到验证的强大性能.
结论:
- 通过光学执行大多数计算,IFST有效地优化大规模的ONN.
- 该框架提高了能源效率并保持了性能,促进了ONN的可扩展性.
- 经过IFST培训的ONN在动态的运营条件下表现出弹性.
