一个光学神经网络的前进训练

科学领域:

• 光学是什么?光学是什么?光学是什么?
• 人工智能的人工智能
• 机器学习 机器学习

背景情况:

• 神经网络 (NN) 需要大量的计算资源,推动对更快,更节能硬件的需求.
• 光学平台为高效的NN硬件提供了潜力,但由于难以表征用于反向传播的物理系统,因此面临培训挑战.
• 前进算法 (FFA) 提出了一种新的训练方法,它绕过了对可微分物理系统表征的需求.

研究的目的:

• 为了证明前进算法 (FFA) 的可行性,用于使用物理光学系统训练光学神经网络 (NN).
• 探索利用NN架构中的物理转换来提高性能的潜力.
• 为了应对训练可编程光学NN层的挑战,而不依赖于传统的错误反向传播.

主要方法:

• 使用在光纤中使用多模非线性波传播的实验设置.
• 前进算法 (FFA) 应用于训练包含光学转换的多层NN架构.
• FFA的局部损失功能使权重更新无需反向传播错误信号,适用于模拟硬件.

主要成果:

• 成功证明了FFA用于训练光学NN系统的可行性.
• 在FFA训练的NN架构中整合光学转换导致了性能改进.
• 即使使用有限数量的可训练重量,也可以实现有效的训练,突出显示了算法的效率.

结论:

• 前进算法 (FFA) 为训练光学神经网络 (NN) 提供了一种可行和高效的方法.
• 这种方法克服了与训练物理NN硬件相关的关键局限性,特别是需要可差异化的模型.
• 该研究通过整合物理转换和新型训练算法,为开发低功耗,高性能光学NN硬件开辟了新的途径.