一百层光子深度学习
Tiankuang Zhou1,2, Yizhou Jiang1,2, Zhihao Xu1,2
1Department of Electronic Engineering, Tsinghua University, Beijing, China.
Nature communications
|November 24, 2025
概括
研究人员开发了一种新的单层光子计算 (SLiM) 芯片,可以克服光学神经网络中的错误积累. 这一突破使得先进的人工智能应用程序的数百个层的深度学习模型成为可能.
科学领域:
- 光子学和人工智能的人工智能
- 集成光子电路 集成光子电路
- 深度学习 硬件 硬件
背景情况:
- 由于错误积累,光子计算的模拟性限制了神经网络深度.
- 目前的光学神经网络仅限于大约十个层,阻碍了像大型语言模型 (LLM) 这样的高级AI功能.
- 光学系统中的传播冗余在很大程度上导致累积的错误.
研究的目的:
- 为了克服光学神经网络的深度限制.
- 为深度学习开发一个耐错误的光子计算芯片.
- 在模拟硬件上实现高能效的先进AI模型.
主要方法:
- 引入了芯片上的扰动来解计算相关性并消除传播冗余.
- 开发了一个单层光子计算 (SLiM) 芯片架构.
- 使用SLiM芯片进行实验,构建了包括LLM在内的深度神经网络.
主要成果:
- 该SLiM芯片展示了容错性,限制了超过200层的错误率.
- 扩展空间深度从毫米到百米尺度,促进3D芯片集群.
- 实现了与100层图像分类网络的理想模拟和10GHz数据速率的文本和图像生成的LLM相似的性能.
结论:
- 耐错误的SLiM芯片消除了光学神经网络的深度限制.
- 这一进步使得在高效的模拟计算硬件上实现最先进的深度学习模型.
- 为更强大,更节能的人工智能系统铺平了道路.
