フォトニック・ニューラル・ネットワークにおけるディープ・ラーニングのための実験的に実現されたイン・シットー・バックプロパガンダ
Sunil Pai1, Zhanghao Sun1, Tyler W Hughes2
1Department of Electrical Engineering, Stanford University, Stanford, CA 94305, USA.
Science (New York, N.Y.)
|April 27, 2023
まとめ
研究者は機械学習のための エネルギー効率の良い光子ニューラルネットワークを開発しました この新しいアプローチは,in situ 逆伝播を用いて,デジタル方法と比較して高い精度を達成します.
科学分野:
- 統合フォトニクス
- 機械学習
- 人工知能のハードウェア
背景:
- フォトニックニューラルネットワーク (PNN) は,機械学習のためのエネルギー効率の高い計算を提供します.
- 従来のニューラルネットワークは 電子部品に依存し 速度と効率を制限しています
- マッハ・ゼンダー干渉計 (MZI) 網はPNNの重要な構成要素である.
研究 の 目的:
- シリコン光子ニューラルネットワークの訓練のための"in situ 逆伝播"を実験的に実証し,検証する.
- 分類作業における光子ニューラルネットワークの性能を評価する.
- 光学機械学習のスケーラビリティとエネルギー効率を分析する.
主な方法:
- 3層の4ポートのシリコン光子ニューラルネットワークの実験訓練
- プログラム可能なフェーズシフターと光学パワーモニタリングを使用します.
- グラデントを測定するために,前後に広がる光を干渉することによって"in situ backpropagation"を実装する.
- MNIST画像認識でより大きな64ポートネットワークをシミュレートします.
主要な成果:
- 光子ニューラルネットワークは,デジタルシミュレーションに匹敵する高いテスト精度 (94%) を達成しました.
- フェーズシフター電圧の逆転グラデントの測定が成功しました.
- フォトニックハードウェアでのMNIST認識のような複雑なタスクの訓練の実現可能性を示した.
- エネルギースケーリング分析は 拡張可能な機械学習への道を示唆しています
結論:
- 現地での逆伝播は,光子ニューラルネットワークを訓練するための実行可能で効果的な方法です.
- シリコンフォトニックニューラルネットワークは エネルギー効率の良い高性能な機械学習に 大きな希望を示しています
- 開発された技術は,スケーラブルで実用的な光子コンピューティングアプリケーションの道を開きます.
関連する概念動画
01:23Propagation of Action Potentials
6.1K
The propagation of an action potential refers to the process by which a nerve impulse, or "action potential," travels along a neuron.
Neurons (nerve cells) have a resting membrane potential, with a slightly negative charge inside compared to outside. This is maintained by ion channels, such as sodium (Na+) and potassium (K+) channels, which control the flow of ions. When a stimulus, like a touch or a signal from another neuron, triggers the neuron, sodium channels open, allowing sodium ions to...
Neurons (nerve cells) have a resting membrane potential, with a slightly negative charge inside compared to outside. This is maintained by ion channels, such as sodium (Na+) and potassium (K+) channels, which control the flow of ions. When a stimulus, like a touch or a signal from another neuron, triggers the neuron, sodium channels open, allowing sodium ions to...
6.1K
01:25Neural Circuits
1.3K
Neural circuits and neuronal pools are two of the main structures found in the nervous system. Neural circuits are networks of neurons that work together to carry out a specific task or process. They consist of interconnected neurons and glial cells, which provide structural and metabolic support.
Neuronal pools are collections of nerve cells with similar functions and interact through chemical and electrical signals. These pools include both interneurons (the central neural circuit nodes that...
Neuronal pools are collections of nerve cells with similar functions and interact through chemical and electrical signals. These pools include both interneurons (the central neural circuit nodes that...
1.3K