抵抗メモリのランダム枝刈りによるアナログAIの最適化

科学分野:

• 人工知能
• コンピュータ工学
• 材料科学

背景:

• AIモデルの成長はエネルギー需要を増加させており、効率的なコンピューティングの研究を促しています。
• 抵抗メモリを用いたアナログインメモリコンピューティングは、エネルギー節約ソリューションを提供しますが、プログラミングとデバイスの課題に直面しています。

研究 の 目的:

• 抵抗メモリニューラルネットワークのトレーニングのためのソフトウェア・ハードウェア共同設計を開発すること。
• アナログインメモリコンピューティングにおけるプログラミングの課題とデバイスの非理想性に対処すること。
• AIハードウェアのエネルギー効率と精度を向上させること。

主な方法:

• ランダム重みを持つ抵抗メモリニューラルネットワークのトレーニングのためのソフトウェア・ハードウェア共同設計アプローチを提案します。
• ネットワークアーキテクチャを調整するために、エッジ枝刈りトポロジ最適化を利用します。
• 抵抗メモリの電形成確率を利用してランダム重みを生成します。
• 40nm抵抗メモリチップに共同設計を実装します。

主要な成果:

• Fashion-MNISTで17.3%、Spoken Digitで19.9%の精度向上を達成しました。
• DRIVEで9.8%の精度-再現率AUC改善を確保しました。
• タスク全体でエネルギー消費量を最大99.7%削減しました。
• アナログメモリタイプ全体での適用可能性と、ResNet-50のような複雑なモデルへのスケーラビリティを実証しました。

結論:

• 提案されたソフトウェア・ハードウェア共同設計は、エネルギー効率の高い抵抗メモリニューラルネットワークを効果的にトレーニングします。
• このアプローチは、デバイスのばらつきに対する堅牢性を向上させ、プログラミングのオーバーヘッドを削減します。
• この方法は、低電力AIハードウェアとアナログコンピューティングを進歩させる上で大きな可能性を示しています。