高レベル合成ベースのハードウェアジェネレータを使用したニューラルネットワークアクセラレータの正確なベンチマークのための方法論

科学分野:

• コンピュータ工学
• 人工知能ハードウェア

背景:

• ニューラルネットワークモデルは複雑さを増しており、特殊なハードウェアアクセラレータの需要が高まっています。
• 既存の評価指標（例：TOPS、TOPS/W）は、テクノロジーノードやワークロードのばらつきなどの外部要因により、公平な比較には不十分です。

研究 の 目的:

• ニューラルネットワークアクセラレータのベンチマークのための標準化された方法論を提案すること。
• 多様なアクセラレータアーキテクチャにわたる公平で直接的な比較を可能にすること。

主な方法:

• 高レベル合成（HLS）ベースのアクセラレータジェネレータであるVoyagerを開発しました。
• 計算規模とテクノロジーノードを一致させたベースラインアクセラレータを作成しました。
• 生成されたアクセラレータで同一のワークロードを実行し、比較分析を行いました。

主要な成果:

• Voyagerは、十分に最適化されたベースラインアクセラレータの作成を可能にします。
• この方法論は、アクセラレータアーキテクチャの体系的な評価を容易にします。
• ケーススタディでは、インメモリおよびスパース性を認識した設計を含む、さまざまなアクセラレータタイプにわたる効果的な比較が実証されました。

結論:

• Voyagerを使用した提案されたベンチマーク方法論は、ニューラルネットワークアクセラレータを評価するための堅牢なフレームワークを提供します。
• このアプローチにより、アーキテクチャの影響を分離でき、より意味のある分析と設計の洞察が得られます。