ARD-VAE: 変分オートエンコーダーの関連潜在次元を見つけるための統計的定式化

科学分野:

• 機械学習
• ディープラーニング
• 統計モデリング

背景:

• 変分オートエンコーダー（VAE）は、データ分布モデリングで人気のあるディープ潜在変数モデル（DLVM）です。
• VAEの最適化は、他のDLVMよりも管理しやすいです。
• 潜在次元サイズは、VAEの重要なハイパーパラメータであり、多くの場合経験的に決定されます。

研究 の 目的:

• データセット内の関連する潜在因子を発見するための統計的定式化を提案すること。
• VAE潜在次元を選択するための経験的な試行錯誤アプローチに対処すること。
• 変分オートエンコーダー（ARD-VAE）における自動関連性検出法を導入すること。

主な方法:

• VAEの潜在空間に階層的プライアを実装しました。
• 階層的プライアは、エンコードされたデータを使用して潜在軸の分散を推定します。
• VAE目的関数内の固定プライアを階層的プライアに置き換えました。

主要な成果:

• 提案されたARD-VAE法は、関連する潜在次元を効果的に特定します。
• 複数のベンチマークデータセットで実証された有効性。
• FIDスコアや分離可能性などの指標に対する特定された潜在次元の影響を分析しました。

結論:

• ARD-VAEは、VAE潜在空間の次元数を決定するための統計的に根拠のあるアプローチを提供します。
• この方法は、データセット内の説明因子を発見することを自動化します。
• ARD-VAEは、潜在表現を最適化することにより、VAEのパフォーマンスを向上させます。