方向性特徴相互作用に基づくブラックボックスモデルの説明

科学分野:

• 機械学習
• 人工知能
• 説明可能なAI

背景:

• 機械学習モデルの使用が増加していますが、その「ブラックボックス」の性質は透明性を妨げます。
• 現在の С説明方法は、個々の特徴の重要性に焦点を当てた単変量であることがよくあります。

研究 の 目的:

• 単変量特徴説明をより高次の二変量アプローチに拡張すること。
• 特徴の相互作用を捉えることにより、ブラックボックスモデルの説明可能性を向上させること。

主な方法:

• 特徴の相互作用を方向性グラフとして表す二変量説明方法を開発しました。
• Shapley値の説明にこの方法を適用しました。
• グラフの方向性を分析して、影響力のある特徴と相互に交換可能な特徴グループを特定しました。

主要な成果:

• 方向性説明が特徴の相互作用を明らかにする能力を実証しました。
• 二変量法が最先端技術よりも優れていることを示しました。
• CIFAR10、IMDB、Census、Divorce、Drug、および遺伝子データを含む多様なデータセットで方法を検証しました。

結論:

• 二変量説明は、ブラックボックスモデルの動作に関する洞察を強化します。
• 方向性グラフ分析は、特徴の相互作用と重要性を効果的に特定します。
• このアプローチは、さまざまなドメインにわたるモデルの透明性と解釈可能性を大幅に向上させます。