ディープニューラルネットワークと対抗性強度を使用してfMRI解読の解釈性を向上させる

科学分野:

• 神経科学
• 機械学習
• データサイエンス

背景:

• ディープニューラルネットワーク (DNN) は,複雑で高次元のデータを分析するための強力なツールですが,解釈能力の欠如のために"ブラックボックス"と見なされます.
• どの入力機能がDNNの予測を促すのかを理解することは,認知神経科学と神経情報学の応用にとって極めて重要です.
• 突起マップは,入力機能の重要性を視覚化するために一般的に使用されますが,既存の方法は信頼性が低く,ノイズに敏感で,評価が困難です.

研究 の 目的:

• グラデーションベースのDNNの顕著な地図方法を見直す.
• 入力ノイズに対するDNNの強度を増やし,解釈性を向上させるための新しい対抗訓練方法を導入する.
• 神経画像データにおける有力性マップの解釈性に関する定量評価手順を提案し,検証する.

主な方法:

• グラデーションベースの有数の地図技術のレビュー
• 騒音に耐えるDNNのための対抗的なトレーニングアプローチの開発
• 人体コネクトームプロジェクト (HCP) の合成データと機能磁気共鳴画像 (fMRI) データでテストされた2つの量的な評価手順の導入.

主要な成果:

• 異なる方法によって生成された Saliency マップは,解釈の有意な変動を示します.
• 比較可能な解読性能にもかかわらず,DNNから派生した Saliency マップは,線形モデルから派生したマップよりも高い解釈性を示した.
• 提案された対抗的なトレーニング方法は,解釈性において代替方法を上回る顕著な地図をもたらしました.

結論:

• 卓越度マップの解釈は,異なる方法とモデルタイプによって大きく異なります.
• アドバサリアルトレーニングは,神経画像におけるDNNの解釈性を高めるための有望なアプローチです.
• 開発された評価手順は,解読のタスクにおけるサライエンシーマップの品質を評価するための堅固な枠組みを提供します.