ポストホック説明を超えて:透明性,解釈性,説明性を通じて,医療画像における責任あるAIのための包括的な枠組み

科学分野:

• 医療用イメージング
• 人工知能
• 説明可能なAI

背景:

• 医学イメージングのディープラーニングは診断の進歩をもたらしますが",ブラックボックス"の性質のため,臨床採用の障壁に直面しています.
• 現在の説明可能なAI (XAI) 方法は,しばしばポストホック説明を提供し,AIモデルの信頼を誤って表現し,臨床決定に影響を与える可能性があります.

研究 の 目的:

• 医療イメージング方法における XAI 方法の信頼性,安定性,性能のトレードオフを体系的にレビューし,メタ分析する.
• 放射線学,病理学,眼科におけるXAIの安定性に対する騒音による影響の評価.
• 信頼性の高いAIを臨床環境で開発・展開するための説明責任の枠組みを提案する.

主な方法:

• 23の放射線学,19の病理学,そして25の眼科の応用でXAIを評価した67の研究の体系的なレビューとメタ分析.
• LIME,SHAP,Grad-CAMの精度を比較するために特定された847の研究を分析した.
• 異なる医療イメージング方式で騒音によるXAIの安定性の評価.

主要な成果:

• LIMEは,SHAP (0. 38),Grad- CAM (0. 54) と比較して,すべての方法において優越した精度を示した.
• 後期的な説明では,騒音下での安定性が低下し,眼科ではSHAPが53%低下し,放射線では11%低下した.
• 解釈可能なモデルでは,モダリティ特有の安定性パターンが観察され,一貫して5-7%のAUC性能ペナルティが発生しました.

結論:

• モダリティ特有の安定性パターンのために,XAIに合わせたアプローチは不可欠です.
• 3つの柱からなる説明責任の枠組みが提案され,透明性,解釈可能な設計,不確実性の定量化による後期説明の慎重な展開が強調されています.
• この枠組みは,真に説明責任のあるAIシステムを育成することによって,臨床意思決定の質と患者の安全を向上させることを目的としています.