医用画像における説明可能なAI機能の体系的な評価のためのフレームワークの評価

科学分野:

• 医用画像
• 人工知能
• 説明可能なAI

背景:

• AIデバイスにおける説明可能性機能は、内部メカニズムへの洞察を提供します。
• 現在、特に医用画像分野において、AI説明の評価技術は不足しています。
• ヘルスケアにおけるAI生成説明の質を評価するための堅 robust な方法論が必要です。

研究 の 目的:

• 医用画像における説明可能なAI（XAI）機能の評価と報告のための包括的なフレームワークを提案すること。
• 医療機器におけるAIによる説明の質を評価するための定量可能な基準を確立すること。
• AIデバイスに付随する医用画像におけるXAIメソッドのスコアカードを開発すること。

主な方法:

• 一貫性、妥当性、忠実性、および有用性の4つの基準に基づいた評価フレームワークを開発しました。
• 一貫性を、類似の入力に対する説明のばらつきとして定義しました。
• 妥当性を、説明とグラウンドトゥルースとの近さ、忠実性を、モデルメカニズムとの整合性、および有用性を、タスクパフォーマンスへの影響として定義しました。

主要な成果:

• このフレームワークは、医用画像におけるAI説明の質を評価するための定量的な方法を提供します。
• XAIメソッドの完全な説明と評価のためのスコアカードが開発されました。
• 乳房病変検出のためのヒートマップ評価を例示するアブレーションCAMおよび固有CAMを使用したケーススタディ。

結論:

• 提案されたフレームワークは、医療AIデバイスからの説明の質を定量化するための基準を確立します。
• この研究は、医用画像におけるXAIの評価技術の欠如に対処します。
• 開発されたスコアカードと基準は、臨床アプリケーションにおけるAIの説明可能性の徹底的な評価を容易にします。