医学における説明可能なAI: XAIを将来の臨床日常に統合する課題

科学分野:

• 医療における人工知能
• 臨床的意思決定支援システム
• 人とコンピュータの相互作用

背景:

• 現在の説明可能なAI (XAI) 方法は,医療実践に効果的に統合するために必要な柔軟性と臨床医中心性が欠けている.
• 既存のXAIのアプローチは,AIの予測を理解するための医療従事者の微妙なニーズに適切に対応していません.
• 医学における透明で解釈可能な AIの需要は増えていますが 実践的な解決策はまだ見つかっていません

研究 の 目的:

• 将来の医療環境に高度なXAIを統合するための概念的ロードマップを提案する.
• 臨床医に適したXAIシステムを開発するための要望事項を概説する.
• AIが臨床環境で協力的な参加者として行動するための課題と要件を探る.

主な方法:

• 想像上の脳卒中治療シナリオに基づいた概念的枠組みの開発
• 先進的なXAIの3つの要点を特定し,定義する. 文脈/ユーザー依存性,真の対話,社会的能力.
• 医学XAI,臨床実践,哲学的な概念を統合した学際的なアプローチ.

主要な成果:

• 医学XAIの3つのエスカレートする要件:文脈/ユーザー固有の説明,AIと人間の対話,およびAIのソーシャルインテリジェンス.
• 脳卒中のシナリオを用いて臨床ワークフローの中でこれらの課題の出現を図解した.
• 医療AIの文脈で"真の対話"や"社会的能力"のようなキーコンセプトを定義しました.

結論:

• 未来の医療AIには 現在のXAIの能力を超えた 洗練された説明能力が必要です
• 効果的な臨床AI統合を達成するには,文脈に配慮したやり取り,真の対話,社会的な理解を可能にするAIシステムが必要です.
• 提案されたロードマップは,複雑な医療意思決定における協力パートナーとしての将来のXAIシステムの開発を指針としています.