透明な医療AIのためのトークンレベルの属性

科学分野:

• 医療における人工知能
• 計算言語学
• ヘルスインフォマティクス

背景:

• 説明可能なAI（xAI）は、ヘルスケアAIにおける信頼性、安全性、およびコンプライアンスにとって重要です。
• 大規模言語モデル（LLM）は、その「ブラックボックス」の性質と高い計算コストのために課題を提示します。
• 小規模言語モデル（SLM）は、臨床アプリケーションに効率性、解釈可能性、およびプライバシーの利点を提供します。

研究 の 目的:

• 臨床意思決定支援のためのSLMにおける技術的なトレーサビリティのためのトークンレベル属性（TLA）手法を評価すること。
• 監査可能なヘルスケアAIのためのxAIを備えたSLMの使用の実現可能性を評価すること。
• SLMがAI説明可能性に関する規制要件を満たすことができるかどうかを判断すること。

主な方法:

• Qwen-2.5-1.5B SLMにCaptum 0.7属性ライブラリを適用しました。
• トークン生成への特徴の影響を分析するために、摂動ベースの統合勾配を使用しました。
• 消費者グレードのGPUを使用して、公開データセットからの20の乳がん症例でテストしました。

主要な成果:

• 属性ヒートマップは、臨床的に関連のある入力特徴を特定することに成功しました。
• 高い属性を持つトークンは、乳がん症例において期待される臨床的要因に対応していました。
• SLMは最小限のストレージしか必要とせず、クラウドインフラストラクチャなしでのローカル展開を可能にしました。

結論:

• 摂動ベースのxAI手法と組み合わせたSLMは、監査可能な臨床AIを達成できます。
• このアプローチは、実用的なハードウェア制約内で技術的な実現可能性を提供します。
• TLAから因果的な臨床推論への統計的関連性を橋渡しするには、さらなる研究が必要です。