臨床AIの意思決定支援のための監査可能でソース検証可能なフレームワーク:データ由来とリトリーバルの拡張生成を統合する

科学分野:

• 医療情報工学 医療情報工学
• 医療における人工知能
• 信頼できるAI 信頼できるAI

背景:

• 人工知能 (AI) を利用した臨床的意思決定支援 (CDS) システムは,潜在的な可能性を示しているが,透明性や説明責任の懸念のために,採用は限られている.
• 生成型およびデータ駆動型AIには,その推奨に対する明確な説明が欠けており,臨床的信頼と検証を妨げています.
• 医療における既存のAIは,その出力の証拠的根拠を示すのに苦労しています.

研究 の 目的:

• 監査可能かつソース検証可能なAIベースの臨床意思決定支援のための概念的枠組みを提示する.
• 人工知能主導の医療勧告の透明性,検証性,説明責任を強化する.
• 臨床環境におけるAIに対する臨床医の信頼と規制の準備を向上させる.

主な方法:

• キュレーションされた医療知識ベースと由来メタデータの統合.
• 検索強化推論 (RAG) エンジンを利用して,勧告をガイドラインとピアレビューされた情報源にリンクする.
• システムプロセスと証拠を記録するための改ざん証拠監査ログメカニズムの実装.

主要な成果:

• この記事は,新しいアルゴリズムやプロトタイプではなく,合成されたシステム設計を提示しています.
• 提案された枠組みは,AIの勧告を検証可能な情報源とリンクすることにより,その追跡性を改善することを目的としています.
• 知識のガバナンス,引用の忠実さ,バイアス,使いやすさ,プライバシー,規制の整合など,主要な課題に取り組んでいます.

結論:

• 概念的枠組みは,信頼できる,監査可能なAIの臨床的意思決定支援を開発するための経路を提供します.
• 実現可能性の課題に取り組むことは,成功する実装と検証に不可欠です.
• 将来の経験的検証のために,シミュレーションとユーザー研究を含む段階的な評価ロードマップが提案されています.