临床AI决策支持的可审计和经源验证的框架:集成检索增强生成与数据来源

科学领域:

• 医疗信息学 医疗信息学
• 医疗保健中的人工智能
• 值得信赖的AI 值得信赖的AI

背景情况:

• 使用人工智能 (AI) 的临床决策支持 (CDS) 系统显示出潜力,但由于透明度和问责问题,其采用程度有限.
• 生成式和数据驱动型人工智能往往缺乏对其建议的明确解释,阻碍了临床信任和验证.
• 医疗保健中现有的AI正在努力证明其输出的证据基础.

研究的目的:

• 为可审计和经源验证的基于AI的临床决策支持提供一个概念框架.
• 提高人工智能驱动的医疗保健建议的透明度,可验证性和问责制.
• 改善临床医生对AI的信任和监管准备在临床环境中.

主要方法:

• 整合一个精心策划的医疗知识库与来源元数据.
• 使用搜索增强推理 (RAG) 引擎将建议与指南和同行评审来源联系起来.
• 实施一个明显改的审计记录机制,用于记录系统流程和证据.

主要成果:

• 这篇文章介绍了一个合成的系统设计,而不是一个新的算法或原型.
• 拟议的框架旨在通过将它们与可验证来源联系起来,提高人工智能建议的可追溯性.
• 它解决了包括知识治理,引用准确性,偏见,可用性,隐私和监管调整在内的关键挑战.

结论:

• 这个概念框架为开发可靠,可审计的AI临床决策支持提供了一条途径.
• 解决可行性挑战对于成功实施和验证至关重要.
• 为未来的经验验证,提出了包括模拟和用户研究在内的分阶段评估路线图.