临床推理的人工智能:可靠性挑战和走向基于证据的实践之路

科学领域:

• 医疗信息学 医疗信息学
• 医疗保健中的人工智能
• 临床决策支持 临床决策支持

背景情况:

• 生成型人工智能 (AI),特别是大型语言模型 (LLM),有可能改变临床推理.
• 目前的LLM证明了像通过医学考试这样的能力,但在复制人类决策时面临着"可靠性挑战".
• 局限性包括模仿推理而不是真正的逻辑,使用过时或非区域数据,影响临床相关性.

研究的目的:

• 解决AI在临床推理中的可靠性挑战.
• 提出一个协同模式,将医生专业知识与先进的人工智能相结合.
• 在医疗实践中概述可靠人工智能的要求.

主要方法:

• 在临床环境中对AI能力和局限性的概念分析.
• 倡导向透明和可解释的人工智能的范式转变.
• 识别必要的AI系统属性:实时数据集成,上下文特异性和可解释的架构.

主要成果:

• 虽然LLM可以达到高诊断准确度,但缺乏真正的逻辑推理.
• 当前的人工智能模型通常依赖于不是当前或本地相关的数据.
• 可解释的AI架构,如多步推理或知识图,对于透明度至关重要.

结论:

• 可靠的临床推理人工智能需要技术进步和人类监督的混合.
• 人工智能系统必须整合实时,特定环境的证据,并与当地的医疗保健限制保持一致.
• 有益性和非有害性的伦理原则必须指导人工智能开发以提供以证据为基础,以患者为中心的护理.