医学中的忠实人工智能:用大型语言模型和超越的系统审查

科学领域:

• 医疗人工智能 医疗人工智能
• 自然语言处理自然语言处理.
• 医疗保健信息学 医疗保健信息学

背景情况:

• 人工智能 (AI),特别是大型语言模型 (LLM),在医学上看起来很有前途,但由于产生事实上不正确的信息而面临风险.
• 确保人工智能输出的忠实性对于患者安全和伦理医疗应用至关重要.
• 现有的医疗保健人工智能研究往往忽视了事实准确性的具体挑战.

研究的目的:

• 综合审查医疗保健人工智能的忠实性问题.
• 分析不忠诚的人工智能输出的原因,当前的评估指标和缓解技术.

主要方法:

• 使用PRISMA方法的系统审查.
• 来自5个主要数据库 (PubMed,Scopus,IEEE Xplore,ACM数字图书馆,谷歌学者) 的5061个记录,发表于2018年1月 - 2023年3月.
• 包括40篇相关文章,重点关注生成医学AI事实.

主要成果:

• 审查了在生成医学AI中优化和评估事实性的最新进展.
• 涵盖基于知识的LLM,文本到文本生成,多模式到文本生成和自动医疗事实核查.
• 确定了数据资源,骨干模型,缓解方法和评估指标方面的挑战.

结论:

• 进一步的研究对于提高AI在医疗应用中的可靠性和事实性至关重要.
• 解决数据局限性和开发标准化评估指标是关键的下一步.
• 开发忠实的人工智能是实现人工智能在医疗保健中安全和道德整合的关键.