针对特定任务的基于转换器的语言模型在医疗保健中:范围审查

科学领域:

• 人工智能在医学中的应用
• 自然语言处理自然语言处理.
• 医疗信息学 医疗信息学

背景情况:

• 基于变压器的语言模型显示了医疗保健中临床决策支持,患者互动和疾病预测的潜力.
• 由于缺乏全面的审查,临床环境中的实施受到限制,这阻碍了系统的理解.
• 有效使用的困难导致研究效率低下,并缓慢地融入临床工作流程.

研究的目的:

• 通过检查基于医疗变压器的语言模型的研究来解决理解的差距.
• 将这些模型分为六个关键的医疗保健任务:对话生成,问答,总结,文本分类,情感分析和命名实体识别.

主要方法:

• 根据Cochrane协议进行了范围审查.
• 在主要数据库中进行了全面的文献搜索,从2017年1月到2024年9月.
• 包括在医疗任务中涉及变压器衍生模型的研究被纳入并归类.

主要成果:

• 关键发现强调了将变压器模型应用于医疗保健的进步和关键挑战.
• 像MedPIR (对话生成) 这样的模型显示出希望,但引发了隐私/伦理方面的担忧.
• 问答模型 (例如,BioBERT) 提高了准确性,但与医学术语的复杂性斗争;总结模型 (例如,BioBERTSum) 需要更好的长序处理.

结论:

• 本次审查巩固了变压器模型在医疗保健中的作用,并指导了未来的研究.
• 解决已识别的挑战可以使医疗保健提供和患者的结果得到显著改善.
• 为未来的医学信息学研究和实际应用提供了有价值的见解.