AXpert:人类专家为腹部X射线报告标签提供了保护隐私的大型语言模型
Yufeng Zhang1, Joseph G Kohne2,3, Katherine Webster2
1Department of Computational Medicine and Bioinformatics, University of Michigan, Ann Arbor, MI 48105, United States.
JAMIA open
|February 11, 2025
概括
本研究介绍了AXpert,这是一个大型语言模型 (LLM),用于分析腹部X射线 (AXR) 以检测死角性肠球炎 (NEC). AXpert显著提高了诊断准确度,并减少了这种罕见的儿科疾病的手动标签工作.
科学领域:
- 医疗成像医学成像
- 自然语言处理自然语言处理.
- 医疗保健中的人工智能
背景情况:
- 结核性肠球炎 (NEC) 研究受到缺乏可访问的腹部X射线 (AXR) 数据集的限制.
- 目前的自然语言处理 (NLP) 努力主要集中在胸部放射学上,使得儿科的AXR分析不发达.
- 准确的NLP模型用于识别AXR上的NEC特征,对于改善罕见儿科疾病的诊断准确性至关重要.
研究的目的:
- 开发保护隐私的大型语言模型 (LLM),以有效注释儿科AXR报告.
- 创建LLM的蒸版本,以提高推断和微调效率.
- 从AXR报告中实现NEC的自动检测和亚型化.
主要方法:
- 利用了来自CS的儿科AXR报告. 莫特儿童医院.
- 开发了AXpert,使用精细调整的指令7-B Gemma模型和基于BERT的蒸模型.
- AXpert的设计是为了检测NEC存在并分类亚型:肺炎,门静脉气体和自由空气.
主要成果:
- 在NEC检测方面,AXpert,特别是Gemma-7B模型,显著超过了基线BERT模型 (F1得分提高了132%).
- 蒸的BERT模型实现了与LLM标签器可比的性能,并超过了经过专家培训的BERT模型.
- 在LLM方面,他们以最少的专家投入表现出类似人类的表现,减少了人工劳动.
结论:
- 在临床NLP任务中,LLM具有显著的潜力,包括从AXR中自动诊断NEC.
- AXpert可以减少人类标记工作,同时保持高准确度的NEC诊断.
- 维护隐私是因为所有模型都在本地训练和部署,提供精确的图像标签功能.


