相关实验视频
Updated: Sep 13, 2025
04:48
Swin-PSAxialNet: An Efficient Multi-Organ Segmentation Technique
Published on: July 5, 2024
523
从临床笔记中提取发作结果的零射击,使用生成式预训练的变压器
William K S Ojemann1,2, Kevin Xie1,2, Kevin Liu2,3
1Department of Bioengineering, University of Pennsylvania, Philadelphia, PA 19104 USA.
Journal of healthcare informatics research
|July 29, 2025
概括
称为生成预训练变压器 (GPT) 的大型语言模型可以在没有手动注释的情况下分析自由的临床笔记. 快速设计的GPT显示出从电子健康记录中提取健康数据的潜力,在某些情况下甚至超过了微调模型.
科学领域:
- 自然语言处理自然语言处理.
- 临床信息学 临床信息学
- 人工智能在医学中的应用
背景情况:
- 预先训练的变压器模型可以从临床笔记中提取信息,但需要手动注释.
- 大型发电预训练变压器 (GPT) 模型可以简化这一过程.
- 分析非结构化的电子健康记录 (EHR) 文本对于了解人口健康趋势至关重要.
研究的目的:
- 探索GPT在零和少射击学习场景中用于分析临床健康记录.
- 为了优化提示性工程Llama2 13B,从病诊所的笔记中提取无发作.
- 将GPT性能与零射击和微调的Bio+ClinicalBERT (BERT) 模型进行比较.
主要方法:
- 快速设计的Llama2 13B模型用于抓获自由提取.
- 使用零射击和少数射击学习场景进行评估.
- 在各种提示范式中与零射击和微调的Bio+ClinicalBERT模型进行比较.
主要成果:
- 零射击的GPT实现了有希望的中位数准确率:单词 (62%),阐述 (50%),格式化的日期 (62%) 和背景中的日期 (74%).
- GPT的表现超过了零射击BERT (25%),但低于微调BERT (84%).
- 在稀疏的环境中,表现最好的GPT (76%) 在扣押自由提取方面超过了微调的BERT (67%).
结论:
- 在没有临床注释的情况下,GPT显示出从非结构化的EHR文本中提取临床相关信息的潜力.
- GPT提供了关于发作管理,药物影响,风险因素和医疗保健差异的见解.
- 快速工程提高了GPT的准确性,为利用零注释的EHR数据提供了一个框架.
