在临床环境中限制数据可用性的NLP建模建议
Fabián Villena1,2,3, Felipe Bravo-Marquez1,2,4, Jocelyn Dunstan5,6,7
1Department of Computer Science, Universidad de Chile, Santiago, Chile.
临床特定的语言模型优于西班牙语临床文本分析的一般模型. 建议使用特定领域的预训练语言模型 (PLM),以提高临床自然语言处理 (NLP) 任务的性能.
科学领域:
- 自然语言处理 (NLP) 是一种自然语言处理.
- 临床信息学 临床信息学
- 计算语言学 计算语言学
背景情况:
- 医疗保健决策严重依赖于非结构化的临床文本.
- 传统的分析方法与临床文本数据作斗争.
- 有限的数据和领域知识阻碍了临床NLP的采用.
研究的目的:
- 评估西班牙临床任务的NLP建模范式.
- 在不同的数据可用性范围内评估模型性能.
- 为临床NLP从业者提供建议.
主要方法:
- 对临床任务的NLP模型进行实验分析 (推优先级,专业分类).
- 模拟了三个具有不同数据可用性水平的临床环境.
- 评估了四个基础模型,包括临床PLM和LLM.
主要成果:
- 临床PLM取得了卓越的绩效:88.85%的宏观F1转诊优先级和53.79%的专业分类.
- 特定领域的预训练提高了性能,尽管相对于计算成本而言,收益是边际的.
- 在低数据场景中,LLMs的近距离学习显示出了希望.
结论:
- 临床特定的PLM在临床NLP任务中最有效.
- 模型的选择应考虑数据的可用性,任务的复杂性和机构的准备.
- 结果指导开发实用的临床NLP解决方案.
更多相关视频
04:09Predicting Treatment Response to Image-Guided Therapies Using Machine Learning: An Example for Trans-Arterial Treatment of Hepatocellular Carcinoma
Published on: October 10, 2018
07:31Implementation of a Real-Time Psychosis Risk Detection and Alerting System Based on Electronic Health Records using CogStack
Published on: May 15, 2020
相关概念视频
Mechanistic Models: Compartment Models in Individual and Population Analysis
Modeling in Therapy
Participant Modeling
Participant modeling involves therapists demonstrating calm and effective behaviors in...
Mechanistic Models: Compartment Models in Algorithms for Numerical Problem Solving
In individual population analyses, different algorithms are employed, such as Cauchy's method, which uses a...
Clinical Trials: Overview
