德国医疗NER与BERT和LLMs:培训数据大小的影响

科学领域:

• 计算语言学计算语言学
• 医疗信息学医学信息学

背景情况:

• 医疗命名实体识别 (NER) 由于复杂的术语而具有挑战性.
• 低资源环境缺乏足够的注释数据来训练NER模型.
• 在专业领域评估高级语言模型至关重要.

研究的目的:

• 评估大型语言模型 (LLaMA3.1) 和基于BERT的模型对德国医疗NER的性能.
• 调查不同训练数据大小对模型性能的影响.
• 在较低资源条件下模拟和评估性能.

主要方法:

• 在命名实体识别任务中使用了两种德语注释体.
• 接受了培训和评估LLaMA3.1和基于BERT的模型.
• 系统地改变了培训数据的数量,以模拟低资源场景.

主要成果:

• 这两种模型在德国医疗NER数据集上表现相似.
• LLaMA3.1表现出轻微的性能优势,特别是在使用较小的数据集进行训练时.
• 这些发现表明,即使在有限的注释医疗文本中,这些模型的有效性也很大.

结论:

• 基于LLaMA3.1和BERT的模型对于德国医疗NER是可行的.
• 由于使用较少数据的效率,LLaMA3.1对资源较少的医疗NER任务具有前景.
• 进一步的研究可以探索针对专门的,数据稀缺的领域的模型优化.