对中国癌症进行命名实体识别 电子健康记录 - - 开发和评估特定领域的BERT模型:定量研究

科学领域:

• 在医疗保健中的自然语言处理 (NLP)
• 医疗信息学 医疗信息学
• 癌症研究 癌症研究

背景情况:

• 中国非结构化癌症电子健康记录 (EHR) 包含宝贵的临床专业知识.
• 准确的医疗实体识别 (NER) 对于开发临床决策支持系统至关重要.
• 现有的NER模型往往无法充分解决中国癌症电子健康记录的细微差别.

研究的目的:

• 开发一个专门的NER模型,为中国癌症ERHs量身定制.
• 为了提高医疗实体在这些专业记录中的认可.
• 提高癌症EHR数据用于研究和临床应用的实用性.

主要方法:

• 通过在中国的癌症体上进行预训练,开发了ChCancerBERT模型,建立在MC双向编码器从变压器 (BERT) 构成的基础上.
• 集成的扩张门卷积神经网络,双向长期短期记忆,多头注意力和条件随机场,用于多模型,多层次的NER方法.
• 利用北京一家医院的乳腺癌相关的无敏化住院EHR进行模型培训和评估.

主要成果:

• 在从中国乳腺癌电子健康记录中提取医疗实体 (症状,征兆,测试,治疗,时间) 方面,ChCancerBERT模型取得了高性能.
• 该模型超过了基线和其他比较模型,在内部数据上达到86.93%的F1得分,在CCKS2019数据集上达到87.26%.
• 与现有方法相比,证明了更高的精度 (87.24%内部,87.26%CCKS2019) 和回忆 (86.61%内部,87.27%CCKS2019).

结论:

• 提出的ChCancerBERT方法显示了NER在乳腺癌电子健康记录中表现出色,推动了临床决策支持.
• 纳入特定领域的 corpora 显著提高了 BERT 模型在专门的临床 NER 任务中的性能.
• 这项工作有助于更好地利用中国癌症EHR数据,改善癌症治疗和研究.