基于RoBERTa-wwm和深度学习集成的铁路信号设备故障信息的实体识别
Junting Lin1,2, Shan Li1, Ning Qin2,3
1School of Automation and Electrical Engineering, Lanzhou Jiaotong University, Lanzhou 730070, China.
Mathematical biosciences and engineering : MBE
|February 2, 2024
概括
这项研究引入了一种新的深度学习方法,用于从文本数据中识别铁路信号设备故障. 该方法提高了识别故障实体的准确性,改善了系统安全和维护.
科学领域:
- 计算机科学 计算机科学
- 人工智能的人工智能
- 铁路工程 铁路工程是指铁路工程.
背景情况:
- 铁路信号系统产生大量的故障数据,由于模糊的边界,对准确的实体识别构成挑战.
- 现有的方法难以应对与铁路信号设备故障相关的文本数据的复杂性和数量.
研究的目的:
- 开发用于铁路信号设备故障信息的先进实体识别方法.
- 为了解决模糊实体边界和当前故障数据分析中低准确度的局限性.
主要方法:
- 使用了 RoBERTa-wwm 预训练的语言模型来生成词向量.
- 使用并行BiLSTM和CNN网络进行上下文和本地注意力特征提取.
- 集成多头注意力 (MHA) 用于特征融合和条件随机场 (CRF) 用于受约束的序列标记.
主要成果:
- 在铁路信号设备故障文本的十年数据集上实现了高性能.
- 与传统模型相比,证明了优越的评估指标.
- 报告的精度为93.25%,回忆率为92.45%,F1得分为92.85%.
结论:
- 拟议的RoBERTa-wwm和深度学习综合模型有效地识别铁路信号设备故障数据中的实体.
- 该方法显著提高了分析复杂故障信息的准确性和可靠性.
- 这一进步有助于提高铁路运营中的维护和安全.
关键词:
罗伯特-wwmwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm-wwm深度学习是一种深度学习.错误文本 错误文本 错误文本知识图表知识图表名称实体认可 名称实体认可铁路信号设备 铁路信号设备

