BERT-PAGG:一种中国的关系提取模型,将PAGG和实体位置信息融合在一起
Bin Xu1, Shuai Li1, Zhaowu Zhang1
1School of Computer Science and Engineering, Northeastern University, Shenyang, Liaoning, China.
PeerJ. Computer science
|August 7, 2023
概括
本研究引入了BERT-PAGG模型,用于知识图的关系提取,包括实体位置和句子信息. 该模型通过利用相对实体位置和本地特征显著提高提取精度.
科学领域:
- 自然语言处理自然语言处理.
- 人工智能的人工智能
- 知识表示 知识表示
背景情况:
- 知识图的构建依赖于准确的关系提取.
- 现有的模型往往忽略了实体相对位置的意义.
- 整合外部信息改善了传统的关系提取,但可以进一步优化.
研究的目的:
- 提出一个新的BERT-PAGG关系提取模型.
- 将实体位置信息和句子级上下文纳入关系提取.
- 为了提高知识图表构建的性能.
主要方法:
- 开发了一个BERT-PAGG模型,将BERT嵌入式与PAGG模块结合起来.
- 集成实体位置信息使用细分卷积神经网络.
- 采用注意力机制来捕获语义特征,以及用于信息流调节的关门机制.
主要成果:
- 伯特-帕格模型在两个中国关系提取数据集上取得了最先进的结果.
- 废弃性研究证实了PAGG模块在利用外部信息方面的有效性.
- 该PAGG模块导致宏观F1得分至少增加了2.82%.
结论:
- 拟议的BERT-PAGG模型有效地利用实体位置和句子信息来改进关系提取.
- 该PAGG模块增强了模型处理外部信息的能力.
- 这种方法在知识图构建准确度方面取得了显著的进步.


