PLRTE:使用大型语言模型进行生物医学关系三重提取的渐进式学习
Yi-Kai Zheng1, Bi Zeng2, Yi-Chun Feng3
1School of Computer Science and Technology, Guangdong University of Technology, Guangzhou 510000, China; Guangzhou National Laboratory, No. 9 XingDaoHuanBei Road, Guangzhou International Bio Island, Guangzhou 510005, China.
Journal of biomedical informatics
|October 19, 2024
概括
本研究介绍了一种渐进式学习策略 (PLRTE),以改进生物医学关系三重提取模型. 这种新的方法增强了药物发现和知识图表构建的模型概括性.
科学领域:
- 生物医学信息学 生物医学信息学
- 自然语言处理自然语言处理.
- 计算生物学 计算生物学
背景情况:
- 文件级关系三重提取对于生物医学知识的发现至关重要.
- 目前的模型难以将其推广到新的数据集和关系类型.
研究的目的:
- 提高生物医学关系三重提取模型的概括能力.
- 通过专注于数据-任务相关性和关系细节性来优化模型.
主要方法:
- 引入了一种新的渐进式学习策略,以开发PLRTE模型.
- 实施了四个级别的渐进式学习过程:语义关系增强,构成指令和双轴级别学习.
主要成果:
- 在DDI和BC5CDR数据集上,与最新的基线相比,实现了5%至20%的性能改善.
- 在未曾见过的Chemprot和GDA数据集上展示了特殊的概括性.
结论:
- 优化数据-任务关联和关系细分度大大提高了模型的通用性.
- PLRTE模型显示了推动生物医学文本挖掘应用的巨大潜力.


