CGFTrans:用于医疗报告生成的跨模式全球特征融合变压器
IEEE journal of biomedical and health informatics
|June 14, 2024
概括
这项研究引入了一种新的方法,用于从图像中生成医疗报告,提高准确性和效率. 跨模式的全球功能融合变压器 (CGFTrans) 增强了全球信息提取,并降低了计算负载.
科学领域:
- 人工智能的人工智能
- 医疗信息学 医疗信息学
- 计算机视觉 计算机视觉
背景情况:
- 从图像生成医疗报告对于临床应用至关重要.
- 现有的方法与全球信息,跨模式融合和计算需求作斗争.
研究的目的:
- 为改进医疗报告生成提出一种全新的跨模式全球功能融合变压器 (CGFTrans).
- 解决全球信息提取,跨模式融合和计算效率方面的局限性.
主要方法:
- 利用一个网状循环网络来捕获全球特征的层间信息.
- 设计了一个具有"中融合"策略的特征融合解码器,用于增强跨模式学习.
- 将转移窗口的注意力集成到变压器编码器中,以减少计算压力并捕获多层次的病理信息.
主要成果:
- 在三个数据集上实现了2.9% (BLEU-1),1.5% (METEOR) 和0.7% (ROUGE-L) 的平均增长.
- 培训时间减少了22.4%,图像吞吐量增加了17.3%.
结论:
- CGFTrans有效地提取全球信息,并增强医疗报告生成的跨模式融合.
- 拟议的方法显著提高了报告生成质量,同时减少了计算压力.


