基于大型语言模型的ECG双重注意力网络用于心力衰竭风险预测
Chen Chen1, Lei Li2, Marcel Beetz3
1Institute of Biomedical Engineering, Department of Engineering Science, University of Oxford, Oxford; Imperial College London; University of Sheffield, Sheffield.
概括
这项研究引入了一种新的双重注意力心电图网络,增强了大型语言模型预训,用于预测心力衰竭 (HF) 风险. 该方法在识别高风险患HF患者,特别是高血压或心肌梗塞患者方面显示出更高的准确性.
科学领域:
- 心脏病学 心脏病学
- 人工智能的人工智能
- 生物医学工程 生物医学工程
背景情况:
- 心力衰竭 (HF) 是一个日益严重的全球健康问题,死亡率不断上升.
- 早期检测和预防策略对于减轻HF的影响至关重要.
- 由于复杂的数据和不平衡的风险组,预测心电图 (ECG) 的高频风险具有挑战性.
研究的目的:
- 开发和验证一种新的深度学习模型,用于预测心力衰竭 (HF) 风险,使用12心电图.
- 通过整合大型语言模型 (LLM) 前期培训和双重注意力机制来提高模型的性能.
- 评估该模型在特定患者队列中的有效性,包括高血压和心肌梗塞患者.
主要方法:
- 设计了一种轻量级的双重注意力电图网络,采用交叉引线和引线特定的时间注意力模块.
- 该网络利用了在ECG-Report数据集上的LLM预培训,以改进特征提取并减轻过度拟合.
- 该模型进行了微调,并对两个英国生物库队列进行了评估:高血压患者 (UKB-HYP) 和心肌梗塞患者 (UKB-MI).
主要成果:
- 在UKB-HYP和UKB-MI队列中,LLM知情预训显著提高了HF风险预测准确度.
- 与现有方法相比,双重注意网络的预测性能优于现有方法,C指数分数为0.6349 (UKB-HYP) 和0.5805 (UKB-MI).
- 注意力机制为ECG特征提供了更好的解释性,有助于风险预测.
结论:
- 拟议的LLM增强的双重注意力ECG网络为早期和准确的心力衰竭风险预测提供了一个有希望的方法.
- 这种方法表明了利用复杂的心电图数据推进临床风险评估的潜力,特别是在高风险患者群体中.
- 这些发现强调了在心血管疾病管理中整合先进的人工智能技术 (如LLM和注意力网络) 的价值.


