一个基于注意力的核心变压器模型,用于预测心脏病患者的存活率

科学领域:

• 生物统计学 生物统计学
• 机器学习 机器学习
• 计算生物学 计算生物学

背景情况:

• 生存分析对于理解临床研究中的时间到事件数据至关重要.
• 准确预测事件发生持续时间对于患者护理和医疗决策至关重要.

研究的目的:

• 介绍了两个新的生存预测模型:CosAttnSurv和CosAttnSurv-DyACT.
• 评估拟议模型的区分和校准性能.
• 在时间和内存方面评估模型的计算效率.

主要方法:

• 开发了CosAttnSurv,使用基于变压器的架构,带有无softmax内核注意力机制.
• 增强了CosAttnSurv与动态自适应计算时间 (DyACT),以提高CosAttnSurv-DyACT的计算效率.
• 对心脏病患者的两个公共临床数据集的验证模型.

主要成果:

• 与现有最先进的模型相比,CosAttnSurv和CosAttnSurv-DyACT都表现出优越的区分和校准性能.
• 拟议的模型实现了与其他基于变压器的模型可比的性能.
• CosAttnSurv和CosAttnSurv-DyACT显示了时间和内存需求的显著减少.

结论:

• 新的CosAttnSurv和CosAttnSurv-DyACT模型在生存分析方面取得了重大进展.
• 这些模型强调了基于时间的计算有效预测的重要性.
• 这些进展对医疗决策和患者护理具有有希望的意义.