应用基于蒙面自编码器的自我监督学习,用于高容量视觉转换器的心电图.
Shinnosuke Sawano1, Satoshi Kodera1, Naoto Setoguchi2
1Department of Cardiovascular Medicine, The University of Tokyo Hospital, Tokyo, Japan.
PloS one
|August 14, 2024
概括
使用蒙面自编码器 (MAE) 自主监督学习显著改善了深度神经网络性能,用于心电图 (ECG) 分析,即使数据有限. 这一进步增强了AI模型在医学诊断中的泛化.
科学领域:
- 人工智能在医学中的应用
- 心脏病学 心脏病学
- 机器学习 机器学习
背景情况:
- 将深度神经网络 (DNN) 算法推广到不同人群中是医疗AI的一个关键挑战.
- 有限的数据可用性往往阻碍了DNN模型在医疗任务,如心电图 (ECG) 分析的性能.
研究的目的:
- 通过使用面具自动编码器 (MAE) 自主监督学习来提高12导电图分析模型的性能.
- 使用有限的心电图数据,改善左心室缩功能障碍 (LVSD) 的检测.
主要方法:
- 预训练视觉变压器 (ViT) 模型使用MAE通过重建掩盖的心电图数据.
- 微调了基于MAE的预训练模型,用于检测LVSD的ECG心电图数据.
- 使用多中心外部验证数据 (n=229,439) 和AUROC指标评估模型性能.
主要成果:
- 基于MAE的心电图模型在外部验证队列中表现明显高于其他DNN模型 (AUROC:0.913-0.962对于LVSD,p <0.001).
- 随着模型容量和培训数据的增加,观察到性能改善.
- 基于MAE的模型在PTB-XL ECG基准数据集上保持了高性能.
结论:
- 自主监督学习与MAEs有效地开发高性能ECG分析模型,即使数据有限.
- 提出的基于MAE的方法提高了AI在心血管诊断中的概括性和准确性.
