心脏病预测机器学习算法的基于性别的性能差异:探索性研究
Isabel Straw1, Geraint Rees1, Parashkev Nachev1
1University College London, London, United Kingdom.
Journal of medical Internet research
|August 26, 2024
概括
心脏病学算法显示出显著的性别偏见,由于数据代表性不足和性能缺陷,女性患者的诊断不足. 补救技术未能纠正这些健康不平等.
科学领域:
- 医疗保健中的人工智能
- 心脏病学机器学习
- 算法偏差和健康公平性
背景情况:
- 人工智能 (AI) 的偏见越来越多地被各个部门认识到,有可能加剧医疗保健中的健康差异.
- 医疗保健中的算法不平等可以扩大人口群体之间现有的健康不平等.
研究的目的:
- 识别和描述用于心力衰竭管理的机器学习 (ML) 算法中的偏差.
- 专门研究心脏病算法的性差异.
主要方法:
- 在PubMed和Web of Science的文献搜索中,寻找专注于人口偏差的心脏ML算法.
- 在两个开源数据集 (UCI心力衰竭和UCI CAD) 上复制了现有的ML算法.
- 评估了性别偏见的算法,重点关注假负率 (FNR) 和评估补救技术.
主要成果:
- 在127篇审查的论文中,只有3篇讨论了性别差异;女性患者在数据集中代表性不足.
- 复制算法显示平均准确率约为85%,但发现了显著的性别差异.
- 女性患者经历了更高的FNR (低诊断),而男性患者的假阳性率更高 (过度诊断).
结论:
- 心脏ML研究忽视了女性患者算法的显著低性能.
- 对算法错误率和特征重要性的性别差异进行了量化.
- 目前的补救技术不足以消除心脏病算法中发现的不平等现象.
