捷径学习导致光声断层扫描深度学习模型中的性别偏见

科学领域:

• 医学成像人工智能 医学成像人工智能
• 影声断层扫描 (PAT) 是一种光声断层扫描.
• 算法公平性 算法公平性

背景情况:

• 捷径学习是医学AI中算法不公平的一个已知的原因.
• 捷径学习对PAT的影响,特别是关于性别偏见的影响,尚未得到充分研究.
• 周围动脉疾病 (PAD) 诊断是PAT的关键临床应用.

研究的目的:

• 调查因CNN中的快捷方式学习而导致的性别偏见,应用于PAT用于PAD诊断.
• 评估性别特异性流行不平衡如何影响诊断预测和差异.
• 确定CNN是否类似地编码性别和PAD特征.

主要方法:

• 创建了培训和测试数据集,具有不同的性别特异性PAD流行率.
• 在PAT数据上训练有素的CNN来分类性别和诊断PAD.
• 评估了CNN在性别分类和PAD诊断方面的表现,分析了特征表示.

主要成果:

• 美国有线电视新闻网可以从PAT图像中分类性别,AUROC为0.75.
• 在不平衡的数据上训练的模型在平衡的数据集上显示了PAD诊断性能显著下降 (高达0.21 AUROC).
• 性别特定的患病率不平衡加剧了低诊断差异;通过特征重复使用发现了快捷方式学习的证据.

结论:

• 在PAT数据上训练有素的CNN可能会将与性别相关的特征作为快捷方式,从而导致偏见的PAD诊断.
• 解决人口特异性流行不平衡和捷径学习对于公平的医疗AI至关重要.
• 开发准确和公平的AI模型需要仔细考虑不同患者群体.