值得信赖的AI用于医疗决策:对帕金森病的对抗性强大和公平的机器学习预测

科学领域:

• 人工智能的人工智能
• 医学诊断 医学诊断 医学诊断
• 机器学习 机器学习

背景情况:

• 帕金森病 (PD) 的诊断依赖于运动和非运动症状.
• 机器学习 (ML) 模型显示了PD诊断的潜力,但往往缺乏公平性和稳定性.
• 现有的ML模型可以显示有偏见的结果,并且容易受到对抗性攻击.

研究的目的:

• 开发和评估强大和公平的ML模型来诊断帕金森病的进展.
• 评估对抗性攻击对PD诊断ML分类器公平性和准确性的影响.

主要方法:

• 使用了帕金森病进展标记计划 (PPMI) 队列 (1,084名参与者).
• 评估公平性优化的随机森林 (RF) 和决策树 (DT) 分类器.
• 应用对抗技术 (标签泄露,数据中毒) 来模拟数据更改.

主要成果:

• 敌对攻击显著降低了模型性能,在敏感群体中将DT精度降低了10%以上,RF精度降低了20%.
• 公平度指标 (统计均等差异,机会平等差异) 在受到攻击的情况下下降,表明偏见增加.
• 敌对扰动放大了假阳性和假阴性,降低了PD诊断预测的整体准确性和公平性.

结论:

• 敌对攻击加剧了PD诊断ML模型的性能差异.
• 在医疗人工智能领域,有必要建立强大而具有公平意识的防御系统.
• 缓解与种族,年龄和性别有关的偏见对于PD中可靠的临床决策至关重要.