使用概念激活矢量进行高效的对抗性脱皮 - - 医学图像案例研究

科学领域:

• 人工智能的人工智能
• 医疗成像医学成像
• 机器学习偏见 机器学习偏见

背景情况:

• 人工智能模型在实时部署时面临挑战,原因是未见的人群的可信性问题.
• 复杂的人工智能模型经常充当黑子,在决策中表现出隐含的偏见,特别是在少数群体的子组中.

研究的目的:

• 为人工智能模型开发一种高效的对抗性去偏差方法.
• 减少人工智能决策中的种族差异,同时保持任务性能.
• 适应模型解释性技术以减轻偏差.

主要方法:

• 开发了一种使用概念激活矢量 (CAV) 的对抗性去偏差方法.
• 利用CAV来识别负责学习种族的卷积层.
• 通过微调仅确定层的应用部分学习,最大限度地减少性能下降.

主要成果:

• 在胸部X射线和乳房造影数据集上进行评估,并进行外部验证.
• 偏差的胸部X射线模型实现了比基线 (0.57) 和微调模型 (0.81) 更高的AUC (0.87).
• 乳房影像模型在调试后在外部数据集 (AUC 0.8 到 0.86) 上提高了性能.

结论:

• 内部训练的对抗模型的性能与外部数据的标准微调相比或更好.
• 对抗式训练方法是基于梯度的模型的模型架构不可知.
• 培训代码是在学术开源许可证下提供的.