我的ThisYourThat用于可解释地识别生物医学图像联合学习中的系统偏见

科学领域:

• 医学成像分析分析 医学成像分析
• 机器学习是机器学习.
• 数据隐私 数据隐私

背景情况:

• 分布式协作学习允许在没有直接共享的情况下对敏感的生物医学数据进行联合模型培训.
• 系统的数据偏差可以显著降低这些协作训练模型的性能和公平性.
• 现有的方法缺乏有效的机制来检测和可视化分布式设置中的偏差,同时保持隐私.

研究的目的:

• 引入MyThisYourThat (MyTH) 方法,用于检测和可视化生物医学图像分布式协作学习中的系统偏差.
• 为分布式环境适应可解释的原型部分学习网络.
• 让个人客户能够在自己的数据上比较他们学习的特征 ("This") 与其他客户的特征 ("That"),确保隐私.

主要方法:

• 开发了MyThisYourThat (MyTH) 方法,将可解释的原型部分学习适用于分布式设置.
• 实施了四个客户的合作培训场景,使用两个诊断分类器的基准X射线数据集 (心壮和流).
• 视觉化了本地和全球原型之间的特征差异,以识别和显示每个客户端本地数据上的数据偏差.

主要成果:

• 一个通过协作训练的全球模型在一个不偏见的数据集上实现了74.14%的心壮病和74.08%的多叶流动的平衡准确性.
• 在一个客户的数据中引入系统的视觉偏差导致全球模型性能下降到近乎随机的水平.
• MyTH方法通过分析本地和全球原型之间的差异而成功地揭示和可视化了偏见,而不会影响数据隐私.

结论:

• MyTH方法有效地检测和可视化生物医学成像分布式协作学习中的系统数据偏差.
• 保护隐私敏感的联合学习中的模型性能和公平性需要解决和减轻数据偏差.
• 像MyTH这样的可解释方法对于建立信任和确保AI在医疗保健中的可靠性至关重要.