通过从有偏见的理事会学习适应性协议来减轻医疗数据集偏见
Luyang Luo1, Xin Huang2, Minghao Wang3
1Department of Computer Science and Engineering, The Hong Kong University of Science and Technology, Hong Kong, China; Department of Biomedical Informatics, Harvard University, Cambridge, USA.
本研究介绍了Ada-ABC,这是一个新的框架,可以减少医疗图像中的数据集偏差,而不需要明确的偏差标签. Ada-ABC有效地减轻了虚假的相关性,使得医疗保健中的人工智能更可靠.
科学领域:
- 医疗成像医学成像
- 人工智能的人工智能
- 计算机视觉 计算机视觉
背景情况:
- 医学图像中的数据集偏差导致不可靠的深度学习模型.
- 偏见的虚假相关性阻碍了人工智能的临床采用.
- 现有的方法缺乏偏差标签,难以解释.
研究的目的:
- 为医疗图像分类提出一个新的 debiasing 框架,即来自偏见理事会的适应性协议 (Ada-ABC).
- 在不需要明确的偏差标签的情况下解决数据集偏差.
- 为了减轻医疗AI模型中的虚假相关性.
主要方法:
- Ada-ABC利用受过一般化交叉损失训练的分类器的一个有偏见的委员会来捕获数据集偏见.
- 一个 debiasing 模型被训练,以适应性地同意正确的预测,并不同意偏见的理事会的错误预测.
- 理论分析表明,当数据集偏差被捕获时, debiasing 模型学习目标特征.
主要成果:
- Ada-ABC有效地减轻了医疗图像分类中的数据集偏差.
- 拟议的框架优于现有的竞争性方法.
- 创建了一个新的医疗偏差基准数据集,涵盖了四个数据集中的七个偏差场景.
结论:
- Ada-ABC为医学成像中的数据集偏差提供了一个有效的解决方案.
- 该框架可以为临床应用提供更准确,可靠和公平的AI模型.
- 开发的基准标准有助于未来对医疗人工智能的研究.
更多相关视频
05:47Evidence-based Knowledge Synthesis and Hypothesis Validation: Navigating Biomedical Knowledge Bases via Explainable AI and Agentic Systems
Published on: June 13, 2025
12:18A Machine Learning Approach to Design an Efficient Selective Screening of Mild Cognitive Impairment
Published on: January 11, 2020
相关概念视频
Bias in Epidemiological Studies
Bias
In statistics, a sampling bias is created when a sample is collected from a population, and some members of the population are not as likely to be chosen as others (remember, each member...
Strategies for Assessing and Addressing Confounding
Confounding can be addressed at both the design phase of a study and through analytical methods after data...
Regression Toward the Mean
Motivational Bias
Halo Effect
