医学成像中的专家级视觉语言基础模型的人口偏差

科学领域:

• 医学成像分析 医学成像分析
• 医疗保健中的人工智能
• 算法公平性 算法公平性

背景情况:

• 人工智能 (AI) 在医学成像方面展示了专家级的性能.
• 自主监督的视觉语言基础模型可以在没有明确注释的情况下检测病理.
• 人们担心人工智能模型会延续或放大对边缘化群体的人类偏见.

研究的目的:

• 在胸部X射线诊断中研究最先进的视觉语言基础模型的算法公平性.
• 评估不同人口群体 (包括女性和黑人患者) 的绩效差异.
• 分析模型嵌入中的人口信息编码.

主要方法:

• 在五个全球来源的胸部X射线数据集上评估最先进的视觉语言基础模型.
• 模型诊断性能与经过董事会认证的放射科医生的比较.
• 对模型嵌入的分析,以确定人口统计信息编码.

主要成果:

• 与放射科医生相比,基金会模型始终低于诊断边缘化群体.
• 在交叉子组中,如黑人女性患者,低诊断率显著更高.
• 模型嵌入了大量编码的人口统计信息,表明了偏见的来源.

结论:

• 目前的视觉语言基础模型在胸部X射线诊断中表现出显著的算法偏差.
• 部署这些有偏见的AI系统可能会加剧现有的医疗保健差异.
• 对临床应用和公平获得医疗保健的伦理考虑至关重要.