基因组学图像中的偏差检测使用可解释的AI和图像黑暗度评估
Inna Skarga-Bandurova1, Golshid Sharifnia1, Tetiana Biloborodova2
1Oxford Brookes University.
Studies in health technology and informatics
|May 17, 2025
概括
这项研究引入了一种使用可解释AI (XAI) 和图像黑暗分析的新方法,以减少用于宫癌检测的医疗AI偏差. 该方法通过关注相关特征,提高了模型的准确性和公平性.
科学领域:
- 医疗人工智能 医疗人工智能
- 计算病理学计算病理学
- 生物医学成像分析分析
背景情况:
- 医疗人工智能模型可能会表现出偏见,影响公平性和临床实用性.
- 宫组织学图像分类容易产生偏差,包括与图像质量相关的偏差.
- 可解释AI (XAI) 提供了理解和解决AI模型决策的工具.
研究的目的:
- 提出一个结合XAI和图像暗度评估的新型框架,用于检测和减轻宫组织学图像分类中的偏差.
- 评估偏差缓解策略对深度学习模型性能的有效性.
- 提高AI模型在病理学中的公平性,概括性和临床实用性.
主要方法:
- 采用了四种深度学习架构:AlexNet,ResNet-50,EfficientNet-B0和DenseNet-121. 这四种深度学习架构都在使用中.
- 利用Grad-CAM和突出地图用于模型预测中的偏差识别.
- 实现了亮度规范化和合成数据增强,以减轻偏差.
主要成果:
- 在偏差缓解后,EfficientNet-B0实现了最高的准确性.
- 缓解策略成功地将模型重点转移到临床相关特征.
- 统计分析 (ANOVA) 显示,图像黑暗影响显著减少 (F-统计从120.79下降到14.05).
结论:
- 拟议的框架有效地检测和减轻宫组织学图像分类AI的偏差.
- 偏差缓解可以提高模型的准确性,公平性和与临床特征的协调性.
- 与图像分析相结合的XAI是开发强大和公平的医疗AI的有希望的方法.
