使用生成人工智能来调查医学图像模型和数据集.

科学领域:

• 医学成像人工智能 医学成像人工智能
• 可解释的人工智能 (XAI)
• 计算机视觉在医疗保健中的应用

背景情况:

• 人工智能模型在医学成像中表现有希望,但缺乏可解释性.
• 了解AI决策对于临床信任和新发现至关重要.
• 目前的人工智能解释对于复杂的医疗任务是不够的.

研究的目的:

• 开发一个工作流程来生成关于视觉信号的假设AI模型学习医疗图像分类.
• 通过解释人工智能的预测和发现新的见解,增强对人工智能的信任.
• 通过识别医学数据中的未知信号来实现科学发现.

主要方法:

• 一个四步工作流程,包括分类器培训,基于StyleGAN的图像生成 (StylEx),自动属性可视化和跨学科专家审查.
• 通过修改检测到的属性来生成反事实可视化,以了解它们对预测的影响.
• 向专家展示发现的属性和可视化,以便他们对潜在机制提出假设.

主要成果:

• 在八个任务和三个医学成像模式 (视网膜,眼睛,胸部) 中证明了适用性.
• 确定了临床上已知的特征,自动学习的混因素 (例如,X射线暴露不足,眼睛化),以及新的,生理学上可信的属性 (例如,与性别相关的 fundus 差异).

结论:

• 该方法促进了假设生成,以便更好地理解,评估和从AI模型中提取知识.
• 强调跨学科观点的重要性,以解释反映现实世界医疗保健服务和社会文化因素的属性.
• 将发布代码,使研究人员能够训练StylEx模型,并负责任地解释所揭示的属性.