MiMICRI:向心血管图像分类模型的以域为中心的反事实解释

科学领域:

• 心血管成像 - 心血管成像
• 人工智能的人工智能
• 可解释的人工智能

背景情况:

• 大规模的医学成像数据集为心血管分析的AI提供了燃料.
• 现有的可解释AI (XAI) 方法往往缺乏领域专家的投入和医疗背景.
• 这种差距阻碍了AI在临床环境中的验证和可信度.

研究的目的:

• 介绍MiMICRI,一个新的框架和Python库,用于心血管图像分类中的以域为中心的反事实解释.
• 利用医学专业知识实现人工智能模型的交互式探索和验证.
• 提高AI预测的解释性和临床相关性.

主要方法:

• 开发MiMICRI Python库,用于创建以域为中心的反事实解释.
• 互动选择和更换对应于形态结构的图像段.
• 与两名医学专家一起对MiMICRI进行评估,以评估可解释性和临床可信性.

主要成果:

• MiMICRI 通过允许专家使用领域知识进行推理来增强人工智能模型的解释性.
• 以域为中心的XAI方法有助于在医学事实上验证AI预测.
• 专家们对生成的反事实的临床可信性表示担忧.

结论:

• 在MiMICRI中实现的以域为中心的XAI可以改善医疗保健中的AI解释性.
• 需要进一步的研究,以解决反事实的临床可信性,以便更广泛地采用.
• 在医疗成像中,MiMICRI框架为实现更具普遍性和可信度的AI提供了一条道路.