用于计算病理学的可解释AI识别模型限制和组织生物标志物
Jakub R Kaczmarzyk1,2,3, Joel H Saltz1, Peter K Koo2
1Department of Biomedical Informatics, Stony Brook University, Stony Brook, NY, USA.
ArXiv
|September 16, 2024
概括
HIPPO是一个可解释的AI框架,通过生成图像反事实来进行定量模型评估来增强对数字病理学的信任. 它揭示了传统指标错过的局限性,提高了临床AI应用程序的透明度和可靠性.
科学领域:
- 计算病理学计算病理学
- 人工智能的人工智能
- 医疗成像医学成像
背景情况:
- 数字病理学的深度学习模型缺乏透明度,阻碍了临床信任和采用.
- 可解释人工智能 (XAI) 对于提高模型可靠性和理解决策过程至关重要.
研究的目的:
- 引入HIPPO,这是数字病理学的XAI框架.
- 为了使定量假设测试,偏差检测和使用图像反事实模型的模型评估.
- 提高AI模型在病理学中的可信度和临床采用.
主要方法:
- 在整个幻灯片图像中,HIPPO系统地修改组织区域,以创建反事实.
- 该框架应用于乳腺转移检测,癌症预后和质瘤突变分类.
- 将HIPPO的表现与传统指标和基于注意力的XAI方法进行了比较.
主要成果:
- 希普波 (HIPPO) 确定了标准指标和注意力错过的转移检测中的关键模型限制.
- 对于预后,HIPPO提供了比注意力更细致的关于组织驱动因素的细微见解.
- HIPPO帮助产生黑色素瘤免疫治疗的假设,并改善了突变分类中虚假阴性结果的识别.
结论:
- HIPPO扩展了XAI用于计算病理学的工具包,为模型行为提供了更深入的见解.
- 该框架支持在数字病理学中开发,部署和监管可信的人工智能.
- 希普波通过提高模型透明度,促进人工智能在临床和研究环境中更广泛地被采用.
更多相关视频
07:15Machine Learning Algorithms for Early Detection of Bone Metastases in an Experimental Rat Model
Published on: August 16, 2020
6.8K
09:53Quantifying the Brain Metastatic Tumor Micro-Environment using an Organ-On-A Chip 3D Model, Machine Learning, and Confocal Tomography
Published on: August 16, 2020
7.2K
