基于图像的分类模型的视觉解释性,通过在试管婴儿受精中应用的生成潜空间解
Oded Rotem1, Tamar Schwartz2, Ron Maor2
1Department of Software and Information Systems Engineering, Ben-Gurion University of the Negev, Beer-Sheva, 84105, Israel.
Nature communications
|August 27, 2024
概括
深度学习模型通常是"黑子". DISCOVER是一个新的生成模型,通过解开视觉特征来创建可解释的解释,增强对图像分类任务中AI决策的理解.
科学领域:
- 人工智能的人工智能
- 计算机视觉 计算机视觉
- 生物医学成像技术 生物医学成像技术
背景情况:
- 深度学习擅长于模式识别,但缺乏可解释性,阻碍了信任和理解.
- 图像特征的复杂,非线性性质,创造了一个
- 黑盒子是一个黑盒子.
- 深度学习模型中的问题.
- 对模型决策的有意义的解释至关重要,特别是在医疗诊断等敏感应用中.
研究的目的:
- 开发一个生成模型,DISCOVER,用于发现驱动图像分类的潜在视觉特性.
- 通过脱的表示,使深度学习模型能够通过人为循环解释.
- 为人工智能驱动的图像分类提供透明和可理解的解释,特别是在胚胎形态评估中.
主要方法:
- 开发了DISCOVER,这是一个生成模型,可以学习解开的隐藏表示.
- 在DISCOVER中,每个隐藏特征都编码了一个独特的,驱动分类的视觉属性.
- 为模型解释生成了不纠的,夸张的反事实解释.
主要成果:
- 应用DISCOVER来解释体外受精胚胎形态质量分类.
- 量化证实已知的胚胎特性,并发现了新的特性.
- 对个体胚胎实例的经验验证分类决定.
结论:
- 发现提供了人类可解释的洞察力.
- 黑盒子是一个黑盒子.
- 分类模型.分类模型.
- 该模型提出了解读潜在的生物医学机制的假设.
- DISCOVER 提高了个人人工智能预测和分类过程的透明度.
