最浅的透明和可解释的深度神经网络用于图像识别.
Gurmail Singh1, Stefano Frizzo Stefenon2, Kin-Choong Yow3
1Department of Computer Sciences, University of Wisconsin-Madison, Madison, WI, 53706, USA. gurmail.singh@wisc.edu.
Scientific reports
|April 22, 2025
概括
一个新的透明的深度学习模型,Shallow-ProtoPNet,提供可解释的决策,没有黑子组件. 它的浅,两层设计确保更小的尺寸和适合嵌入式系统.
科学领域:
- 人工智能的人工智能
- 计算机视觉 计算机视觉
- 医疗成像医学成像
背景情况:
- 深度学习模型需要对高风险决策的透明度.
- 现有的可解释模型通常依赖于黑子组件,限制了完全的透明度.
研究的目的:
- 介绍Shallow-ProtoPNet,一个完全透明的深度学习模型.
- 解决在关键应用中对可解释AI的需求.
主要方法:
- 开发了Shallow-ProtoPNet,具有透明的原型层和完全连接的层.
- 避免使用黑盒卷积层作为基线,与ProtoPNet区分开来.
- 在X射线图像数据集上评估性能.
主要成果:
- 浅层ProtoPNet的表现与不那么透明的可解释模型相提并论.
- 该模型的浅层架构 (一个卷积层,一个完全连接的层) 会导致显著更小的尺寸.
- 通过排除黑子组件,实现了完全的透明度.
结论:
- Shallow-ProtoPNet提供了一个完全透明和高效的深度学习解决方案.
- 它的缩小尺寸使得它非常适合在嵌入式系统中部署.
- 为敏感领域的可解释AI提供了可行的替代方案.


