通过SEE-Net进行可解释的机器学习:缩小可解释模型和DNN之间的差距
1Department of Statistics, Sookmyung Women's University, Seoul, 04310, Korea. bsseo@sookmyung.ac.kr.
Scientific reports
|November 2, 2024
概括
深度神经网络 (DNN) 提供了高精度,但缺乏可解释性. 我们的新型同步解释增强神经网络 (SEE-Net) 将DNN与浅层模型集成在一起,以最小的准确性损失提供可解释的预测.
科学领域:
- 人工智能的人工智能
- 机器学习 机器学习
- 深度学习 (Deep Learning) 是一种深度学习.
背景情况:
- 深度神经网络 (DNN) 在准确度方面表现出色,但通常是不准确的.
- 一个黑盒子.
- 模型,阻碍了预测的解释性.
- 与DNN相比,可解释的统计模型通常具有较低的准确性.
研究的目的:
- 开发一种新的神经网络架构,将DNN的高精度与更简单模型的可解释性相结合.
- 在机器学习中解决预测准确性和模型可解释性之间的权衡问题.
主要方法:
- 介绍了同步解释增强神经网络 (SEE-Net) 架构.
- SEE-Net将一个指导DNN (黑盒) 与一个浅层神经网络 (白盒) 集成为共同监督.
- 浅层网络在DNN的指导下进行训练,以确保可解释性.
主要成果:
- SEE-Net成功地弥合了深度学习的预测能力和需要可解释模型之间的差距.
- 图像和表格数据的实验验验证了SEE-Net提供可解释预测的能力.
- 该架构实现了高可解释性,在预测准确性方面做出了最小的妥协.
结论:
- SEE-Net代表了机器学习的新范式,为可解释的人工智能提供了实际解决方案.
- 该模型的共同监督方法允许定制应用程序,需要性能和透明度.
- 这项工作表明,不充分的培训,而不是固有的局限性,导致一些可解释模型的低性能.
