使用可解释人工智能进行定性和定量分析的深度学习模型的评估
Hari Kishan Kondaveeti1, Chinna Gopi Simhadri2
1School of Computer Science and Engineering, VIT-AP University, Amaravathi, 522237, Andhra Pradesh, India. kishan.kondaveeti@vitap.ac.in.
Scientific reports
|August 29, 2025
概括
这项研究引入了一种新的三阶段方法来评估深度学习模型,将性能指标与可解释的AI (XAI) 可视化结合起来. ResNet50被证明是最准确和可靠的,强调了人工智能检测疾病的透明度.
科学领域:
- 人工智能
- 机器学习
- 计算机视觉
背景情况:
- 深度学习模型在疾病检测方面表现出色, 但缺乏透明度, 引发信任问题.
- 传统的指标如准确性并不能评估模型是否使用相关特征.
- 可解释的人工智能 (XAI) 对理解模型决策至关重要.
研究的目的:
- 开发和验证一个三阶段的方法来评估深度学习模型的准确性和可靠性
- 将传统的性能指标与XAI可视化分析结合起来.
- 评估分类性能和特征选择的相关性.
主要方法:
- 评估了八个预先训练的深度学习模型 (ResNet50,InceptionResNetV2等). ) 的情况.
- 采用了三个阶段的方法: 1) 传统的指标, 2) 用于特征可视化和 IoU/DSC 分析的 LIME, 3) 一种新的超拟合比度指标.
- 数量评估的特征选择和模型依赖于微不足道的特征.
主要成果:
- ResNet50获得了最高的准确性 (99.13%) 和可靠性 (IoU: 0.432,超拟合比: 0.284).
- InceptionV3和EfficientNetB0显示高精度但功能选择差 (低IOU,高过拟合比),表明潜在的可靠性问题.
- 提出的方法提供了一个不仅仅是准确性的全面评估.
结论:
- 开发的方法提高了深度学习模型的准确性和可靠性.
- 它可以创建更可靠的人工智能系统,特别是用于农业应用.
- 该通用方法可以扩展到需要透明人工智能的其他领域.
