基于光谱区的SHAP/LIME:通过分组特征分析提高光谱深度学习模型的可解释性
Jhonatan Contreras1,2, Andreea Winterfeld1,2, Juergen Popp1,2
1Institute of Physical Chemistry (IPC) and Abbe Center of Photonics (ACP), Member of the Leibniz Centre for Photonics in Infection Research (LPI), Friedrich Schiller University Jena, Helmholtzweg 4, 07743 Jena, Germany.
Analytical chemistry
|September 18, 2024
概括
用于光谱学的可解释AI (XAI) 是通过分析光谱区域而不是单个特征来改进的. 这种新方法提高了深度学习模型中的现实性和可解释性.
科学领域:
- 频谱学是一种光谱学.
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 对复杂的深度学习模型来说,解释性至关重要,特别是在光谱学中.
- 现有的可解释AI (XAI) 方法,如SHAP和LIME,通常依赖于个别特征扰动,这可能是不现实的.
- 目前XAI对光谱学的文献主要集中在独立特征分析上,忽视了区域分析.
研究的目的:
- 开发一个更现实的和可解释的XAI方法用于光谱学.
- 为了解决XAI中个别特征扰动方法的局限性.
- 为了提高对深度学习模型行为在光谱分析的理解.
主要方法:
- 开发了SHAP和LIME的修改版本,用于对光谱区域进行群扰.
- 实施了一种有效的方法来计算复杂光谱中的光谱区域.
- 允许用户根据领域专业知识定义光谱区域.
主要成果:
- 拟议的方法提高了XAI在光谱学中的现实性和可解释性.
- 对光谱区的群干扰提供了更直观,更有物理意义的解释.
- 与个体特征分析相比,可解释性图表中的噪声最小化.
结论:
- 分析光谱区域为XAI在光谱学中提供了更强大和更现实的方法.
- 修改后的LIME和SHAP方法有效地捕捉了群体干扰的影响.
- 开发的XAI技术提高了深度学习模型在光谱应用中的可靠性和适用性.
