探索透明度:对视网膜图像中可解释的人工智能技术进行比较分析,以支持青光眼的诊断

科学领域:

• 人工智能在医学中的应用
• 眼科医生 眼科 眼科
• 计算机视觉 计算机视觉

背景情况:

• 机器学习,特别是像卷积神经网络 (CNN) 这样的深度学习模型,在从医学图像中诊断疾病方面表现有前途.
• 然而,由于缺乏透明度和信任,这些AI模型的"黑盒子"性质阻碍了临床采用.
• 玻璃眼,不可逆转的失明的主要原因,需要早期检测,使自动诊断工具非常理想.

研究的目的:

• 调查和比较可解释的人工智能 (XAI) 技术,以提高用于绿眼的分类中使用的CNN的解释性.
• 评估哪些XAI方法为眼科临床决策提供了最有价值的解释性资源.
• 引入和评估一种新的方法,即SHAP-CAM可解释映射 (SCIM),以提高AI模型的可解释性.

主要方法:

• 将各种XAI技术应用于不同的CNN架构 (VGG16,VGG19),用于分析视网膜底部图像.
• 通过不同XAI方法提供的可解释性的比较分析.
• 由眼科专家对拟议的SCIM方法的评估.

主要成果:

• 该研究确定了基于类激活映射 (CAM) 的可解释性,作为一种高效的技术,用于理解在青光眼诊断中人工智能决策.
• 当应用到VGG16和VGG19 CNN架构时,CAM为临床使用提供了重要的解释资源.
• 新型SCIM方法在提高模型可解释性方面表现出有希望的结果.

结论:

• XAI技术对于弥合人工智能性能和对医学图像分析的临床信任之间的差距至关重要.
• 基于CAM的可解释性,特别是VGG16/VGG19等已建立的CNN,为支持眼科医生的诊断决策提供了强大的框架.
• 这些发现表明,可解释的人工智能可以提高患者的安全性,问责制,并将人工智能工具集成到常规临床实践中,用于诸如玻璃眼等疾病.