用视觉转换器对淋巴结转移的全幻灯片分类进行可解释性方法的比较研究
Jens Rahnfeld1,2, Mehdi Naouar1,2, Gabriel Kalweit1,2
1Collaborative Research Institute Intelligent Oncology (CRIION), Freiburg, Germany.
PLOS digital health
|April 15, 2025
概括
像ViT-Shapley这样的可解释的AI方法提高了对病理学深度学习的信任. 这项研究发现,ViT-Shapley为组织病理图像提供可靠的热图,有助于临床采用.
科学领域:
- 人工智能的人工智能
- 数字病理学数字病理学
- 医疗成像医学成像
背景情况:
- 深度学习增强了医学图像分析,特别是在全幻灯片成像的病理学中.
- 深度学习模型缺乏透明度,阻碍了病理学的临床采用.
- 可解释性方法对于理解在基因病理学中的AI预测至关重要.
研究的目的:
- 评估视觉转换器在基因病理图像分类中的可解释性方法.
- 比较注意力推广,集成梯度,RISE和ViT-Shapley的有效性.
- 评估热图的解释性和可靠性,用于临床应用.
主要方法:
- 在CAMELYON16数据集 (399个完整的幻灯片图像) 上训练了一个视觉变换器.
- 进行了注意力推广,集成梯度,RISE和ViT-Shapley的比较分析.
- 使用热图解释性和性能指标评估解释质量.
主要成果:
- 注意推出和集成梯度产生了易受人工物影响的热图.
- RISE和ViT-Shapley生成了更可靠和可解释的热图.
- ViT-Shapley在插入/删除指标上显示了更快的运行时间和更高的性能.
结论:
- ViT-Shapley提供可靠和可解释的热图,用于视觉变压器对基因病理图像的预测.
- 整合ViT-Shapley热图可以提高临床病理学工作流程的信任和可扩展性.
- ViT-Shapley促进了在数字病理学中采用可解释的人工智能.
