对可解释的人工智能的评估方法进行审查,并将其应用于心脏病学
Ahmed M Salih1,2,3, Ilaria Boscolo Galazzo4, Polyxeni Gkontra5
1William Harvey Research Institute, NIHR Barts Biomedical Research Centre, Queen Mary University of London, Charterhouse Square, London, EC1M 6BQ UK.
Artificial intelligence review
|August 12, 2024
概括
在心脏AI中评估可解释AI (XAI) 对信任至关重要. 许多研究忽视了XAI质量评估,阻碍了医疗保健中安全可靠的人工智能工具的开发.
科学领域:
- 人工智能的人工智能
- 心脏病学 心脏病学
- 医疗信息学 医疗信息学
背景情况:
- 可解释的人工智能 (XAI) 通过澄清决策过程,增强对复杂的人工智能模型的信任.
- 评估XAI解释的准确性和合理性对于其在临床环境中有效使用至关重要.
研究的目的:
- 审查XAI在心脏人工智能应用中的评估方法.
- 强调需要对医疗保健中的XAI进行系统评估,以确保可信的人工智能开发.
主要方法:
- 对应用XAI在心脏AI中的研究的文献综述.
- 分析在审查的研究中用于评估XAI质量的方法.
主要成果:
- 只有57%的审查研究评估了XAI质量,方法包括文献结果 (37%),临床医生 (11%) 和统计代理 (11%).
- 很大一部分 (43%) 的研究没有评估使用的XAI方法的质量.
结论:
- 在心脏人工智能研究中,对XAI的系统评估是不发达的.
- 需要进一步的研究来严格评估XAI解释,以促进医疗保健中可靠和安全的AI.
