可解释的人工智能 (XAI):揭示黑模型及其与生物医学成像和传感相关性的系统审查

科学领域:

• 生物医学成像和传感器
• 人工智能的人工智能
• 可解释的人工智能 (XAI)

背景情况:

• 在安全关键的生物医学领域采用人工智能受到复杂模型不透明度的阻碍.
• 可解释的人工智能 (XAI) 对于AI决策中的透明度,公平,问责和偏见减轻至关重要.
• 定量预测任务是各种领域的人工智能应用的一个关键焦点.

研究的目的:

• 系统地审查用于不同领域的定量预测任务的可解释人工智能 (XAI) 技术.
• 评估这些XAI技术对生物医学成像和传感的方法学相关性和潜在适应性.
• 确定差距,并为未来的生物医学应用可解释AI研究提供指导.

主要方法:

• 按照PRISMA指南进行了一次系统的文献审查.
• 分析了44篇Q1期刊文章,使用XAI技术进行量化数据库的预测任务.
• 基于其应用和对解释预测的贡献,识别和分类XAI技术.

主要成果:

• 对于定量预测任务,已经确定了13种不同的可解释的人工智能 (XAI) 技术.
• 沙普利添加式 eXPlanations (SHAP) 是最常用的技术 (35/44篇文章),其次是LIME,PDP和PFI.
• 指出了SHAP等模型不可知方法的理论局限性 (例如,附加/因果假设),特别是在异构的生物医学数据方面.

结论:

• 虽然XAI的计算评估很常见,但在结构化的人体受试者可用性验证中存在重大研究差距,用于临床翻译.
• 需要解决方法和可用性差距,以便在生物医学成像和传感中有效适应XAI.
• 未来的研究应该专注于开发和验证XAI技术,以确保安全,可解释和临床相关的AI部署.