检测和减轻医疗成像中的聪明汉斯效应:一个范围审查

科学领域:

• 人工智能的人工智能
• 医疗成像医学成像
• 机器学习 机器学习

背景情况:

• 聪明的汉斯效应,或捷径学习,发生在AI模型利用虚假的相关性而不是真正的临床特征时.
• 这种现象对在医学成像中开发可靠的人工智能 (AI) 构成了重大障碍.
• 可靠的AI系统对于提高医疗保健中的诊断和预后能力至关重要.

研究的目的:

• 对识别和解决医疗成像AI中的Clever Hans效应的方法进行范围审查.
• 为了分类现有的检测和缓解策略的捷径学习.
• 强调需要在人工智能研究中改进验证和透明度.

主要方法:

• 对2010年至2024年间发表的论文进行了全面的文献搜索.
• 审查了173篇论文,其中37篇被选择进行详细分析.
• 方法分为检测 (以模型为中心,以数据为中心,以不确定性/偏见为基础) 和缓解 (数据操纵,特征解,域知识).

主要成果:

• 检测方法侧重于识别对非临床模式的依赖.
• 缓解策略旨在消除或纠正这些虚假的相关性.
• 存在很大的差距,因为大多数研究都没有报告或测试捷径学习,这表明需要更严格的验证.

结论:

• 尽管取得了进展,但Clever Hans效应仍然是医学成像AI的一个挑战.
• 需要提高透明度,标准化基准和自动检测工具.
• 社区驱动的最佳实践和跨学科的合作对于在医疗保健中开发可靠和公平的AI至关重要.