探索基于差异诊断的可解释人工智能:黑色素瘤检测的案例研究

科学领域:

• 皮肤病学 皮肤病学
• 医疗人工智能 医疗人工智能
• 计算机科学 计算机科学

背景情况:

• 黑色素瘤对全球健康构成重大风险,发病率和死亡率不断上升,特别是当晚诊断时.
• 深度学习人工智能 (AI) 模型在黑色素瘤检测方面表现有前途,但往往缺乏透明度,阻碍了临床信任.
• 人工智能模型的复杂性使得临床医生难以理解和依赖人工智能生成的诊断.

研究的目的:

• 引入一种新的可解释AI (XAI) 方法来检测黑色素瘤.
• 提高AI诊断工具的透明度和临床实用性.
• 提供符合临床差异诊断实践的解释.

主要方法:

• 开发一种与差异诊断原则相结合的新型XAI方法.
• 对新型XAI方法与四种常见的XAI技术进行评估,包括突出映射.
• 用户研究评估临床医生对测试的XAI方法的感知可用性和信任.

主要成果:

• 新的XAI方法被预期的用户认为比现有技术更有用.
• Saliency 映射是一种广泛使用的 XAI 技术,获得了最低的可用性和信任等级.
• 这种新方法在提高临床医生对基于AI的黑色素瘤检测的理解和信任方面表现出卓越的表现.

结论:

• 开发的XAI方法为黑色素瘤诊断中的AI提供了更加透明和临床相关的方法.
• 目前广泛使用的XAI方法,如度测绘,可能不适合在皮肤病学中临床部署.
• 与临床推理一致的可解释的人工智能技术对于培养对医疗保健人工智能的信任和采用至关重要.