一种基于概念的两步方法,以提高皮肤病变诊断的可解释性和信任性

科学领域:

• 人工智能在医学中的应用
• 可解释的人工智能 (XAI)

背景情况:

• 在临床环境中采用深度学习面临挑战,因为注释数据有限和缺乏信任.
• 概念瓶模型 (CBM) 提供了可解释性,但需要广泛的注释和对新概念的重新培训.

研究的目的:

• 开发一种用于临床诊断的新,高效和可解释的AI方法.
• 解决传统CBM的注释负担和再培训限制.
• 提高透明度,使人工智能驱动的诊断过程中的人类干预成为可能.

主要方法:

• 一种模拟CBM的两步方法,使用预训练的视觉语言模型 (VLM) 进行概念预测.
• 一个现成的大型语言模型 (LLM) 用于基于预测概念生成疾病诊断.
• 纳入测试时间的人类干预,以纠正概念,以改进诊断.

主要成果:

• 拟议的方法在三个皮肤病变数据集上表现优于传统的CBM和最先进的可解释方法.
• 该方法不需要培训和最小的注释示例,大大减少了数据注释负担.
• 通过人类在循环中的概念纠正,证明了诊断准确度的提高和决策透明度的提高.

结论:

• 新的两步方法有效地提高了可解释性,并减少了临床人工智能系统的数据要求.
• 这种方法提供了一个灵活和透明的替代传统的CBM,促进信任和在临床实践中采用.
• 该方法显示了在医学诊断中推进可解释AI的重大前景,特别是在数据稀缺的情况下.