ItpCtrl-AI:通过模拟放射科医生的意图,实现端到端可解释和可控制的人工智能.

科学领域:

• 人工智能的人工智能
• 医疗成像医学成像
• 放射学 放射学是一门学科.

背景情况:

• 深度学习模型在计算机辅助诊断中提供了高性能,但往往缺乏可解释性,在胸部X射线 (CXR) 解释等关键医疗应用中存在风险.
• 许多人工智能模型的"黑盒子"性质阻碍了临床环境中的信任和采用,特别是当诊断决策需要明确的理由时.

研究的目的:

• 引入ItpCtrl-AI,这是一个新的端到端可解释和可控制的AI驱动医学诊断框架.
• 模拟放射科医生的决策过程,包括他们的眼睛凝视模式,以提高AI诊断系统的可解释性和可控制性.
• 开发和验证一个新的数据集,诊断-凝视++,它将医学发现与相应的眼睛凝视数据联系起来.

主要方法:

• ItpCtrl-AI框架模拟放射科医生眼睛的目光,以识别焦点区域和像素的意义,生成注意力热图.
• 注意热图指导用于诊断发现的视觉信息的提取,并揭示模型的决策逻辑.
• 该框架包含用户定向输入,增强其可控性,并利用诊断-凝视++数据集进行培训和验证.

主要成果:

• 广泛的实验证明了该框架在生成准确的注意力热图和可靠诊断方面的有效性.
• 该模型成功地识别了CXR图像中的医学发现,并准确地复制了放射科医生眼睛中观察到的注意力模式.
• 开发的Diagnosed-Gaze++数据集将医学发现与眼神数据结合起来,促进用于医学诊断的可解释AI的研究.

结论:

• ItpCtrl-AI为基于深度学习的医学诊断中的可解释性挑战提供了一个可解释和可控制的解决方案.
• 该框架能够反映放射科医生的决策过程和眼睛凝视模式,从而提高诊断准确性和透明度.
• 数据集,模型和代码的公开发布将支持放射学可解释AI的进一步进展.