抗幻觉网络:一种潜在的审计工具,用于对低剂量计算机断层扫描中的深度学习模型的行为进行检查
Chulkyun Ahn1,2, Jong Hyo Kim1,2,3,4,5,6
1Department of Transdisciplinary Studies, Program in Biomedical Radiation Sciences, Graduate School of Convergence Science and Technology, Seoul National University, Seoul 08826, Republic of Korea.
Diagnostics (Basel, Switzerland)
|January 11, 2024
概括
这项研究介绍了AntiHalluciNet,这是一种用于检测深度学习中人工结构的工具,用于检测低剂量CT图像,确保临床安全. 通过分析残留噪音,防止幻觉并提高诊断准确性,AntiHalluciNet有效地审核了无声模型.
科学领域:
- 医疗成像医学成像
- 人工智能的人工智能
- 放射学 放射学是一门学科.
背景情况:
- 深度学习 (DL) 消除模拟对低剂量CT (LDCT) 至关重要,但可以引入幻觉.
- 审计DL否定模型行为对于防止不良临床结果至关重要.
研究的目的:
- 介绍AntiHalluciNet,这是一个预先工具,用于预测DL中的虚构结构,消除残留噪声.
- 评估使用AntiHalluciNet用于审计DL的可行性,在临床环境中拒绝模型行为.
主要方法:
- 训练有素的AntiHalluciNet对配对结构嵌入式和纯噪声图像来预测虚假结构.
- 开发了一个残余结构指数 (RSI) 来量化预测信心.
- 评估了AntiHalluciNet仅使用噪声组件来评估图像保真性的能力.
- 将AntiHalluciNet应用于RED-CNN,CTformer和ClariCT.AI,以审计它们的噪声纯度性能.
主要成果:
- 在预测结构组件方面,AntiHalluciNet表现出色 (结构嵌入和纯噪声之间的RSI差异:0.57与0.02,p < 0.0001).
- 在不同降解级别 (25-100%的混合率) 中,RSI有效地区分了无色图像质量.
- RSI测量区分了RED-CNN (0.28),CTformer (0.21) 和ClariCT.AI (0.15) 的噪声纯度.
结论:
- AntiHalluciNet显示了预测DL中的结构组件的潜力,为LDCT表示残余噪声.
- 该工具提供了一种可行的方法来审计DL无噪声模型的性能和行为,仅使用剩余噪声图像.
