提高临床医生对人工智能诊断的信心:信心校准和透明度的动态框架

科学领域:

• 医疗信息学 医疗信息学
• 人工智能在医学中的应用
• 临床决策支持 临床决策支持

背景情况:

• 由人工智能驱动的决策支持系统 (DSS) 在诊断准确性和工作流程效率方面提供了潜在的改进.
• 然而,临床医生的信任受限于不良的信任校准,缺乏透明度和与临床工作流程不一致,导致AI覆盖率高.

研究的目的:

• 开发和验证一个动态评分框架,以提高临床医生对人工智能产生的诊断的信任.
• 该框架将AI信心评分,语义相似性和透明度权重整合到覆盖决策过程中.

主要方法:

• 从MIMIC-III数据集中开发并验证了使用6,689例心血管病例的动态评分框架.
• 取消值根据不同的透明度和信任水平进行校准,取消率作为主要指标.
• 该框架整合了人工智能信任评分,语义相似度和透明度权重.

主要成果:

• 该框架将整体覆盖率降低到33.29%.
• 高信任度 (90-99%) 的AI预测具有较低的覆盖率 (1.7%),而低信任度 (70-79%) 的预测具有较高的覆盖率 (99.3%).
• 透明度降低与更高的覆盖率相关 (73.9%的最小透明度与49.3%的中等透明度相比),发现了显著的关联 (p < 0.001).

结论:

• 在人工智能诊断中提高透明度和信心校准可以显著降低覆盖率.
• 这些改进对于促进临床医生对AI诊断工具的接受和信任至关重要.
• 未来的研究应该优先考虑临床验证,以优化AI对患者安全,准确性和效率的影响.