相关实验视频
Updated: May 4, 2026
07:42
A Data-Driven Approach to Quantifying Immune States in Sepsis
Published on: February 7, 2025
559
通过SHAP值来改善FDA授权的AI/ML败血症诊断工具的解释性
Gregory L Watson1, Grace Staples1, Robin Carver1
1Prenosis, Inc., Chicago, IL, 60616, United States.
JAMIA open
|March 2, 2026
概括
临床医生高度重视人工智能/机器学习 (AI/ML) 工具的透明度. 沙普利值显著提高了对AI/ML败血症诊断的理解,医疗保健提供者更喜欢这些值.
科学领域:
- 医疗信息学 医疗信息学
- 机器学习的可解释性
- 临床决策支持 临床决策支持
背景情况:
- 人工智能/机器学习 (AI/ML) 工具在临床诊断中提供了潜在的好处,但往往缺乏透明度.
- 临床医生对AI/ML工具的信任和采用受到其"黑子"性质的阻碍.
研究的目的:
- 评估Shapley值的可解释性和接受性,以提高AI/ML工具的透明度.
- 评估临床医生对沙普利增剂扩张 (SHAP) 值在AI/ML败血症诊断工具中的理解和有用性.
主要方法:
- 结构化评估涉及30名临床医生 (15名提供者,15名护士) 评估AI/ML败血症诊断接口.
- 临床医生与带有和没有SHAP值的界面进行互动,评估可解释性和感知效用.
- 主要结果包括正确解释SHAP值和自我报告的AI/ML算法的输出理解的改进.
主要成果:
- 临床医生在解释SHAP值时实现了近乎完美的准确性 (98%).
- 100%的临床医生报告说,SHAP值改善了他们对AI/ML诊断结果的理解.
- 所有临床医生 (100%) 喜欢采用SHAP值的接口,而不是没有.
结论:
- 医疗保健提供者非常重视临床AI/ML算法的透明度.
- 沙普利值是提供透明度的有效方法,可能会增加AI/ML工具的采用和临床效用.
- 这项研究证明了可解释AI/ML在医疗保健环境中的实际价值.
