增强人工智能临床决策支持信任:设计研讨会从全科医生的见解

科学领域:

• 临床信息学 临床信息学
• 人工智能在医学中的应用
• 人与计算机的交互

背景情况:

• 人工智能 (AI) 预测模型正在被整合到临床决策支持系统 (CDSS).
• 医疗保健提供者的信任和接受仍然是实现基于AI的CDSS的现实世界的重大障碍.
• 了解这些障碍对于在临床实践中成功采用人工智能至关重要.

研究的目的:

• 调查影响医疗保健提供者信任和接受基于AI的CDSS的因素.
• 探索影响临床医生的信任和建议接受的用户,模型和组织因素.
• 为设计培养信任的人工智能系统确定可操作的见解.

主要方法:

• 与全科医生 (GP) 进行了一次研讨会.
• 讨论的重点是影响AI-CDSS的信任和接受的用户,模型和组织因素.
• 从临床医生参与者那里收集了定性见解.

主要成果:

• 可解释性至关重要,但目前可解释性AI (XAI) 可视化对非技术临床医生具有有限的价值.
• 临床医生希望人工智能模型培训数据 (来源,元素) 的透明度.
• 人工智能建议与现有临床研究和指导方针的协调对于信任至关重要.

结论:

• 增强的人工智能系统设计需要的不仅仅是技术上的解释性.
• 数据的透明度和与临床证据的一致性对于临床医生的信任和AI-CDSS的接受至关重要.
• 未来的AI-CDSS开发应该优先考虑以用户为中心的设计,专注于建立信任的元素.