为临床医生提供人工智能支持的机械通风优化解释用户界面:以用户为中心的设计和形成性的可用性研究
Ian-C Jung1, Maria Zerlik1, Katharina Schuler1
1Institute for Medical Informatics and Biometry, Faculty of Medicine and University Hospital Carl Gustav Carus, TUD Dresden University of Technology, Dresden, Germany.
为临床决策支持系统 (CDSS) 设计可解释的AI (XAI) 接口需要了解用户的需求. 这项研究发现,ICU护士和医生对机械通风支持中的AI解释有不同的偏好.
科学领域:
- 人工智能在医学中的应用
- 人与计算机的交互
- 临床决策支持 临床决策支持
背景情况:
- 人工智能 (AI) 在机械通风的临床决策支持系统 (CDSS) 中的整合提供了潜力,但由于缺乏透明度而面临采用障碍.
- 可解释的人工智能 (XAI) 和解释用户界面 (XUI) 对于在像重症监护室 (ICU) 这样的高风险环境中增强信任和可用性至关重要.
- 对于临床医生与ICU中的XUI互动的理解有限,需要研究将AI无集成到临床工作流程中.
研究的目的:
- 评估XUI的初始设计和用户对基于AI的CDSS的感知,以优化ICU中的机械通风.
- 探索不同的临床用户群 (ICU护士和医生) 如何在XUI中感知和优先考虑解释概念.
- 根据用户反和角色特定需求,收集经验数据来改进XUI设计.
主要方法:
- 使用Justinmind开发了一个中保密XUI原型,坚持以用户为中心的设计 (UCD) 原则 (ISO 9241-210).
- 通过两次与住院医生和ICU护士的可用性步行进行了形成性评估.
- 收集定性和定量反,包括指导讨论和利克尔特尺度评估解释的可理解性,适合性和视觉吸引力.
主要成果:
- 设计了一个两级的XUI:一级提供了高级解释 (异常值警告,输出确定性),二级提供了详细的见解 (输入,特征重要性,基于规则的解释).
- 医生发现详细的第二层有用,而ICU护士更喜欢简洁的第一层,表明不同的角色特定需求.
- 层层的设计有效地平衡了透明度和信息过载,证实了需要角色依赖的解释策略的需要.
结论:
- 以用户为中心的设计 (UCD) 对于开发临床决策支持系统 (CDSS) 的有效解释用户界面 (XUI) 是至关重要的.
- 识别和解决医生和ICU护士的独特信息需求对于XUI开发至关重要.
- 结果为设计重症监护中的分层,角色敏感的XUI提供了实际指导,为未来对信任和决策的影响研究铺平了道路.
更多相关视频
04:54Author Spotlight: IntelliSleepScorer — A High-Accuracy, Accessible GUI Software for Automated Sleep Stage Scoring in Mice and its Application in Psychiatric Research
Published on: November 8, 2024
06:37Author Spotlight: Addressing Technical and Subjective Challenges in Measuring Classroom Attention
Published on: December 15, 2023
相关概念视频
Mechanical Ventilation II: Invasive Ventilation
Negative-Pressure Ventilators
Negative-pressure ventilators create a vacuum around the chest or body to draw air into the lungs, simulating breathing. This method does not require an...
Mechanical Ventilation III: Noninvasive Ventilation
Noninvasive Positive-Pressure Ventilation...
Mechanical Ventilation I: Indication and Settings
Mechanism of Lamellipodia Formation
Mechanism of Filopodia Formation
Their main function is to guide migrating cells during normal tissue morphogenesis or cancer metastasis by recognizing and making initial contacts with the extracellular matrix. However, they can also act as stationary cell anchors or help to establish communication...
Mechanisms of Membrane Domain Formation
Another mechanism for membrane domain formation involves membrane proteins interacting with...
