设计可解释的人工智能来提高人类-人工智能团队的表现:一个医疗利益相关者驱动的范围审查
Harishankar V Subramanian1, Casey Canfield1, Daniel B Shank2
1Engineering Management & Systems Engineering, Missouri University of Science and Technology, 600 W 14(th) Street, Rolla, MO 65409, United States of America.
医疗保健中的可解释人工智能 (XAI) 功能提高了透明度和信任. 利益相关者更喜欢可定制的XAI,平衡易用性与复杂任务的详细洞察力.
科学领域:
- 医疗保健中的人工智能
- 人与计算机的交互
- 医疗信息学 医疗信息学
背景情况:
- 复杂的人工智能系统需要可解释的人工智能 (XAI) 来实现透明度.
- 现有的XAI研究重点是通过系统和预测级别的功能,关注用户的信任和任务性能.
研究的目的:
- 分析利益相关者对人工智能在移植中的参与.
- 确定设计有效XAI系统的关键主题.
- 对当前的XAI特征进行范围文献审查.
主要方法:
- 为期九个月的利益相关者参与过程 (采访,研讨会) 与三个小组.
- 工作流分析以确定人工智能干预点.
- 对模拟XAI决策支持系统的评估.
- 基于确定的主题进行范围文献综述.
主要成果:
- XAI设计的四个关键主题:预测使用,信息内容,个性化和定制化.
- 人工智能预测时间 (在决策之前,期间和之后) 根据任务复杂性而影响好处.
- 专家们更喜欢简单案例的最小XAI;大多数利益相关者希望复杂案例的可选功能.
- 系统级和预测级XAI信息对于用户心理模型至关重要.
- XAI可以提高信任,但并不总是提高人类-人工智能团队的表现.
结论:
- 利益相关者希望通过XAI接口来控制信息水平.
- 未来的研究应该专注于根据用户偏好和任务复杂性定制XAI功能.
- 定制的XAI设计对于有效的AI整合到医疗保健中至关重要.
更多相关视频
07:46Author Spotlight: Revolutionizing Remote Surgery with Augmented Reality and Robotics for Enhanced Precision and Accessibility
Published on: August 9, 2024
09:52Setting Up a Stroke Team Algorithm and Conducting Simulation-based Training in the Emergency Department - A Practical Guide
Published on: January 15, 2017
相关概念视频
Issues And Trends In Healthcare Delivery System
Cost Containment
Payment for healthcare services has historically promoted adoption of costly and often unnecessary or inefficient...
Ethical Dilemmas II
Current Trends in Nursing II
Introduction to Cognitive Psychology
This field emerged in the mid-20th century, following a period dominated by behaviorism, which...
Methods of Documentation VI: Case Management Model
For example, a patient with a chronic...
Patient-centered Care
