临床医生对人工智能驱动的闭环神经技术可解释性的观点.

科学领域:

• 神经技术的神经技术
• 人工智能的人工智能
• 临床翻译 临床翻译

背景情况:

• 人工智能 (AI) 显示了神经技术进步和临床应用的潜力.
• 人工智能驱动的神经技术使用复杂的算法来分析大脑数据和闭环神经刺激.
• 人工智能有限的临床整合往往是由于缺乏可解释性.

研究的目的:

• 调查临床医生对人工智能驱动的闭环神经技术的态度.
• 探索临床医生关于AI可解释性的信息需求和偏好.
• 确定临床AI采用所需的解释形式.

主要方法:

• 与德国和瑞士的20名临床医生 (神经病学家,神经外科医生,精神病学家) 进行了半结构化的专家采访.
• 采用反射主题分析来了解临床医生对AI可解释性的期望.
• 专注于闭环神经技术系统中的AI.

主要成果:

• 临床医生优先考虑情境敏感,临床上有意义的解释 (例如,输入数据,结果相关性).
• 临床医生对详细的技术模型信息的兴趣很小.
• 临床医生特别要求可解释的AI (XAI) 技术,如特征的重要性.

结论:

• 人工智能神经技术的临床实用性可以通过专注于直观,以用户为中心和临床相关的解释性来增强.
• 优先考虑实用临床医生的需求而不是完全的算法透明度,可以弥合人工智能开发到临床实施之间的差距.
• 设计以临床医生为重点的可解释性的人工智能系统对于成功采用至关重要.