关于临床人工智能可解释性的实际,伦理和法律必要性:对关键论点的检查

科学领域:

• 医疗人工智能 医疗人工智能
• 可解释的人工智能 (XAI)
• 生物伦理学生物伦理学

背景情况:

• 人工智能 (AI) 在医学中的解释能力的必要性是当前文献中一个重要的辩论.
• 在医疗保健应用中,支持和反对可解释AI (XAI) 的论点很普遍.
• 通常不鼓励使用自主"黑子"算法.

研究的目的:

• 对支持和反对AI在医疗应用中的解释性必要性的论点进行系统的审查.
• 批判性地分析和综合关于可解释性辩论中反复出现的主题的论述.
• 研究无法解释的临床AI对患者自主权和知情同意的影响.

主要方法:

• 关于医学AI可解释性的论点的系统化文献综述.
• 对无法解释的临床人工智能工具进行比较分析,其中包括特异症诊断和排除诊断.
• 新型方法将临床AI与临床实践指南进行比较,以评估临床医生的尽职调查和认识论责任.

主要成果:

• 虽然自主黑子算法面临着强烈的反对,但并非所有缺乏可解释性的医疗AI都是有问题的.
• 在临床AI中缺乏可解释性并不一定会损害患者的自主权或知情同意.
• 关于可解释性对于临床医生的尽职调查和认识论责任至关重要这一说法受到质疑.
• 赞成强制性AI可解释性的论点经常将无法解释的AI与自动化决策或独家AI使用混为一谈.

结论:

• 对所有医疗人工智能技术的解释能力的必要性并非普遍确立.
• 新的比较表明,无法解释的AI可以在不损害患者权利或临床标准的情况下负责任地使用.
• 批判性地评估不同AI使用案例的融合对于对医疗保健中AI可解释性要求的细微了解至关重要.