从可解释到可解释的深度学习,用于医疗保健中的自然语言处理:离现实有多远?

科学领域:

• 人工智能的人工智能
• 自然语言处理自然语言处理.
• 医疗保健信息学 医疗保健信息学

背景情况:

• 深度学习 (DL) 显著推进了医疗保健NLP,但需要透明度才能做出可靠的决策.
• 增加DL模型的复杂性需要解释性和解释性.
• 本范围审查侧重于医疗保健NLP中的可解释和可解释的DL.

研究的目的:

• 在医疗保健NLP中对可解释和可解释的DL进行全面的范围审查.
• 引入和定义"可解释和可解释的人工智能" (XIAI) 这个术语.
• 根据功能和范围对模型进行分类,确定当前的趋势和挑战.

主要方法:

• 在医疗保健NLP中对可解释和可解释的DL进行系统的文献搜索.
• 基于功能 (基于模型,输入,输出) 和范围 (本地,全球) 的模型的分类.
• 分析已识别的技术,趋势,挑战和机会.

主要成果:

• 注意力机制是最普遍的新兴可解释AI (IAI) 技术.
• 国际人工智能 (IAI) 的采用正在增长,与可解释AI (XAI) 不同.
• 主要挑战包括对全球建模的有限探索,缺乏最佳实践,以及系统评估不足.

结论:

• 鼓励将XIAI集成到大型语言模型 (LLM) 和较小的特定领域模型中.
• 在医疗保健中采用XIAI需要内部专业知识和与利益相关方的合作.
• 尽管存在挑战,但XIAI为医疗保健中可解释的NLP提供了宝贵的基础.