可解释的人工智能为大脑和计算机接口的方法:一个审查和设计空间的方法

科学领域:

• 神经科学和人工智能 人工智能
• 人与计算机的交互
• 认知科学 认知科学

背景情况:

• 大脑-计算机接口 (BCI) 用于高风险应用程序的预测模型,解释复杂的大脑信号.
• 在BCI模型中,解释性是具有挑战性的,经常以透明度换取准确性,阻碍了信任.
• 现有的文献缺乏关于可解释人工智能对BCI (XAI4BCI) 的综合观点,将可解释性,可解释性和理解等关键概念结合起来.

研究的目的:

• 为了提供一个综合的观点,XAI技术应用于BCI.
• 区分关键概念,并为XAI4BCI制定一个全面的框架.
• 解决BCI开发和部署中各个利益相关者的解释性需求.

主要方法:

• 从2015年起发表的1246项研究的系统审查和元分析,以PRISMA方法为指导.
• 分析了84项选定的研究,以提取关于XAI4BCI的关键见解.
• 制定六个关键研究问题,涵盖XAI在BCI中的目的,应用,可用性和技术可行性.

主要成果:

• 目前的研究主要侧重于开发人员和研究人员的可解释性,以证明结果的合理性和改善模型性能.
• 确定并讨论了XAI4BCI的独特方法,优势和局限性.
• 为XAI4BCI提出了一个设计空间,强调可视化和利益相关者定制的结果.

结论:

• 这篇论文是第一个专门审查XAI4BCI研究的论文,提供了一个全新的综合视角.
• 调查结果强调了为BCI解释制定标准的必要性,并解决目前的局限性.
• 拟议的框架和设计空间将指导BCI在XAI的未来研究和开发.