让大脑变得模糊:自动化压力测试用于ML驱动的神经刺激的安全性

科学领域:

• 神经科学是一个神经科学.
• 生物医学工程 生物医学工程
• 计算机科学 计算机科学

背景情况:

• 机器学习 (ML) 模型是先进神经假体的组成部分,可实现精确的神经刺激.
• 直接的神经刺激带有固有的安全风险,需要强大的安全评估方法.
• 目前用于ML驱动神经刺激的安全协议需要进行系统的定量评估.

研究的目的:

• 提出和验证一种系统的,定量方法,用于检测和描述在ML驱动的神经刺激系统中不安全的刺激模式.
• 调整自动化软件测试技术,以确保神经接口的安全性.
• 为基于证据的基准分析和监管准备提供一个框架.

主要方法:

• 适应覆盖导向模糊,一种自动化软件测试技术,用于神经刺激安全性分析.
• 通过扰乱输入和监控违反生物物理安全极限 (电荷密度,电流,协同激活) 来实现对应力测试ML模型的模糊化.
• 利用覆盖范围的指标来指导各种输出空间和违规类型的探索,将神经编码器视为黑盒子.

主要成果:

• 这种以违规为重点的模糊化方法成功地发现了在视网膜和皮质假肢的深度刺激编码器中超过既定的安全限度的多种刺激模式.
• 在量化不安全输出的数量和多样性方面,两个特定的违规输出覆盖度指标被证明有效.
• 该方法使得在不同的ML模型架构和培训策略中能够进行可解释的安全比较.

结论:

• 以违规为重点的化建立了安全评估作为一种经验和可重复的ML驱动神经刺激过程.
• 这种方法将神经接口安全性从训练启发式转变为部署模型的可测量属性.
• 它为道德保证,监管准备以及下一代神经接口的基于证据的基准测试提供了基础.