令人不安的BEAMs:对深度学习模型的EEG对抗性攻击,用于诊断

科学领域:

• 神经科学和人工智能 人工智能
• 医学诊断和机器学习

背景情况:

• 深度学习模型在脑电图 (EEG) 分析中显示出高性能,用于诊断大脑疾病.
• 医疗应用程序的安全关键性要求对这些模型进行彻底研究对抗性攻击和防御.
• 现有的研究还没有充分探索深度学习模型在诊断中的脆弱性.

研究的目的:

• 调查在诊断中使用的深度学习模型对白盒对抗性攻击的脆弱性.
• 提出用于深度学习模型中使用的大脑电活动映射 (BEAM) 的对抗样本生成的新方法.
• 评估这些对抗性样本在误导深度学习诊断系统中的有效性,并提高对更安全的人工智能设计的认识.

主要方法:

• 开发了两种方法,即光束的梯度扰动 (GPBEAM) 和具有差异演变的GPBEAM (GPBEAM-DE),通过扰乱光束来生成EEG对抗样本.
• 使用CHB-MITEEG数据集和两种类型的受害者深度神经网络 (DNN) 模型 (BEAM输入和原始EEG输入) 的实验.
• 分析不同攻击策略和模型架构下的攻击成功率和扭曲水平.

主要成果:

• 基于BEAM的对抗样本有效地误导了BEAM输入模型 (攻击成功率高达0.8),但对原始EEG输入模型 (成功率0.01) 效果较差.
• 在类似的扭曲约束下,GPBEAM-DE表现优于GPBEAM,在类似的扭曲约束下实现更高的攻击成功率 (0.8比0.59).
• 经过修改的GPBEAM/GPBEAM-DE实现了对这两种模型类型的高攻击性 (成功率为0.8和0.64),而不会增加扭曲.

结论:

• 对于诊断的深度学习模型,特别是那些使用BEAMs的模型,对对抗性攻击具有显著的脆弱性.
• 拟议的GPBEAM和GPBEAM-DE方法可以生成有效的对抗样本,突出临床部署中的潜在安全风险.
• 该研究强调了人工智能驱动的医疗诊断系统需要强大的对抗防御机制,以确保患者安全和可靠的诊断.