数据中毒攻击基于神经网络的设备上学习异常检测器,通过对传感器的物理攻击来攻击神经网络

科学领域:

• 人工智能的人工智能
• 机器学习安全 机器学习安全
• 工业物联网工业物联网工业物联网

背景情况:

• 用于工业异常检测的边缘人工智能系统容易受到物理攻击.
• 设备上学习模型可以通过数据中毒而受到损害,降低性能.
• 对对边缘AI进行物理攻击的风险评估是有限的.

研究的目的:

• 为了证明数据中毒攻击对设备上学习的边缘AI进行异常检测.
• 调查与物理改边缘人工智能训练数据相关的安全风险.
• 评估数据中毒对机器振动异常检测准确性的影响.

主要方法:

• 目标是使用MEMS加速度计进行工厂机器振动分析的设备上学习异常检测系统.
• 通过将MEMS加速度计暴露在特定的声波中,伪造振动数据来执行数据中毒攻击.
• 伪造的数据被用来重新训练异常检测模型,其中包括概念漂移检测和多个正常模式模型.

主要成果:

• 数据中毒攻击成功降低了Edge AI检测异常机器条件的能力.
• 伪造的加速数据,当用于训练时,使异常探测器变得无效.
• 该系统在遭受声学操纵攻击后未能识别异常状态.

结论:

• 物理攻击,特别是通过声学操纵的数据中毒,对设备上学习边缘人工智能系统的完整性构成重大威胁.
• 在工业环境中,通过改传感器数据,异常检测的准确性可能会受到严重损害.
• 了解这些漏洞对于在关键基础设施中为边缘人工智能开发强大的安全对策至关重要.