PRG4CNN:一个概率模型检查驱动的强度保证框架,用于CNN
1Institute of Logistics Science and Engineering, Shanghai Maritime University, Shanghai 200120, China.
Entropy (Basel, Switzerland)
|February 26, 2025
概括
我们介绍PRG4CNN,这是一个用于深度神经网络 (DNN),特别是卷积神经网络 (CNN) 的自动概率稳定性验证和修复的新框架. 这种方法通过确保可靠的决策,提高了自主系统中的AI安全性.
科学领域:
- 人工智能的人工智能
- 机器人技术 机器人技术 机器人技术
- 计算机视觉 计算机视觉
背景情况:
- 卷积神经网络 (CNN) 对自主机器人至关重要,但往往缺乏对输入干扰的稳定性.
- 现有的CNN稳定性的正式验证方法耗时,并专注于当地物业.
- 概率的稳定性提供了一个实际的措施,但目前的验证是手动的,没有修复机制.
研究的目的:
- 开发一个自动化的框架,以保证CNN的概率稳定性.
- 将强度验证与自动维修集成在一起,以提高AI安全性.
- 解决现有的测试驱动和本地稳定性验证方法的局限性.
主要方法:
- 提出了PRG4CNN,这是CNN稳定性的概率模型检查驱动框架.
- 通过模型学习将CNN建模为马尔科夫决策过程 (MDP).
- 使用概率计算树逻辑 (PCTL) 公式指定了概率稳定性.
- 实施了针对强度修复的反例导向灵敏度分析.
主要成果:
- 在经过MNIST数据集培训的各种CNN上展示了PRG4CNN的有效性.
- 实现了对CNN的概率稳定性的自动验证和修复.
- 展示了PRG4CNN作为这个任务的第一个自动化和完整的框架.
结论:
- PRG4CNN提供了一种有效的,自动化的解决方案,以保证CNN的概率稳定性.
- 该框架提高了人工智能系统的可靠性和安全性,特别是在机器人领域.
- 这项工作推进了深度神经网络的正式验证领域.
更多相关视频
11:18Closed-loop Neuro-robotic Experiments to Test Computational Properties of Neuronal Networks
Published on: March 2, 2015
10.2K
10:44Inherent Dynamics Visualizer, an Interactive Application for Evaluating and Visualizing Outputs from a Gene Regulatory Network Inference Pipeline
Published on: December 7, 2021
2.1K
