从算法到硬件:对深度神经网络的有效和安全部署的调查

科学领域:

• 人工智能的人工智能
• 计算机工程 计算机工程

背景情况:

• 深度神经网络 (DNN) 面临着由于高内存,能源和计算成本的部署挑战.
• 模型压缩技术,如量化和修剪对于DNN效率至关重要.
• 将DNN与硬件加速器集成并确保安全是关键的研究领域.

研究的目的:

• 提供关于有效和安全的DNN部署的最新研究的全面调查.
• 涵盖模型压缩,硬件加速和DNN的安全集成.
• 提供从算法到硬件和安全的整体观点.

主要方法:

• 对主流模型压缩技术的调查 (量化,修剪,知识蒸).
• 对针对压缩DNN优化的硬件加速器进行审查.
• 讨论安全措施,如对DNN的同态加密.

主要成果:

• 确定了关键模型压缩方法及其对DNN效率的影响.
• 突出了针对高效DNN的硬件加速器的进步.
• 探索了同型加密的整合,以实现安全的DNN部署.

结论:

• 高效的DNN部署需要一个多方面的方法,结合算法压缩,专业硬件和强大的安全性.
• 在硬件评估,概括和整合各种压缩策略方面需要进一步的研究.
• 该调查为开发高性能,成本效益和安全的DNN提供了路线图.