基于FPGA中的二进制深度神经网络的高精度语音关键词发现
Ang Zhang1, Jialiang Shi1, Hui Qian1
1College of Physics and Information Engineering, Fuzhou University, Fuzhou 350108, China.
Entropy (Basel, Switzerland)
|November 26, 2025
概括
本研究介绍了一种概率平滑增强二元化神经网络 (PSE-BNN),用于在物联网设备上高效的关键词发现 (KWS). PSE-BNN平衡了准确性和计算成本,优于现有的方法.
科学领域:
- 语音处理 语音处理
- 机器学习 机器学习
- 嵌入式系统 嵌入式系统
背景情况:
- 深度神经网络 (DNN) 在关键字发现 (KWS) 中表现出色,但对于物联网设备来说,它们是计算密集型的.
- 二元神经网络 (BNNs) 减少了资源需求,但由于量子化过程中的信息丢失,经常牺牲了准确性.
- 这种BNN-KWS的精度下降可能会导致边缘设备虚假唤醒的能源消耗增加.
研究的目的:
- 开发一种新的概率平滑增强二元化神经网络 (PSE-BNN),用于在资源有限的物联网边缘设备上高效的KWS.
- 在计算复杂性和识别准确性之间实现平衡,使其能够在FPGA平台上部署.
- 为了减轻KWS系统中的二进制化引起的准确性降低.
主要方法:
- 提出了一个包含两个模块的PSE-BNN模型:初步确认提取和结果确认.
- 结果识别模块使用时间相关性来消除特征并提高量化模型性能.
- 利用信息理论原理通过概率平滑来降低输出分布的条件.
主要成果:
- 在谷歌语音命令数据集 (GSCD) 上获得了97.29%的准确性.
- 在Xilinx VC707 FPGA上,PSE-BNN使用了1939个LUT,832个FF和234Kb的存储.
- 与最先进的BNN-KWS相比,精度提高了1.93%,硬件资源减少了65%.
结论:
- PSE-BNN有效地平衡了边缘物联网设备上的KWS的计算效率和准确性.
- 概率平滑成功地减少了噪音诱导的,提高了信号与噪音的比率.
- PSE-BNN-FPGA设计显示出在资源有限的边缘物联网应用程序上部署的巨大潜力.


