一般化的M-sparse算法用于构建容错RBF网络
Hiu-Tung Wong1, Jiajie Mai2, Zhenni Wang2
1Center for Intelligent Multidimensional Data Analysis, Hong Kong Science Park, Shatin, Hong Kong Special Administrative Region of China; Department of Electrical Engineering, City University of Hong Kong, Tat Chee Avenue, Kowloon, Hong Kong Special Administrative Region of China.
本研究介绍了用于辐射基函数 (RBF) 网络的新型容错训练算法. 这些算法有效地选择RBF节点和火车重量,防止过度装配,并改善噪音或故障的性能.
科学领域:
- 人工智能的人工智能
- 机器学习 机器学习
- 神经网络的神经网络的神经网络
背景情况:
- 辐射基函数 (RBF) 网络在RBF中心选择和过方面面临着挑战.
- 在训练有素的RBF网络中,确保对噪声或故障的故障耐受性对于可靠的性能至关重要.
- 现有的算法往往无法同时解决RBF节点选择,过拟合和容错问题.
研究的目的:
- 为RBF网络提出新的容错训练算法.
- 为了同时解决RBF节点选择,输出重量训练和故障容忍.
- 在没有复杂的参数调的情况下,对RBF节点的数量提供明确的控制.
主要方法:
- 定义一个容错的目标函数,包含一个减轻重量缺陷和噪声的术语.
- 将训练过程作为一个通用的M-sparse问题,并对显式节点控制设置一个l0-norm约束.
- 介绍了耐噪反硬值 (NR-IHT) 算法及其动量增强变体 (NR-IHT-Mom).
主要成果:
- 拟议的算法有效地选择RBF节点和列车输出重量.
- 算法通过使用更多的RBF节点而没有过拟合,证明了测试集性能的提高.
- 在模拟中,NR-IHT和NR-IHT-Mom算法与最先进的方法相比显示出更高的性能.
结论:
- 开发的容错训练算法为关键的RBF网络构建问题提供了全面的解决方案.
- 对RBF节点数的明确控制和增强的故障耐受性导致了强大的网络性能.
- NR-IHT和NR-IHT-Mom算法代表了RBF网络培训的重大进展.
更多相关视频
12:27Large-scale Reconstructions and Independent, Unbiased Clustering Based on Morphological Metrics to Classify Neurons in Selective Populations
Published on: February 15, 2017
10:44Inherent Dynamics Visualizer, an Interactive Application for Evaluating and Visualizing Outputs from a Gene Regulatory Network Inference Pipeline
Published on: December 7, 2021
