选择性记忆递归最小平方:在RBF神经网络基础的实时学习中重新将遗忘转化为记忆.
IEEE transactions on neural networks and learning systems
|April 15, 2024
概括
选择性记忆递归最小方程 (SMRLS) 在辐射基函数神经网络 (RBFNNs) 中解决了被动知识遗忘. 这种新的方法通过考虑时间和空间数据分布来提高学习速度和概括性.
科学领域:
- 人工智能的人工智能
- 机器学习 机器学习
- 神经网络的神经网络的神经网络
背景情况:
- 辐射基函数神经网络 (RBFNNs) 利用忘记机制进行实时学习,以保持对新数据的敏感性.
- 经典的遗忘机制可能导致有价值的旧信息丢失,称为被动知识遗忘.
- 遗忘因子递归最小方程 (FFRLS) 和随机梯度下降 (SGD) 等现有方法在保留历史知识方面存在局限性.
研究的目的:
- 为RBFNNs引入一种新的实时训练方法,即选择性记忆递归最小方程 (SMRLS),用于RBFNNs.
- 克服被动知识遗忘现象,这是传统遗忘机制固有的现象.
- 提高RBFNNs在动态环境中的学习速度和概括能力.
主要方法:
- 将经典的遗忘机制重新塑造为一种基于时间和空间分布评估样本重要性的记忆机制.
- 将RBFNN输入空间划分为分区,并使用每个分区的样本开发合成的目标函数.
- 更新神经网络权重,使用当前近似误差和访问分区的记录数据.
主要成果:
- 与FFRLS和SGD相比,SMRLS显示了更好的学习速度.
- 拟议的SMRLS方法表现出增强的概括能力.
- 模拟结果验证了SMRLS在缓解被动知识遗忘方面的有效性.
结论:
- 在RBFNNs中,SMRLS为被动知识遗忘提供了一个有效的解决方案.
- 该方法对时间和空间数据分布的双重考虑增强了知识保留.
- 在RBFNN应用中,SMRLS代表了实时学习的重大进步.
更多相关视频
08:05Measuring Statistical Learning Across Modalities and Domains in School-Aged Children Via an Online Platform and Neuroimaging Techniques
Published on: June 30, 2020
7.5K
05:48Author Spotlight: Investigating the Impact of Emotional Prosodies on Voice Recognition and Perception
Published on: August 9, 2024
1.5K
