在Kolmogorov神经网络上
Aysu Ismayilova1, Vugar E Ismailov2
1Department of Information and Computing Sciences, Utrecht University, Utrecht, The Netherlands.
具有特定激活函数的科尔摩戈罗夫神经网络模型可以准确地表示各种复杂的多变量函数. 这证明了模型在处理连续,有限和无限函数方面的多功能性.
科学领域:
- 人工智能的人工智能
- 机器学习 机器学习
- 神经网络的神经网络的神经网络
背景情况:
- 多变量函数近似是计算数学中的一个基本问题.
- 神经网络是功能近似的强大工具,但它们的表示能力因架构和激活函数而异.
研究的目的:
- 为了研究Kolmogorov两层隐藏层神经网络模型的表示能力.
- 确定第二个隐藏层中不同激活函数对模型近似各种类型多变量函数的能力的影响.
主要方法:
- 使用科尔莫戈罗夫的两个隐藏层神经网络架构.
- 在第二个隐藏层中使用连续,不连续的有界和无界激活函数.
- 分析连续,不连续的有界和无界的多变量函数的精确表示.
主要成果:
- 在使用连续激活函数时,Kolmogorov 两层隐藏神经网络准确地表示连续的多变量函数.
- 该模型准确地表示不连续的边界多变量函数与不连续的边界激活函数.
- 网络有效地通过使用无限激活函数来接近所有无限的多变量函数.
结论:
- 科尔莫戈罗夫的两个隐藏层神经网络模型证明了广泛的多变量函数的通用近似能力.
- 在第二个隐藏层中选择激活函数对于确定网络可以代表的特定类型的函数至关重要.
- 这项研究提供了关于特定神经网络架构表达力的理论见解.
更多相关视频
11:18Closed-loop Neuro-robotic Experiments to Test Computational Properties of Neuronal Networks
Published on: March 2, 2015
10:45Anatomically Inspired Three-dimensional Micro-tissue Engineered Neural Networks for Nervous System Reconstruction, Modulation, and Modeling
Published on: May 31, 2017
相关概念视频
Multi-input and Multi-variable systems
In the absence...
Three-Compartment Open Model
Maxwell-Boltzmann Distribution: Problem Solving
This distribution function f(v) is defined by saying that the expected number N (v1,v2) of particles with speeds between v1 and v2 is given by
One-Compartment Open Model: Wagner-Nelson and Loo Riegelman Method for ka Estimation
On...
Sequence Networks of Rotating Machines
Zero-sequence current induces a voltage drop across the generator's neutral impedance and other...
Three-Dimensional Force System:Problem Solving
To solve a three-dimensional force system, first resolve each force into its respective scalar components. Do this using...
