贝叶斯多项式神经网络和多项式神经普通微分方程
Colby Fronk1, Jaewoong Yun2,3, Prashant Singh4
1Department of Chemical Engineering, University of California, Santa Barbara, California; United States of America.
像拉普拉斯近似这样的贝叶斯推理方法现在可以使用多项神经网络和多项神经普通微分方程 (ODEs) 来处理符号回归中的杂数据. 这克服了以前的点估计方法的局限性.
科学领域:
- 计算科学 计算科学
- 机器学习 机器学习
- 应用数学 应用数学 应用数学
背景情况:
- 使用多项式神经网络和多项式神经普通微分方程 (ODEs) 的符号回归是科学方程发现的先进技术.
- 当前的方法提供点估计,限制了它们与现实世界的应用,杂的数据集.
研究的目的:
- 开发和验证贝叶斯推理方法用于符号回归,可以有效处理杂数据.
- 为了比较拉普拉斯近似的性能,马尔科夫链蒙特卡洛 (MCMC) 采样,以及此任务的变化推理.
主要方法:
- 贝叶斯推理技术的实施:拉普拉斯近似,MCMC采样和变量推理.
- 将这些方法应用于多项式神经网络和多项式ODEs用于方程恢复.
- 对开发的方法在有噪音数据的问题上进行验证.
主要成果:
- 与MCMC相比,拉普拉斯近似证明了优越的性能,并且对于测试的问题类的变化推理.
- 在符号回归任务中成功地容纳噪音数据.
- 开发的贝叶斯框架可以适应更广泛的符号神经网络架构.
结论:
- 贝叶斯推理,特别是拉普拉斯近似,显著提高了多项式神经网络和ODEs在有噪音数据的符号回归方面的稳定性.
- 这项工作为科学和工程中的方程发现提供了更可靠的方法.
- 该方法可扩展到更广泛的符号神经网络模型.
更多相关视频
09:47Author Spotlight: Advancing Alzheimer's Research – Exploring Early Detection and Multi-Omics Approaches
Published on: December 15, 2023
10:44Inherent Dynamics Visualizer, an Interactive Application for Evaluating and Visualizing Outputs from a Gene Regulatory Network Inference Pipeline
Published on: December 7, 2021
相关概念视频
Linear Approximation in Time Domain
For a simple pendulum with a mass evenly distributed along its length and the center of mass located at half the pendulum's length,...
Pole and System Stability
Simple poles are unique roots of the denominator polynomial. Each simple pole corresponds to a distinct solution to the system's characteristic equation, typically resulting in exponential decay terms in the system's...
Mechanistic Models: Compartment Models in Algorithms for Numerical Problem Solving
In individual population analyses, different algorithms are employed, such as Cauchy's method, which uses a...
Linear Approximation in Frequency Domain
In contrast, nonlinear systems do not inherently possess these properties. However, for small deviations around an operating point, a nonlinear system can often be approximated as linear....
Poisson's And Laplace's Equation
State Space Representation
Consider an RLC circuit, a...
