神经网络架构用于时间序列预测的性能分析:对RNN,LSTM,GRU和混合模型进行比较研究

科学领域:

• 人工智能的人工智能
• 机器学习 机器学习
• 时间序列分析时间序列分析

背景情况:

• 循环神经网络 (RNN),长期短期记忆 (LSTM) 网络和封闭式循环单元 (GRU) 对于时间序列预测非常受欢迎.
• 随机权重初始化可以导致这些模型的性能变化,影响可靠性.
• 需要在时间序列分析中对不同神经网络架构进行强有力的评估.

研究的目的:

• 为了进行时间序列预测,对九个神经网络架构进行基准测试,包括香草RNN,LSTM,GRU和六个混合配置.
• 为了评估模型性能的一致性和可靠性跨不同的现实世界数据集.
• 为在时间序列预测应用中选择合适的架构提供基于证据的指导.

主要方法:

• 对九种架构进行了全面的基准评估:香草RNN,LSTM,GRU和六种混合模型 (RNN-LSTM,RNN-GRU,LSTM-RNN,GRU-RNN,LSTM-GRU,GRU-LSTM).
• 使用蒙特卡洛模拟的性能评估,在三个真实数据集中进行100次代:太阳黑子活动,印度尼西亚COVID-19病例和溶解氧度.
• 使用弗里德曼测试来评估架构之间的性能差异的统计分析.

主要成果:

• 在九个神经网络架构中没有发现统计学上显著的性能差异.
• 一致的性能模式出现,有利于基于LSTM的混合架构.
• LSTM-GRU和LSTM-RNN配置表现出卓越的性能,LSTM-RNN在太阳黑子和溶解氧气预测方面表现出色,独立的LSTM是COVID-19预测的最佳选择.

结论:

• 虽然没有单一的架构在统计上优越,但基于LSTM的混合模型在时间序列预测的一致性和稳定性方面提供了实际优势.
• 建议LSTM-RNN和LSTM-GRU架构用于需要可靠预测的一般时间序列预测任务.
• 这项研究为从业人员选择神经网络模型用于各种时间序列分析应用提供了宝贵的见解.