对于回声状态网络和极端学习机器模型的组合和预训练方法
Lingyu Tang1, Jun Wang2, Mengyao Wang2
1School of Science, Civil Aviation Flight University of China, Guanghan 618307, China.
Entropy (Basel, Switzerland)
|March 28, 2024
概括
本研究介绍了对回声状态网络 (ESN) 和极端学习机器 (ELM) 的改进预训练方法. 这些策略提高了模型适应性和时间序列任务的预测准确性.
科学领域:
- 人工智能的人工智能
- 机器学习 机器学习
- 深度学习 (Deep Learning) 是一种深度学习.
背景情况:
- 反响状态网络 (ESN) 提供快速学习,但在特定任务的水库设计方面面临挑战.
- 启动ESN的循环结构可能会阻碍最佳性能.
- 极端学习机器 (ELM) 与ESN共享类似的培训过程.
研究的目的:
- 建议改进ESN的预培训方法,以创建适应性储库.
- 为特定应用增强ESN的参数和拓设置.
- 在ESN和ELM模型上评估这些预培训策略的有效性.
主要方法:
- 引入了ESN预培训的全球随机选择和组合培训策略.
- 使用粒子群集优化来微调固定和全局重量值.
- 将相同的预训练策略应用于极端学习机器 (ELM) 模型.
主要成果:
- 在6个基准和2个实时时间序列数据集中,明显提高了ESN学习结果.
- 在相同的数据集上,在预训练的ELM模型中展示了显著的性能改进.
- 验证了拟议策略在提高预测准确性和适应性方面的有效性.
结论:
- 拟议的全球随机选择和组合培训策略显著提高了ESN和ELM预测的准确性.
- 这些方法导致更适应性的储库和时间序列预测的增强模型性能.
- 预培训方法为优化ESN和ELM模型在实际应用中提供了可行的解决方案.
