STTRE:一个具有相对嵌入的时空变压器,用于多变量时间序列预测
Azad Deihim1, Eduardo Alonso2, Dimitra Apostolopoulou1
1Department of Engineering, City University of London, Northampton Square, London, EC1V 0HB, England, United Kingdom.
我们介绍了具有相对嵌入的时空变压器 (STTRE),用于多变量时间序列预测. 这种新的方法通过有效地捕捉时空依赖性,显著提高了准确性,超过了现有的模型.
科学领域:
- 数据科学数据科学数据科学
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 多变量时间序列数据在各种科学学科中越来越普遍.
- 现有的基于变压器的模型经常忽略空间组件,并使用有缺陷的时间嵌入来进行时间序列分析.
- 这导致多变量时间序列预测的准确性不足.
研究的目的:
- 提出一种新的基于变压器的框架,即具有相对嵌入的时空变压器 (STTRE),用于增强的多变量时间序列预测.
- 解决当前模型在捕捉时空依赖性方面的局限性.
- 提高时间序列分析的准确性和有效性.
主要方法:
- 开发了具有相对嵌入的空间时间变压器 (STTRE),将变压器架构适应时间序列.
- 将相对位置表示重新设计为相对嵌入,以更好地检测空间,时间和时空依赖.
- 重组了多头注意力机制,以充分利用拟议的相对嵌入.
主要成果:
- STTRE模型有效地捕捉了潜在的时空依赖关系.
- 与最先进的模型相比,预测准确度提高了24%.
- 在各种公开可用的多变量时间序列预测数据集上表现出卓越的性能.
结论:
- 拟议的STTRE框架在多变量时间序列预测方面取得了重大进展.
- 通过相对嵌入来有效利用时空是提高模型准确性的关键.
- STTRE为复杂的时间序列分析提供了更强大,更准确的解决方案.
更多相关视频
07:59Author Spotlight: Alignment of Synchronized Time-Series Data Using the Characterizing Loss of Cell Cycle Synchrony Model for Cross-Experiment Comparisons
Published on: June 9, 2023
07:12Using Informational Connectivity to Measure the Synchronous Emergence of fMRI Multi-voxel Information Across Time
Published on: July 1, 2014
相关概念视频
Relative Motion Analysis using Rotating Axes
However, to express the relative position of point B relative to point A, an additional frame of reference, denoted as x'y', is necessary. This additional frame not only translates but also rotates relative to the fixed frame, making it...
Time-Series Graph
Multi-input and Multi-variable systems
In the absence...
Linear Approximation in Time Domain
For a simple pendulum with a mass evenly distributed along its length and the center of mass located at half the pendulum's length,...
State Space to Transfer Function
The transformation process begins with the state-space representation, characterized by the state equation and the output equation. These equations are typically represented as:
State Space Representation
Consider an RLC circuit, a...
