结合创新！频域+时间序列，预测误差降低64.7%

news2024/11/23 4:04:20

频域+时间序列不仅能提供更丰富的信息，还能提高模型性能和预测准确性。对于论文er来说，是个可发挥空间大、可挖掘创新点多的研究方向。

具体来说：

通过将复杂的时间序列数据转换成简单的频率成分，我们可以更容易地捕捉到数据的周期性和趋势，从而提高预测的准确性。
通过将时间序列数据从时域转换到频域，利用频域特有的方法进行分析和特征提取，我们可以提高模型在多变量和单变量预测任务中的性能。

比如代表模型CTFNet，它结合了卷积映射和时频分解的轻量级单隐层前馈神经网络，可以将多变量和单变量时间序列的预测误差分别降低 64.7% 和 53.7%！

目前，时域分析和频域分析已经成为了时间序列领域的重要工具，频域相关也逐渐成了顶会常客。为帮助同学们获取论文灵感，本次我整理了12种结合创新方案，原文以及开源代码都附上了，方便同学们学习。

论文原文以及开源代码需要的同学看文末

Revisiting VAE for Unsupervised Time Series Anomaly Detection: A Frequency Perspective

方法：本文提出一种新的无监督异常检测方法FCVAE，该方法通过引入频域信息作为条件，利用全局和局部频域特征来更准确地捕捉异构周期模式和详细趋势模式，从而实现更准确的异常检测。

创新点：

作者提出了一种名为FCVAE的新型无监督异常检测方法，该方法在模型层面上引入频域信息作为条件来与CVAE一起工作，通过同时捕获全局和局部频域特征，并利用目标注意力机制更有效地提取局部信息，实现更准确的异常检测。
作者提出了几种新技术，包括CM-ELBO、数据增强和屏蔽最后一个点，这些技术在提高检测准确性方面起到了重要作用。
作者提出了一种新颖的数据增强方法，主要针对异常数据的模式突变和数值突变进行增强，从而提高了模型在无监督设置下的性能。

ATFNet: Adaptive Time-Frequency Ensembled Network for Long-term Time Series Forecasting

方法：论文提出了一种名为ATFNet的时间序列预测模型，旨在同时处理局部和全局依赖关系，并有效地结合时间域和频率域的优势。该模型包含一个时间域模块和一个频率模块，并引入了一种新颖的加权机制，根据输入序列的周期性水平动态分配权重。

创新点：

ATFNet是一种将时域模块和频域模块结合起来处理时间序列数据的创新框架。
ATFNet引入了"主导谐波能量加权"的新机制，根据输入时间序列的周期性动态调整时域模块和频域模块之间的权重，从而有效利用两个模块的优势。
ATFNet还引入了"扩展离散傅里叶变换"的方法，解决了频谱频率对齐的问题，提高了表示特定频率的准确性。
ATFNet提出了"复数谱关注"机制，有效捕捉不同频率组合之间的复杂关系。

TFDNet: Time-Frequency Enhanced DecomposedNetwork for Long-term Time Series Forecasting

方法：论文提出了一种名为TFDNet的方法。该方法通过时间频率增强编码器处理时间序列数据，其中包括趋势时间频率块和季节时间频率块。趋势时间频率块通过共享核对趋势模式进行处理，而季节时间频率块根据不同数据集的季节特性设计了两个版本，即使用个体核和多个共享核。最后，通过融合编码器表示来预测未来的时间序列。

创新点：

提出了一种名为TFDNet的时间频率增强分解网络，用于长期时间序列预测。
设计了多尺度的时间频率增强编码器，用于捕捉分解的趋势和季节组件中的不同模式。
开发了两个独立的趋势和季节时间频率块，以捕捉多分辨率中的不同模式。
研究了多种通道相关模式的核操作策略，并引入了单独核策略和多核共享策略。
引入了混合损失来实现鲁棒的预测，结合了L1损失和L2损失。

A Joint Time-frequency Domain Transformer for Multivariate Time Series Forecasting

方法：论文介绍了联合时频域Transformer（JTFT）。JTFT通过结合时域和频域表示来进行预测。频域表示通过利用少量可学习的频率来高效提取多尺度依赖关系并保持稀疏性。同时，时间域表示从最近的数据点中得出，增强了局部关系的建模并减轻了非平稳性的影响。

创新点：

JTFT结合了时域和频域表示来进行预测，有效地捕捉了多尺度依赖性和局部关系，同时缓解了非平稳性。
在JTFT中，频域(FD)表示使用了一种自定义的离散余弦变换（CDCT），它允许学习频率，从而提取可能与传统离散余弦变换（DCT）的均匀频率网格不一致的周期性依赖性。
JTFT引入了低秩注意力层（LRA），以高效地捕捉跨通道依赖性，通过缓解时间和通道依赖性捕捉中的纠缠和冗余，提高了预测性能。