多维时序 | MATLAB实现CNN-GRU多变量时间序列预测

基本介绍

本次运行测试环境MATLAB2020b，MATLAB实现CNN-GRU多变量时间序列预测，卷积门控循环单元。

模型特点

• CNN和GRU网络是深度学习中两种常见的网络。与浅层学习相比，深度学习能够实现数据的逐层转换，保证了最有效的特征表达和信息提取。
• CNN对输入数据进行逐层卷积和池化操作。卷积层是CNN 的核心，它利用局部连接和权值共享对输入进行卷积操作，提取数据的深层特征。
• 池化层通过一定的池化规则对卷积层的输出执行池化操作，保留主要特征，同时减少参数数目和计算量，防止过拟合。
• CNN 的特点是能够提取数据中的隐藏特征，并将其逐层结合，生成抽象的高层特征。然而，CNN不具备记忆功能，缺乏对时序数据时间相关性的考虑。
• RNN在学习长期依赖关系时存在梯度消失和爆炸等常见问题，为了解决这一问题，Hochreiter 等人提出了LSTM神经网络，其引入了3 个“选通单元”：输入门、遗忘门和输出门。Cho 等人将LSTM神经网络的输入门和遗忘门合并为更新门，构建了更易于计算和实现的GRU神经网络。
• GRU 神经网络是一种时间递归神经网络，能够充分反映时间序列数据的长期历史过程。GRU神经网络在处理后续输入数据时，可以将先前输入所携带的信息保存在网络中。
  
  

程序设计

• 完整程序和数据下载：MATLAB实现CNN-GRU多变量时间序列预测

%  CONV -> ReLU -> MAXPOOL -> FC -> DROPOUT -> FC -> SOFTMAX 
layers = [ ...
    sequenceInputLayer(inputSize)
    convolution1dLayer(5,100,'Padding',2,'Stride', 1) % 卷积层 1
    batchNormalizationLayer;
    reluLayer();  % ReLU 层 1
    convolution1dLayer(5,70,'Padding',2,'Stride', 1);  % 卷积层 2
    batchNormalizationLayer;
    maxPooling1dLayer(1,'Stride',1); % 最大池化 池化层 1
    convolution1dLayer(3,50,'Padding',1,'Stride', 1);  % 卷积层 3
    reluLayer(); % ReLU 层 3
    maxPooling1dLayer(1,'Stride',1); 
    convolution1dLayer(3,40,'Padding',1,'Stride', 1);  % 卷积层 4
    reluLayer(); % ReLU 层 2
    maxPooling1dLayer(1,'Stride',1); % 最大池化 池化层 1
    fullyConnectedLayer(1,'Name','fc1')
    
    regressionLayer]

options = trainingOptions('adam',... 
    'InitialLearnRate',1e-3,...% 学习率
    'MiniBatchSize', batchSize, ...
    'MaxEpochs',numEpochs);

[net,info1] = trainNetwork(input_train,output_train,layers,options);

• 相关预测
  
  
  

学习总结

CNN-GRU 模型中需要手动设置的参数主要包括卷积层层数、卷积核个数、GRU层层数、GRU层神经元个数和优化学习算法。卷积层层数和卷积核个数体现了CNN从数据中提取特征的能力，GRU层层数和GRU层神经元个数则反映了GRU神经网络从数据中学习时间依赖关系的能力。

参考资料

[1] https://blog.csdn.net/kjm13182345320/article/details/127515229?spm=1001.2014.3001.5502
[2] https://blog.csdn.net/kjm13182345320/article/details/127993418?spm=1001.2014.3001.5502