声明:文章是从本人公众号中复制而来,因此,想最新最快了解各类智能优化算法及其改进的朋友,可关注我的公众号:强盛机器学习,不定期会有很多免费代码分享~
今天对我们之前推出的区间预测全家桶再次进行更新,将最新推出的QRTCN-BiLSTM模型加入到我们的全家桶当中。
这个模型是我们独家原创的,先前也是没有任何人用过,非常新颖。如果你再多做几个对比模型,证明你的模型优越性,那么paper不就蹭蹭发了吗?
当然,如果你之前购买过区间预测全家桶,此次推出的模型免费下载即可。
同样,本期代码大家使用的时候只需要一键运行main即可出来所有图片与区间预测结果,非常方便,也非常适合新手小白。如果你想替换成自己的其他数据集,也非常方便,只需替换Excel文件即可,无需更改代码。
我们提出的这个模型在知网和WOS平台依旧都是搜不到的,不信可以看下图:
废话也不多说,接下来简单介绍一下我们这个模型与创新点。
数据介绍
本期数据使用的依旧是多变量回归数据集,是某地一个风电功率的数据集,经过处理后有3个特征,分别用特征1、2、3来表示,具体特征含义大家不必深究,这边只是给大家提供一个示例而已,大家替换成自己的数据集即可~
更换自己的数据时,只需最后一列放想要预测的列,其余列放特征即可,无需更改代码,非常方便!
创新点
传统预测是以点预测的形式提供的,这种单一的预测信息不足以体现预测的不确定性。分位数回归可以直接估计不同分位数的点值,其优点是可以在整个分位数范围内提供预测值,而不用提前假设分布函数的参数形式。
创新点一、利用分位数回归实现区间预测!
传统的区间预测大多采用概率密度估计实现,此类方法往往需要估计误差,且需要假设误差的分布。而分位数回归则无需任何先验假设,直接利用其回归模型即可得到模型的上下界范围,非常好用。
分位数回归方法由 Koenker 等人提出,通过研究自变量和因变量间的条件分位数关系确定回归模型,可以实现由解释变量估计响应变量的条件分位数计算。设有c个解释变量 U={U1,U2,…,Uc}作用于随机变量S,S的分布函数可表示为:
则对任意分位数τ,τ∈[0,1],有:
式中 F-1 (τ)为S的第τ分位数 ;inf(s)为集合s的下确界。
线性分位数回归模型中,响应变量S在解释变量U下的第τ个条件分位数 QS(τ|U)为:
式中β(τ)为τ分位点下的回归系数向量。
不同分位点下的β(τ)不同,因此确定了β(τ)也就确定了该回归模型。另外,β(τ)的相关参数可由下式的损失函数进行求解,即:
式中ρτ(μ)为检验函数,其通过使ρτ(μ)最小,来求解模型回归系数β(τ)。检验函数ρτ(μ)为:
创新点二、利用时间卷积网络TCN深入挖掘数据特征!
时间卷积网络是一种通常用于处理时间序列的卷积神经网络,与传统 的卷积神经网络相比,它可以更有效地 提取时序数据的特征。一种通用的 TCN 体系结构,由因果卷积、残差连接和膨胀卷积组成。膨胀卷积可以增加卷积层的感受野,从而更好地捕捉时间序列中的长期依赖关系。其次,加入残差连接可避免梯度消失和性能下降的问题。
此处,我们将 TCN 处理后的信息输入到下一 个网络中。
创新点三、利用BiLSTM提升预测精度!
LSTM网络主要由记忆单元和门控单元(即输入门、遗忘门和输出门)组成。记忆单元用于存储并更新状态信息,输入门决定输入序列中哪些信息可以被传入单元,遗忘门选择性遗忘上一单元隐藏状态的部分信息,输出门筛选被传入下一单元的信息。
BiLSTM以由两层异向的LSTM网络为基础,考虑了前后不同时刻时序数据之间的相互影响,克服了LSTM中数据单向流动的局限性。
模型流程
结合分位数回归、TCN和BiLSTM的优势,构建基于QRTCN-BiLSTM的区间预测模型的流程为:
首先,通过堆叠3层的TCN残差模块以获取更大范围的输入序列感受野,同时避免出现梯度爆炸和梯度消失等问题每个残差块具有相同的内核大小k,其扩张因子D分别为1、2、4。
其次,BiLSTM获取到TCN处理后的数据序列,它将正反两个方向的LSTM层连接起来,一个按从前往后(正向)处理输入序列,另一个反向处理。通过这种方式,BiLSTM可以更加完整地探索特征的依赖关系,获取上下文关联。
最后,利用分位数回归模块进行回归预测,根据置信区间范围,得到预测结果及其上下区间范围,根据区间预测绘图并计算R2、MAE、MSE、RMSE、MAPE、PICP、PIMW指标。
以下是程序中的网络结构图,我们QRTCN-BiLSTM模型结构非常简洁,各结构层之间能简化的一定简化!省去了很多不必要的网络结构和代码,更加清晰易懂,适合新手小白!同时,直接运行main文件即可一键自动生成此网络结构图!
结果展示
这里采用了95%的置信区间,如果大家需要其他的置信区间,也可以自行更改,只需在代码的创建网络处修改即可,非常简单!
区间预测的测试集预测结果:
区间预测的训练集预测结果:
网络结构图:
点预测的误差直方图:
点预测的线性拟合图:
我们也很贴心地给出了很多评价指标,点预测包括4种评价指标,包括R2、MAE、MSE、MAPE,区间预测包括2种评价指标,区间覆盖率PICP、区间平均宽度百分比PIMWP,如果后续有需要增加评价指标的小伙伴可以私聊~
可以看到,我们的QRTCN-BiLSTM模型在此数据集下,在95%置信水平下的PICP达到了96.364%,R2也达到了0.99以上,与真实值基本吻合,这是很多论文都无法达到的效果,非常适合用来作为创新点!
以上结果展示中所有图片,作者都已精心整理过代码,都可以一键运行main直接出图!不信的话可以看下面文件夹截图,非常清晰明了!
适用平台:建议Matlab2021b版本及以上,没有的文件夹里已免费提供安装包!
全家桶代码目录
目前,全家桶在之前11个模型的基础上又增加了一个,共12个,之后还会推出更多更新颖的模型!
正如上文提到的,如果你想快速发paper,或者想要尝试到底哪个模型才最适合你的数据、精度最高,或者需要很多对比模型衬托你的模型的优越性,那么全家桶包含的这么多模型可以说完全符合你的需求!
购买后如果以后推出其他区间预测模型,直接免费下载,无需再次付费。
但如果你之后再买,一旦推出新模型,价格必然会上涨。因此,需要创新的小伙伴请尽早下手。
代码获取
1.已将本文算法加入区间预测全家桶中,点击下方小卡片,再后台回复关键字:
区间预测全家桶
2.如果实在只想要QRTCN-BiLSTM单品的同学,点击下方小卡片,再后台回复关键字,不区分大小写:
QRTB
更多代码链接:更多代码链接