【MATLAB第50期】基于MATLAB的RELM-LOO多输入单输出回归&分类预测算法与RELM及ELM进行对比
引言
RELM-LOO即通过LOO计算效率方法对其RELM模型正则化C系数进行寻优。
对于进化算法寻优来说， 结果更稳定。
可参考以下文献：
[1] Shao Z , Er M J , Wang N .An effective semi-cross-validation model selection method for extreme learning machine with ridge regression[J].Neurocomputing, 2015, 151:933-942.DOI:10.1016/j.neucom.2014.10.002.
[2] Shao Z , Er M J .Efficient Leave-One-Out Cross-Validation-based Regularized Extreme Learning Machine[J].Neurocomputing, 2016, 194(jun.19):260-270.DOI:10.1016/j.neucom.2016.02.058.
一、回归模型
1.数据情况
7输入1输出，103行样本数据 。
前80训练，后23测试 ，随机样本抽取。
%% 导入数据
res = xlsread('数据集.xlsx');
%% 划分训练集和测试集
temp = randperm(103);
P_train = res(temp(1: 80), 1: 7)';
T_train = res(temp(1: 80), 8)';
M = size(P_train, 2);
P_test = res(temp(81: end), 1: 7)';
T_test = res(temp(81: end), 8)';
N = size(P_test, 2);
2.参数设置
nn.hiddensize = 100;% 隐含层神经元数
nn.inputsize = size(p_train,1); %输入变量数量
nn.activefunction = 's'; %sigmoid激活函数
method = {'ELM','RELM','RELM-LOO'};% 方法进行对比
nn = elm_initialization(nn);% 初始elm偏差及权值
nn.C1 = 0.001; %RELM初始化正则化参数
nn.C2 = exp(-8:0.2:6); %RELM-LOO搜寻正则化参数范围
3.效果展示
ELM训练集数据的RMSE为：2.0216
ELM测试集数据的RMSE为：3.199
ELM训练集数据的R2为：0.9337
ELM测试集数据的R2为：0.79778
ELM训练集数据的MAE为：1.5877
ELM测试集数据的MAE为：1.9848
ELM训练集数据的MBE为：0.00034057
ELM测试集数据的MBE为：0.41401
RELM训练集数据的RMSE为：1.643
RELM测试集数据的RMSE为：2.5332
RELM训练集数据的R2为：0.99366
RELM测试集数据的R2为：0.95801
RELM训练集数据的MAE为：0.49995
RELM测试集数据的MAE为：0.88175
RELM训练集数据的MBE为：0.12195
RELM测试集数据的MBE为：0.10933
RELM-LOO训练集数据的RMSE为：0.62506
RELM-LOO测试集数据的RMSE为：1.4577
RELM-LOO训练集数据的R2为：0.99366
RELM-LOO测试集数据的R2为：0.95801
RELM-LOO训练集数据的MAE为：0.49995
RELM-LOO测试集数据的MAE为：0.88175
RELM-LOO训练集数据的MBE为：0.12195
RELM-LOO测试集数据的MBE为：0.10933
二、分类模型
1.数据情况
12输入1输出，357行样本数据 ，4分类标签。
前240训练，后157测试 ，随机样本抽取。
%% 导入数据
res = xlsread('数据集C.xlsx');
%% 划分训练集和测试集
temp = randperm(357);
P_train = res(temp(1: 240), 1: 12)';
T_train = res(temp(1: 240), 13)';
M = size(P_train, 2);
P_test = res(temp(241: end), 1: 12)';
T_test = res(temp(241: end), 13)';
N = size(P_test, 2);
2.参数设置
nn.hiddensize = 100;% 隐含层神经元数
nn.inputsize = size(p_train,1); %输入变量数量
nn.activefunction = ‘s’; %sigmoid激活函数
method = {‘ELM’,‘RELM’,‘RELM-LOO’};% 方法进行对比
nn = elm_initialization(nn);% 初始elm偏差及权值
nn.C = 0.1; %正则化参数
nn.C2 = exp(-4:0.2:4); %RELM-LOO搜寻正则化参数范围
nn.type = ‘classification’;;%分类
3.效果展示
ELM训练集数据的正确率acc为：96.25
ELM测试集数据的正确率acc为：94.0171
RELM训练集数据的正确率acc为：96.25
RELM测试集数据的正确率acc为：96.5812
RELM-LOO训练集数据的正确率acc为：97.0833
RELM-LOO测试集数据的正确率acc为：97.4359
三、代码获取
后台私信回复“50期”可获取下载链接。
