为了充分利用差分进化（DE）的强大开发和estimation-of-distribution算法（EDA）的强大探索，提出了一种混合estimation-of-distribution算法的改进差分进化IDE-EDA。首先，提出了一种新的协同进化框架，将LSHADE-RSP（一种结合基于DE的有效改进策略的最先进的DE变体）与EDA混合。其次，利用LSHADE-RSP产生的优势个体建立EDA的概率分布模型，以增强其在每一代的开发，并引入新的控制参数来平衡开发和探索。
然后，使用贪心策略通过EDA工作，将高质量的解决方案充分保留到下一代以提高收敛速度。

2. LSHADE-RSP 和 EDA 的原理

在本节中，简要介绍了结合基于DE的有效改进策略的最新DE变体，称为LSHADE-RSP，以及EDA。

2.1. LSHADE-RSP

LSHADE-RSP [21]，是2018年IEEE CEC竞赛的获奖者之一，是一种非常优秀的DE变体，由Stanovov等人于2018年提出，通过结合基于DE的有效改进策略。初始化策略、变异策略、交叉策略、选择策略、线性种群规模缩减策略和自适应参数控制策略的数学模型描述如下。

2.1.1. 初始化策略

LSHADE-RSP中的初始化策略与经典DE相同[8]。在进化过程的开始，每个候选个体随机初始化如下。

$$x_i^j=x_{\min }^j+\text{rand}\cdot (x_{\max }^j-x_{\min }^j)\text{\hspace{1em}(1)}$$

其中 i ∈ { 1 , 2 , 3 , ⋯   , N P } i \in \{1, 2, 3, \cdots, NP\} i∈{1,2,3,⋯,NP} 是种群中个体的索引，$NP$ 表示种群大小。 j ∈ { 1 , 2 , 3 , ⋯   , D } j \in \{1, 2, 3, \cdots, D\} j∈{1,2,3,⋯,D} 是个体的维度索引，$D$ 表示维度。$\text{rand}$ 表示0到1之间的均匀分布随机数。$x_{\min }=(x_{\min }^1,x_{\min }^2,\cdots ,x_{\min }^D)$ 和 $x_{\max }=(x_{\max }^1,x_{\max }^2,\cdots ,x_{\max }^D)$ 定义了搜索空间的问题特定上下界。

2.1.2. 变异策略

在LSHADE中，采用基于排名的自适应选择压力策略“DE/current-to-pbest-w/r”[21] 生成变异向量 $v_i$，如下所示。

$$v_i=x_i+F{w}_i\cdot (x_{\text{pbest}}-x_i)+F_i\cdot (x_{pr1}-x_{pr2})\text{\hspace{1em}(2)}$$
$$F{w}_i=\{\begin{array}{ll}0.7\cdot F_i,& F{E}_s<0.2\cdot F{E}_{s_{\max }}\\ 0.8\cdot F_i,& 0.2\cdot F{E}_{s_{\max }}\le F{E}_s<0.4\cdot F{E}_{s_{\max }}\\ 1.2\cdot F_i,& F{E}_s\ge 0.4\cdot F{E}_{s_{\max }}\end{array}\text{\hspace{1em}(3)}$$

其中 $F_i$ 是范围在(0,1]内的缩放因子，将在第2.1.6节详细讨论。$x_{\text{pbest}}$ 是从当前种群中随机选择的主导个体[12]，$p$ 是基于排名的选择概率，用于平衡开发和探索。$x_{pr1}$ 和 $x_{pr2}$ 是基于当前种群的选择概率选择的不同个体。此外，$x_{pr2}$ 也可以从外部存档 $A$ [21] 中随机选择。当前种群中第 $i$ 个个体的选择概率计算如下。

$$P{r}_i=\frac{Ran{k}_i}{(Ran{k}_1+Ran{k}_2+\cdots +Ran{k}_{NP})}\text{\hspace{1em}(4)}$$
$$Ran{k}_i=k(NP-i)+1\text{\hspace{1em}(5)}$$

在公式(5)中，最佳个体根据适应度值被分配最大排名，最差个体被分配最小排名，即从范围[1, NP]中取值。$k$ 用于控制排名选择的贪婪度，设置为3在LSHADE-RSP中。此外，如果变异向量 $v_i$ 超出搜索范围 $[L_j,U_j]$，则使用公式(6)进行调整。

$$v_i^j=\{\begin{array}{ll}(x_{\min }^j+x_i^j)/2,& v_i^j<x_{\min }^j\\ (x_{\max }^j+x_i^j)/2,& v_i^j>x_{\max }^j\end{array}\text{\hspace{1em}(6)}$$

2.1.3. 交叉策略

交叉操作将在变异操作完成后实施，以生成试验向量。在LSHADE-RSP中，使用二项式交叉[8]生成试验向量 $u_i$，如公式(7)所示。

$$u_i^j=\{\begin{array}{ll}{v}_i^j,& \text{rand}<C{R}_j\text{ 或 }j=j_{\text{rand}}\\ x_i^j,& \text{否则}\end{array}\text{\hspace{1em}(7)}$$

其中 $j_{\text{rand}}$ 是在范围[1, D]内随机生成的维度，可以确保至少从变异向量中取一个分量 $u_i$。$C{R}_j$ 是将在第2.1.6节详细讨论的交叉率。

2.1.4. 选择策略

选择策略将被实施以根据 $u_i$ 和 $x_i$ 的适应度值确定下一代的幸存者。在LSHADE-RSP中，使用贪婪选择策略[8]如下。

$$x_i^{g+1}=\{\begin{array}{ll}{u}_i,& f(u_i)\le f(x_i)\\ x_i,& \text{否则}\end{array}\text{\hspace{1em}(8)}$$

其中 $f$ 是目标函数。此外，外部存档 $A$ [12] 在LSHADE-RSP中用于增强种群的多样性。如果目标个体 $x_i$ 优于试验个体 $u_i$，则将其保留到下一代。否则，它将从当前种群中丢弃，并保存到外部存档 $A$ 中。对于外部存档更新机制，如果外部存档已满，则从外部存档中随机选择一个个体将被新插入的个体替换。

2.1.5. 线性种群规模缩减

在LSHADE [13] 中提出的线性种群规模缩减（LPSR）也被用于LSHADE-RSP中以平衡开发和探索。根据LPSR，种群规模在进化过程中减少，如下所示。

$$NP=\text{round}\left[\frac{F{E}_s}{F{E}_{s_{\max }}}(N{P}_{\min }-N{P}_{\text{init}})+N{P}_{\text{init}}\right]\text{\hspace{1em}(9)}$$

其中 $F{E}_s$ 和 $F{E}_{s_{\max }}$ 分别是当前和最大函数评估次数。$N{P}_{\min }$ 和 $N{P}_{\text{init}}$ 分别表示种群的最大和最小大小。$\text{round}(\cdot )$ 是一个整数函数。因此，当 $NP$ 更新时，每一代中最差的个体将从种群中移除。此外，外部存档大小 $|A|=\text{round}(NP\times r^{arc})$ 将根据每一代结束时的 $NP$ 调整。

2.1.6. 自适应参数控制

在LSHADE-RSP中，使用与iL-SHADE [14] 中相同的基于历史的参数调整方案来调整每个个体在每一代的缩放因子 $F_i$ 和交叉率 $C{R}_i$。成功的 $F_i$ 和 $C{R}_i$ 对将分别保存到 $S_{CR}$ 和 $S_F$ 中，用于在每一代结束时基于加权勒梅尔平均值更新历史记忆 $M_{CR,k}$ 和 $M_{F,k}$，如下所示。

$$M_{F,k}=\{\begin{array}{ll}{M}_{F,k},& S_F=\varnothing \\ \frac{{\text{mean}}_{WL}(S_F)+M_{F,k}}{2},& \text{否则}\end{array}\text{\hspace{1em}(10)}$$
$$M_{CR,k}=\{\begin{array}{ll}0,& M_{CR,k}=\perp \text{ 或 }\max (S_{CR}=0)\\ \frac{{\text{mean}}_{WL}(S_{CR})+M_{CR,k}}{2},& \text{否则}\end{array}\text{\hspace{1em}(11)}$$
$${\text{mean}}_{WL}(S)=\frac{{\sum }_{n=1}^{|S|}{\omega }_n\cdot S_n^2}{{\sum }_{n=1}^{|S|}{\omega }_n\cdot S_n}\text{\hspace{1em}(12)}$$
$${\omega }_n=\frac{|f(u_n)-f(x_n)|}{{\sum }_{n=1}^{|S|}|f(u_n)-f(x_n)|}\text{\hspace{1em}(13)}$$

在公式(12)中，$S$ 指的是 $S_{CR}$ 或 $S_F$。对于每一代，仅更新 $M_{CR}$ 和 $M_F$ 中的第 $k$ 个单元。$k$ 的值从 1 开始，每一代增加 1。一旦 $k$ 超过预定内存大小 $H$ [14]，$k$ 将重置为 1。此外，$M_F$ 和 $M_{CR}$ 中的所有单元值初始化为 0.3 和 0.8。此外，$M_{CR}$ 和 $M_F$ 中的历史记忆条目在进化过程中始终设置为 0.9。

在每一代中，每个个体 $x_i$ 将被分配缩放因子 $F_i$ 用于变异操作，交叉率 $C{R}_i$ 用于交叉操作。$F_i$ 和 $C{R}_i$ 是使用柯西分布和正态分布生成的，如下所示。

$$F_i=\text{randc}(M_{F,R_i},0.1)\text{\hspace{1em}(14)}$$
$$F_i=\{\begin{array}{ll}1,& \text{应用公式(13)，}{F}_i>1\\ \min (F_i,0.7),& F{E}_s<0.6\cdot F{E}_{s_{\max }},\\ 0.6\cdot F{E}_{s_{\max }}\le F{E}_s,& \\ \min (F_i,1),& 0.6\cdot F{E}_{s_{\max }}\le F{E}_s\end{array}\text{\hspace{1em}(15)}$$
$$C{R}_i=\text{randn}(M_{CR,R_i},0.1)\text{\hspace{1em}(16)}$$
$$C{R}_i=\{\begin{array}{ll}0,& C{R}_i<0\\ \max (C{R}_i,0.6),& 0.25\cdot F{E}_{s_{\max }}\le F{E}_s<0.5\cdot F{E}_{s_{\max }},\\ \max (C{R}_i,1),& 0.5\cdot F{E}_{s_{\max }}\le F{E}_s,C{R}_i>0\end{array}\text{\hspace{1em}(17)}$$

其中 R i ∈ { 1 , 2 , 3 , ⋯   , H } R_i \in \{1, 2, 3, \cdots, H\} Ri​∈{1,2,3,⋯,H} 是单元选择的索引。此外，贪婪因子 $p$ 在LSHADE-RSP中随着 $M_{CR}$ 的增加而增加，如下所示。

$$p=0.085+0.085\cdot \frac{F{E}_s}{F{E}_{s_{\max }}}\text{\hspace{1em}(18)}$$

3 EDA

在本部分中，简要介绍了EDA的基本知识。基本EDA框架简单，EDA的一般过程如下。

步骤1. 初始化参数和种群 $P$。

步骤2. 评估 $P$ 中的解并更新最佳解 $x_{\text{best}}$。

步骤3. 如果算法终止，则输出 $x_{\text{best}}$，否则执行步骤4。

步骤4. 从 $P$ 中选择优势种群 $P_d$ 以构建高斯概率分布模型。

步骤5. 通过从概率分布模型中采样生成新种群 $P$。

步骤6. 检查边界约束，然后执行步骤2。

在连续EDA及其变体中，高斯模型是最广泛采用的概率模型[40]。具有 $D$ 维的随机向量 $x$ 的联合高斯概率密度函数（PDF）可以通过均值 $\mu$ 和协方差矩阵 $C$ 参数化，如下所示[38]。

$$G(x{)}_{(\mu ,C)}=\sqrt{\frac{1}{(2\cdot \pi {)}^D\cdot \text{det}(C)}}\cdot \exp \left(-(x-\mu {)}^T\cdot C^{-1}\cdot (x-\mu )/2\right)\text{\hspace{1em}(19)}$$
$$C=\frac{1}{|P_d|}\cdot \sum _{i=1}^{|P_d|}{x}_i,x_i\in P_d\text{\hspace{1em}(20)}$$
$$C=\frac{1}{|P_d|}\cdot \sum _{i=1}^{|P_d|}(x_i-\mu )\cdot (x_i-\mu {)}^T,x_i\in P_d\text{\hspace{1em}(21)}$$

其中 $|P_d|$ 表示 $P_d$ 的基数，即包含在 $P_d$ 中的优势个体数量。

估计的高斯概率模型可以通过图1中的概率密度椭球（PDE）在超空间中描绘。在图1中，概率密度椭球的中心表示均值 $\mu$，即EDA的搜索中心，协方差矩阵 $C$ 的特征向量和相应的特征值分别决定了概率密度椭球的轴方向和长度[40]。因此，协方差矩阵 $C$ 表示EDA的搜索方向和范围。

当根据优势种群获得估计的高斯概率分布模型的 $\mu$ 和 $C$ 时，将使用均值 $\mu$ 和协方差矩阵 $C$ 采样新种群，如下所示。

$$x_i=\mu +g_i,g_i\sim N(0,C)\text{\hspace{1em}(22)}$$

此外，如果向量 $x_i$ 超出搜索边界，将使用公式(23)进行调整。

$$x_i^j=x_{\min }^j+\text{rand}\cdot (x_{\max }^j-x_{\min }^j),\text{ if }{x}_i^j<x_{\min }^j\text{ or }{x}_i^j>x_{\max }^j\text{\hspace{1em}(23)}$$

3. 提出的IDE-EDA

本节描述了通过将LSHADE-RSP与EDA结合而提出的新型混合算法IDE-EDA。
3. 提出的IDE-EDA

本节描述了通过将LSHADE-RSP与EDA结合而提出的新型混合算法IDE-EDA。首先，选择LSHADE-RSP作为混合基础的原因如下：(1) DE由于其简单性和效率，被认为是EA最具代表性的算法之一。(2) 基于DE的算法在IEEE CEC会议系列中表现出色。(3) LSHADE-RSP被认为是不改变DE基本框架的最具有竞争力的基于DE的变体，因为它在IEEE CEC 2018竞赛中排名第二。然后，选择EDA作为混合算法的组成部分的原因是，由于EDA不依赖于特定的个体，而是仅依赖于进化过程中主导个体的信息，从而产生强大的探索能力，这可以有效缓解LSHADE-RSP中种群多样性的减少。

3.1. 协同进化框架

混合算法的研究是进化算法的重要方向。重点是如何有效地结合两个或多个EA，并充分发挥各自的优势以开发更好的算法。在提出的IDE-EDA中利用了一种新的协同进化框架，以充分利用LSHADE-RSP在不同优化阶段的强开发能力和EDA的强探索能力。具体来说，由于进化过程中种群多样性的减少，LSHADE-RSP倾向于陷入局部最优。此外，如图1所示，半圆形椭球的长轴倾向于与函数等高线平行，因此使用半圆形椭球内的优势个体估计的新概率密度椭球的长轴也倾向于与函数等高线平行[40]。换句话说，EDA的主要搜索方向在进化过程中通常与改进方向正交。EDA确实表现出强大的探索性能，尽管存在上述缺陷。

在IDE-EDA中，每一代设计了两个阶段，基于LSHADE-RSP和EDA的特性，并在每个阶段独立应用。协同进化框架的新颖性主要体现在两个算法之间的种群交互上。IDE-EDA的过程如图2所示，并在算法1中描述。首先，使用LSHADE-RSP搜索解空间，充分利用其强开发能力，这是由于实施 $x_{\text{pbest}}$ 和基于排名的选择压力在变异中产生的。然后，从LSHADE-RSP生成的种群 $P$ 中选择的优势个体用于建立EDA的概率分布模型，以充分利用其在进化过程中的强探索能力。由于用于建立概率分布模型的优势个体并非全部由EDA生成，因此可以缓解EDA的正交改进方向进化方向的缺陷。在协同进化框架中，LSHADE-RSP实施过程中的种群更新策略与原始算法一致，如算法1的第17至23行所示。在EDA实施过程中，利用贪婪搜索策略将更好的个体保留到下一代，如算法1的第33至36行所示，以提高IDE-EDA的收敛速度，其中LSHADE-RSP生成的个体和EDA采样的个体被结合，最好的 $NP$ 个个体将形成新的种群 $P$。此外，在进化过程中使用贪婪策略缩小外部存档 $A$，即当其大小 $|A|$ 由于 $NP$ 的减少而减少时，最差的个体将从外部存档中丢弃。

An Improved Differential Evolution by Hybridizing with Estimation-of-Distribution Algorithm, Information Sciences, 619(2023):439-456. https://doi.org/10.1016/j.ins.2022.11.029