0 前言

在海山数据库(He3DB)+AI（三）中，介绍了四种旋钮调优方法：基于启发式，基于贝叶斯，基于深度学习和基于强化学习，还介绍了迁移学习技巧。本文带来2024 VLDB的论文：An Efficient Transfer Learning Based Configuration Adviser for Database Tuning，介绍一种基于迁移学习的启发式数据库调优方法。

1 OpAdviser

1.1 主要工作

在现有的旋钮调优方法中，没有一个方法可以在所有任务中都表现较好。本文探讨了以下两个原因：

• 无效的巨大搜索空间：一个数据库中需要配置的参数很多，有些参数的搜索空间很大。寻找最优配置的时间和搜索空间的大小成正比，巨大的搜索空间将导致巨大的调参成本，而研究表明，很多搜索空间是无意义的。
• 合适的优化器：针对不同的任务，不同的优化器表现出不同的性能，有时甚至导致几个数量级的性能损失。选择合适的优化器是一直以来面临的一个挑战。

本研究的目的是通过缩小搜索空间和选择合适的优化器来同时解决上述两个挑战，从而加速数据库调优。为了实现这一点，本文提出了OpAdviser，一种数据驱动的方法。具体来说，OpAdviser从不同的客户端和应用程序的调优任务中积累丰富的历史数据，从历史数据中进一步提取有价值的信息，实现搜索空间的紧凑和优化器的选择，从而减少大量的调试成本。

1.2 总体流程

OpAdviser的计算流程如下图所示。

主要包含以下几个部分：

1. controller：通过与终端用户和数据库实例的交互来控制调优过程
2. data repository：存储历史数据，不同任务不同参数下的模型性能，以 { θ j i , f ( θ j i , w i ) } \{\theta_j^i,f(\theta_j^i,w_i)\} {θji​,f(θji​,wi​)}的形式存储，其中$i$表示任务
3. space constructor：构造紧凑的搜索空间
4. optimizer adviser：选择合适的优化器
5. configuration generator：由所选的优化器在所构造的搜索空间上生成配置参数

工作流程如下：

用户输入调优目标、调优成本预算、数据库实例和目标工作负载，在每一次迭代中，controller使用新的配置获取数据库性能，然后将这组数据放在data repository。基于data repository中的数据，space constructor得到一组范围更小的搜索空间（第2节内容）。optimizer adviser抽取元数据，然后将元数据输入到一个元排序器中（该元排序器在构建的基准数据集上进行预训练），由该元排序器来推荐优化器（第3节内容）。最后，将推荐的优化器和构建的搜索空间传递给配置生成器，生成配置参数，然后将这组参数返回给controller。当调优预算耗尽，就返回目前最好的配置参数。

OpAdviser的设计目的是自我完善，其性能随着数据存储库中积累的调优观测值的增加而提高。

2 确定搜索空间

本文提出了一种新的方法来自动构建精确的搜索空间，而不需要收集大量关于目标工作负载的观测值。本文的方法从以前的任务中提取有效区域来构建精确的搜索空间，主要包括三个部分：

1. 相似任务识别：识别出与当前任务具有相似特征的候选任务集合
2. 有效区域提取：根据任务相似度从每个候选任务中提取有效区域
3. 多数加权投票：利用提取区域的几何结构来生成紧凑的搜索空间

2.1 相似任务识别

一个数据库在执行不同的调优任务时，可以积累丰富的历史经验。对当前任务，找到类似的历史任务，从历史任务中挖掘有用的信息，来指导当前的任务。

那么如何来量化当前任务和历史任务的相似性呢？

通过考虑两个任务在不同配置下是否具有相似的性能分布来解决这个问题。

假设用$(\theta ,f(\theta ))$来描述参数配置和性能。历史任务$m$在数据仓库中有一组性能数据$({\theta }_1^m,f({\theta }_1^m)),({\theta }_2^m,f({\theta }_2^m)),...({\theta }_n^m,f({\theta }_n^m))$，并基于这组性能数据在离线阶段使用随机森林训练了性能函数$f^{\prime }$ 。当前任务在迭代执行得到一组性能参数$({\theta }_1,f({\theta }_1)),({\theta }_2,f({\theta }_2)),...({\theta }_{,}f({\theta }_n))$。OpAdviser通过计算两个任务之间$\theta$变化导致的$f()$变化是否一致来判断任务的相似性，即导数方向是否一致，其相似性计算公式如公式1所示：

$$\begin{array}{l}\begin{array}{l}S(i,t)=\frac{2}{|H^t|\left(|H^t|-1\right)}F(i,t)\\ F(i,t)={\sum }_{j=1}^{|H^t|}{\sum }_{k=j+1}^{|H^t|}1\left(f\left({\theta }_j\right)\le f\left({\theta }_k\right)\right)\otimes 1\left(f^{\prime }\left({\theta }_j,w_i\right)\le f^{\prime }\left({\theta }_k,w_i\right)\right)\end{array}\end{array}\text{\hspace{1em}(1)}$$

公式中，$F(i,t)$是性能变化一致性的样本数量，$H^t$是现有任务的观察样本数量，$\frac{2}{|H^t|(|H^t|-1)}$则表示所有样本的组合，OpAdviser使用性能变化一致性样本数量占所有样本组合的比例来表示两个任务之间的相似性。

在判断任务相似性时，设定阈值为0.5，当相似度小于0.5时，将其过滤掉。

2.2 有效区域提取

当找到了与当前任务相似度高的历史任务，如何从中获取有用信息，来帮助缩小搜索的范围？

可以将其建模为一个优化问题，在保证最优参数在其范围内时最小化搜索空间，最优化公式如下所示：

$$\begin{array}{cc}& \underset{{\Phi }^i}{\mathrm{argmin}}\Lambda \left({\Phi }^i\right),\\ \text{ s.t. }& \forall \theta \in G,\theta \in \hat{\Theta }\left({\Phi }^i\right).\end{array}\text{\hspace{1em}(2)}$$

在公式中，优化目标是最小化搜索空间$\hat{\Theta }\left({\Phi }^i\right)$，约束条件是这个空间中要包含所有的有希望的配置$G$。$G$通过已有的观察点和随机采样的一组配置来确定，若在该组配置下，模型性能超过一定阈值$f_b^i$，就将其加入集合。而阈值$f_b^i$的确定由以下公式确定：

$$f_b^i=f_{default}^i+2(f_{best}^i-f_{default}^i)(S(i,t)-0.5)\text{\hspace{1em}(3)}$$

公式中，$f_{default}^i$是历史任务在默认配置下的性能，$f_{best}^i$是观察到的最好性能，$S(i,t)$是历史任务和当前任务的相似度。

设计这个计算公式的理由如下：

• 如果历史任务和当前任务高度相似，那么$f_b^i$的值会和 $f_{best}^i$很接近，那么搜索的空间很小。
• 如果历史任务和当前任务高度相似性不高，那么搜索空间就会变大。

搜索空间的面积由以下公式确定：

$$\Lambda \left({\Phi }^i\right)=\prod _{k_j^i\in K1}\left({\hat{u}}_j^i-{\hat{l}}_j\right)\prod _{k_t^i\in K2}\left|{\hat{s}}_t^i\right|\text{\hspace{1em}(4)}$$

公式中，$K_1$表示连续的旋钮，$K_2$表示离散的旋钮。对于连续旋钮，其上界和下界分别为${\hat{u}}_j^i$和${\hat{l}}_j^i$，其公式如下所示：

l ^ j i = min ⁡ { θ j ∣ θ ∈ G } , u ^ j i = max ⁡ { θ j ∣ θ ∈ G } (5) \hat{l}_{j}^{i}=\min \left\{\theta_{j} \mid \theta \in G\right\}, \quad \hat{u}_{j}^{i}=\max \left\{\theta_{j} \mid \theta \in G\right\} \tag{5} l^ji​=min{θj​∣θ∈G},u^ji​=max{θj​∣θ∈G}(5)

对于离散旋钮，其值由以下公式计算：

s ^ t i = { θ t ∣ θ ∈ G } (6) \hat{s}_{t}^{i}=\left\{\theta_{t} \mid \theta \in G\right\} \tag{6} s^ti​={θt​∣θ∈G}(6)

接下来，为了更进一步缩小搜索空间，使用特征算法[5]基于历史的观测信息来选择重要的旋钮。本文使用SHAP[1]，SHAP是一个通过配置之间的性能变化来衡量特征重要性的工具，移除一些不值得调优的旋钮，从而进一步缩小搜索空间。

2.3 多数加权投票

通过以上两步，从每个候选任务中提取了有效区域，根据这些信息，来生成最后的目标搜索空间，包括哪些是重要的旋钮和其调参范围。

本文设计了一个多数加权投票策略来聚合来自候选任务的建议，根据每个历史任务和当前任务的相似度来计算其权重，计算公式如下所示：

$$w_i=\frac{S(i,t)}{{\sum }_{j=1}^{m}S(j,t)}\text{\hspace{1em}(7)}$$

将总权重阈值设为50%，具有多数同意删除的旋钮被删除，多数同意保留的旋钮被保留，对于每个保留的旋钮，枚举其提取的有效范围和具有多数投票的区域，生成一个紧凑的区域将其包括在内。

为了避免负迁移，使用两条策略。

策略一：

根据在上一轮迭代中的观察样本和训练好的性能函数$f^{\prime }$，在获得新的配置参数$\theta$后，使用3.2节的方法提取有效区域，公式如下：

$$\begin{array}{l}\begin{array}{l}S(t,t)=\frac{2}{|H^t|\left(|H^t|-1\right)}F(t,t)\\ F(t,t)={\sum }_{j=1}^{|D^t|}{\sum }_{k=j+1}^{|D^t|}1\left(f\left({\theta }_j\right)\le f\left({\theta }_k\right)\right)\otimes 1\left(f_{-j}^{\prime }\left({\theta }_j\right)\le f_{-k}^{\prime }\left({\theta }_k\right)\right),\end{array}\end{array}\text{\hspace{1em}(8)}$$

随着模型的迭代，$f^{\prime }$逐步提升，相似度逐渐提升。下图为基于候选任务进行搜索空间提取的过程，其中第一行为上一轮迭代中拟合的模型，第二至第四行为历史任务。随着迭代开始，不断获取新的采样点，根据这些采样点，计算与各个候选模型的相似度，然后基于相似度计算当前任务的权重。从图中可以看到，随着样本数量的增加，自身模型的权重不断上升。

策略二：
对于候选任务，采样其中的$k$个（不是全部使用），根据其相似度来计算权重，采样是为了加入随机性，避免优化器陷入局部最优。

3确定优化器

在确定优化器上，本文提出了一种数据驱动的方法，为给定的任务选择合适的优化器，该方法结合了任务的特点，进行具体问题具体分析。

3.1 元特征提取

在选择优化器时，要考虑任务的元特征。

已有工作表明，在选择优化器时，以下几个因素需要考虑：

• 搜索空间的维度和类型，一些优化器可能适合离散任务，一些可能适合连续
• 数据库性能响应函数
• 调优阶段，一些优化器可能在早期性能更好，一些在后期性能更好

因此，对于每个调优任务设计了以下元特征：

• 空间特征：该特征包括旋钮的数量、搜索空间和类别
• 相应函数特征：采用了5.2节的协调排序对来衡量当前任务和以往任务之间的相似度，构建了一个相似度向量，来看作是目标响应面的一个分布式表示
• 过程特征：使用迭代次数作为特征来表示调参过程

在每次迭代后更新元特征，使得可以在不同的迭代周期中选择合适的优化器，观测值是可以共享的。

3.2 离线数据生成

启发式的优化器选择依赖人的经验，无法适应变化的场景，本文设计了一种数据驱动的机器学习方法进行优化器的选择。

为了训练这个模型，需要监督数据，获得在不同的情况下各个模型的性能情况。然而，获得这个数据的成本是很高的，为了以较少的测试收集数据，本文采用主动学习的方法来选择测试和标注的样本。

首先通过改变搜索空间和响应来生成一组候选调优任务，然后采用classification margin[2]方法迭代地选择具有最高不确定性的任务进行测试。这一过程一直持续到达到期望的决策阈值或测试预算耗尽为止。

3.3 Meta-Ranker构建

利用收集到的数据，开始构建学习模型，本文采用了LambdaMART[3]算法，将优化器的选择问题转化为排序问题。LambdaMar将任务元特征和两个候选优化器作为输入进行比较，产生在给定任务上的相对性能排名。

模型输入：($m,o_i,o_j,I$)

模型输出：1或0

其中，$m$表示元特征，$o_i$和$o_j$为优化器的独热编码，$I$是一个标识符。当$o_i$的性能优于$o_j$时，输出为1，否则为0。

具体地，OpAdviser从目标任务中提取元特征，将该特征与候选优化器对一起输入到元排序器中，并推荐排名靠前的优化器。

元排序方法与其他方法相比，其优势如下：

1）与分类模型相比，通过考虑成对性能可以提取更多的信息；

2）与回归模型相比，只需要进行两两优化器之间的比较，可以更好地处理噪声数据和不同规模的数据。

4 参考文献

[1]Scott M. Lundberg and Su-In Lee. 2017. A Unified Approach to Interpreting Model Predictions. In NIPS. 4765–4774.
[2]David D. Lewis and Jason Catlett. 1994. Heterogeneous Uncertainty Sampling for Supervised Learning. In ICML. Morgan Kaufmann, 148–156.
[3]Christopher JC Burges. 2010. From ranknet to lambdarank to lambdamart: An overview. Learning 11, 23-581 (2010), 81.