美团增量数仓建设新进展

摘要：本文整理自美团系统研发工程师汤楚熙，在 Flink Forward Asia 2022 实时湖仓专场的分享。本篇内容主要分为四个部分：

1. 建设背景

2. 核心能力设计与优化

3. 业务实践

4. 未来展望

Tips：点击「阅读原文」免费领取 5000CU*小时 Flink 云资源

美团增量数仓的建设背景

美团数仓架构的诞生是基于这样的技术假设：“随着业务数据越积越多，增量数据 / 存量数据的比值呈下降趋势，采用增量计算模式性价比更高。”

当然也与底层技术的发展有很强的相关性，Flink、Hudi 等具备增量计算、更新能力的技术框架，为增量数仓落地的提供了必要条件。

从时间线上看，增量数仓架构的演进过程可大致划分为三个阶段：

第一个阶段，2019 到 2020 年。这个阶段，业务希望在离线数仓的能力之上，得到更新鲜的数据，即实时数仓。所以我们借鉴了离线数仓的模型概念，提出了实时数仓的模型抽象。
第二个阶段，2020 到 2021。这个阶段实时数仓的生产任务还大量依赖 JavaAPI，对开发效率有较大的影响，所以我们要加快 FlinkSQL 的落地，提升数仓开发的效率。
第三个阶段，从 2021 年到现在。这个阶段随着数据湖技术的逐渐成熟，我们开始尝试整合离线跟实时数仓架构，进而提出了一套增量数仓的新架构。

目前美团内部会有 M、B、C、D 端等四大类业务场景，不同的场景之间对数据一致性、时效性的要求有交叉，但又不完全相同，需要寻找一套尽可能适配所有这些场景的技术架构。

首先我们会想到的是 Lambda 架构，它会通过实时链路解决高时效性的用数场景的需求；并通过离线链路来解决一些长业务周期的指标计算的需求；以及对数据一致性要求较高的场景的用数需求。

Lambda 架构最大的问题生产链路过于复杂，一方面造成较高的资源成本，另外是高昂运维的成本。

比如对高数据新鲜度的场景，高度依赖 Kafka，而其最初的架构设计就没有充分考虑到对数据一致性的保证。

业务会通过排序、幂等处理等手段牺牲计算资源，达成了数据一致性。

此外还有的问题是，运维门槛高。一个的典型的案例是，美团某 B 端业务场景对数据新鲜度要求较高，其交易主题表要求在 Flink 作业中保留 180 天状态数据，单任务状态大小>50TB，改口径后的直接消费上游 MQ 回溯数据，时长会超过 1 天，业务方很难接受，目前只能被动改造成先刷离线不变数据，再刷增量变更数据。

对时延不敏感，但需要能够灵活的将数据按不同粒度进行组织访问的离线场景，重度依赖于 Hive，而其的最初也并未考虑到数据高效的更新的能力。

典型的例子是，离线数仓最新快照事实表的生产场景，这种类型数据在业务上很常见，要求将上游的按天、小时生产的 DeltaRecord 与下游表中的存量数据快照做 Merge，理论上只需从存量快照数据中按 DeltaRecord 的 key 取出全部变更记录，Merge 之后再覆盖写即可。但当前离线数仓的普遍做法是全量加载存量快照数据，再与增量数据做归并排序后取最新一条，未变更记录的加载是非必要且浪费资源的。

我们期望增量数仓架构，能够很好的同时兼顾数据的时效性和数据一致性，并且低成本的完成数据的合并计算、高效组织。

相对基于 Kafka 构建的实时数仓来看，增量数仓需要提升回溯场景的效率、降低为保证数据一致性的资源开销。

相对基于 Hive 构建离线数仓，在没有就绪时间提前的前提要求下，可继续沿用批模式来执行增量数据合并，提升计算效率。

核心能力设计与优化

2.1 增量数仓存储架构

实现增量计算、更新，引入了一套支持事务管理、主键和 CDC 能力，可同时按部分行和列进行更新，并且对查询友好的新的存储引擎。这个新存储引擎的名字我们内部叫做 Beluga，它的基本架构是在 Hudi 的基础上，加以改造而来。

改造 Hudi 的动机是，最初 v0.8 不支持 CDC。考虑到了这点，我们引入 Hbase(KV)来生产 Changelog。

Beluga 有三个核心模块：

Beluga Client，运行在Flink作业中，主要用来处理读写请求和事务的协调。
Beluga Server，是基于 Hbase 来改造实现的，主要承担数据的更新、ChangeLog 的生产能力。
Beluga File Store，这层是基于 Hudi 来实现，主要用于存储 CDC 数据和快照数据。

2.2 优化分桶策略

Beluga 的增量行更新能力，是借助数据分桶来实现的。

第一步使 Hbase 和 Hudi 的分桶模型统一。这里将 Hbase 的 HRegion 和 Hudi 的 FileGroup 做了一一映射，共同组成了一个分桶。新记录会先过 Hbase 的 Region，然后按需生产出 Changelog，将数据刷入 Hudi。

这样做的好处是，Hudi 本身就可以将 Hbase 作为其外部索引，可以提升数据的更新效率。

前期测试过程中发现，Hudi 原生的分桶策略，想要正确使用，是有比较高的门槛的。这个门槛高主要体现在，使用不当会造成性能表现不佳：

需要考虑估算事务提交的频率与每次提交的数据量，否则会产生较多的小文件，影响读性能。
用户需要自行解决分桶间数据倾斜，否则会影响下游有序消费任务的读性能。
Hudi 的小文件复用策略使用 HDFS 的 append 接口，写性能差。
每次制作 Checkpoint 时，需要重新获取 Hudi 元数据，时间开销大。

为了解决这些问题，Beluga 设计了一套固定分桶策略。通过这套新分桶策略，我们在数据写入前就确定了其所属的分桶，而不是随着时间的变化，动态的增加分桶，这样有效控制了文件数的增长。

并且由于引入了 Hbase，对于数据更新操作，可以减少通过 HDFS 拉取文件构造元数据和索引的频率，进一步提升读写性能。

面对数据倾斜问题，我们加入了一套均衡算法，最大程度上保证分桶间的数据量保持均衡。

2.3 CDC 数据格式优化

Hudi 原生 CDC 能力，依赖 Flink 的回撤机制产生的 Changelog 来实现，但测试的过程中，发现存在数据不一致的风险。

从上图中可以看到，Flink 回撤机制无法保证，UPDATE 事件的-U/+U 消息在一次事务中，同时提交。如果+U 与-U 不在一次事务中提交，一旦上游节点发生故障，导致数据丢失。对于下游来讲，可能造成永久性的数据不一致。为此，我们进行了如下优化。

从左图中我们可以看到，我们将 UPDATE 事件的 UPDATE_BEFORE 与 UPDATE_AFTER 事件合并到一条记录中，类似 MySQL 的 Binlog。

这样可以保证更好的原子性，消除了数据不一致的风险。并且一定程度的使数据更紧凑，一定程度的减少序列化的开销。而且我们也了解到 Hudi 在 0.13 后也会采用类似的设计。

2.4 扩展有状态计算场景

建设实时数仓过程中，我们发现 Beluga 还可以低成本的解决一些有状态计算场景问题。

比如当业务遇到长周期的多流数据关联时，为了保证数据的一致性，需要在 Flink 状态中保留很长一段时间的数据快照。一方面，由于状态量过大，影响 Checkpoint 制作的稳定性。另一方面，由于 Flink 内部状态无法在多作业进行共享，有些作为公共维表的数据存储，存在资源浪费。

针对这种场景，我们可以通过 Beluga 的 Hbase 自带的 Cell 级别的更新能力，实现一些长周期、双流关联的业务场景需求。理论上我们还可以借助 Hbase 的点查能力，支持维度关联 Lookup-join 的场景。

一方面，可以缓解 Checkpoint 的压力。另一方面，数据可跨作业共享，资源利用率也得到了提升。

2.5 批流一体数据生产、运维能力

数据回溯是很常见的运维场景，已知在达到相同的计算吞吐量的情况下，流计算模式，要比批模式运行使用更多的计算资源。所以这里会采用 Flink 批任务完成数据的回溯。

我们发现，公司一些业务的业务数据的状态流转周期不固定。如一张事实表，按照事件时间进行分区后，它最近几个物理分区内的数据都有可能被流任务更新。

如果此时不加限制的使用批任务，就可能会覆盖更新鲜的数据，影响最终计算结果。属于典型的写到写的并发冲突。

要解决这个问题，会让业务先停掉流计算任务，再用批任务进行数据覆盖更新。完成批覆盖写之后，再重新启动流任务，回补断流期间的数据。

在一些无写冲突的情况下，可以不停掉流计算任务。等到批任务完成数据更新后，再结合实际情况，选择通过流任务来回放批未覆盖到的分区数据。这样可以一定程度的减少断流时长，加快了数据回溯的过程。

为了避免用户误操作，我们在工具链层面，对可能有并发写冲突风险的作业，进行事前拦截。

业务实践

下面这部分讲一下，业务如何借助增量数仓改进其数仓架构问题，重点介绍以下三个案例：

案例一：通过增量的计算模式加速数据入仓，从而解决离线数仓就绪时间晚的问题。
案例二：如何利用新的技术架构，通过增量计算模式，有效提升一些事实表生产效率。
案例三：业务如何通过批流一体增量数据生产架构，提升数仓的开发运维效率。

3.1 案例一：如何加速数据入仓

采用增量数仓架构出现之前，业务数据入仓大概要分为以下几个关键步骤。先将 Binlog 和服务器日志收集到 Kafka 中，然后再落 Hive。此刻数据并没有完成清洗和加工，无法直接交付给业务使用。接下来再通过一个批处理任务，对 Hive 上的原始日志进行清洗和转换，落入 Hive 新表。这时才算正式完成数据入仓。

这种方案主要面临以下两点问题：

由于采用批计算模式，凌晨发起任务集中调度时，因资源不足而引起作业大量排队，从而影响作业就绪时间。
Binlog 的增量日志需要与 ODS 表中已存在的全量日志进行合并，才能交付给下游使用的。这个行为的时间开销也较大，会影响到 ODS 层数据的就绪时间。

在美团的用户行为日志明细数据入仓的场景中，业务的原始日志收集、落 Hive 的过程，问题都不大。但从原始日志清洗出 PV/MV 事件表时，数据的产出时间很不稳定。

从图上我们可以看到，一些极端情况下，这个过程可能持续到两个小时以上，业务的影响面很大。针对此问题，我们对入仓流程进行了增量化的改造。由 Flink 进行流处理，之后再结合下游业务的实际需求，将清洗后的数据有选择的落 Hive 或 Beluga，对接离线数仓和增量数仓。

改造后效果非常明显。流量数据的就绪时间提前了两小时以上，因不在依赖凌晨的调度，也不会因为资源不足而造成作业长期处于 Pending 状态，资源的利用率得到了提升。

3.2 案例二，通过增量计算模式来提升计算效率

场景-1：提升明细快照表合并效率。

业务想要一个体现最新的业务进展数据快照。在离数仓的计算模式下，得到这个快照需采用批模式，合并每天新增的变更事件到存量快照中。

比如图中的例子，在 T-1日产生了一条半年前订单的更新状态。为了保证 fact 层能够提供最新的业务快照，与业务库保持一致。需要将这张表近半年的全部分区，进行一次覆盖更新，计算效率是很差。

为了这么小比例的状态变更，需要拉全量数据进行合并。资源效率和数据就绪时间，都有较大的负面影响，实际这类明细数据生产非常适合用 Beluga 的增量更新能力，提升合并效率。

经过改造后，业务不再需要为少量数据的更新行为，重建整张表，有效的节省计算资源开销，进一步提升了数据时效性。

场景-2：提升累计快照事实表的计算效率

本质上属于累计窗口计算语义。如图所示，上游是一张增量明细表，它将每天的增量数据作为独立分区进行存储。下游表则是一张累计快照事实表，每天会创建一个新的分区，用于存储业务某一时刻，到当前的最新数据的累计值。

按照当前离线数仓的生产模式，每天都需要将上游表的所有分区全部读出来，做一次合并，计算出截止到当天的累计快照值，再写到下游表的新分区中。

但这样会面临一个问题，随着累计天数的增加，前一天累计好的结果，并未被直接用在算第二天的累计指标的计算过程中。每天都需要拉取上游表全部的分区数据，重新进行计算。这样会造成计算的开销越来越大，这个计算效率非常不理想。

下面介绍下如何通过增量数仓来解决这个问题。

针对这类场景，可以通过 Flink 的流计算模式，将每天新增的增量数据与已经算好的累计状态，在 Flink 作业中直接合并。不仅能够有效利用中间状态，还能够实时将计算后的结果，更新到下游表中，使计算效率和数据新鲜度，都得到了一定的提升。

3.3 案例三，通过增量计算模式来提升计算效率

业务的需求是，既要支持对数据延迟比较敏感并且数据一致性要求较高的 BI 场景，也要支持依赖较长历史周期数据算法的训练场景。

为了保证高时效性，并且不能有太多的重复数据。业务将实时数仓的 Kafka 数据，灌入到 Doris 中，利用 Doris 的主键模型去重。再按 10min 的调度周期，支持较高时效性要求的BI报表查询场景。

另外对于一些算法场景，不但需要长时间周期的特征数据，还需定期与 Hive 上的历史数据做合并。

链路很复杂，会带来大量不必要的运维工作。与此同时，链路上多处依赖调度系统，这会给就绪时间，带来很多不确定性，更不用提数据一致性的保证。

下面看下增量数仓是如何解决这些问题的。

通过 Beluga 替换掉 Kafka 和 Doris。因 Beluga 可保证数据的幂等写和强一致性。可以使用 Flink 流任务，替换掉了原有微批任务，保证数据的时效性。
通过 Beluga 存储全量历史快照数据，即使业务的指标需要依赖时间跨度很长的历史数据，也可以基于 Beluga 完成指标计算。