Kylin从入门到精通以及案例实操系列

news2024/11/28 16:33:00

1、Kylin 基础知识

1.1、了解 Kylin 的基本概念、原理和架构

1.1.1、Kylin 定义

Apache Kylin是一个开源的分布式分析引擎,提供Hadoop/Spark之上的SQL查询接口及多维分析(OLAP)能力以支持超大规模数据,最初由eBay Inc开发并贡献至开源社区,它能在亚秒内查询巨大的Hive表。

Kylin 基于 Hadoop 和 HBase 构建,能够支持超大规模数据的查询和分析,并且具有低延迟、高并发、高可扩展等优点。

1.1.2、Kylin架构

在这里插入图片描述

  1. REST Server:REST Server是一套面向应用程序开发的入口点,旨在实现针对Kylin平台的应用开发工作。 此类应用程序可以提供查询、获取结果、触发cube构建任务、获取元数据以及获取用户权限等等。另外可以通过Restful接口实现SQL查询。
  2. 查询引擎(Query Engine):当cube准备就绪后,查询引擎就能够获取并解析用户查询。它随后会与系统中的其它组件进行交互,从而向用户返回对应的结果。
  3. 路由器(Routing):在最初设计时曾考虑过将Kylin不能执行的查询引导去Hive中继续执行,但在实践后发现Hive与Kylin的速度差异过大,导致用户无法对查询的速度有一致的期望,很可能大多数查询几秒内就返回结果了,而有些查询则要等几分钟到几十分钟,因此体验非常糟糕。最后这个路由功能在发行版中默认关闭。
  4. 元数据管理工具(Metadata):Kylin是一款元数据驱动型应用程序。元数据管理工具是一大关键性组件,用于对保存在Kylin当中的所有元数据进行管理,其中包括最为重要的cube元数据。其它全部组件的正常运作都需以元数据管理工具为基础。 Kylin的元数据存储在hbase中。
  5. 任务引擎(Cube Build Engine):这套引擎的设计目的在于处理所有离线任务,其中包括shell脚本、Java API以及Map Reduce任务等等。任务引擎对Kylin当中的全部任务加以管理与协调,从而确保每一项任务都能得到切实执行并解决其间出现的故障。

1.2、熟悉 Kylin 的主要特点和优势

Kylin的主要特点包括支持SQL接口、支持超大规模数据集、亚秒级响应、可伸缩性、高吞吐率、BI工具集成等。

  • 标准SQL接口:Kylin是以标准的SQL作为对外服务的接口。
  • 支持超大数据集:Kylin对于大数据的支撑能力可能是目前所有技术中最为领先的。早在2015年eBay的生产环境中就能支持百亿记录的秒级查询,之后在移动的应用场景中又有了千亿记录秒级查询的案例。
  • 亚秒级响应:Kylin拥有优异的查询相应速度,这点得益于预计算,很多复杂的计算,比如连接、聚合,在离线的预计算过程中就已经完成,这大大降低了查询时刻所需的计算量,提高了响应速度。
  • 可伸缩性和高吞吐率:单节点Kylin可实现每秒70个查询,还可以搭建Kylin的集群。
  • BI工具集成:Kylin可以与现有的BI工具集成,具体包括如下内容。
    • ODBC:与Tableau、Excel、PowerBI等工具集成
    • JDBC:与Saiku、BIRT等Java工具集成
    • RestAPI:与JavaScript、Web网页集成
    • Kylin开发团队还贡献了Zepplin的插件,也可以使用Zepplin来访问Kylin服务。

1.3、掌握 Kylin 的安装与配置方法

1.3.1、Kylin依赖环境

安装Kylin前需先部署好 Hadoop、Hive、Zookeeper、HBase,并且需要在/etc/profile中配置以下环境变量HADOOP_HOME,HIVE_HOME,HBASE_HOME,记得source使其生效。

  • hadoop配置
  • zookeeper配置
  • hive配置
  • hbase配置

1.3.2、Kylin搭建

  1. 上传Kylin安装包apache-kylin-3.0.2-bin.tar.gz

在这里插入图片描述
2. 解压软件 tar -zxvf apache-kylin-3.0.2-bin.tar.gz -C /opt/model/

在这里插入图片描述

  1. Kylin兼容性问题

修改/opt/model/kylin-3.0.2/bin/find-spark-dependency.sh,排除冲突的jar包需要增加的内容:! -name '*jackson*' ! -name '*metastore*'
在这里插入图片描述

1.3.3、Kylin启动

  1. 启动Kylin之前,需先启动Hadoop(hdfs,yarn,jobhistoryserver)、Zookeeper、Hbase,Hive

在这里插入图片描述

  1. 启动Kylin
[song@hadoop102 kylin]$ bin/kylin.sh start

在这里插入图片描述

  1. 查看web页面http://hadoop102:7070/kylin,用户名为:ADMIN,密码为:KYLIN

在这里插入图片描述

  1. 关闭kylin服务
[song@hadoop102 kylin]$ bin/kylin.sh stop

2、Kylin 数据建模与管理

2.1、相关术语

2.2.1、OLAP

OLAP 是 On-Line Analytical Processing 的缩写,中文译为“联机分析处理”,它是一种基于多维数据模型的分析技术和工具,用于对大量数据进行快速查询、聚合和计算,以支持商业、财务、销售等决策需求。

OLAP 技术的主要特点包括:

  • 多维性:OLAP 数据模型基于多维数据空间,可以同时关联多个不同的维度,如时间、地点、产品、用户等,以支持多维数据分析和探索。
  • 快速性:OLAP 引擎采用预计算和数据缓存等技术,可以在秒级别返回复杂的多维分析结果,从而提高分析效率和决策速度。
  • 灵活性:OLAP 工具提供了灵活的查询和分析方式,如切片、钻取、旋转、过滤、排序、计算等,可以帮助用户深入挖掘和分析数据,发现潜在的商业价值和机会。
  • 可视化:OLAP 工具能够通过图表、报表、仪表盘等可视化方式呈现分析结果,使得用户更容易理解和使用分析结果。
  • 面向业务:OLAP 技术强调对业务需求的支持,可以与企业的 BI 系统和数据仓库集成,在实现决策支持的同时提供可重复、标准化的分析过程。

OLAP 的具体实现方式有以下几种:

  • 基于多维数组的 OLAP:这种实现方式是最早的 OLAP 技术,它将数据存储在多维数组中,并按照维度进行切片、钻取和旋转等操作。这种实现方式的优点是查询速度快,但缺点是不灵活,难以处理非规范化的数据。

  • 基于关系数据库的 OLAP:这种实现方式是通过对关系数据库进行扩展和优化,实现 OLAP 功能。基于关系数据库的 OLAP 通常采用星型模型或雪花模型来组织数据库表结构,以支持多维分析和查询。这种实现方式的优点是灵活性高,可处理非规范化的数据,但缺点是查询速度较慢。

  • 基于 MOLAP 的 OLAP:这种实现方式是通过将数据存储在专门的 MOLAP 服务器上,实现 OLAP 功能。MOLAP 服务器通常采用压缩和索引等技术,以支持高效的查询和分析。这种实现方式的优点是查询速度快,但缺点是需要额外的硬件和软件支持。

  • 基于 ROLAP 的 OLAP:这种实现方式是通过将 OLAP 查询和计算转换为 SQL 查询语句,利用关系数据库实现 OLAP 功能。ROLAP 通过查询数据库中的事实表和维度表进行多维分析和计算。这种实现方式的优点是灵活性高,但缺点是查询速度较慢。

  • 基于 HOLAP 的 OLAP:这种实现方式是基于 MOLAP 和 ROLAP 的混合型实现方式,既具备 MOLAP 的查询速度快、处理能力强的优点,又具备 ROLAP 的灵活性和可扩展性。HOLAP 可以根据数据的情况自适应地使用 MOLAP 或 ROLAP 技术进行查询和分析。

2.2.2、维度和度量

  • 维度:即观察数据的角度。比如员工数据,可以从性别角度来分析,也可以更加细化,从入职时间或者地区的维度来观察。维度是一组离散的值,比如说性别中的男和女,或者时间维度上的每一个独立的日期。因此在统计时可以将维度值相同的记录聚合在一起,然后应用聚合函数做累加、平均、最大和最小值等聚合计算。
  • 度量:即被聚合(观察)的统计值,也就是聚合运算的结果。比如说员工数据中不同性别员工的人数,又或者说在同一年入职的员工有多少。

2.2.3、Cube和Cuboid

Cube(立方体)是指多维数据的一种物理表示方式,由多个维度和度量组成,可以使用多维数组或关系数据库表来实现。一个立方体通常由一个事实表和若干个维度表组成,其中维度表包含了用于分析的各种类别,如时间、地理位置、产品等,而事实表则包含了与这些类别相关的度量信息,如销售额、利润、数量等。通过对 Cube 进行切片(Slice)、钻取(Drill Down)和旋转(Pivot)等操作,可以实现对多维数据的分析和查询。

Cuboid(长方体)是指 Cube 中的一个子集,它只包含部分维度和度量信息,可以用于针对特定问题的分析和查询。例如,如果对一个销售 Cube 使用“时间”、“产品”和“地点”三个维度进行分析,则可构建三个不同层次的 Cuboid,如下所示:

  • 3维 Cuboid:包含所有 “时间”、“产品”和“地点” 的数据
  • 2维 Cuboid:包含任意两个维度的数据,如“时间”和“产品”,“时间”和“地点”,或“产品”和“地点”
  • 1维 Cuboid:包含单一维度的数据,如“时间”、“产品”或“地点”

通过对 Cuboid 进行切片、钻取和旋转等操作,可以实现对特定维度的数据查询和分析,从而实现更加灵活和高效的多维数据分析和查询。

举一个简单的例子说明,假设有一个电商的销售数据集,其中维度包括时间[time]、商品[item]、地区[location]和供应商[supplier],度量为销售额。那么所有维度的组合就有24 = 16种,如下图所示:

在这里插入图片描述

  • 一维度(1D)的组合有:[time]、[item]、[location]和[supplier]4种;
  • 二维度(2D)的组合有:[time, item]、[time, location]、[time, supplier]、[item, location]、[item, supplier]、[location, supplier]3种;
  • 三维度(3D)的组合也有4种;
  • 最后还有零维度(0D)和四维度(4D)各有一种,总共16种。

每一种维度组合就是一个Cuboid,16个Cuboid整体就是一个Cube。

2.1、理解 Kylin 的数据建模方式及 OLAP 分析原理

Kylin 的数据建模方式是基于 Cube (多维立方体) 概念的。

Cube 可以看作是一个多维数组,其中包含了所有数据(指标)和各种属性(维度)。每个 Cube 都对应一个 SQL 查询模板,用于对 OLAP 数据进行查询,其本质是工作原理本质上是 MOLAP(Multidimensional Online Analytical Processing) Cube,也就是多维立方体分析。

Kylin 的 Cube 可以从不同的数据源中构建,支持 Hive、HBase、Kafka 等多种数据源,同时支持多种数据类型的查询,如 SUM、AVG、MIN、MAX、COUNT、TOPN 等。

在 Cube 数据建模中,需要对数据进行维度建模和度量建模。

  • 维度建模主要针对业务维度进行建模,如时间、用户、产品等。
  • 度量建模主要针对业务指标进行建模,如销售量、利润等。

在 Cube 中,每个维度有相应的层次结构,每个层次结构对应一个或多个维度列,用于对 OLAP 数据进行聚合和分组。

OLAP 分析原理主要包括三个方面:维度、度量和聚合。

  • 维度是 OLAP 分析的基础,它用于描述数据的属性,如时间、地点、用户等。
  • 度量是 OLAP 分析中的计算结果,如销售额、成本、利润等。
  • 聚合是 OLAP 分析中的核心操作,用于对度量数据进行汇总和聚合,以获取更高层次的分析结果。

Kylin 的 OLAP 分析原理主要依赖于 Cube 的多维计算和分布式计算能力。在查询过程中,Kylin 通过按照用户选择的维度和度量进行查询,先从 Cube 中提取所需的数据片段,再利用 Hadoop 集群进行并行计算和聚合,最后将结果返回给用户。通过这种方式,Kylin 可以支持超大规模数据的快速查询和分析,大幅降低了分析时间和成本,并且具有良好的扩展性和易用性。

2.2、Kylin的使用案例

2.2.1、需求

以gmall数据仓库中的dwd_order_detail作为事实表,dim_user_info、dim_sku_info、dim_base_province作为维度表,构建星型模型,并演示如何使用Kylin进行OLAP分析。

2.2.2、创建工程

  1. 点击下图中的"+"。

在这里插入图片描述

  1. 填写项目名称和描述信息,并点击Submit按钮提交。

在这里插入图片描述

2.2.3、获取数据源

  1. 点击DataSource

在这里插入图片描述

  1. 点击下图按钮导入Hive表

在这里插入图片描述

  1. 选择以下表格,并点击Sync按钮
dwd_order_detail
dim_sku_info
dim_user_info
dim_base_province

在这里插入图片描述

注意事项:Kylin不能处理Hive表中的复杂数据类型(Array,Map,Struct),即便复杂类型的字段并未参与到计算之中。故在加载Hive数据源时,不能直接加载带有复杂数据类型字段的表。而在dim_sku_info表中存在两个复杂数据类型的字段(平台属性和销售属性),故dim_sku_info不能直接加载,需对其进行以下处理。

  • 在hive客户端创建一个视图,如下。该视图已经将dim_sku_info表中的复杂数据类型的字段去掉,在后续的计算中,不再使用dim_sku_info,而使用dim_sku_info_view。
hive (gmall)>
create view dim_sku_info_view
as
select
    id,
    price,
    sku_name,
    sku_desc,
    weight,
    is_sale,
    spu_id,
    spu_name,
    category3_id,
    category3_name,
    category2_id,
    category2_name,
    category1_id,
    category1_name,
    tm_id,
    tm_name,
    create_time
from dim_sku_info;
  • 在kylin中重新导入dim_sku_info_view视图

2.2.4、创建model

  1. 点击Models,点击"+New"按钮,点击"★New Model"按钮。

在这里插入图片描述

  1. 填写Model信息,点击Next

在这里插入图片描述

  1. 指定事实表

在这里插入图片描述

  1. 选择维度表,并指定事实表和维度表的关联条件,点击Ok

在这里插入图片描述
在这里插入图片描述

  1. 维度表添加完毕之后,点击Next

在这里插入图片描述

  1. 指定维度字段,并点击Next

在这里插入图片描述

  1. 指定度量字段,并点击Next

在这里插入图片描述

  1. 指定事实表分区字段(仅支持时间分区),点击Save按钮,model创建完毕

在这里插入图片描述

2.2.5、构建cube

  1. 点击new, 并点击new cube

在这里插入图片描述

  1. 填写cube信息,选择cube所依赖的model,并点击next

在这里插入图片描述

  1. 选择所需的维度,如下图所示

在这里插入图片描述

在这里插入图片描述

  1. 选择所需度量值,如下图所示

在这里插入图片描述
在这里插入图片描述

  1. cube自动合并设置,cube需按照日期分区字段每天进行构建,每次构建的结果会保存在Hbase中的一张表内,为提高查询效率,需将每日的cube进行合并,此处可设置合并周期。

在这里插入图片描述

  1. Kylin构建聚合组优化配置

在这里插入图片描述

  1. Kylin相关属性配置覆盖

在这里插入图片描述

  1. Cube信息总览,点击Save,Cube创建完成

在这里插入图片描述

  1. 构建Cube(计算),点击对应Cube的action按钮,选择build

在这里插入图片描述

  1. 选择要构建的时间区间,点击Submit

在这里插入图片描述

  1. 点击Monitor查看构建进度

在这里插入图片描述

2.2.6、出现的问题

每日全量维度表及拉链维度表重复Key问题如何处理,按照上述流程,会发现,在cube构建流程中出现以下错误;

在这里插入图片描述
错误原因分析:上述错误原因是model中的维度表dim_user_info为拉链表、dim_sku_info(dim_sku_info_view)为每日全量表,故使用整张表作为维度表,必然会出现订单明细表中同一个user_id或者sku_id对应多条数据的问题,针对上述问题,有以下解决方案。

解决方案:在hive客户端为拉链表以及每日全量维度表创建视图,在创建视图时对数据加以过滤,保证从视图中查出的数据是一份全量最新的数据即可。

  1. 创建维度表视图
--拉链维度表视图
create view dim_user_info_view as select * from dim_user_info where dt='9999-99-99';

--全量维度表视图(注意排除复杂数据类型字段)
create view dim_sku_info_view
as
select
    id,
    price,
    sku_name,
    sku_desc,
    weight,
    is_sale,
    spu_id,
    spu_name,
    category3_id,
    category3_name,
    category2_id,
    category2_name,
    category1_id,
    category1_name,
    tm_id,
    tm_name,
    create_time
from dim_sku_info
where dt=date_add(current_date,-1);

--当前情形我们先创建一个2020-06-15的视图,由于之前已经创建了dim_sku_info_view,故无需重新创建,修改之前的视图即可。
alter view dim_sku_info_view
as
select
    id,
    price,
    sku_name,
    sku_desc,
    weight,
    is_sale,
    spu_id,
    spu_name,
    category3_id,
    category3_name,
    category2_id,
    category2_name,
    category1_id,
    category1_name,
    tm_id,
    tm_name,
    create_time
from dim_sku_info
where dt='2020-06-15';
  1. 在DataSource中导入新创建的视图,之前的维度表,可选择性删除。
  2. 重新创建model、cube。

2.2.7、每日自动构建cube

Kylin提供了Restful API,因次我们可以将构建cube的命令写到脚本中,将脚本交给azkaban或者oozie这样的调度工具,以实现定时调度的功能。

#!/bin/bash
cube_name=order_cube
do_date=`date -d '-1 day' +%F`

#获取00:00时间戳
start_date_unix=`date -d "$do_date 08:00:00" +%s`
start_date=$(($start_date_unix*1000))

#获取24:00的时间戳
stop_date=$(($start_date+86400000))

curl -X PUT -H "Authorization: Basic QURNSU46S1lMSU4=" -H 'Content-Type: application/json' -d '{"startTime":'$start_date', "endTime":'$stop_date', "buildType":"BUILD"}' http://hadoop102:7070/kylin/api/cubes/$cube_name/build

3、Cube构建算法

3.1、Cube构建算法

3.1.1、逐层构建算法(layer)

在这里插入图片描述

一个N维的Cube,是由1个N维子立方体、N个(N-1)维子立方体、N*(N-1)/2个(N-2)维子立方体、…、N个1维子立方体和1个0维子立方体构成,总共有2^N个子立方体组成。

在逐层算法中,按维度数逐层减少来计算,每个层级的计算(除了第一层,它是从原始数据聚合而来),是基于它上一层级的结果来计算的。从高层维度向维度底层维度进行构建,比如,[Group by A, B]的结果,可以基于[Group by A, B, C]的结果,通过去掉C后聚合得来的;这样可以减少重复计算;当 0维度Cuboid计算出来的时候,整个Cube的计算也就完成了。

每一轮的计算都是一个MapReduce任务,且串行执行;一个N维的Cube,至少需要N次MapReduce Job。
在这里插入图片描述
算法优点:

  1. 此算法充分利用了MapReduce的优点,处理了中间复杂的排序和shuffle工作,故而算法代码清晰简单,易于维护;
  2. 受益于Hadoop的日趋成熟,此算法非常稳定,即便是集群资源紧张时,也能保证最终能够完成。

算法缺点:

  1. 当Cube有比较多维度的时候,所需要的MapReduce任务也相应增加;由于Hadoop的任务调度需要耗费额外资源,特别是集群较庞大的时候,反复递交任务造成的额外开销会相当可观;
  2. 由于Mapper逻辑中并未进行聚合操作,所以每轮MR的shuffle工作量都很大,导致效率低下。
  3. 对HDFS的读写操作较多:由于每一层计算的输出会用做下一层计算的输入,这些Key-Value需要写到HDFS上;当所有计算都完成后,Kylin还需要额外的一轮任务将这些文件转成HBase的HFile格式,以导入到HBase中去;

总体而言,该算法的效率较低,尤其是当Cube维度数较大的时候。

3.1.2、快速构建算法(inmem)

在这里插入图片描述

也被称作“逐段”(By Segment) 或“逐块”(By Split) 算法,从1.5.x开始引入该算法,该算法的主要思想是,每个Mapper将其所分配到的数据块,计算成一个完整的小Cube 段(包含所有Cuboid)。每个Mapper将计算完的Cube段输出给Reducer做合并,生成大Cube,也就是最终结果。如图所示解释了此流程。

在这里插入图片描述
与旧算法相比,快速算法主要有两点不同:

  1. Mapper会利用内存做预聚合,算出所有组合;Mapper输出的每个Key都是不同的,这样会减少输出到Hadoop MapReduce的数据量,Combiner也不再需要;
  2. 一轮MapReduce便会完成所有层次的计算,减少Hadoop任务的调配。

4、Kylin Cube构建优化

4.1、使用衍生维度(derived dimension)

衍生维度用于在有效维度内将维度表上的非主键维度排除掉,并使用维度表的主键(其实是事实表上相应的外键)来替代它们。Kylin会在底层记录维度表主键与维度表其他维度之间的映射关系,以便在查询时能够动态地将维度表的主键“翻译”成这些非主键维度,并进行实时聚合。

在这里插入图片描述
虽然衍生维度具有非常大的吸引力,但这也并不是说所有维度表上的维度都得变成衍生维度,如果从维度表主键到某个维度表维度所需要的聚合工作量非常大,则不建议使用衍生维度。

4.2、使用聚合组(Aggregation group)

聚合组(Aggregation Group)是一种强大的剪枝工具。聚合组假设一个Cube的所有维度均可以根据业务需求划分成若干组(当然也可以是一个组),由于同一个组内的维度更可能同时被同一个查询用到,因此会表现出更加紧密的内在关联。每个分组的维度集合均是Cube所有维度的一个子集,不同的分组各自拥有一套维度集合,它们可能与其他分组有相同的维度,也可能没有相同的维度。每个分组各自独立地根据自身的规则贡献出一批需要被物化的Cuboid,所有分组贡献的Cuboid的并集就成为了当前Cube中所有需要物化的Cuboid的集合。不同的分组有可能会贡献出相同的Cuboid,构建引擎会察觉到这点,并且保证每一个Cuboid无论在多少个分组中出现,它都只会被物化一次。

对于每个分组内部的维度,用户可以使用如下三种可选的方式定义,它们之间的关系,具体如下。

4.2.1、强制维度(Mandatory)

强制维度(Mandatory),如果一个维度被定义为强制维度,那么这个分组产生的所有Cuboid中每一个Cuboid都会包含该维度。每个分组中都可以有0个、1个或多个强制维度。如果根据这个分组的业务逻辑,则相关的查询一定会在过滤条件或分组条件中,因此可以在该分组中把该维度设置为强制维度。
在这里插入图片描述

4.2.2、层级维度(Hierarchy)

层级维度(Hierarchy),每个层级包含两个或更多个维度。假设一个层级中包含D1,D2…Dn这n个维度,那么在该分组产生的任何Cuboid中, 这n个维度只会以(),(D1),(D1,D2)…(D1,D2…Dn)这n+1种形式中的一种出现。每个分组中可以有0个、1个或多个层级,不同的层级之间不应当有共享的维度。如果根据这个分组的业务逻辑,则多个维度直接存在层级关系,因此可以在该分组中把这些维度设置为层级维度。
在这里插入图片描述

4.2.3、联合维度(Joint)

联合维度(Joint),每个联合中包含两个或更多个维度,如果某些列形成一个联合,那么在该分组产生的任何Cuboid中,这些联合维度要么一起出现,要么都不出现。每个分组中可以有0个或多个联合,但是不同的联合之间不应当有共享的维度(否则它们可以合并成一个联合)。如果根据这个分组的业务逻辑,多个维度在查询中总是同时出现,则可以在该分组中把这些维度设置为联合维度。
在这里插入图片描述
这些操作可以在Cube Designer的Advanced Setting中的Aggregation Groups区域完成,如下图所示。
在这里插入图片描述
聚合组的设计非常灵活,甚至可以用来描述一些极端的设计。

假设我们的业务需求非常单一,只需要某些特定的Cuboid,那么可以创建多个聚合组,每个聚合组代表一个Cuboid。具体的方法是在聚合组中先包含某个Cuboid所需的所有维度,然后把这些维度都设置为强制维度。这样当前的聚合组就只能产生我们想要的那一个Cuboid了。

再比如,有的时候我们的Cube中有一些基数非常大的维度,如果不做特殊处理,它就会和其他的维度进行各种组合,从而产生一大堆包含它的Cuboid。包含高基数维度的Cuboid在行数和体积上往往非常庞大,这会导致整个Cube的膨胀率变大。如果根据业务需求知道这个高基数的维度只会与若干个维度(而不是所有维度)同时被查询到,那么就可以通过聚合组对这个高基数维度做一定的“隔离”。我们把这个高基数的维度放入一个单独的聚合组,再把所有可能会与这个高基数维度一起被查询到的其他维度也放进来。这样,这个高基数的维度就被“隔离”在一个聚合组中了,所有不会与它一起被查询到的维度都没有和它一起出现在任何一个分组中,因此也就不会有多余的Cuboid产生。这点也大大减少了包含该高基数维度的Cuboid的数量,可以有效地控制Cube的膨胀率。

4.3、Row Key优化

Kylin会把所有的维度按照顺序组合成一个完整的Rowkey,并且按照这个Rowkey升序排列Cuboid中所有的行。
设计良好的Rowkey将更有效地完成数据的查询过滤和定位,减少IO次数,提高查询速度,维度在rowkey中的次序,对查询性能有显著的影响。

Row key的设计原则如下:

  1. 被用作过滤的维度放在前边。

在这里插入图片描述

  1. 基数大的维度放在基数小的维度前边
    在这里插入图片描述

5、Kylin BI工具集成

5.1、JDBC

  1. 新建项目并导入依赖
    <dependencies>
        <dependency>
            <groupId>org.apache.kylin</groupId>
            <artifactId>kylin-jdbc</artifactId>
            <version>3.0.2</version>
        </dependency>
    </dependencies>
  1. 编码
package com.song;

import java.sql.*;

public class TestKylin {

    public static void main(String[] args) throws Exception {

        //Kylin_JDBC 驱动
        String KYLIN_DRIVER = "org.apache.kylin.jdbc.Driver";

        //Kylin_URL
        String KYLIN_URL = "jdbc:kylin://hadoop102:7070/FirstProject";

        //Kylin的用户名
        String KYLIN_USER = "ADMIN";

        //Kylin的密码
        String KYLIN_PASSWD = "KYLIN";

        //添加驱动信息
        Class.forName(KYLIN_DRIVER);

        //获取连接
        Connection connection = DriverManager.getConnection(KYLIN_URL, KYLIN_USER, KYLIN_PASSWD);

        //预编译SQL
        PreparedStatement ps = connection.prepareStatement("SELECT sum(sal) FROM emp group by deptno");

        //执行查询
        ResultSet resultSet = ps.executeQuery();

        //遍历打印
        while (resultSet.next()) {
            System.out.println(resultSet.getInt(1));
        }
    }
}
  1. 结果展示
    在这里插入图片描述

5.2、Zepplin

5.2.1、Zepplin安装与启动

  1. zeppelin-0.8.0-bin-all.tgz上传至Linux
  2. 解压zeppelin-0.8.0-bin-all.tgz/opt/model
[song@hadoop102 sorfware]$ tar -zxvf zeppelin-0.8.0-bin-all.tgz -C /opt/model/
  1. 修改名称
[song@hadoop102 module]$ mv zeppelin-0.8.0-bin-all/ zeppelin
  1. 启动
[song@hadoop102 zeppelin]$ bin/zeppelin-daemon.sh start

可登录网页查看,web默认端口号为8080 http://hadoop102:8080

在这里插入图片描述

5.2.2、配置Zepplin支持Kylin

  1. 点击右上角anonymous选择Interpreter

在这里插入图片描述

  1. 搜索Kylin插件并修改相应的配置

在这里插入图片描述

  1. 修改完成点击Save完成

在这里插入图片描述

  1. 案例实操

需求:查询员工详细信息,并使用各种图表进行展示

  1. 点击Notebook创建新的note

在这里插入图片描述

  1. 填写Note Name点击Create

在这里插入图片描述
在这里插入图片描述

  1. 执行查询

在这里插入图片描述

  1. 结果展示

在这里插入图片描述

  1. 其他图表格式
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/572783.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

书评 | 《新程序员005:开源深度指南 新金融背后的科技力量》

目录 书评 | 《新程序员005&#xff1a;开源深度指南 & 新金融背后的科技力量》 内容介绍 书籍优点 书评 书评 | 《新程序员005&#xff1a;开源深度指南 & 新金融背后的科技力量》 内容介绍 《新程序员005&#xff1a;开源深度指南&amp;新金融背后的科技力量》特…

八、Spring Cloud Alibaba-seata分布式事务

一、引言 1、事务简介 事务(Transaction)是访问并可能更新数据中各种数据项的一个程序执行单元(unit&#xff09;。在关系数据库中&#xff0c;一个事务由一组SQL语向组成。事务应该具有4个属性:原子性、一致性、隔离性、持久性。这四个属性通常称为ACID特性。 原子性(atomic…

用Java 的锁机制实现多线程售票案例

本文首发自「慕课网」&#xff0c;想了解更多IT干货内容&#xff0c;程序员圈内热闻&#xff0c;欢迎关注"慕课网"及“慕课网公众号”&#xff01; 作者&#xff1a;王军伟Tech | 慕课网讲师 1. 前言 本文内容主要是使用 Java 的锁机制对多线程售票案例进行实现。售…

logback高级特性使用

一、业务需求 日志级别的分类 日志的级别分为&#xff1a; trace&#xff1a;微量&#xff0c;少许的意思&#xff0c;级别最低info&#xff1a;普通的打印信息debug&#xff1a;需要调试时候的关键信息打印warn&#xff1a;警告&#xff0c;不影响使⽤&#xff0c;但需要注…

windows系统python3.7版本pyspider安装

环境&#xff1a;很多的python版本都尝试过安装pyspider&#xff0c;网上多数让python3.6安装&#xff0c;说是这个环境是最佳的环境&#xff0c;测试安装最方便快捷&#xff0c;但是一直报result_worker starting…&#xff01;&#xff01;&#xff01;&#xff0c;卡死在界面…

软件测试技术才是王道,43岁照样拿到年薪70W+,太强了...

最近挺丧的&#xff0c; 可能是之前弦绷的有点紧&#xff0c;现在有点受不了了。 所以突然就泄了气&#xff0c;每天忙完工作的事后就躺在家里打游戏。其实感觉每年都有一段时间是这样丧的。所以我自己其实并不是特别努力的类型&#xff0c;我没办法一直绷着弦的去卷&#xff0…

0基础想入门互联网选择什么好?

互联网岗位划分 研发&#xff1a;技术岗&#xff0c;需要有相关的专业知识。 测试&#xff1a;技术岗&#xff0c;通过相关的程序查找产品中相应的bug。 设计&#xff1a;需要美术素养。 产品经理&#xff1a;设计制定产品的原型&#xff0c;制定每个功能的需求以及输出相应…

论文解读 | IROS 2022:MV6D:在RGB-D图像上使用深度逐点投票网络进行多视角6D姿态估计

原创 | 文 BFT机器人 01 研究背景 在计算机视觉领域&#xff0c;6D姿态估计是一种重要的任务&#xff0c;用于确定物体在3D空间中的位置和方向。它在许多应用领域具有广泛的应用&#xff0c;如机器人操作、虚拟现实、增强现实、物体跟踪等。 然而&#xff0c;传统的6D姿态估计方…

Jmeter实现分布式并发

Jmeter实现分布式并发&#xff0c;即使用远程机执行用例。 环境&#xff1a; VMware Fusion Windows系统是win7。 操作过程 1、Master在jmeter.properties添加remote_hosts 2、Slave在jmeter.properties添加server_port 同时把remote_hosts修改为和主机&#xff08;Master…

超100篇! VAD论文梳理汇总!

GitHub的一位博主整理了上百篇语音活动检测&#xff08;VAD&#xff09;的论文&#xff0c;按照其中使用的特征方法以及适用的环境进行了分类整理&#xff0c;时间跨度为从198*年至2019年。此外&#xff0c;还提供了几个VAD代码&#xff0c;它们的性能表现较好。需要的同学可以…

我的创作纪念日---[需要更开阔的视野!]

文章目录 头绪收获日常 憧憬英语人工智能 希望 头绪 工作很长时间之后&#xff0c;才发现知识的根本&#xff0c;还是在于积累。俗话说好记性不如烂笔头。不管是特定产品相关的知识还是系统类的知识&#xff0c;又或者是语言类的知识&#xff0c;都有很多知识点需要积累。有了…

不会数据分析?无从下手?一文帮你打开数据分析思路

掌握了很多数据分析工具和技能&#xff0c;却依然做不好数据分析。 面对具体的业务问题&#xff0c;我们还是容易两眼一抹黑&#xff1f;除了数据和专业之外&#xff0c;还需要一定的方法论支撑。 文章有点长&#xff08;误区解释方法论分享&#xff09;但干货满满&#xff0c…

药用辅料数据查询网站系统-药品辅料数据

药用辅料是指在制药过程中&#xff0c;用于增加药品稳定性、改善口感、提高吸收率等功效的辅助材料。药用辅料的种类繁多&#xff0c;不同的药品需要使用不同的辅料&#xff0c;因此对于药企来说&#xff0c;了解并选用适合自己的药用辅料显得尤为重要。本文将介绍如何利用药用…

jvm之对象大小分析

写在前面 本文看下计算对象大小相关内容。 1&#xff1a;基础内容 1.1&#xff1a;对象的结构 一个对象由对象头和对象体组成&#xff0c;其中对象头包含如下内容&#xff1a; 标记字&#xff08;mark word&#xff09;&#xff1a;存放GC年龄信息&#xff0c;对象锁信息等…

Hightopo 使用心得(1)- 基本概念

Hightopo 公司 3D 可视化产品有对应的官方手册。但是这些手册内容比较多。对于想学习的新同学来说可能相对比较繁琐。这里本人根据个人使用经验做了一些总结。希望对读者有所帮助。 官方手册地址&#xff1a;Structure (hightopo.com) 本文会提到一些前端开发的概念&#xff…

pdf怎么压缩得小一点?软件压缩更高效

PDF可以在不同操作系统和设备上实现高保真的排版和格式化。然而&#xff0c;随着文档的不断增多和文件大小的增加&#xff0c;传输和存储PDF文件也变得越来越困难。为了解决这个问题&#xff0c;可以使用PDF压缩技术来减小文件大小&#xff0c;提高传输效率。本文将介绍PDF压缩…

pdf转jpg怎么转?转换软件分享

随着数字化时代的到来&#xff0c;我们处理和共享信息的方式也在不断进步。在许多情况下&#xff0c;我们需要将PDF文档转换为图像格式&#xff0c;以便更方便地在网站、社交媒体或其他数字平台上与他人共享。本文将介绍如何将PDF文件转换为JPG图像格式。 有许多在线工具和软件…

1929-2022年全球站点的逐月平均气温数据

气象数据是在各项研究中都经常使用的数据&#xff0c;气象指标包括气温、风速、降水、湿度等指标&#xff0c;其中又以气温指标最为常用&#xff01;说到气温数据&#xff0c;最详细的气温数据是具体到气象监测站点的气温数据&#xff01;本次我们为大家带来的就是具体到气象监…

制船业智慧转型,3D轻量化工具赋能数字化!

随着科技的不断进步&#xff0c;计算机辅助设计&#xff08;CAD&#xff09;和三维建筑模型技术在造船业中扮演着重要角色。造船业是一个复杂而庞大的行业&#xff0c;涉及到船舶设计、建造模型、制造和施工等多个环节。 为了提高效率、降低成本并保证质量&#xff0c;传统的手…

记录为什么程序跑着跑着突然重启

这里写自定义目录标题 欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题&#xff0c;有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants 创建一个自定义列表如何创建一个…