一. 前言
本文主要介绍在Presto(OpenLookeng)中的BTree索引的代码实现。关于BTree索引原理的介绍可以参考官网资料openLooKeng documentation。
二. BTreeIndex 索引建立
在Presto中,BTreeIndex 索引是通过mapdb中的BTreeMap数据结构实现的,其使用和普通的Map没什么区别,只是BTreeMap是有序的。Presto建立BTreeIndex的BTreeMap中时候,key值设计为索引列所有数据的distinct值,value值为Stripe symbol的counter,为1,2,3...等一个累增的数字(其实value的信息在Btree索引使用中几乎没起到什么作用,过滤的时候主要是依赖key值和过滤条件匹配实现的)。
比如对于如下表和数据:
建立后索引后,BTreeMap的数据为:
在Presto中,BTreeIndex 索引建立的流程基本和Presto 之Bitmap索引代码走读_王飞活的博客-CSDN博客_presto索引 一样,主要的流程如下:
PartitionIndexWriter::addData
fillDataMap
dataMap.putIfAbsent
persist
partitionIndex.addKeyValues
source = new TreeSet
三. 使用BTreeIndex 索引进行数据过滤
使用BTreeIndex 进行数据过滤的原理较为简单,Presto在处理split之前,先根据谓词过滤条件到BTreeMap中能够匹配到数据,能匹配到数据,则保留该split,否则,可以将整个split都过滤掉。其实现是在BTreeIndex::lookUp实现的,原理和其他索引也是基本一样的,可以参考此文章:Presto 之Bitmap索引代码走读_王飞活的博客-CSDN博客_presto索引