ElasticSearch - 分布式搜索引擎底层实现——倒排索引

news2024/11/24 20:02:51

目录

一、ElasticSearch

1.1、ElasticSearch 是什么?

1.2、ElasticStack 是什么?

1.3、正向索引和倒排索引

1.3.1、正向索引

1.3.2、倒排索引

a)倒排索引的创建过程:

b)倒排索引的查询过程: 

c)分析总结:

1.3.3、倒排索引的适用场景


一、ElasticSearch


1.1、ElasticSearch 是什么?

ElasticSearch 是一个非常强大的搜索引擎,可以帮助我们从海量的数据中,快速的找到所需要的内容.

就比如说,咱们大家去淘宝上买东西,你输入了一个商品信息,他是不是立马就搜索出跟你输入关键字有关的信息,例如你输入的关键词是 "IPhone",就可以看到会搜索出各式各样的信息,“IPhone 13 特惠”、"IPhone 10  二手出售".... 甚至还可以看到 IPhone 这个关键字,还变成红色的了,这就叫做高亮显示,是为了更清晰醒目一些.

1.2、ElasticStack 是什么?

这里实际上还有几个组件是和 ElasticSearch 一起搭配使用的,分别是 Kibana、Logstash、Beats,他们结合就是 ElasticStack 技术栈.

这套东西,被广泛的应用在微服务的日志数据分析和实时监控.

日志数据分析:我们项目在运行的过程中,会产生海量的日志信息,这些大家平常也不少见~  这些日志信息,就是方便我们去定位系统出现的问题,假设你系统报错了,在线上运行的时候,你总不可能去打断点 debug 吧,那一般就是通过先通过 Logstash 进行日志数据的抓取,elasticsearch 存储、计算、搜索数据,最后通过 Kibana 进行数据可视化给你展示处理,这样,你将来去作日志分析的时候,就非常方便了.

实时监控:在项目运行的时候,他的运行状态也是数据,比如 cpu 、内存情况、访问的频率等等,这些信息也会被 es 管理起来,然后通过可视化给你展示处理啊,这样你就能清除的知道项目的运行情况了.

但实际上,在 ElasticStack 中,Kibana 、Logstash、Beats 这三个组件都是可以替换的,官方提供给你,想用就用,不用也没关系,就比如 淘宝在展示搜索结果的时候,都是有自己的网页自己去展示,就不一定是通过 Kibana 生成的数据报表来展示.但是不可替代的就是 elasticsearch 这个核心(也是之后讲解的重点).

1.3、正向索引和倒排索引

1.3.1、正向索引

传统数据库(比如 mysql)就是采用正向索引.

假如我这里有一张数据库表,一般都会基于 id 去创建一个索引,形成一个 b+ 树,那么根据 id 进行检索的速度就会非常快,那么这种方式就是正向索引.  但是如果现在搜索的字段不是 id,是一个普通的标题字段(一般内容会比较长),所以你不会给他加索引.

那就算你给他加了索引,如果我现在要搜索的不是一个精确的标题值,我只搜其中的一部分,这时候你怎么办?你不是要来一个 select * from 表 where 标题 like 什么... 一旦使用了这样的模糊匹配,即使这个字段有索引,将来也是不生效的,最终导致数据库就会采用逐条扫描的方式,判断每一行数据中是否包含 标题关键字 ,如果不包含就抛弃,如果包含就放到结果集中.  这样一来,假如你有 10亿 条数据,就意味着要扫描 10 亿次啊!性能可想而知. 这也便是正排索引.

1.3.2、倒排索引

elasticsearch 的底层就是采用倒排索引,并且这里涉及到两个概念:

  • 文档:每条数据就是一个文档(例如 mysql 表中的一行数据,比如商品表中,一个商品就是一个文档,用户表中一个用户就是一条数据).
  • 词条:文档按照语义分成的词语,比如 “华为手机” 这四个字,就可以分成 “华为”和 “手机” .
a)倒排索引的创建过程:

假设有一张商品表:

1. 为 商品表 中 商品名称 倒创建倒排索引时候,会把 商品名称 中的内容分成词条去存储,比如商品名称是 “小米手机” ,那么就把这个标题进行分词得到两个词语 “小米” 和 “手机” 去存储起来. 

2. 此时,比如把 “小米” 拿过来存储时,同时也会把他的 id 记录到他的文档中,而 “手机” 这个词就会存到一个新的文档,同时记录他的 id. 

3. 如果下一条数据的 商品名称 被分词后又得到了 "手机" 这个词条,就会把他的 id 存到词条相同的文档中.

4. 以此类推,最后数据组织完成了,就可以给得到的所有词条创建索引了,这样,将来根据词条查询的速度是不是就更快了.

b)倒排索引的查询过程: 

1. 比如现在来搜索一下 “华为手机”,首先会将他进行分词,得到得到两个词条,“华为”和“手机”.

2. 接下来拿着词条去倒排索引中进行查询,由于刚才就是根据 词条 建立的索引,所以一查就能立刻查到,词条 "华为" 所包含的文档 id(假设 id 有 2,3) ,以及“手机” 所包含的文档 id(假设 id 有 1,2),这时候也就相当于知道了 “华为手机” 包含的所有文档(1,2,3).

3. 其中 id = 2 的商品信息存在于两个文档中,也就是说 id = 2 的商品名称更符合你的搜索的信息,那么将来还会按照这个匹配程度给你排序.

4. 此时,拿着这些 id 就可以去正向索引里查询文档了,而正向索引这边不就是根据 id 建立的索引么,那么拿着 id 就可以快速定位到文档了,将查询到的数据按照排序的 id 放到结果集中.

c)分析总结:

根据上述过程,我们可以看到,搜索的过程经历了两次检索:

  • 第一次是根据用户输入的内容的词条,去找到对应的文档 id.
  • 第二次是拿着文档 id 来找文档.

这样的查询效率,相比于正向索引中搜索 包含手机关键字的 数据,一行一行去查找就要快的多了.

倒那么这里也能够看出,排索索引为什么是倒排了,因为正向索引中,得一行一行找,找到匹配的放到结果集中,而倒排索引就是反过来,基于词条创建索引,搜多的时候,就是根据词找到对应的文档(正向索引就是根据文档来找词).

1.3.3、倒排索引的适用场景

倒排索引更擅长查询文档的部分内容,比如你去浏览器里搜索内容的一部分关键词,或者是搜索商品信息之类的等等.

这也就是为什么 elasticsearch 是基于 倒排索引 实现的搜索引擎了~~

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1034477.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

三、初识FreeRTOS之FreeRTOS基础知识

从这节开始,我们正式学习FreeRTOS的一些基础知识,争取做到日更,或者隔日更。如果在学习的过程中哪里有理解错误,希望各位朋友批评指正。因为自己觉得图文并茂好像更容易理解一点,所以在博文中加了大量的图片&#xff0…

Tomcat部署、优化、以及操作练习

一.Tomcat的基本介绍 1.1.Tomcat是什么? Tomcat服务器是一个免费的开放源代码的Web应用服务器,属于轻量级应用服务器,在中小型系统和并发访问用户不是很多的场合下被普遍使用,是开发和调试JSP程序的首选。一般来说,T…

APM32F0XX/STM32F0XX内部参考电压VREFINT反算ADC引脚电压

首先打开极海APM32F030x4x6x8xC 用户手册找到VREFINT。 找到内部参考电压 VREFINT为ADC1_IN17通道 使用VREFINT必须使能VREFEN位 初始化ADC代码 void ADC_Init(void) {GPIO_Config_T gpioConfig;ADC_Config_T adcConfig;/* Enable GPIOA clock */RCM_Ena…

Redis学习笔记--002

Redis的JAVA客户端 文章目录 Redis的JAVA客户端一、Redis的Java客户端的种类二、Jedis2.1、使用步骤2.2、Jedis连接池 三、[SpringDataRedis](https://spring.io/projects/spring-data-redis)3.1、介绍3.2、RedisTemplate3.3、SpringDataRedis使用步骤3.4、SpringDataRedis的序…

银行家算法——C语言实现

算法思路 将操作系统看作是银行家,操作系统所拥有的资源就相当于银行家所拥有的资产,进程向操作系统申请资源就相当于资产家向银行贷款,规定资产家在向银行贷款之前,先申明其所贷数额的最大值,申明之后其贷款的数额不…

深度学习-一个简单的深度学习推导

文章目录 前言1.sigmod函数2.sigmoid求导3.损失函数loss4.神经网络1.神经网络结构2.公式表示-正向传播3.梯度计算1.Loss 函数2.梯度1.反向传播第2-3层2.反向传播第1-2层 前言 本章主要推导一个简单的两层神经网络。 其中公式入口【入口】 1.sigmod函数 激活函数我们选择sigmo…

银河麒麟ky10 server sp3下载

下载路径 /操作系统/Kylin-Server-V10-SP3-General-Release-2212-X86_64.iso

(高阶) Redis 7 第15讲 布隆过滤器 BitMap篇

面试题 如何快速准备判断某一数据在海量数据中存在了解布隆过滤器吗安全网址判断,黑名单校验,识别垃圾邮件白名单校验,识别合法用户?理论 由一个初始值都为0的 bit数组和多个哈希函数构成,用来快速判断集合中是否存在某个元素 设计思想 目的减少内存占用方式不保存数据信…

巨人互动|Facebook海外户Facebook运营工具有哪些?

Facebook是全球最大的社交媒体平台之一,为企业提供了丰富的运营工具和功能,帮助他们在这个庞大的平台上推广、管理和监测他们的业务。下面小编讲一些常用的Facebook运营工具吧! 1、Facebook广告管理 Facebook提供了强大的广告管理平台&#…

【从0学习Solidity】24. 在合约中创建新合约

【从0学习Solidity】 24. 在合约中创建新合约 博主简介:不写代码没饭吃,一名全栈领域的创作者,专注于研究互联网产品的解决方案和技术。熟悉云原生、微服务架构,分享一些项目实战经验以及前沿技术的见解。关注我们的主页&#xff…

多维时序 | MATLAB实现WOA-CNN-GRU-Attention多变量时间序列预测(SE注意力机制)

多维时序 | MATLAB实现WOA-CNN-GRU-Attention多变量时间序列预测(SE注意力机制) 目录 多维时序 | MATLAB实现WOA-CNN-GRU-Attention多变量时间序列预测(SE注意力机制)预测效果基本描述模型描述程序设计参考资料 预测效果 基本描述…

【Tomcat】Tomcat 运行原理

Tomcat 运行原理 一. Servlet 运行原理1. 接收请求2. 根据请求计算响应3. 返回响应 二. Tomcat 的伪代码1. Tomcat 初始化流程2. Tomcat 处理请求流程3. Servlet 的 service 方法的实现 一. Servlet 运行原理 在 Servlet 的代码中我们并没有写 main 方法, 那么对应的 doGet 代…

Linux 性能分析笔记:平均负载的理解

文章目录 uptime 的命令解释uptime 平均负载的理解man uptime平均负载的合理值系统负载的趋势 案例分析CPU 密集型程序IO 密集型大量进程 学习笔记主要来源:Linux性能优化实战_Linux_性能调优-极客时间 uptime 的命令解释 uptime 09:17:52 系统当前时间up 1 day, 1…

Servlet开发-tomcat如何解析json格式的数据

前言 在应用层协议中,json格式是程序猿经常用来组织数据的格式,在http数据报的body中也经常会携带json格式的数据,所以 tomcat 部署的 webapp 能够解析 json 格式的数据是很有必要的 引入依赖 tomcat 本身并不支持解析 json 格式的数据&…

【Qt】16进制转换格式字符串及二进制

【Qt】16进制转换格式字符串及二进制 16进制转换成字符串16进制转换成格式字符串16进制转换成字符串并每两位加空格16进制转换成二进制 16进制转换成字符串 可调用QString类的静态方法number(),此方法为重载,有以下重载 // 第一个参数为输入值,第二个为…

如何接入电商数据平台API接口实现数据采集请求获取商品详情价格、优惠券、优惠活动、品牌、店铺、主图等数据示例

app商品详情原数据API接口可以获取拼多多平台上某个商品的详细信息,包括商品标题、价格、图片、规格、参数、店铺信息等。 通过这个接口获取到的商品详情数据可以结合其他数据进行深度挖掘,例如可以将商品数据对比分析,找出同类商品中的优劣…

Unity中Shader中UI材质去色功能实现

文章目录 前言一、实现思路1、在属性面板暴露一个 开关 来控制去色变体2、声明一个变体3、在片元着色器实现去色 二、实现1、定义开关2、声明变体3、在片元着色器中,使用宏判断是否去色法1、只输出结果的单通道值,一般来说结果不太理想,比较节…

TikTok扮演丘比特为员工提供婚介服务

据透露,TikTok 有一项内部配对服务,供员工将同事介绍给朋友和家人。 该频道名为 Meet Cute,是全球数千名 TikTok 员工使用的工作场所工具,用于文件托管和视频会议。它还可以帮助人们从同事中找到潜在的浪漫伴侣。 在该平台上&…

html页面仿word文档样式(vue页面也适用)

目录 文章title&#xff1a; 标题&#xff1a; 正文&#xff1a; 完整代码&#xff1a; 页面效果&#xff1a; 文章title&#xff1a; <div><h3 style"display: flex;justify-content: center; align-items: center; color: #000;">实验室招新报名公…