springcloud----检索中间件 ElasticSearch 分布式场景的运用

news2024/11/16 16:47:12

如果对es的基础知识有不了解的可以看
es看这个文章就会使用了

1.分布式集群场景下的使用

单机的elasticsearch做数据存储，必然面临两个问题：海量数据存储问题、单点故障问题。

  • 海量数据存储问题：将索引库从逻辑上拆分为N个分片（shard），存储到多个节点
  • 单点故障问题：将分片数据在不同节点备份（replica ）

ES集群相关概念:

  • 集群（cluster）：一组拥有共同的 cluster name 的 节点。

  • 节点（node) ：集群中的一个 Elasticearch 实例

  • 分片（shard）：索引可以被拆分为不同的部分进行存储，称为分片。在集群环境下，一个索引的不同分片可以拆分到不同的节点中

    解决问题：数据量太大，单点存储量有限的问题。

在这里插入图片描述

此处，我们把数据分成3片：shard0、shard1、shard2

  • 主分片（Primary shard）：相对于副本分片的定义。

  • 副本分片（Replica shard）每个主分片可以有一个或者多个副本，数据和主分片一样。

    ​

数据备份可以保证高可用，但是每个分片备份一份，所需要的节点数量就会翻一倍，成本实在是太高了！

为了在高可用和成本间寻求平衡，我们可以这样做：

  • 首先对数据分片，存储到不同节点
  • 然后对每个分片进行备份，放到对方节点，完成互相备份

这样可以大大减少所需要的服务节点数量，如图，我们以3分片，每个分片备份一份为例：

在这里插入图片描述

现在，每个分片都有1个备份，存储在3个节点：

  • node0：保存了分片0和1
  • node1：保存了分片0和2
  • node2：保存了分片1和2
    这样单一结点就算宕机,也可以备用

2.0.搭建ES集群

2.部署es集群

我们会在单机上利用docker容器(docker容器之间相互独立)运行多个es实例来模拟es集群。不过生产环境推荐大家每一台服务节点仅部署一个es的实例。

部署es集群可以直接使用docker-compose来完成，但这要求你的Linux虚拟机至少有4G的内存空间

2.1.创建es集群

首先编写一个docker-compose文件(yml或者yaml)，内容如下：

  • 9200端口已经在之前的结点中使用了,要么停止要么改端口,这三个结点都没有设置插件数据卷,实际开发记得指明
    • discovery.seed_hosts 这里都是同一网络 ,实际开发中不同结点都是在不同网络机器上 比如 - discovery.seed_hosts=Machine1_IP:9200,Machine3_IP:9200
version: '2.2'
services:
  es01:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.15.0
    container_name: es01
    environment:
      - node.name=es01
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es02,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    volumes:
      - data01:/usr/share/elasticsearch/data
    ports:
      - 9210:9200
    networks:
      - elastic
  es02:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.15.0
    container_name: es02
    environment:
      - node.name=es02
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    volumes:
      - data02:/usr/share/elasticsearch/data
    ports:
      - 9201:9200
    networks:
      - elastic
  es03:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.15.0
    container_name: es03
    environment:
      - node.name=es03
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es02
      - cluster.initial_master_nodes=es01,es02,es03
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    volumes:
      - data03:/usr/share/elasticsearch/data
    networks:
      - elastic
    ports:
      - 9202:9200
volumes:
  data01:
    driver: local
  data02:
    driver: local
  data03:
    driver: local

networks:
  elastic:
    driver: bridge

我的镜像名
在这里插入图片描述

es运行需要修改一些linux系统权限，修改/etc/sysctl.conf文件

vi /etc/sysctl.conf

添加下面的内容：

vm.max_map_count=262144

然后执行命令，让配置生效：

sysctl -p

在这里插入图片描述

在docker-c通过docker-compose启动集群：

docker-compose up -d

如果报错 bootstrap checks failed. You must address the points described in the following [1] lines before starting Elasticsearch.
bootstrap check failure [1] of [1]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]
那么说明是内存警告问题 错误消息指出虚拟内存区域的 vm.max_map_count 参数设置得太低。

检查当前的 vm.max_map_count 值：运行以下命令来检查当前值：

sysctl vm.max_map_count

如果当前值低于 262144，那么你需要增加它。

增加 vm.max_map_count 的值：你可以使用以下命令来增加虚拟内存区域的值：

sudo sysctl -w vm.max_map_count=262144

这会立即更改 vm.max_map_count 的值，但在系统重新启动后会重置为默认值。如果要永久更改此设置，你需要编辑 /etc/sysctl.conf 或 /etc/sysctl.d/ 下的配置文件，并添加或修改以下行：

vm.max_map_count=262144

然后保存文件并重新加载配置：

sudo sysctl -p

重新启动 Elasticsearch：一旦你增加了 vm.max_map_count 的值，重新启动 Elasticsearch，问题应该得到解决。

启动成功
在这里插入图片描述

2.2.集群状态监控

kibana可以监控es集群，不过新版本需要依赖es的x-pack 功能并且默认是监控但点es，配置比较复杂。

这里推荐使用cerebro来监控es集群状态，官方网址：https://github.com/lmenezes/cerebro

解压即可使用，非常方便。

解压好的目录如下：

在这里插入图片描述

进入对应的bin目录：

在这里插入图片描述

双击其中的cerebro.bat文件即可启动服务。

访问http://localhost:9000 即可进入管理界面：

在这里插入图片描述

输入你的elasticsearch的任意节点的地址和端口，点击connect即可：

在这里插入图片描述

绿色的条，代表集群处于绿色（健康状态）。

图标星星是实的是当前主节点,其他的是备用结点
在这里插入图片描述

2.3.创建索引库

1）利用kibana的DevTools创建索引库

(这里集群不使用这种方式)

在DevTools中输入指令：

PUT /itcast
{
  "settings": {
    "number_of_shards": 3, // 分片数量
    "number_of_replicas": 1 // 副本数量
  },
  "mappings": {
    "properties": {
      // mapping映射定义 ...
    }
  }
}

2）利用cerebro创建索引库

利用cerebro还可以创建索引库：

在这里插入图片描述

172是我的虚拟机所在的虚拟地址在这里插入图片描述

填写索引库信息：

在这里插入图片描述

  • 选项分别是索引名 几个分片 几个备份
    点击右下角的create按钮：

2.4.查看分片效果

回到首页，即可查看索引库分片效果：

首页可以看到索引数据
在这里插入图片描述
索引存储分为三个分片每个文档分片备份一份所以是6个数据,点击任意分片就可以看到索引信息
在这里插入图片描述

这样就可以保证任意结点宕机 ，其他结点把备份数据传递给宕机接结点

3.0.集群脑裂问题

3.1.集群职责划分

elasticsearch中集群节点有不同的职责划分：

在这里插入图片描述

默认情况下，集群中的任何一个节点都同时具备上述四种角色。

但是真实的集群一定要将集群职责分离：

  • master节点：对CPU要求高，但是内存要求第
  • data节点：对CPU和内存要求都高
  • coordinating节点：对网络带宽、CPU要求高

职责分离可以让我们根据不同节点的需求分配不同的硬件去部署。而且避免业务之间的互相干扰。

一个典型的es集群职责划分如图：

在这里插入图片描述

3.2.脑裂问题

但是采用分布式的主从架构的服务一般都会出现脑裂问题

脑裂是因为集群中的节点失联导致的。结点尚未宕机,但是失去通信(比如网络问题)

例如一个集群中，主节点与其它节点失联：

在这里插入图片描述

此时，node2和node3认为node1宕机，就会重新选主：

在这里插入图片描述

当node3当选后，集群继续对外提供服务，node2和node3自成集群，node1自成集群，两个集群数据不同步，出现数据差异,这个时候出现了俩个大脑

当网络恢复后，因为集群中有两个master节点，集群状态的不一致，出现脑裂的情况：

在这里插入图片描述

解决脑裂的方案是，要求选票超过 ( eligible节点数量 + 1 ）/ 2 才能当选为主，因此eligible节点数量最好是奇数。对应配置项是discovery.zen.minimum_master_nodes，在es7.0以后，已经成为默认配置，因此一般不会发生脑裂问题

例如：3个节点形成的集群，选票必须超过 （3 + 1） / 2 ，也就是2票。node3得到node2和node3的选票，当选为主。node1只有自己1票，没有当选救失去主节点身份。集群中依然只有1个主节点，没有出现脑裂。

3.3.小结

master eligible节点的作用是什么？

  • 参与集群选主
  • 主节点可以管理集群状态、管理分片信息、处理创建和删除索引库的请求

data节点的作用是什么？

  • 数据的CRUD

coordinator节点的作用是什么？

  • 路由请求到其它节点

  • 合并查询到的结果，返回给用户

3.4.集群分布式存储

当新增文档时，应该保存到不同分片，保证数据均衡，那么coordinating node如何确定数据该存储到哪个分片呢？

3.4.1.分片存储测试

插入三条数据：
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

创建索引时候我没有没有添加索引mapping,也没有规定字段，在Elasticsearch中，如果你创建一个索引但没有显式定义映射(mapping)或字段(mapping)，Elasticsearch会使用动态映射(dynamic mapping)来处理你插入的文档数据。动态映射允许Elasticsearch根据插入的文档数据自动推断字段的数据类型。
当你插入文档时，Elasticsearch会检查文档的字段，并根据字段值的类型自动创建相应的字段映射。例如，如果你插入一个包含字符串的字段，Elasticsearch会自动将其识别为文本字段，如果插入一个整数，它会将其识别为整数字段，以此类推。

测试可以看到，三条数据分别在不同分片,查询任意结点的数据

结果：

在这里插入图片描述

另一接待你查询
在这里插入图片描述

3.4.2.分片存储原理

elasticsearch会通过hash算法来计算文档应该存储到哪个分片：

在这里插入图片描述

说明：

  • ）_routing默认是文档的id
  • ） 算法与分片数量有关，因此索引库一旦创建，分片数量不能修改！

新增文档的流程如下：

在这里插入图片描述

解读：

  • 1）新增一个id=1的文档
  • 2）对id做hash运算，假如得到的是2，则应该存储到shard-2
  • 3）shard-2的主分片在node3节点，将数据路由到node3
  • 4）保存文档
  • 5）同步给shard-2的副本replica-2，在node2节点
  • 6）返回结果给coordinating-node节点

3.4.3集群分布式查询

elasticsearch的查询分成两个阶段：

  • scatter phase：分散阶段，coordinating node会把请求分发到每一个分片(查询检索一般是根据text来查询,不知道具体数据id,所以会给每个结点发送查询)

所以之前查询任一结点,都会查询到全部数据,因为请求打到了所有数据

  • gather phase：聚集阶段，coordinating node汇总data node的搜索结果，并处理为最终结果集返回给用户

在这里插入图片描述

3.5.集群故障转移

集群的master节点会监控集群中的节点状态，如果发现有节点宕机，会立即将宕机节点的分片数据迁移到其它节点，确保数据安全，这个叫做故障转移。

1）例如一个集群结构如图：

在这里插入图片描述

现在，node1是主节点，其它两个节点是从节点。

2）突然，node1发生了故障：

在这里插入图片描述

宕机后的第一件事，需要重新选主，例如选中了node2：

在这里插入图片描述

node2成为主节点后，会检测集群监控状态，发现：shard-1、shard-0没有副本节点。因此需要将node1上的数据迁移到node2、node3：

在这里插入图片描述

所以故障转移主要是进行了俩布,

  1. 主结点宕机后选择新节点为主结点
  2. 新的主节点为了保障宕机结点所存储的数据安全,第一时间转移到其他安全结点

这是es集群的默认策略 这里进行演示即可

在这里插入图片描述
现在三个结点正常
在这里插入图片描述

关闭虚拟机的任一结点

等待一会后 集群自动迁移
在这里插入图片描述
当es01重新启动后 数据均衡又会把数据分给挂掉的结点
在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1078208.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

【opencv】windows10下opencv4.8.0-cuda版本源码编译教程

【opencv】windows10下opencv4.8.0-cuda版本源码编译教程

【opencv】windows10下opencv4.8.0-cuda版本源码编译教程 提示:博主取舍了很多大佬的博文并亲测有效,分享笔记邀大家共同学习讨论 文章目录 【opencv】windows10下opencv4.8.0-cuda版本源码编译教程前言准备工具cuda/cudnncmakeopencv4.5.0opencv_contrib CMake编译VS2019编译可…
阅读更多...
Hadoop2.0探讨

Hadoop2.0探讨

文章目录 8. Hadoop 再探讨8.1 Hadoop的优化与发展8.2 HDFS 的FA和Federation(Hadoop2.0新特性)8.2.1 HDFS HA8.2.2 HDFS Federation 8.3 YARN8.3.1 MapReduce1.0的缺陷8.3.2 Yarn设计思路8.3.3 Yarn体系结构8.3.4 Yarn工作流程8.3.5 Yarn框架和MapReduce1.0框架对比分析8.3.6 …
阅读更多...
C# Onnx GFPGAN GPEN-BFR 人像修复

C# Onnx GFPGAN GPEN-BFR 人像修复

效果 项目 代码 using Microsoft.ML.OnnxRuntime; using Microsoft.ML.OnnxRuntime.Tensors; using OpenCvSharp; using System; using System.Collections.Generic; using System.Drawing; using System.Windows.Forms;namespace 图像修复 {public partial class Form1 : For…
阅读更多...
MAX17058_MAX17059 STM32 iic 驱动设计

MAX17058_MAX17059 STM32 iic 驱动设计

本文采用资源下载链接，含完整工程代码 MAX17058-MAX17059STM32iic驱动设计内含有代码、详细设计过程文档，实际项目中使用代码，稳定可靠资源-CSDN文库 简介 MAX17058/MAX17059 IC是微小的锂离子(Li )在手持和便携式设备的电池电量计。MAX170…
阅读更多...
MTK8183/MT8183安卓4G核心板_联发科安卓手机开发板主板方案定制

MTK8183/MT8183安卓4G核心板_联发科安卓手机开发板主板方案定制

MediaTek MT8183 整合先进功能和 AI 的主流 Chromebook 平台 MTK8183又称为MediaTek Kompanio 500，是一款支持强大功能的Chromebook平台，结合多种高功能硬件于单一高效能芯片。支持连接选项包括 Wi-Fi、蓝芽和 GNSS，外围设备可选择连接 USB …
阅读更多...
Flutter 直接调用so动态库，或调用C/C++源文件内函数

Flutter 直接调用so动态库，或调用C/C++源文件内函数

开发环境 MacBook Pro Apple M2 Pro | macOS Sonoma 14.0 Android Studio Giraffe | 2022.3.1 Patch 1 XCode Version 15.0 Flutter 3.13.2 • channel stable Tools • Dart 3.1.0 • DevTools 2.25.0 先说下历程，因为我已经使用了Flutter3的版本，起初…
阅读更多...
【考研408真题】2022年408数据结构41题---判断当前顺序存储结构树是否是二叉搜索树

【考研408真题】2022年408数据结构41题---判断当前顺序存储结构树是否是二叉搜索树

文章目录 思路408考研各数据结构C/C代码（Continually updating） 思路 很明显，这是一个顺序存储结构的树的构成方法。其中树的根节点位置从索引0开始，对于该结构，存在有：如果当前根节点的下标为n&#xff0c…
阅读更多...
波奇学C++：哈希

波奇学C++：哈希

哈希本质是的值和位置建立关联起来，这种关联关系就是哈希函数 示例:除留余数：对输入的数字取模。 哈希冲突：多个不同的值指向同一个位置 解决方法： 闭散列：开发地址法。 把24放在下一个位置 哈希桶 闭散列法 闭散列…
阅读更多...
NNDL:作业3

NNDL:作业3

在Softmax回归的风险函数(公式(3.39))中如果加上正则化项会有什么影响? (1) 在 Softmax 回归的风险函数中加入正则化项会对模型的训练产生影响。正则化项的作用是对模型的复杂度进行惩罚，防止过拟合的发生。 (2) 原书公式为： 在加入正则化后损失函数…
阅读更多...
STM32单片机入门学习（六）-光敏传感器控制LED

STM32单片机入门学习（六）-光敏传感器控制LED

光敏传感器模块和LED接线 LED负极接B12,正极接VCC 光敏传感模块一DO端接B13,GND接GND，VCC接VCC,AO不接。 如图： 主程序代码：main.c #include "stm32f10x.h" #include "Delay.h" //delay函数所在头文件 #include …
阅读更多...
Python中套接字实现服务端和客户端3-3

Python中套接字实现服务端和客户端3-3

3 创建客户端的步骤 创建客户端的步骤如图5所示。 图5 创建客户端的步骤 从图5可以看出，对于客户端来说，首先创建套接字，之后通过创建的套接字去连接服务端，如果连接成功，则继续通过该套接字向服务端发送数据&#x…
阅读更多...
扩展windows 10 文件夹文件路径位数

扩展windows 10 文件夹文件路径位数

Enable Long Paths in Windows 10, Version 1607, and Later PowerShell Copy New-ItemProperty -Path "HKLM:\SYSTEM\CurrentControlSet\Control\FileSystem" -Name "LongPathsEnabled" -Value 1 -PropertyType DWORD -Force 管理员权限运行 PowerShell…
阅读更多...
【开源电商网站】（2），使用docker-compose和dockerfile进行配置，设置自定义的镜像，安装插件，增加汉化包，支持中文界面汉化。

【开源电商网站】（2），使用docker-compose和dockerfile进行配置，设置自定义的镜像，安装插件，增加汉化包，支持中文界面汉化。

项目相关代代码地址 相关内容： https://blog.csdn.net/freewebsys/category_12461196.html 原文地址： https://blog.csdn.net/freewebsys/article/details/133666433 包括以下运行的详细代码： https://gitee.com/study-demo-all/oscommerc…
阅读更多...
将cpu版本的pytorch换成gpu版本

将cpu版本的pytorch换成gpu版本

1.首先激活虚拟环境 winRcmd 打开dos命令窗口 查看虚拟环境列表 conda env list 激活虚拟环境 2.将原来的pytorch_cpu版本换成gpu版本 注意：安装gpu版本的pytorch时并不需要先卸载原来的cpu版本pytorch,安装时会自己替换的 打开pytorch官网查看以前版本 Previo…
阅读更多...
vant组件安装之后导入所有组件报错

vant组件安装之后导入所有组件报错

问题：引入vant报错(Module build failed (from ./node_modules/postcss-loader/src/index.js): 解决办法：在node_modules里面找到 vant目录下面的lib里面的 index.css； 在url前面加上空格即可
阅读更多...
MongoDB 笔记

MongoDB 笔记

1 insert 、create、save区别 insert: 主键不存在则正常插入；主键已存在，抛出DuplicateKeyException 异常 save: 主键不存在则正常插入；主键已存在则更新 insertMany：批量插入，等同于批量执行 insert create&#x…
阅读更多...
地下城堡3最强英雄搭配，地下城堡3公认最强阵容

地下城堡3最强英雄搭配，地下城堡3公认最强阵容

在地下城堡3中，组建一支最强的阵容是玩家们追求的目标之一。通过合理的角色搭配和战术配合，你可以打造一个无敌的团队，在战斗中几乎无往而不胜。下面是地下城堡3公认最强阵容搭配攻略，让你在游戏中轻松征战各个副本和挑战。 关注【…
阅读更多...
基于 LSTM 进行多类文本分类(附源码）

基于 LSTM 进行多类文本分类(附源码）

NLP 的许多创新是如何将上下文添加到词向量中。一种常见的方法是使用循环神经网络。以下是循环神经网络的概念： 他们利用顺序信息。 他们可以捕捉到到目前为止已经计算过的内容，即：我最后说的内容会影响我接下来要说的内容。 RNNs 是文本和…
阅读更多...
一次性读懂Mendix的库间“数据同步”功能

一次性读懂Mendix的库间“数据同步”功能

Data sync，对于那些深谙其道的技术高手而言，意义不言自明。然鹅对整天在村工厂里打螺丝的我来说，却经历了一段难捱的时期。时至今日，我仍然时不时地选择性地遗忘某些概念和技术点。因此，本文章记录我之前一点实操的心得…
阅读更多...
【测试】robotframework安装

【测试】robotframework安装

目录 python安装 pip一系列安装 运行效果 参考文档 python安装 注意管理员权限安装，不然2503的错误 。 pip一系列安装 pip install robotframework pip install wxPython pip install robotframework-ride 运行python ride.py pip install setuptools 解决…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023