轻松复制:Elasticsearch 中跨集群复制指南

news2025/1/8 4:56:25

跨集群的数据复制是一个复杂且耗时的过程。 公司必须使用外部工具或编写自定义脚本将数据从一个集群移动到另一个集群。 Elasticsearch 以其跨集群复制功能来救援。

跨集群复制 (CCR) 是 Elasticsearch 中的一项内置功能,允许近乎实时地将数据从一个集群复制到另一个集群。 它是一个强大的工具,使用户能够跨多个集群分发数据,提高数据弹性并实现跨地理区域的数据分析。

让我们深入了解跨集群复制的世界并探索一些用例。 

用例 1:灾难恢复

灾难随时可能发生,制定灾难恢复计划至关重要。 跨集群复制可以通过将数据从主集群复制到不同地理位置的辅助集群来帮助灾难恢复。 这确保了如果主集群出现故障,辅助集群可以接管,并且业务运营可以继续而不会中断。

用例 2:负载平衡

拥有海量数据的大公司可能会发现单个集群无法处理负载。 跨集群复制允许通过跨多个集群分布数据来实现负载平衡,从而提高性能和可扩展性。 用户可以从任意集群查询数据,结果将实时合并并返回。

 

用例 3:分析

跨地理区域的数据分析可能具有挑战性,尤其是当数据存储在单独的集群中时。 通过跨集群复制,用户可以将数据从多个集群复制到中央集群,从而更轻松地跨所有数据源执行分析。 这使公司能够根据完整的数据视图做出明智的决策。

 

实操

要设置跨集群复制,你需要在辅助集群中定义跟随者索引。 这是一个例子:

PUT /_ccr/auto_follow/my_index
{
  "remote_cluster": "primary_cluster",
  "leader_index_patterns": ["my_index*"],
  "follow_index_pattern": "{{leader_index}}_follower",
  "max_outstanding_read_requests": 1024,
  "max_outstanding_write_requests": 512,
  "max_read_request_operation_count": 256,
  "max_write_request_operation_count": 256,
  "max_write_buffer_count": 512,
  "max_write_buffer_size": "512mb",
  "max_retry_delay": "10s",
  "read_poll_timeout": "1m",
  "max_poll_interval": "5m"
}

这将创建一个自动跟随索引,该索引跟随主集群中与 my_index* 模式匹配的任何索引。

要检查复制的状态,你可以使用 _ccr/stats API。 这是一个例子:

GET /_ccr/stats

这将返回一个 JSON 对象,其中包含有关复制状态的信息。

让我们更深入地了解跨集群复制的一些关键概念和配置。

需要理解的一个重要概念是领导者索引(leader index)和跟随者(follower)索引之间的区别。 领导者索引是正在复制的主集群上的索引,而跟随者索引是正在接收复制数据的辅助集群上的索引。

定义跟随者索引时,你可以指定控制复制过程行为的各种设置。 例如,你可以设置未完成的读取和写入请求的数量、写入缓冲区的最大大小以及最大重试延迟的限制。 这些设置对于控制跨网络的数据流并确保复制不会压垮任一集群非常重要。

另一个重要的考虑因素是复制过程的安全性。 跨集群复制可以配置为使用 SSL/TLS 加密来实现集群之间的安全通信。 此外,你可以使用 Elasticsearch 的内置安全功能来控制对复制 API 的访问并加密静态敏感数据。你可以参考文章 “Elasticsearch:如何在不更新证书的情况下为集群之间建立互信”。

让我们仔细看看前面提到的用例之一:灾难恢复。 在此场景中,你可能有一个主集群位于一个数据中心,而一个辅助集群位于另一个数据中心。 要设置复制,你需要在辅助集群上定义一个跟随者索引,指定远程集群和领导者索引模式:

PUT /_ccr/auto_follow/my_index
{
  "remote_cluster": "primary_cluster",
  "leader_index_patterns": ["my_index*"],
  "follow_index_pattern": "{{leader_index}}_follower"
}

设置复制后,对主集群上的领导者索引所做的任何更改都将自动复制到辅助集群上的跟随者索引。 如果发生影响主集群的灾难,您可以切换到辅助集群并使用复制的数据继续操作。

跨集群复制的另一个用例是数据整合。 在某些情况下,你可能有多个具有相似数据的集群,但分布在不同的区域或业务部门。 通过在这些集群之间设置复制,你可以将数据整合到单个中央集群中,以便于分析和报告。

要开始使用跨集群复制,您需要安装 Elasticsearch 6.4 或更高版本。 然后,你可以按照 Elasticsearch 文档中的步骤配置集群之间的复制。

跨集群复制是 Elasticsearch 中的一项强大功能,可实现跨集群的数据复制,以实现灾难恢复、负载平衡和分析。 通过定义跟随者索引和配置复制设置,你可以控制数据流并确保复制过程的安全性。 因此,如果您希望提高 Elasticsearch 部署的弹性和可扩展性,请尝试跨集群复制!

更多阅读:Elasticsearch:跨集群复制 Cross-cluster replication(CCR)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/685994.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

C语言预处理命令

文章目录 1 什么是预处理命令2 预处理指令实例3 C语言宏定义4 C语言预处理命令总结参考 1 什么是预处理命令 这些在编译之前对源文件进行简单加工的过程,就称为预处理(即预先处理、提前处理)。预处理主要是处理以#开头的命令,例如…

【c语言】-- 操作符汇总(万字详解)

📕博主介绍:目前大一正在学习c语言,数据结构,计算机网络。 c语言学习,是为了更好的学习其他的编程语言,C语言是母体语言,是人机交互接近底层的桥梁。 本章来学习操作符。 让我们开启c语言学习之…

【正点原子STM32连载】第四十章 红外遥控实验 摘自【正点原子】STM32F103 战舰开发指南V1.2

1)实验平台:正点原子stm32f103战舰开发板V4 2)平台购买地址:https://detail.tmall.com/item.htm?id609294757420 3)全套实验源码手册视频下载地址: http://www.openedv.com/thread-340252-1-1.html# 第四…

管理类联考——逻辑——知识篇——形式逻辑——二、性质模态——haimian

性质 考点分析 定义分类 思维导图 模态 考点分析 削弱 年度 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022 2023题量112 定义分类 断定事物发生可能性的命题就是模态命题。 按照可能性的高低,我们可以将模态命题分为如下几类: ①必然发…

Android12 设置系统默认不休眠-迅为RK3588开发板

修改文件: device/rockchip/rk3588/overlay/frameworks/base/packages/SettingsProvider/res/values/defaults. xml 文件,如下图所示: - 60000 0x7fffffff 更多详情 公众Hao/B站:迅为电子

MFC第九天 CRect类的封装和窗口坐标系转换及获取窗口ID 以及对CTime类与COleDateTime类简介

文章目录 CRect类的封装、窗口坐标系转换及获取窗口ID 、CTime类与COleDateTime类简介CRect类的封装窗口坐标系转换及获取窗口IDCTime类与COleDateTime类简介关于设置日期控件上的时间问题 CRect类的封装、窗口坐标系转换及获取窗口ID 、CTime类与COleDateTime类简介 CRect类的…

300黑客共闯沙盒|赛宁数字化靶场助力第十六届全国大学生信息安全竞赛

6月24日,由中央网信办网络安全协调局指导、教育部高等学校网络空间安全专业教学指导委员会主办、福州大学承办的第十六届全国大学生信息安全竞赛—创新实践能力赛华东南分区选拔赛(简称“分区赛”)圆满结束。赛宁网安基于数字化靶场打造的“赛…

3、数仓之采集工具MaxWell(MaxWell简介、MaxWell原理、MaxWell部署、MaxWell使用)

1、Maxw简介 1.1 MaxWell概述 Maxwell 是由美国Zendesk公司开源,用Java编写的MySQL变更数据抓取软件。它会实时监控Mysql数据库的数据变更操作(包括insert、update、delete),并将变更数据以 JSON 格式发送给 Kafka、Kinesi等流数…

100页干货!一文看懂10+行业领域发展趋势

导读: 当前全球经济环境及疫情的变化,使得中国各行业的发展呈现向好趋势,但市场仍充满诸多不确定性。 在今年伊始,罗兰贝格重磅发布了《“预见2023”中国行业趋势报告》(文中简称《报告》),囊…

学生台灯怎么选对眼睛好的?看完再买不踩坑!

我们都知道,对眼睛最好的光就是自然的太阳光,但并不是每时每刻都能享受到太阳光般的光源,所以现在有很多台灯的出现,而护眼台灯是对眼睛最好的,不过护眼台灯的挑选也有一些需要注意的细节! 1、全光谱&#…

Lancet Microbe -- 新冠轻症者可能是“超级传播者”

一项对有意感染SARS-CoV-2的人群的研究提供了关于病毒传播的丰富见解,比如,某些特定人群是“超级传播者”,他们向空气中释放的病毒远比其他人多。 该论文描述了一项具有争议的“挑战性研究”的数据,在这项研究中,科学家…

Sangfor华东天勇战队:AspectJWeaver反序列化利用链

依赖&#xff1a; <dependencies><dependency><groupId>org.aspectj</groupId><artifactId>aspectjweaver</artifactId><version>1.9.2</version></dependency> </dependencies>测试类&#xff1a; import java…

基于Matlab实现SVM算法的手写字体识别(附上完整仿真源码+数据 )

手写字体识别是一个重要的人工智能应用领域。在本文中&#xff0c;我们将展示如何使用MATLAB实现手写数字的识别。 首先&#xff0c;我们需要准备一个手写数字数据集。在本文中&#xff0c;我们将使用MNIST数据集&#xff0c;这是一个广泛使用的手写数字数据集&#xff0c;包含…

界面组件DevExpress WinForm v23.1新版亮点 - 皮肤矢量图标全新升级

DevExpress WinForms拥有180组件和UI库&#xff0c;能为Windows Forms平台创建具有影响力的业务解决方案。DevExpress WinForms能完美构建流畅、美观且易于使用的应用程序&#xff0c;无论是Office风格的界面&#xff0c;还是分析处理大批量的业务数据&#xff0c;它都能轻松胜…

【机器学习】正则化对过拟合和欠拟合的影响

模型过拟合和欠拟合的图像特征 偏差大表示欠拟合&#xff0c;而方差大表示过拟合&#xff0c;我们这一节再深入探讨下过拟合和欠拟合问题。一个经典的图如下&#xff1a; 其中d1为欠拟合&#xff0c;d4为过拟合&#xff0c;而d2则刚刚好。回顾下刚刚说的使用训练集和交叉验证…

JavaScript知识点DOM 模型详细讲解

DOM 模型 DOM 全称是 Document Object Model 文档对象模型 大白话&#xff0c;就是把文档中的标签&#xff0c;属性&#xff0c;文本&#xff0c;转换成为对象来管理。 Document 对象 Document对象的理解&#xff1a; ​ 第一点&#xff1a;Document 它管理了所有的 HTML 文…

三次登录验证和验证码功能实现

三次登录验证和验证码功能实现 最近手头上的事忙的差不多了&#xff0c;就想着自己写写小demo玩一下&#xff0c;结果突然看到我们旧系统的登录好像有点拉胯&#xff0c;然后就自己写了个小demo&#xff0c;指不定哪天就用上了呢 一、pom文件 首先当然是pom文件啦&#xff0…

【JS】1724- 重学 JavaScript API - Drag and Drop API

❝ 前期回顾&#xff1a; 1. Page Visibility API 2. Broadcast Channel API 3. Beacon API 4. Resize Observer API 5. Clipboard API 6. Fetch API 7. Performance API 8. WebStorage API 9. WebSockets API 10. Fullscreen API 11. Geolocation API ❞ &#x1f3dd; 1. 快速…

ThinkPHP6.0 数据迁移工具 migration 入门使用教程

文章目录 安装数据库迁移工具创建迁移文件执行迁移回滚参考资料 开始前需要做好的准备工作&#xff1a; 搭建好 PHP 开发环境&#xff08;推荐 phpstudy&#xff0c;PHP>7.2.5&#xff0c;MySql5.7.x&#xff09;。安装好 ThinkPHP6.0&#xff0c;并做配置可正常连接到 MySq…

docker安装nginx,发布部署vue项目

场景 前后端项目&#xff0c;实现前后端简单部署到服务器。前端vue&#xff0c;后端springboot。服务器ubuntu&#xff08;18.04&#xff09;<linux系统同理>. 后端通过(nohup java -jar xxx.jar &) 指令简单部署。该文主要说明部署前端vue项目。 部署vue需要安装ng…