《Linux运维总结:基于快照模式迁移单节点elasticsearch数据(方案二)》

news2025/1/18 4:47:22

一、背景信息

说明:由于整个系统需要从互联网迁移到政务外网,elasticsearch作为其中一个组件,也需要将 所有索引数据 迁移到政务外网。 由于数据量比较大,所以使用快照的模式对elasticsearch数据进行备份及恢复操作,提升效率。


二、自动化备份恢复工具

基于快照模式单节点elasticsearch数据自动化备份恢复工具

1、实现功能如下

1、一键备份全索引,类似于Mysql全库备份模式。
2、一键恢复指定日期全索引,类似于Mysql全库恢复模式。
3、一键备份单索引,类似于Mysql分库备份模式。
4、一键恢复指定日期单索引,类似于Mysql分库恢复模式。
5、保留7天内备份文件。


三、备份前操作

说明:当前工具实现了两种模式备份,单索引和全索引,所以这里elasticsearch.yml设置了两个备份仓库地址,如下所示:

cluster.name: my-application
node.name: node1
network.host: 0.0.0.0
network.publish_host: 192.168.1.174
http.port: 9200
transport.tcp.port: 9300
discovery.zen.minimum_master_nodes: 1
discovery.zen.ping.unicast.hosts: ["192.168.1.174:9300"]
#【/data/backup/single-index为单个索引快照备份目录】;【/data/backup/all-index为所有索引快照备份目录】
path.repo: ["/data/backup/single-index","/data/backup/all-index"]

三、使用工具实现数据备份恢复

注意:如果源主机和目标主机网络相通,可在源主机上进行备份,同时可在源主机上对目标主机的es数据进行恢复,无需将备份文件拷贝到目标主机。

帮助信息

[root@localhost elasticdump_snapshot]# ./op.sh 
Usage:
    bash op.sh backup-all        es所有索引进行快照备份. 
    bash op.sh restore-all       es所有索引进行快照恢复
    bash op.sh backup-single     es单个索引进行快照备份
    bash op.sh restore-single    es单个索引进行快照恢复

说明:由于当前elasticsearch是采用docker部署,elasticsearch.yml中path.repo中定义的两个备份仓库地址,对应宿主机的/data/pkgs/es-tools/tools/single/backup/all-index,/data/pkgs/es-tools/tools/single/backup/single-index目录,目录权限位777。

1、编辑env.conf文件

############################################<<适用于单机es2.0.0版本>>####################################################
# 导出,即备份
# 源es ip地址,根据实际情况修改
ES_SOURCE_IP="192.168.1.174"

# 源es 端口,根据实际情况修改
ES_SOURCE_PORT="9201"

# 快照仓库备份目录,根据实际情况修改
ES_SNAPSHOT_BACKUP_DIR="/data/pkgs/es-tools/tools/single/backup"
##########################################################################################################################
# 导入,即恢复
# 目标es ip地址,根据实际情况修改
ES_TARGET_IP="192.168.1.48"

# 目标es 端口,根据实际情况修改
ES_TARGET_PORT="9201"

# 快照仓库恢复目录,根据实际情况修改
ES_SNAPSHOT_RESTORE_DIR="/data/pkgs/es-tools/tools/single/backup"

# 恢复模式一:根据单个索引快照遍历恢复所有索引数据,二者选其一,根据当前环境采用的备份模式来确定,时间日期根据实际情况修改
# 例如: 2022-11-25
ES_SINGLE_RESTORE_DATE_TIME="2022-11-28"

# 恢复模式二:根据所有索引快照恢复所有索引数据,二者选其一,根据当前环境采用的备份模式来确定,时间日期根据实际情况修改
# 例如: 2022-11-25
ES_ALL_RESTORE_DATE_TIME="2022-11-28"
##########################################################################################################################

3.1、全索引模式

说明:全索引模式,是指全部索引一起备份,类似于Mysql的全库备份方式。

2、备份源主机es索引数据,全索引模式

[root@localhost elasticdump_snapshot]# ./op.sh backup-all
[root@localhost elasticdump_snapshot]# ll /data/pkgs/es-tools/tools/single/backup/all-index/
-rw-r--r-- 1 105 108  38 1128 13:28 index
drwxr-xr-x 9 105 108 155 1128 13:28 indices
-rw-r--r-- 1 105 108 110 1128 13:28 meta-all-index-2022-11-28.dat
-rw-r--r-- 1 105 108 300 1128 13:28 snap-all-index-2022-11-28.dat

如下图所示:
在这里插入图片描述

3、目标主机es索引数据恢复,全索引模式

[root@localhost elasticdump_snapshot]# ./op.sh restore-all
2022-11-28 13:31:19 Info: The all index data is restore successfully.

如下图所示:
在这里插入图片描述


3.2、单索引模式

说明:单索引模式,是指单个索引备份,类似于Mysql的分库备份方式。

2、备份源主机es索引数据,单索引模式

[root@localhost elasticdump_snapshot]# ./op.sh backup-single
[root@localhost elasticdump_snapshot]# ll /data/pkgs/es-tools/tools/single/backup/single-index
[root@localhost elasticdump_snapshot]# ll /data/pkgs/es-tools/tools/single/backup/single-index
-rw-r--r-- 1 root root 455 1128 13:32 es_indices.txt
-rw-r--r-- 1  105  108 206 1128 13:32 index
drwxr-xr-x 9  105  108 155 1128 13:32 indices
-rw-r--r-- 1  105  108 110 1128 13:32 meta-conference-index-2-2022-11-28.dat
-rw-r--r-- 1  105  108 110 1128 13:32 meta-depart_person-2022-11-28.dat
-rw-r--r-- 1  105  108 110 1128 13:32 meta-depart_person_statics-2022-11-28.dat
-rw-r--r-- 1  105  108 110 1128 13:32 meta-duty_statistics-2022-11-28.dat
-rw-r--r-- 1  105  108 110 1128 13:32 meta-logger_index-2022-11-28.dat
-rw-r--r-- 1  105  108 110 1128 13:32 meta-statistics-2022-11-28.dat
-rw-r--r-- 1  105  108 110 1128 13:32 meta-test-2022-11-28.dat
-rw-r--r-- 1  105  108 224 1128 13:32 snap-conference-index-2-2022-11-28.dat
-rw-r--r-- 1  105  108 214 1128 13:32 snap-depart_person-2022-11-28.dat
-rw-r--r-- 1  105  108 230 1128 13:32 snap-depart_person_statics-2022-11-28.dat
-rw-r--r-- 1  105  108 218 1128 13:32 snap-duty_statistics-2022-11-28.dat
-rw-r--r-- 1  105  108 212 1128 13:32 snap-logger_index-2022-11-28.dat
-rw-r--r-- 1  105  108 208 1128 13:32 snap-statistics-2022-11-28.dat
-rw-r--r-- 1  105  108 196 1128 13:32 snap-test-2022-11-28.dat
[root@localhost elasticdump_snapshot]# 

如下图所示:
在这里插入图片描述

3、目标主机es索引数据恢复,单索引模式

[root@localhost elasticdump_snapshot]# ./op.sh restore-single
2022-11-28 13:34:16 Info: The logger_index index data is restore successfully.
2022-11-28 13:34:16 Info: The depart_person index data is restore successfully.
2022-11-28 13:34:16 Info: The conference-index-2 index data is restore successfully.
2022-11-28 13:34:16 Info: The duty_statistics index data is restore successfully.
2022-11-28 13:34:16 Info: The depart_person_statics index data is restore successfully.
2022-11-28 13:34:20 Info: The statistics index data is restore successfully.
2022-11-28 13:34:20 Info: The test index data is restore successfully.

如下图所示:
在这里插入图片描述


总结:整理不易,如果对你有帮助,可否点赞关注一下?

更多详细内容请参考:Linux运维实战总结

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/44562.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

[附源码]计算机毕业设计springboot病人跟踪治疗信息管理系统

项目运行 环境配置&#xff1a; Jdk1.8 Tomcat7.0 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; SSM mybatis Maven Vue 等等组成&#xff0c;B/S模式 M…

接口测试当中的权限限制测试和状态机测试【杭州多测师_王sir】【杭州多测师】...

一、权限限制 权限限制我需要单独拎出来讲&#xff0c;它很重要&#xff01;很多系统中都存在系统管理员、普通用户等不同角色的用户&#xff0c;系统管理员拥有一些普通用户没有的权限&#xff0c;比如系统管理员可以发布公告&#xff0c;而普通用户则只能查看&#xff0c;系统…

【MATLAB教程案例48】初识点云——pcshow,pointCloud,pcwrite,pcread,pcdenoise等点云基本操作函数学习

欢迎订阅《FPGA学习入门100例教程》、《MATLAB学习入门100例教程》 本课程效果预览 目录 1.软件版本 2.什么是点云?

〖全域运营实战白宝书 - 高转化文案速成篇①〗- 文案速成导学与常见文案类型

大家好&#xff0c;我是 哈士奇 &#xff0c;一位工作了十年的"技术混子"&#xff0c; 致力于为开发者赋能的UP主, 目前正在运营着 TFS_CLUB社区。 &#x1f4ac; 人生格言&#xff1a;优于别人,并不高贵,真正的高贵应该是优于过去的自己。&#x1f4ac; &#x1f4e…

CAD特殊符号,你不一定会

在CAD软件中&#xff0c;有时候会输入一些特殊的符号。比如在标明高低差的时候会输入“”号&#xff0c;在标明管子或者钢筋的直径为输入直径符号“”&#xff0c;为了标明角度值需要输入符号“”&#xff0c;那么这些符号怎么快速的绘制出来呢&#xff1f;我们一起用CAD梦想画…

[附源码]Python计算机毕业设计SSM基于java的图书管理系统(程序+LW)

环境配置&#xff1a; Jdk1.8 Tomcat7.0 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; SSM mybatis Maven Vue 等等组成&#xff0c;B/S模式 Maven管理等…

手把手安装Origin软件

Origin是由OriginLab公司开发的一个科学绘图、数据分析软件&#xff0c;支持在Microsoft Windows下运行。Origin支持各种各样的2D/3D图形。Origin中的数据分析功能包括统计&#xff0c;信号处理&#xff0c;曲线拟合以及峰值分析。Origin中的曲线拟合是采用基于Levernberg-Marq…

缩短汽车服务企业供销链,数商云经销商平台渠道订货模块打造企业销售新模式

随着新能源汽车的快速发展&#xff0c;越来越多的颠覆型玩家进入市场&#xff0c;汽车产品和技术在变&#xff0c;市场环境与结构在变&#xff0c;消费者需求在变&#xff0c;渠道也必然随之改变&#xff0c;全新销售模式横空出世&#xff0c;为传统汽车销售带来前所未有的挑战…

import机制浅析

文章目录import机制入口文件绝对导入和相对导入绝对导入相对导入解决import报错问题小结import机制 ​ 在我们执行python文件时&#xff0c;python通过sys.path进行路径搜索的&#xff0c;整体来说&#xff0c;分为三种搜索模式 1.#系统的内置模块进行搜索&#xff1b; exp&a…

基于PHP+MySQL大学教学工作网络平台的设计与实现

随着在校学生人数的不断增加,学生的数量也在不断的增加,同时面临的就是如何更加方便快捷和高效的管理学生的大学教学工作信息,传统模式的大学教学工作管理明显已经不能够满足当下的需求,于是我们提出了大学教学工作系统的设计与开发。 本课题基于PHP,在Windows7系统的环境下,利…

基于模态凝聚算法的特征系统实现算法的自然激励技术(Matlab代码实现)

&#x1f389;&#x1f389;&#x1f389;&#x1f389;欢迎您的到来&#x1f60a;&#x1f60a;&#x1f60a; &#x1f96c;博客主页&#xff1a;博客内容尽量做到思维缜密&#xff0c;逻辑清晰&#xff0c;为了方便读者。 &#x1f4dd;床头铭&#xff1a;将来的我一定会感谢…

(万字详解)MySQL增删改查(基础+进阶)

目录 &#x1f433;今日良言:眼里有不朽的光芒 心里有永恒的希望 &#x1f415;一、MySQL增删改查(基础) &#x1f402;1.初识CURD &#x1f40d;2.使用CURD &#x1f407;二、MySQL增删改查(进阶) &#x1f41d;1.数据库约束 &#x1f411;2.表的设计 &#x1f42d;3.…

面向切面编程的一些概念

横切关注点 散播应用中多处的功能被称为横切关注点 安全就是一个关注点&#xff0c;每个方法或者类都需要注重安全方法参数日志记录也是一个关注点以及事务管理 横切关注点从概念上讲是与业务分离的&#xff0c;但往往会直接嵌入到业务中 多个类使用到相同的功能。最常见到的就…

【C++面向对象程序设计】CH5 继承与派生

目录 前言 一、继承与派生的概念 二、派生类的声明方式 1.格式 2.【例】假定已经声明一个基类student&#xff0c;在它基础上通过单继承建立一个派生类student1。 三、派生类的构成 四、派生类成员的访问属性 前言 1.公有继承 &#xff08;1&#xff09;公有基类在派…

r、 weka从决策树模型看员工为什么离职?

马云说&#xff1a;“员工离职的原因总是只有两个&#xff1a;钱&#xff0c;没有到位;心委屈了。” 现在很多老板都抱怨说&#xff0c;年轻人的流动率太高了&#xff0c;员工觉得老板的钱太少了&#xff0c;最后还是多指责。 最近我们被客户要求撰写关于员工离职的研究报告&…

黄佳《零基础学机器学习》chap2笔记

黄佳 《零基础学机器学习》 chap2笔记 第2课 数学和Python基础知识 文章目录黄佳 《零基础学机器学习》 chap2笔记第2课 数学和Python基础知识2.1 函数描述了事物间的关系机器学习中常用的一些函数2.2 捕捉函数的变化趋势2.3 梯度下降2.4 机器学习的数据结构--张量2.4.1 张量的…

Mysql5.7 基于Docker搭建主从复制集群

基础 参考&#xff1a;mysql5.7-Docker-安装-备份 拉取镜像 docker pull mysql:5.7 创建目录 mkdir /home/liangshijie/mysql-docker-file/conf mkdir /home/liangshijie/mysql-docker-file/logs mkdir /home/liangshijie/mysql-docker-file/data创建配置文件 cd /home…

GEE Python本地快速下载GEE数据(比网页版保存到网盘再下载快几十倍,尤其是在下载几十年的长时间系列数据时,速度提升更加明显)

前言 可根据研究区直接裁剪数据以及进行一些计算处理后再下载&#xff0c;GEE成为了大家下载数据的重要途径&#xff0c;然而直接通过官网网页将数据先保存到网盘再下载的下载方法速度太慢&#xff0c;新号速度还好&#xff0c;越用速度越来越慢&#xff0c;本文提供了一种直接…

IBM MQ通道接收端绑定步骤

不同类型的绑定 IBM MQ 支持应用程序可以连接的两种方式&#xff1a; 1.本地绑定&#xff1a;这是当应用程序和队列管理器在同一个操作映像上时。 CHLAUTH 与此类应用程序连接无关。 2. 客户端绑定&#xff1a;这是应用程序和队列管理器使用网络进行通信的时候。 应用程序和队列…

从Opencv之图像直方图源码,探讨高性能计算设计思想

前言 纸上得来终觉浅&#xff0c;绝知此事要躬行。学会算法的理论很重要&#xff0c;但是把理论高效的实现也是需要一点点练习的。 图像直方图的理论很简单&#xff0c;就是把一个图像的像素区间划分为几个子区间&#xff0c;然后统计图像中的像素包含在子区间内的个数。这里&a…