【运维】StarRocks数据迁移到新集群（针对于集群互通、不互通的情况）

news2024/11/25 11:35:26

文章目录

  • 一. 迁移整体思路
    • 1. 对于新旧集群互通的情况
    • 2. 对于新旧集群不互通的情况
  • 二、迁移过程（两个集群互通的情况）
    • 1. 备份过程
      • 1.1. 通过mysqlclient与starrocks进行关联
      • 1.2. 创建仓库与minio建立联系
      • 1.3. 备份数据到minio
    • 2. 迁移过程
      • 2.1. 通过mysqlclient与starrocks进行关联
      • 2.2. 在新集群中创建仓库
      • 2.3. 恢复数据到新集群
  • 二、迁移过程（两个集群不互通的情况）
    • 1. 集群A数据迁移到minioA
      • 1.1. 通过mysqlclient与starrocks进行关联
      • 1.2. 创建仓库与minioA建立联系
      • 1.3. 备份数据到minioA
    • 2. minioA数据迁移到minioB
      • 2.1. 下载minioA中的文件到本地
      • 2.2. 将文件上传到minioB
    • 3.minioB数据迁移到集群B
      • 3.1. 通过mysqlclient与starrocks进行关联
      • 3.2. 在新集群中创建仓库
      • 3.3. 恢复数据到新集群

一. 迁移整体思路

SR官网提供了分区、表和数据库级别的数据迁移策略，此方案通过数据库级别将数据迁移到新集群。

1. 对于新旧集群互通的情况

在这里插入图片描述

 

2. 对于新旧集群不互通的情况

在这里插入图片描述
 

二、迁移过程（两个集群互通的情况）

在这里插入图片描述

准备

规划

序号组件说明
1minio用于创建桶，将库备份放到minio的桶中
2集群A旧集群，用于将库迁移到minio中
3集群B新集群，从minio迁移数据到集群B

 
minio操作

# 1. 创建minio集群别名：用于后续操作；在任意minio节点
语法
/usr/local/minio/mc alias set ${minio_alias} ${minio_server} ${minio_user} ${minio_password}
实例
/usr/local/minio/mc alias set minio_data_starrocks http://server_minio:9019 admin Administrator123
 
 
 
# 2. minio集群创建桶star11：用于存储数据备份
语法：
/usr/local/minio/mc mb ${minio_alias}/${bucket_name}
实例：
/usr/local/minio/mc mb minio_data_starrocks/star11

 

1. 备份过程

集群A（旧集群）数据迁移到minio：3个FE( poc1、2、3), 3个BE（poc4、5、6）的 StarRocks。

1.1. 通过mysqlclient与starrocks进行关联

mysql -h${starrocks_leader_host} -P9030 -uroot -pstar_rocks;

 

1.2. 创建仓库与minio建立联系

-- 1.  创建仓库
语法：
CREATE REPOSITORY `${repo_name}`
WITH BROKER
ON LOCATION "s3a://${bucket_name}/backup"
PROPERTIES
(
"aws.s3.enable_ssl" = "false",
"aws.s3.access_key" = "${minio_username}",
"aws.s3.enable_path_style_access" = "true",
"aws.s3.secret_key" = "${minio_password}",
"aws.s3.endpoint" = "${minio_server}"
);
 
 
 
实例：
CREATE REPOSITORY `test_repo`
WITH BROKER
ON LOCATION "s3a://star11/backup"
PROPERTIES
(
"aws.s3.enable_ssl" = "false",
"aws.s3.access_key" = "admin",
"aws.s3.enable_path_style_access" = "true",
"aws.s3.secret_key" = "Administrator123",
"aws.s3.endpoint" = "minio_server:9009"
);
 
 
 
 
-- 2. 展示仓库
show REPOSITORY `test_repo`;
 
 
 
 
如果仓库创建失败，或重新创建同名仓库，则删除仓库命令如下
DROP REPOSITORY `test_repo`;
 
 
删除仓库时后记得手动在minio上的文件。

 

1.3. 备份数据到minio

备份语法：https://docs.starrocks.io/zh/docs/2.5/sql-reference/sql-statements/data-definition/BACKUP/

-- 1.备份命令
-- 以下示例在数据库 radar_test 中创建数据快照 sr_member_backup(命名随意) 并备份至仓库 test_repo 中。
 
 
BACKUP SNAPSHOT radar_test.radar_test_backup
TO test_repo
PROPERTIES ("type" = "full");
 
 
 
 
-- 2. 查看数据库radar_test备份过程：
show backup from radar_test \G;
 
*************************** 1. row ***************************
               JobId: 129388
        SnapshotName: radar_test_backup
              DbName: radar_test
               State: FINISHED
          BackupObjs: [radar_test.20230815_baseurl], [radar_test.20230815_baseurl.csv], [radar_test.dim_report_pro_detail], [radar_test.dim_report_pro_logs], [radar_test.dwd_qdas_monitor_donelog_test], [radar_test.dwd_thjl_d_xky], [radar_test.dwd_thjl_d_xky2], [radar_test.dwd_thjl_d_xky_20240125], [radar_test.ftp_baseurl], [radar_test.ods_pc_user_portrait_detail], [radar_test.ods_pc_user_portrait_detail2], [radar_test.ods_thjl_d], [radar_test.t], [radar_test.test2_100m_pc_user_portrait_detail], [radar_test.test2_10m_pc_user_portrait_detail], [radar_test.test2_1m_pc_user_portrait_detail], [radar_test.test2_join_id], [radar_test.test_100m_pc_user_portrait_detail], [radar_test.test_10m_pc_user_portrait_detail], [radar_test.test_1m_pc_user_portrait_detail]
          CreateTime: 2024-03-14 15:05:03
SnapshotFinishedTime: 2024-03-14 15:05:09
  UploadFinishedTime: 2024-03-14 15:16:36
        FinishedTime: 2024-03-14 15:16:45
     UnfinishedTasks:
            Progress:
          TaskErrMsg: [129534: S3: Fail to complete multipart upload for object starrocks-1/backup/__starrocks_repository_test_repo/__ss_radar_test_backup/__ss_content/__db_10228/__tbl_18770/__part_19744/__idx_18771/__19845/02000000006a04786743e0da3614f6285f61e260bcdfc887_0.dat.part, msg: The specified multipart upload does not exist. The upload ID may be invalid, or the upload may have been aborted or completed.]
              Status: [OK]
             Timeout: 86400
 
 
看到State为FINISHED，Status为OK说明备份完成
 
TaskErrMsg和Status：会显示任务过程中Task的一些错误信息，但只要State列不为CANCELLED，
就说明作业依然在继续，这些Task有可能会重试成功。当然，有些Task错误，也会直接导致作业失败。

 
在这里插入图片描述

当一次备份作业涉及到的表和数据都很多时，我们需要不时关注作业状态，若发现任务长时间没有进度或有其他问题，也可以将任务手动取消，取消语法为：

mysql> CANCEL BACKUP FROM db_name;

 

2. 迁移过程

迁移到集群B（新集群）:

2.1. 通过mysqlclient与starrocks进行关联

mysql -h ${clusterB_server} -P9031 -uroot -pstar_rocks

 

2.2. 在新集群中创建仓库

注意在新集群中使用相同仓库名和地址创建仓库，否则将无法查看先前备份的数据快照。

-- 1. 创建数据库 新集群中需要建库，迁移的表不需要创建。
create database radar_test;
 
 
 
-- 2. 创建与A集群相同的仓库
 
CREATE REPOSITORY `test_repo`
WITH BROKER
ON LOCATION "s3a://star11/backup"
PROPERTIES
(
"aws.s3.enable_ssl" = "false",
"aws.s3.access_key" = "admin",
"aws.s3.enable_path_style_access" = "true",
"aws.s3.secret_key" = "Administrator123",
"aws.s3.endpoint" = "${minio_server}:9019"
);
 
 
-- 3. 查看仓库
 
SHOW REPOSITORIES;
 
-- 如果创建仓库失败，或想重新创建。使用如下命令删除仓库
DROP REPOSITORY test_repo;

 

2.3. 恢复数据到新集群

-- 在（旧集群）A集群中执行
-- 1. 连接A集群
mysql -h${star_rocks_cluster_fe_leader} -P9030 -uroot  -pstar_rocks;
 
-- 查看备份快照信息，用于恢复使用
mysql> SHOW SNAPSHOT ON test_repo;
+-------------------+-------------------------+--------+
| Snapshot          | Timestamp               | Status |
+-------------------+-------------------------+--------+
| radar_test_backup | 2024-03-14-15-05-03-957 | OK     |
+-------------------+-------------------------+--------+
 
 
 
-- 在（新集群）B集群中执行
-- 2. 将仓库 test_repo 中的数据快照 radar_test_backup恢复到数据库中radar_test，恢复三个数据副本。
-- 语法
RESTORE SNAPSHOT ${clusterB_database}.${clusterA_Snapshot_name}
FROM test_repo
PROPERTIES (
    "backup_timestamp"="${clusterA_Snapshot_Timestamp}"
     ,"replication_num" = "3"
);
 
 
-- 执行实例
RESTORE SNAPSHOT radar_test_1.radar_test_backup
FROM test_repo
PROPERTIES (
    "backup_timestamp"="2024-03-14-15-05-03-957"
     ,"replication_num" = "3"
);
 
Query OK, 0 rows affected (1.77 sec)
 
 
 
-- 3. 查看备份进度
 
SHOW RESTORE from radar_test \G;
 
 
*************************** 1. row ***************************
               JobId: 10078
               Label: radar_test_backup
           Timestamp: 2024-03-14-15-05-03-957
              DbName: radar_test
               State: FINISHED
           AllowLoad: false
      ReplicationNum: 1
         RestoreObjs: ... 会展示所有表和分区
          CreateTime: 2024-03-15 11:28:04
    MetaPreparedTime: 2024-03-15 11:28:07
SnapshotFinishedTime: 2024-03-15 11:28:10
DownloadFinishedTime: 2024-03-15 11:28:43
        FinishedTime: 2024-03-15 11:30:03
     UnfinishedTasks:
            Progress:
          TaskErrMsg:
              Status: [OK]
             Timeout: 86400
 
如果State为FINISHED、Status为[OK]，则迁移数据到新集群完成。

 

二、迁移过程（两个集群不互通的情况）

在这里插入图片描述

规划

序号组件说明
1minioA用于创建桶，将库备份放到minioA的桶中
2集群A旧集群，用于将库迁移到minioA中
3minioBminioA的数据迁移到minioB中
4集群B新集群，从minioB迁移数据到集群B

minioA操作

一. minioA操作
# 1. 创建minioA集群别名：用于后续操作；在任意minio节点
语法
/usr/local/minio/mc alias set ${minio_alias} ${minio_server} ${minio_user} ${minio_password}
 
 
 
# 2. minioA集群创建桶star11：用于存储数据备份
语法：
/usr/local/minio/mc mb ${minio_alias}/${bucket_name}
实例：
/usr/local/minio/mc mb minio_data_starrocks/star11

 

1. 集群A数据迁移到minioA

集群A（旧集群）数据迁移到minio：3个FE( poc1、2、3), 3个BE（poc4、5、6）的 StarRocks。

 

1.1. 通过mysqlclient与starrocks进行关联

1.2. 创建仓库与minioA建立联系

1.3. 备份数据到minioA

如上过程参考：集群互通时的操作

 

2. minioA数据迁移到minioB

现在我们将minioA的文件下载到本地，然后从本地上传到minioB

 

2.1. 下载minioA中的文件到本地

# 将minioA中的桶star11的数据备份到/home/taiyi/minio-data目录
# 创建目录
mkdir -p /home/taiyi/minio-data/
# 备份到本地
语法
# /usr/local/minio/mc cp --recursive ${minioA_alias}/${bucket_name}/ ${local_dir}
实例
/usr/local/minio/mc cp --recursive minio_data_starrocks/star11/ /home/taiyi/minio-data/

 

2.2. 将文件上传到minioB

因为网络不互通，需要将文件从上述位置拷贝到minioB的客户端机器中，具体方法不再描述，用户自行操作。

现在

# 1. 设用户已将数据上传到minioB的客户机目录/home/taiyi/minio-data/下
 
 
# 2. 创建minioB集群别名：用于后续操作；在任意minioB的客户端节点
语法
/usr/local/minio/mc alias set ${minioB_alias} ${minioB_server} ${minioB_user} ${minioB_password}

 
 
 
# 3. minioB集群创建桶star11：用于上传数据备份
语法：
/usr/local/minio/mc mb ${minioB_alias}/${bucket_name}
实例：
/usr/local/minio/mc mb minio_data_starrocks_restore/star11
 
 
# 4. 将文件夹下/home/taiyi/minio-data/所有数据上传到minioB中star11的桶中
 
/usr/local/minio/mc cp --recursive  /home/taiyi/minio-data/ minio_data_starrocks_restore/star11/

 

3.minioB数据迁移到集群B

迁移到集群B（新集群）:

3.1. 通过mysqlclient与starrocks进行关联

3.2. 在新集群中创建仓库

3.3. 恢复数据到新集群

如上过程参考：集群互通时的操作

 
参考：
https://blog.csdn.net/ult_me/article/details/123235041

https://blog.csdn.net/gongxiucheng/article/details/132675927

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1523024.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

大衍数列-蓝桥杯？-Lua 中文代码解题第2题

大衍数列-蓝桥杯？-Lua 中文代码解题第2题

大衍数列-蓝桥杯？-Lua 中文代码解题第2题 中国古代文献中，曾记载过“大衍数列”, 主要用于解释中国传统文化中的太极衍生原理。 它的前几项是：0、2、4、8、12、18、24、32、40、50 … 其规律是：对偶数项，是序号平方再除…
阅读更多...
[蓝桥杯练习题]确定字符串是否包含唯一字符/确定字符串是否是另一个的排列

[蓝桥杯练习题]确定字符串是否包含唯一字符/确定字符串是否是另一个的排列

确定字符串是否包含唯一字符 #include<bits/stdc.h> using namespace std; int main(){ios::sync_with_stdio(0);cin.tie(nullptr);cout.tie(nullptr);map<char,int>m;string s;cin>>s;for(int i0;i<s.size();i){if(isalpha(s[i]))s[i]tolower(s[i]);if(…
阅读更多...
多租户平台前端存储结构的选择

多租户平台前端存储结构的选择

下图来源于cookie、localStorage 和 sessionStorage的区别及应用实例 既然localstorage无有效期&#xff0c;关闭浏览器还存在&#xff0c;那么用来存储用户的身份信息并不是太合适&#xff0c;先看一下B站中localstorage都存在了啥&#xff0c;原来把我搜索的记录都存在了下来…
阅读更多...
ISIS接口认证实验简述

ISIS接口认证实验简述

默认情况下&#xff0c;ISIS接口认证通过在ISIS协议数据单元&#xff08;PDU&#xff09;中添加认证字段&#xff0c;例如&#xff1a;一个密钥或密码&#xff0c;用于验证发送方的身份。 ISIS接口认证防止未经授权的设备加入到网络中&#xff0c;并确保邻居之间的通信是可信的…
阅读更多...
pytorch实现分割模型TransUNet

pytorch实现分割模型TransUNet

TransUNet是一个非常经典的图像分割模型。该模型出现在Transformer引入图像领域的早期&#xff0c;所以结构比较简单&#xff0c;但是实际上效果却比很多后续花哨的模型更好。所以有必要捋一遍pytorch实现TransUNet的整体流程。 首先&#xff0c;按照惯例&#xff0c;先看一下…
阅读更多...
MySQL 篇- Java 连接 MySQL 数据库并实现数据交互

MySQL 篇- Java 连接 MySQL 数据库并实现数据交互

&#x1f525;博客主页&#xff1a; 【小扳_-CSDN博客】 ❤感谢大家点赞&#x1f44d;收藏⭐评论✍ 文章目录 1.0 JDBC 概述 2.0 实现 Java 连接 MySQL 数据库并实现数据交互的完整过程 2.1 安装数据库驱动包 2.2 创建数据源对象 2.3 获取数据库连接对象 2.4 创建 SQL 语句 2.…
阅读更多...
mac激活pycharm，python环境安装和包安装问题

mac激活pycharm，python环境安装和包安装问题

1.PyCharm到官网下载就行 地址&#xff1a;Other Versions - PyCharm (jetbrains.com) 2.MacOS 下载python环境&#xff0c;地址&#xff1a; Python Releases for macOS | Python.org 3.PyCharm环境配置&#xff1a; 4. 如果包下载不下来可以换个源试试 pip install py…
阅读更多...
如何在Ubuntu中查看编辑lvgl的demo和examples？

如何在Ubuntu中查看编辑lvgl的demo和examples？

如何在Ubuntu中查看编辑lvgl的demo和examples&#xff1f; 如何在 Ubuntu系统中运行查看lvgl 1、拉取代码 在lvgl的github主页面有50多个仓库&#xff0c;找到lv_port_pc_eclipse这个仓库&#xff0c;点进去 拉取仓库代码和子仓库代码 仓库网址&#xff1a;https://github…
阅读更多...
Maven: There are test failures.（已解决）

Maven: There are test failures.（已解决）

问题解决办法 进行package打包时报错如下&#xff1a; 然后这些并不能看出是测试的哪里的问题&#xff0c;可以点击上一级进行查看更详细的错误&#xff0c;越向上日志越详细&#xff0c;可以看到是52行出了错误&#xff0c; 52对应代码如下&#xff1a; 原因是存在注册的测…
阅读更多...
分享一篇Oracle RAC实战安装11G

分享一篇Oracle RAC实战安装11G

分享一次很久以前的Oracle rac项目实施。 1、拓扑结构 基础环境是2台H3C的服务器2台3PAR的双活存储&#xff0c;操作系统centos7.2。借用下别人家的拓扑先&#xff08;这是一套典型的RAC架构&#xff09;。 2、网卡TEAM操作 以eno51和en052组成Team1组为示例&#xff1a; nm…
阅读更多...
校园闲置物品交易网站 |基于springboot框架+ Mysql+Java+Tomcat的校园闲置物品交易网站设计与实现(可运行源码+设计文档)

校园闲置物品交易网站 |基于springboot框架+ Mysql+Java+Tomcat的校园闲置物品交易网站设计与实现(可运行源码+设计文档)

推荐阅读100套最新项目 最新ssmjava项目文档视频演示可运行源码分享 最新jspjava项目文档视频演示可运行源码分享 最新Spring Boot项目文档视频演示可运行源码分享 目录 前台功能效果图 用户功能模块 管理员功能登录前台功能效果图 系统功能设计 数据库E-R图设计 lunwen…
阅读更多...
章鱼网络 Community Call #19｜​开启与 Eigenlayer 的合作

章鱼网络 Community Call #19｜​开启与 Eigenlayer 的合作

香港时间2024年3月8日12点&#xff0c;章鱼网络举行第19期 Community Call。 在过去的一个月&#xff0c;章鱼网络在成功完成 $NEAR Restaking 功能的安全审计之后&#xff0c;一直在稳步吸引关注。事实上&#xff0c;在整个行业中&#xff0c;我们是极少数已经推出 Restaking …
阅读更多...
JavaWeb笔记 --- 三、MyBatis

JavaWeb笔记 --- 三、MyBatis

三、MyBatis 概述 MyBatis是一个持久层框架&#xff0c;用于简化JDBC Mapper代理开发 在resources配置文件包中创建多级目录用 / MyBatis核心配置文件 enviroments&#xff1a;配置数据库连接环境信息。 可以配置多个enviroment&#xff0c;通过default属性切换不同的envir…
阅读更多...
MySQL语法分类 DQL（5）分组查询

MySQL语法分类 DQL（5）分组查询

为了更好的学习这里给出基本表数据用于查询操作 create table student (id int, name varchar(20), age int, sex varchar(5),address varchar(100),math int,english int );insert into student (id,name,age,sex,address,math,english) values (1,马云,55,男,杭州,66,78),…
阅读更多...
2核4g服务器能多少人在线？腾讯云2核4g服务器性能测评

2核4g服务器能多少人在线？腾讯云2核4g服务器性能测评

腾讯云轻量应用服务器2核4G5M配置性能测评&#xff0c;腾讯云轻量2核4G5M带宽服务器支持多少人在线访问&#xff1f;并发数10&#xff0c;支持每天5000IP人数访问&#xff0c;腾讯云百科txybk.com整理2核4G服务器支持多少人同时在线&#xff1f;并发数测试、CPU性能、内存性能、…
阅读更多...
FFmpeg 常用命令汇总

FFmpeg 常用命令汇总

​​​​​​经常用到ffmpeg做一些视频数据的处理转换等&#xff0c;用来做测试&#xff0c;今天总结了一下&#xff0c;参考了网上部分朋友的经验&#xff0c;一起在这里汇总了一下。 1、ffmpeg使用语法 命令格式&#xff1a; ffmpeg -i [输入文件名] [参数选项] -f [格…
阅读更多...
unity内存优化之AB包篇（微信小游戏）

unity内存优化之AB包篇（微信小游戏）

1.搭建资源服务器使用(HFS软件(https://www.pianshen.com/article/54621708008/)) using System.Collections; using System.Collections.Generic; using UnityEngine;using System;public class Singleton<T> where T : class, new() {private static readonly Lazy<…
阅读更多...
Unity的AssetBundle资源运行内存管理的再次深入思考

Unity的AssetBundle资源运行内存管理的再次深入思考

大家好&#xff0c;我是阿赵。   这篇文章我想写了很久&#xff0c;是关于Unity项目使用AssetBundle加载资源时的内存管理的。这篇文章不会分享代码&#xff0c;只是分享思路&#xff0c;思路不一定正确&#xff0c;欢迎讨论。   对于Unity引擎的资源内存管理&#xff0c;我…
阅读更多...
【网络原理】TCP 协议中比较重要的一些特性（三）

【网络原理】TCP 协议中比较重要的一些特性（三）

目录 1、拥塞控制 2、延时应答 3、捎带应答 4、面向字节流 5、异常情况处理 5.1、其中一方出现了进程崩溃 5.2、其中一方出现关机&#xff08;正常流程的关机&#xff09; 5.3、其中一方出现断电&#xff08;直接拔电源&#xff0c;也是关机&#xff0c;更突然的关机&am…
阅读更多...
校园博客系统 |基于springboot框架+ Mysql+Java的校园博客系统设计与实现(可运行源码+数据库+设计文档)

校园博客系统 |基于springboot框架+ Mysql+Java的校园博客系统设计与实现(可运行源码+数据库+设计文档)

推荐阅读100套最新项目 最新ssmjava项目文档视频演示可运行源码分享 最新jspjava项目文档视频演示可运行源码分享 最新Spring Boot项目文档视频演示可运行源码分享 目录 前台功能效果图 管理员功能登录前台功能效果图 系统功能设计 数据库E-R图设计 lunwen参考 摘要 研究…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023