从 Oracle 到 MySQL 数据库的迁移之旅

news2024/11/27 14:45:56

文章目录

  • 引言
  • 一、前期准备工作
    • 1.搭建新的MySQL数据库
    • 2 .建立相应的数据表
      • 2.1 数据库兼容性分析
        • 2.1.1 字段类型兼容性分析
        • 2.1.2 函数兼容性分析
        • 2.1.3 是否使用存储过程?存储过程的个数?复杂度?
        • 2.1.4 是否使用触发器?个数?使用的场景?
      • 2.2 建表过程中其他需要注意的事项
    • 3.为项目配置Oracle和MySQL双数据源
    • 4.对项目进行改造添加MySQL数据CRUD代码
  • 二、数据迁移操作步骤
      • 1、配置初始化
      • 2、同步数据检查
      • 3、全量数据迁移
      • 4、检查全量迁移的数据
      • 5、开启双写
      • 6、获取迁移过程中oracle数据库的增量数据
      • 7、增量数据脚本准备
      • 8、数据补偿
      • 9、核对整体数据
      • 10、在灰度环境里验证数据的正确性
      • 11、数据库读取的配置设置为从MySQL数据库读取。
      • 12、数据库写入的配置设置为只写MySQL
  • 三、数据迁移的经验教训
    • 1. 遇到的坑

引言

随着技术的进步,许多企业开始考虑将他们的数据从Oracle迁移到更现代、成本效益更高的数据库系统如MySQL或PostgreSQL。本文将详细描述我们如何进行这样的数据迁移过程。

一、前期准备工作

1.搭建新的MySQL数据库

​ 首先,我们需要设置一个新的MySQL数据库环境,这将作为我们的新数据源。这包括安装MySQL服务器,创建数据库,以及配置适当的用户权限。

2 .建立相应的数据表

​ 我们可以使用PowerDesigner等数据表模型设计工具,将Oracle的模型转换成MySQL模型,然后根据这个模型生成DDL脚本。这些脚本可能需要根据实际情况进行一些修改。例如,我们可能需要调整字段类型以适应MySQL的特性,或者修改索引和约束的定义。

2.1 数据库兼容性分析

2.1.1 字段类型兼容性分析

以下是常用的oracle字段类型和和mysql字段类型的对应关系 ,如果使用特殊的字段类型,需要检查确认字段转换是否符合真实需求。

oracle字段类型mysql字段类型
varchar2varchar
number(1,0))->number(2,0)tinyint
number(3,0)->number(4,0)smallint
number(5,0)->number(6,0)mediumint
number(7,0)->number(9,0)int
number(10,0) -> number(18,0)bigint
number(x,y)decimal(x,y)
datedatetime
timestamp(6)datetime
charvarchar
clobText 或 Midiumtext 或 longtext
2.1.2 函数兼容性分析

Oracle和MySQL的函数有一定对的相似性也要有一定的区别,下面表格列出了Oracle和MySQL常用函数的对比和区别。

功能oracle函数mysql函数备注
舍入函数roundround一样
取绝对值absabs一样
返回 expr 的最小或最大值Max(expr)/Min(expr)Max(expr)/Min(expr)一样
在字符串 str 中所有出现的字符串 from_str 均被 to_str 替换REPLACE(str,from_str,to_str)REPLACE(str,from_str,to_str)一样
截取函数SUBSTR(‘abcd’,2,2)substring(‘abcd’,2,2)函数名称不同
获取长度length(str)char_length()函数名称不同
转大写UPPER(str)UPPER(str)一样
转小写LOWER(str)LOWER(str)一样
转字符TO_CHAR(SQLCODE)date_format/ time_format函数名称不同
转时间to_date(str,format)STR_TO_DATE(str,format)函数名称不同
获取当前时间SYSDATEnow() / SYSDATE()函数名称不同
求和SUM(num)SUM(num)一样
返回两个日期之间的天数(D1-D2)DATEDIFF(date1,date2)
2.1.3 是否使用存储过程?存储过程的个数?复杂度?

在这次的案例中,没有使用存储过程,因此不需要进行这方面的分析。

2.1.4 是否使用触发器?个数?使用的场景?

公司的数据库使用规范里禁止使用触发器,因此这次也不需要进行这方面的分析。

2.2 建表过程中其他需要注意的事项

  • 自增主键 mysql默认需要有自增主键,而oracle的表可以不加主键
  • 编码格式:oracle的编码格式utf8在mysql需要修改成utf8mb4 要确保所有的表都有一个自增的主键列。
  • 时间字段:时间字段需要精确到时分秒的需要修改为datatime类型。这是因为MySQL的DATETIME类型可以存储到秒级别的时间信息,而Oracle的DATE类型只能存储到天级别的时间信息。
  • 索引格式:索引格式需要按照规范重新定义,最好在测试环境中进行检查和校验。这是因为Oracle和MySQL的索引实现方式有所不同,直接复制索引可能会导致性能问题。

3.为项目配置Oracle和MySQL双数据源

在项目的数据源配置里添加刚刚新建的MySQL数据源配置,并配置双数据源和Mapper的匹配规则。

4.对项目进行改造添加MySQL数据CRUD代码

添加一套针对MuSQL数据库CRUD的Dao和Mapper代码,同时我们写了一个注解以切面的方式实现根据配置实例化Oracle的Dao、MySQl的Dao、同时调用Oracle和MySQLDao的功能。

改造方式:
请添加图片描述

数据库迁移切换流程:
请添加图片描述

二、数据迁移操作步骤

数据迁移操作的答题步骤如下图所示:
请添加图片描述

1、配置初始化

​ 数据库写入的配置设置为只写Oracle数据库。数据库读取的配置设置为从OracleL数据库读取。

2、同步数据检查

​ 查询待迁移的几张表的数据量:

​ select count(1) from table;

3、全量数据迁移

​ 在迁移工具上执行数据迁移脚本SQL

4、检查全量迁移的数据

​ 查询迁移后的数据量,检查是否和需要迁移的数据量能匹配:

5、开启双写

数据库写入的配置设置为Oracle数据库和MYSQl数据库双写

6、获取迁移过程中oracle数据库的增量数据

查询updated_time在全量数据迁移开始时间之后的数据

select * from table whereupdated_time>to_Date(‘2022/12/16 04:00:00’, ‘yyyy/mm/dd hh24:mi:ss’)

7、增量数据脚本准备

根据监控的增量数据对比,找出需要新增和修改的数据,准备脚本

8、数据补偿

在迁移工具上执行数据补偿脚本SQL

9、核对整体数据

我们有额外的数据核对方案,通过应用读Oracle,再异步读取MySQL并进行对比的方式进行业务表的数据核对。这样可以确保数据的一致性。

10、在灰度环境里验证数据的正确性

将灰度机器的数据库读取的配置设置为从MySQL数据库读取。并在灰度环境验证数据的正确性

11、数据库读取的配置设置为从MySQL数据库读取。

将正式环境的机器的数据库读取的配置设置为从MySQL数据库读取。

12、数据库写入的配置设置为只写MySQL

在生产环境运行一段时间,如果运行平稳的话,就可以关闭数据库双写,将数据库写入配置改为只写MySQL数据库了。

三、数据迁移的经验教训

1. 遇到的坑

在迁移过程中,我们发现了一些Oracle语法与MySQL语法不兼容的地方,有些写法在Oracle中可行,在MySQL中会报错:

(1)子查询语句要取别名

(2)字段别名需要注意,AS后是否为空

(3)条件语句中判断需要注意

(4)oracle转mysql条件语句is null需格外注意,在Oracle中null和空串是一个含义,在mysql中是两个含(只针对字段类型为varchar类型的字段)

Oracle中:
IS_LIMIT_SUCESS is null
Mysql替换为:
(IS_LIMIT_SUCESS is null or IS_LIMIT_SUCESS = '') 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1587325.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

知识图谱与人工智能:携手共进

知识图谱与人工智能:携手共进 一、引言:知识图谱与人工智能的融合 在这个数据驱动的时代,知识图谱与人工智能(AI)之间的融合不仅是技术发展的必然趋势,也是推动各行各业创新的关键。知识图谱,作…

[C++][算法基础]树的重心(树图DFS)

给定一颗树,树中包含 n 个结点(编号 1∼n)和 n−1 条无向边。 请你找到树的重心,并输出将重心删除后,剩余各个连通块中点数的最大值。 重心定义:重心是指树中的一个结点,如果将这个点删除后&a…

Unity之PlayableGraph实现动画的正播和倒播

内容将会持续更新,有错误的地方欢迎指正,谢谢! Unity之PlayableGraph实现动画的正播和倒播 TechX 坚持将创新的科技带给世界! 拥有更好的学习体验 —— 不断努力,不断进步,不断探索 TechX —— 心探索、心进取&am…

python-study-day1

ps:前言 可做毕设,html,web,app,小程序,bug修改,可加急 作者自述 作为一名前端开发工程师,这个大环境不好的情况下,我试过我前端接单子但是没有后端&#xff0c…

Leetcode 239. 滑动窗口最大值和Leetcode 347. 前 K 个高频元素

目录标题 Leetcode 239. 滑动窗口最大值题目描述C语言代码和题解解题思路 Leetcode 347. 前 K 个高频元素题目描述C语言题解和思路解题思路 Leetcode 239. 滑动窗口最大值 题目描述 给你一个整数数组 nums,有一个大小为 k 的滑动窗口从数组的最左侧移动到数组的最…

Java基础07--多线程-网络编程-Java高级

一、多线程 1.认识多线程 ①线程 ②多线程 2.创建线程方式 ①方式一:继承Thread类 1.让子类继承Thread线程类 2.重写run方法,就是这个线程执行会执行的操作。 3.创建继承Thread的子类对象就代表一个线程 4.启动线程:.start()-自动执行run方法 注意&am…

微服务demo(四)nacosfeigngateway(2)gatewayspringsercurity

一、思路 1、整体思路 用户通过客户端访问项目时,前端项目会部署在nginx上,加载静态文件时直接从nginx上返回即可。当用户在客户端操作时,需要调用后端的一些服务接口。这些接口会通过Gateway网关,网关进行一定的处理&#xff0…

Spring Boot REST API - CRUD 操作

Spring Boot REST API - CRUD 操作 这里主要提一下 spring boot 创建 rest api,并对其进行 CRUD 操作 jackson & gson 目前浏览器和服务端主流的交互方式是使用 JSON(JavaScript Object Notation),但是 JSON 没有办法直接和 Java 的 POJO 创建对应…

基于STC12C5A60S2系列1T 8051单片机的液晶显示器LCD1602显示汉字的功能

基于STC12C5A60S2系列1T 8051单片机的液晶显示器LCD1602显示汉字的功能 STC12C5A60S2系列1T 8051单片机管脚图STC12C5A60S2系列1T 8051单片机I/O口各种不同工作模式及配置STC12C5A60S2系列1T 8051单片机I/O口各种不同工作模式介绍LCD1602字符型液晶显示器介绍一、LCD1602字符型…

20240411,内存分区模型

一,内存分区模型 生成可执行文件EXE文件之前代码区【函数体的二进制代码——共享-对于被频繁执行的程序,只需要在内存中有一份代码?,只读】,全局区【全局变量,静态变量,常量,该区域…

012:vue结合纯CSS实现蛇形流程图/步骤条

文章目录 1. 实现效果2. 实现代码 1. 实现效果 2. 实现代码 <template><div class"container"><div v-for"(item, index) in list" class"grid-item"><div class"step">step{{index1}}</div></div&…

计算机网络知识等汇总补充

计算机网络知识汇总补充 一、四次挥手1、为什么TCP要等待2MSL2、如果说一个系统中&#xff0c;有大量的time_wait和close_wait&#xff0c;会是什么原因&#xff1f; 二、你是怎么解决粘包问题&#xff1f;三、你觉得哪些场景适合redis四、redis的持久化策略五、你会怎么保证my…

视频基础学习六——视频编码基础三(h264框架配合图文+具体抓包分析 万字)

系列文章目录 视频基础学习一——色立体、三原色以及像素 视频基础学习二——图像深度与格式&#xff08;RGB与YUV&#xff09; 视频基础学习三——视频帧率、码率与分辨率 视频基础学习四——视频编码基础一&#xff08;冗余信息&#xff09; 视频基础学习五——视频编码基础…

WinRAR再爆0 day漏洞,0 day漏洞该如何有效预防

WinRAR再爆0 day漏洞&#xff0c;已被利用超过4个月。 Winrar是一款免费的主流压缩文件解压软件&#xff0c;支持绝大部分压缩文件格式的解压&#xff0c;全球用户量超过5亿。Group-IB研究人员在分析DarkMe恶意软件时发现WinRAR在处理ZIP文件格式时的一个漏洞&#xff0c;漏洞…

基于Springboot的笔记记录分享网站(有报告)。Javaee项目,springboot项目。

演示视频&#xff1a; 基于Springboot的笔记记录分享网站&#xff08;有报告&#xff09;。Javaee项目&#xff0c;springboot项目。 项目介绍&#xff1a; 采用M&#xff08;model&#xff09;V&#xff08;view&#xff09;C&#xff08;controller&#xff09;三层体系结构…

牛客 NC36 在两个长度相等的排序数组中找到上中位数【中等 模拟 Java,Go,PHP】

题目 题目链接&#xff1a; https://www.nowcoder.com/practice/6fbe70f3a51d44fa9395cfc49694404f 思路 直接模拟2个数组有顺序放到一个数组中&#xff0c;然后返回中间的数参考答案java import java.util.Scanner;// 注意类名必须为 Main, 不要有任何 package xxx 信息 pu…

使用htmlentities()和nl2br()将文本数据正确显示到前台

问题&#xff1a; 在后台textarea里编辑了有一串字符串&#xff0c;虽然在textarea里编辑是有换行效果的&#xff0c;但是数据获取到就只是\n&#xff0c;前端是不认识这个的&#xff0c;正确输出到前台的换行只能是<br/>。 $str "ABCDEFGHIJKLMNOPQ"; echo…

Multisim仿真二极管、晶体管和场效应管学习笔记

Multisim仿真二极管、晶体管和场效应管 &#xff08;note&#xff1a;使用Multisim14.0版本进行仿真&#xff09; 文章目录 Multisim仿真二极管、晶体管和场效应管二极管的I-V特性晶体管的I-V特性场效应管的I-V特性 二极管的I-V特性 插入I-V analyzer 原理图绘制 改变仿真…

【MCU开发规范】:MCU的性能测试

MCU的性能测试 前序性能评判方法MIPSCoreMark EEMBC其他参考 前序 我们平时做MCU开发时&#xff0c;前期硬件选型&#xff08;选那颗MCU&#xff09;基本由硬件工程师和架构决定&#xff0c;到软件开发时只是被动的开发一些具体功能&#xff0c;因此很少参与MCU的选型。 大部分…

面试经典算法系列之二叉树1 -- 从前序与中序遍历序列构造二叉树

面试经典算法16 - 从前序与中序遍历序列构造二叉树 LeetCode.105 公众号&#xff1a;阿Q技术站 问题描述 给定两个整数数组 preorder 和 inorder &#xff0c;其中 preorder 是二叉树的先序遍历&#xff0c; inorder 是同一棵树的中序遍历&#xff0c;请构造二叉树并返回其根…