【微服务】springboot 整合mysql实现版本管理通用解决方案

news2024/12/28 18:37:31

目录

一、前言

1.1 单独执行初始化sql

1.2 程序自动执行

二、数据库版本升级管理问题

三、spring 框架sql自动管理机制

3.1 jdbcTemplate 方式

3.1.1 创建数据库

3.1.2 创建 springboot 工程

3.1.3 初始化sql脚本

3.1.4 核心配置类

3.1.5 执行sql初始化

3.2 配置文件方式

四、Flyway 实现数据库版本自动管理

4.1 Flyway 简介

4.2 Flyway 执行流程与原理

4.3 Flyway sql脚本命名规范

4.3.1 sql命名参考示例

4.3.2 sql命名规范补充说明

4.4 SpringBoot集成Flyway

4.4.1 引入基础依赖

4.4.2 配置Flyway参数

4.4.3 准备升级sql脚本

4.4.4 测试效果一:执行sql初始化建表

4.4.5 测试效果二:执行sql创建索引

4.5 使用经验与问题总结

五、Liquibase 实现数据库版本自动管理

5.1 Liquibase简介

5.2 Liquibase 优势

5.3 SpringBoot集成Liquibase

5.3.1 导入依赖

5.3.2 新建master.xml

5.3.3 创建sql文件

5.3.4 自定义Liquibase配置类

5.3.5 效果测试一

5.3.6 效果测试二

5.4 Flyway与Liquibase的对比

六、自研数据库版本管理SDK工具

6.1 实现思路

6.2 核心代码

七、写在文末


一、前言

当springboot微服务项目完成从开发到测试全流程后,通常来说,最终交付产物是一个完整的安装包。在交付产物中一个重要文件就是sql脚本,即项目在部署完成之后运行需要的数据库表。简而言之就是:如何在完成项目安装后,减少或降低sql执行的效率?或者说:如何在项目实施时减少人工对sql相关的干预呢?结合实践经验,有下面几种思路提供参考:

1.1 单独执行初始化sql

sql脚本统一放在一个外部文件中,在项目安装部署之前先执行初始化sql,然后再安装项目。

1)好处:sql文件单独维护,与项目代码分开,可以避免文件管理上的麻烦;

2)缺点:实施时需要较多的人力干预,如果sql与工程代码是多人维护,升级中遇到问题,需要多方协调人力参与排查问题,而且这种方式难以做到自动化。

1.2 程序自动执行

顾名思义,这种方式依托程序自动完成sql的执行,即项目安装之前通过程序就可以完成所需sql表的初始化,相比上面单独执行sql的方式来说,尽量减少了人工的干预,即人力成本的浪费。

二、数据库版本升级管理问题

在正式开始讨论如何使用程序自动管理sql之前,先来聊聊为什么会涉及数据库版本的管理问题,来看下面这张图,

从这张图可还原下相对真实的开发场景:

  • V1版本,初始化数据表,给部分表创建索引,同时初始化部分数据;

  • V1版本的业务开发完成并上线;

  • V2版本新的需求来了,需要继续追加新表,之前的某个表需要补充字段,同时某个表需要批量修改数据以适配新的业务;

  • V3...

三、spring 框架sql自动管理机制

spring框架可以说早已成为很多微服务项目的标配,所以很多外部组件都提供了与spring框架整合的SDK或独立jar包,这里提供两种常用的外部jar,可以比较容易实现sql脚本的自动化执行,分别是jdbc-template与spring自带的配置方式,下面分别进行说明;

3.1 jdbcTemplate 方式

下面演示使用jdbcTemplate完成一个sql脚本自动执行的过程。

3.1.1 创建数据库

创建一个数据库,名为:bank(可自定);

create database bank;

3.1.2 创建 springboot 工程

创建一个spring boot工程,目录结构如下:

3.1.3 初始化sql脚本

在resource目录下,创建一个db的文件夹,里面有一个init.sql文件,初始化sql脚本如下:

-- 初始化建表sql
use bank;

-- tb_user表建表
CREATE TABLE `tb_user` (
  `id` int(12) NOT NULL,
  `user_name` varchar(32) DEFAULT NULL,
  `password` varchar(64) DEFAULT NULL,
  `phone` varchar(32) DEFAULT NULL,
  `address` varchar(64) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

-- tb_role表建表
CREATE TABLE `tb_role` (
  `id` int(12) NOT NULL,
  `role_name` varchar(32) DEFAULT NULL,
  `role_type` varchar(64) DEFAULT NULL,
  `code` varchar(32) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

-- tb_role 表增加索引
alter tb_role add index idx_code(code);

3.1.4 核心配置类

import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.InitializingBean;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.core.io.Resource;
import org.springframework.jdbc.datasource.init.DataSourceInitializer;
import org.springframework.jdbc.datasource.init.DatabasePopulator;
import org.springframework.jdbc.datasource.init.ResourceDatabasePopulator;
import org.springframework.stereotype.Component;

import javax.sql.DataSource;

/**
 * 成功执行
 */
@Component
@Slf4j
public class DatabaseInitializer implements InitializingBean {

    @Value("classpath:db/init.sql")
    private Resource dataScript;

    @Bean
    public DataSourceInitializer dataSourceInitializer(final DataSource dataSource) {
        final DataSourceInitializer initializer = new DataSourceInitializer();
        // 设置数据源
        initializer.setDataSource(dataSource);
        initializer.setDatabasePopulator(databasePopulator());
        return initializer;
    }

    private DatabasePopulator databasePopulator() {
        final ResourceDatabasePopulator populator = new ResourceDatabasePopulator();
        populator.addScripts(dataScript);
        log.info("sql脚本初始化完成");
        return populator;
    }

    @Override
    public void afterPropertiesSet() throws Exception {

    }

}

3.1.5 执行sql初始化

全部的配置到这里就完成了,启动工程即可执行,由于这种方式是实现了InitializingBean,即在容器完成bean的初始化过程中执行,所以伴随容器的启动即可完成sql的自动执行,执行之后可看到如下效果;

启动完成后,数据表也创建出来了

3.2 配置文件方式

也可以直接通过配置文件的方式,按照约定配置好相关的属性之后即可完成sql脚本的自动初始化,参考配置如下,相关的配置说明见备注;

spring:
  datasource:
    type: com.alibaba.druid.pool.DruidDataSource
    url: jdbc:mysql://IP:3306/bank?createDatabaseIfNotExist=true&useUnicode=true&useJDBCCompliantTimezoneShift=true&useLegacyDatetimeCode=false&serverTimezone=Asia/Shanghai&characterEncoding=utf8
    driver-class-name: com.mysql.jdbc.Driver
    username: root
    password: root

    #初始化sql建表相关配置属性 ========================
    schema: classpath:db/init.sql     #初始化sql语句,DDL相关
    data: classpath:db/data.sql       # 追加数据,添加字段,索引等
    separator: ";"                    # sql语句中的结束分隔符,通常为;
    continue-on-error: false        #执行错误时是否继续
    initialization-mode: always     #是否每次启动工程时都执行
    platform: mysql                   #使用哪种数据库
    sqlScriptEncoding: utf-8        #编码

缺点:上述这种方式有一个明显的缺点就是第一次初始化之后,再次启动时如果配置initialization-mode仍然开启的话将会报错,只能手动修改配置。

四、Flyway 实现数据库版本自动管理

4.1 Flyway 简介

Flyway是一个款数据库版本管理工具,程序通过集成Flyway可实现启动项目时自动执行项目中数据库迭代升级所需Sql语句,从而减少sql升级时人工介入与干预。

Flyway是独立于数据库的应用、管理并跟踪数据库变更的数据库版本管理工具。通俗来讲,Flyway就像Git管理代码那样,管理不同版数据库本sql脚本,从而做到数据库同步升级。

4.2 Flyway 执行流程与原理

Flyway 是如何实现自动管理不同版本的sql文件呢?下面给出其执行过程;

  • 按照Flyway 的配置要求,完成相关的配置信息;

  • 运行项目,会在默认的数据库下(没有指定的话就用在项目的数据库)下创建Flyway自带的数据表,用于存储Flyway运行中的数据,比如记录了本次升级的版本号,时间等;

  • 对工程文件目录进行扫描,主要是需要初始化加载或运行的sql文件路径,然后Flyway执行数据迁移时将基于sql脚本版本号进行排序,按顺序执行,这个由Flyway内部的机制保障;

  • 初次执行完sql脚本之后,将会在Flyway运行时数据表中记录关键的信息,比如本次升级的版本号,下次项目继续启动时将会对比sql文件以确定是否需要再次执行sql升级;

4.3 Flyway sql脚本命名规范

下图是一张权威的关于使用Flyway命名sql脚本的规范说明。

关于这张图,做如下的说明:

Prefix (前缀)

V 为版本迁移,U 为回滚迁移,R 为可重复迁移。在日常开发中,我们使用 V 前缀,表示版本迁移。绝大多数情况下,我们只会使用 V 前缀。

Version (版本号)

每一个迁移脚本,都需要一个对应一个唯一的版本号。而脚本的执行顺序,按照版本号的顺序。一般情况下,每次发生了sql脚本的变更,我们使用数字自增即可。

Separator (分隔符)

两个 _ ,即 __ ,约定的一种配置,建议按这种规范执行。

Description (描述)

在下面的示例中,我们使用 init,或update,一般见名知义即可。

Suffix (后缀)

.sql ,可配置,不过一般可以不用配置,默认即为.sql。

4.3.1 sql命名参考示例

sql命名规范非常重要,涉及到开发中可能会踩坑的问题,为了更好的加深对此问题的理解,我们以几个命名文件为例加以说明;

有如下几个sql文件

V20230810__init.sql

V20230810__data.sql

V20230810.01_init.sql

V20230810.02_data.sql

V:大写

固定大写(必须大写,小写不执行),约定规范;

20230810.01

20230810是日期,后面用.01代表序号,如果前面日期相同,但是后面的序号不一样,.02比.01版本高,.03比.02版本高,Flyway 在执行sql脚本时是严格按照版本号的顺序进行;

执行顺序

Flyway 比较两个 SQL 文件的先后顺序时采用 采用左对齐原则, 缺位用 0 代替 。

举几个例子一看便知:

  • 1.0.1.1 比 1.0.1 版本高;
  • 1.0.10 比 1.0.9.4 版本高;
  • 1.0.10 和 1.0.010 版本号一样,每个版本号部分的前导 0 会被忽略;

如下是下文两个需要执行的sql

4.3.2 sql命名规范补充说明

需重复运行的SQL,则以大写的“R”开头,后面再以两个下划线分割,接着跟文件名称,最后以.sql结尾,比如,R20230809.03index.sql;

当与V开头的sql文件在一起执行时,V开头的SQL执行优先级要比R开头的SQL优先级高

4.4 SpringBoot集成Flyway

下面介绍如何与springboot进行整合使用,实现程序的自动版本管理,需求如下:

1、V1版本,初始化建表;

2、V2版本,给表初始化一些数据,补充索引、字段等;

3、V3版本,依次类推..

4.4.1 引入基础依赖

        <dependency>
            <groupId>org.flywaydb</groupId>
            <artifactId>flyway-core</artifactId>
            <version>6.0.7</version>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
            <version>2.3.2.RELEASE</version>
        </dependency>

4.4.2 配置Flyway参数

在application.yml中添加如下配置,可视情况补充

spring:
  datasource:
    type: com.alibaba.druid.pool.DruidDataSource
    url: jdbc:mysql://IP:3306/bank
    driver-class-name: com.mysql.jdbc.Driver
    username: root
    password: root

  flyway:
    enabled: true
    encoding: UTF-8

    cleanDisabled: true

    ## 迁移sql脚本文件存放路径,默认db/migration
    locations: classpath:db/migration

    ## 迁移sql脚本文件名称的前缀,默认V
    sqlMigrationPrefix: V

    ## 迁移sql脚本文件名称的分隔符,默认2个下划线__
    sqlMigrationSeparator: __

    # 迁移sql脚本文件名称的后缀
    sqlMigrationSuffixes: .sql

    validateOnMigrate: true

    # 设置为true,当迁移发现数据库非空且存在没有元数据的表时,自动执行基准迁移,新建schema_version表
    baselineOnMigrate: true

更多的配置参数,可以进入到FlywayProperties这个类中详细查看,上述配置中可结合备注进行了解,其中核心的配置包括:

  • locations,即升级sql的文件位置;
  • sqlMigrationSuffixes,执行sql文件的后缀名;
  • 数据库连接信息必不可少,因为Flyway升级过程中需要初始化自己的表;

4.4.3 准备升级sql脚本

在resource的目录下,创建db文件目录,在这个文件目录下创建升级相关的sql文件,如下,

V20230808.01__init.sql 文件中存放的是初始化安装相关的建表sql,内容如下:

-- 初始化建表sql
use bank;

-- tb_user表建表
CREATE TABLE `tb_user` (
  `id` int(12) NOT NULL,
  `user_name` varchar(32) DEFAULT NULL,
  `password` varchar(64) DEFAULT NULL,
  `phone` varchar(32) DEFAULT NULL,
  `address` varchar(64) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

-- tb_role表建表
CREATE TABLE `tb_role` (
  `id` int(12) NOT NULL,
  `role_name` varchar(32) DEFAULT NULL,
  `role_type` varchar(64) DEFAULT NULL,
  `code` varchar(32) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

V20230808.02__update.sql 文件中存放的是追加索引,追加字段相关,内容如下:

-- 初始化建表sql
use bank;

-- 给tb_user表添加一个索引
alter table tb_user add index idx_name(user_name);

-- 给tb_user表追加新字段
alter table tb_user add column woker varchar(32) default null;

4.4.4 测试效果一:执行sql初始化建表

直接启动工程即可自动执行,为了看到效果,可以先将V20230808.02__update.sql内容注释掉,第一次执行完成后,再执行;

第一次执行后,从日志不难看出,对应的sql脚本被执行了,尽管另一个被注释了,仍然输出了,这也就是说,只要放到被扫描的目录下就能被Flyway检测到;

启动完成后,检查数据库看到相关的表也被创建出来了

在上文中谈到Flyway是通过flyway_schema_history这个表来管理数据库版本升级的,打开这张表,可以看到记录了详细而完整的与升级sql文件相关的信息;

4.4.5 测试效果二:执行sql创建索引

放开V20230808.02__update.sql内容注释,再次启动工程执行,遗憾的是,此时启动报错了,这个错误大概是说,检测到数据库中flyway_schema_history这张表的checksum的数据与当前准备执行的sql文件版本冲突了,直接抛出错。

这也就是说其实上面的这种操作方式是有问题的,因为一开始就把V20230808.02__update.sql这个文件放在这个目录下面了,尽管里面没有要执行的sql,但是Flyway仍然会在表中创建一个checksum的数据记录这个文件的元信息,所以再次执行的时候,我们再将注释放开的时候执行会报错,解决的办法是:

  • 初始化sql使用V1版本;
  • 再次发生sql变更的时候新建一个V2的文件,记录变更的sql内容,放在扫描的目录下即可;

按照这个思路,再次走一遍这个流程之后,去数据库中确认下索引是否成功创建

再检查字段是否追加成功  

在没有对上述两个sql文件做任何修改的情况下再次执行,可以看到再次启动工程时就不会报错了

4.5 使用经验与问题总结

这里结合实际使用经验,将实际开发中遇到的问题做一个总结,避免后续踩坑;

  • V开头的sql脚本,执行后不可修改,修改会导致启动项目时Flyway检测不通过,导致项目启动失败,一旦有sql变更,建议增加版本号使用新的sql文件;
  • 开发或测试阶段需修改已执行脚本,可通过删除相关flyway_schema_history表元数据后,重启项目;
  • 脚本命名不规范,导致脚本未被执行,比如未使用V开头命名文件,可参阅官网或资料认真了解命名规范;
  • 脚本文件名版本和描述之间没有使用双下滑线‘__’分割导致执行失败;
  • 新增脚本,版本号没有大于已有版本号,导致执行失败;
  • 各sql语句要以分号‘;’结尾,忘记用分号会导致sql执行失败,语法格式牢记于心;
  • sql语句不满足可重复执行,新环境执行sql导致失败;

五、Liquibase 实现数据库版本自动管理

与Flyway相同的是,通过项目集成,都可以完成对sql脚本的自动化管理,但是Liquibase提供了更丰富的操作管理,配置管理,以及插件化管理。

5.1 Liquibase简介

Liquibase是一个数据库变更的版本控制工具。项目中通过Liquibase解析用户编写的Liquibase的配置文件,生成sql语句,并执行和记录(执行是根据记录确定sql语句是否曾经执行过,和配置文件里的预判断语句确定sql是否执行)。官网地址:liquibase官网地址,Liquibase开发文档:liquibase文档

5.2 Liquibase 优势

下面总结了Liquibase的在做sql版本变更时的优势:

  • 可以用上下文控制sql在何时何地如何执行;
  • 根据配置文件自动生成sql语句用于预览;
  • 配置文件支持SQL、XML、JSON 或者 YAML;
  • 可重复执行迁移,可回滚,且支持插件化配置拓展;
  • 兼容14中主流数据库如oracle,mysql,pg等,支持平滑迁移;
  • 版本控制按序执行,支持schmea的变更;
  • 与springboot整合简单,上手简单;
  • 支持schema方式的多租户(multi-tenant);

5.3 SpringBoot集成Liquibase

使用SpringBoot与Liquibase进行整合的方式有很多,网上的参考资料也比较丰富,下面演示一种最简单的方式,方便开发中直接拿来使用。

5.3.1 导入依赖

        <dependency>
            <groupId>org.liquibase</groupId>
            <artifactId>liquibase-core</artifactId>
            <version>3.6.3</version>
        </dependency>

5.3.2 新建master.xml

使用该文件,用于指定数据库初始化脚本的位置,整个配置文件以及sql脚本目录结构如下

master.xml配置如下,不难看出,在xml文件中使用了changeSet 这个标签,里面配置了sql脚本相关的信息;

<?xml version="1.0" encoding="UTF-8"?>
<databaseChangeLog xmlns="http://www.liquibase.org/xml/ns/dbchangelog"
                   xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
                   xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.1.xsd">

    <changeSet id="v1.0.0-1" author="zcy" context="main">
        <sqlFile path="classpath:/sql/v1.0.0/1.init.sql"/>
        <sqlFile path="classpath:/sql/v1.0.0/2.init-data.sql"/>
    </changeSet>


</databaseChangeLog>

5.3.3 创建sql文件

sql文件中包括一个初始化表相关,另一个为创建索引和追加字段,与上文相同不再单独列举

5.3.4 自定义Liquibase配置类

自定义配置类,通过该类在spring容器完成初始化时自动执行对sql的管理,这个与上文jdbcTemplate是不是很相似,原理差不多;

import liquibase.integration.spring.SpringLiquibase;
import lombok.extern.slf4j.Slf4j;
import org.apache.commons.lang3.StringUtils;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.core.io.DefaultResourceLoader;

import javax.annotation.Resource;
import javax.sql.DataSource;

@Slf4j
@Configuration
public class LiquibaseConfig {

    //指定liquibase版本
    @Value("${dc.version:main}")
    private String contexts;

    //是否开启liquibase
    @Value("${dc.liquibase.enable:true}")
    private Boolean enable;

    //liquibase用到的两张表,记录与管理升级sql相关
    private static final String DATABASE_CHANGE_LOG_TABLE = "lqb_changelog_demo";
    private static final String DATABASE_CHANGE_LOG_LOCK_TABLE = "lqb_lock_demo";

    @Resource
    private DataSource dataSource;

    /**
     * liquibase bean配置声明
     */
    @Bean
    public SpringLiquibase liquibase() {
        SpringLiquibase liquibase = new SpringLiquibase();
        // Liquibase xml 文件路径
        liquibase.setChangeLog("classpath:sql/master.xml");
        liquibase.setDataSource(dataSource);
        if (StringUtils.isNotBlank(contexts)) {
            liquibase.setContexts(contexts);
        }
        liquibase.setShouldRun(enable);
        liquibase.setResourceLoader(new DefaultResourceLoader());
        // 覆盖Liquibase changelog表名
        liquibase.setDatabaseChangeLogTable(DATABASE_CHANGE_LOG_TABLE);
        liquibase.setDatabaseChangeLogLockTable(DATABASE_CHANGE_LOG_LOCK_TABLE);
        return liquibase;
    }

}

5.3.5 效果测试一

到这里主要的配置就完成了,清空bank数据库,然后启动工程;

从控制台输出的日志可以看到使用Liquibase建表的详细过程

 

 启动完成后,检查数据库,可以看到表成功创建出来,同时用于管理版本相关的两张表也一起创建出来了;

 

如果重新启动工程,不会报错,也不会再次重新创建,说明可以自动进行sql数据库的版本管理了

5.3.6 效果测试二

再在xml中追加新的sql文件,即v1.0.1的目录和相关的sql脚本

<?xml version="1.0" encoding="UTF-8"?>
<databaseChangeLog xmlns="http://www.liquibase.org/xml/ns/dbchangelog"
                   xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
                   xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.1.xsd">

    <changeSet id="v1.0.0-1" author="zcy" context="main">
        <sqlFile path="classpath:/sql/v1.0.0/1.init.sql"/>
        <sqlFile path="classpath:/sql/v1.0.0/2.init-data.sql"/>
    </changeSet>

    <changeSet id="v1.0.1-1" author="zcy" context="main">
        <sqlFile path="classpath:/sql/v1.0.1/1.init.sql"/>
    </changeSet>

</databaseChangeLog>

1.init.sql内容如下

-- 初始化建表sql
use bank;

-- tb_depart表建表
CREATE TABLE `tb_depart` (
  `id` int(12) NOT NULL,
  `dept_name` varchar(32) DEFAULT NULL,
  `dept_type` varchar(64) DEFAULT NULL,
  `code` varchar(32) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

重启工程之后,控制台再次输出了sql中创建表的信息

检查数据库,sql中的表也被创建出来了

 关于使用Liquibase进行版本管理和命名规范的问题,限于篇幅原因就不再详细展开了,有兴趣的同学可参考相关资料和官方文档,网上的资料很丰富。

5.4 Flyway与Liquibase的对比

从使用上来说,Flyway与Liquibase都能与项目快速实现整合实现对数据库版本的管理,成本较小,但是两款数据库迁移工具其实定位上是差别的,经验来说如果项目规模较小,整体变动不大的话可以考虑用 Flyway ,而大应用和企业应用用 Liquibase 更合适。

不过从入门到使用,Liquibase 并未看到比 Flyway 带来多大优势,反倒 Flyway 基于“约定大于配置”的思想,在使用上更加便捷,也更容易实现标准化。

六、自研数据库版本管理SDK工具

如果觉得引入外部或第三方组件仍觉得麻烦,可以考虑自己开发一个SDK用来做数据库版本管理,

比如像SAAS这样的平台应用,可能存在非常多的微服务模块,如果每个应用都引第三方组件,一方面技术栈难以统一,另一方面不同的应用开发人员存在不同的学习成本,相反,如果自研一套SDK工具,只需要发布一下SDK,其他应用按照SDK的规范统一接入使用即可。

6.1 实现思路

自研SDK其实也没有想象中那么难,一方面可以借鉴上述几种外部组件的实现思路,另一方面也是最核心的就是要制定标准规范,即sql文件的内容必须按照一定的规范编写,否则解析的时候会出现各种问题,总结来说如下:

  • 统一技术栈,建议SDK中尽可能少的依赖第三方包;
  • 商讨并制定sql文件的格式规范,下文会给出一个模板规范;
  • SDK对外暴露的信息尽可能少,方便其他应用引用,减少对接和学习成本;

如下是接下来示例中即将要做的一个sql文件的内容

--version 1.0.0,build 2023-08-11 ,新建用户表
CREATE TABLE `tb_user` (
  `id` int(12) NOT NULL,
  `user_name` varchar(32) DEFAULT NULL,
  `password` varchar(64) DEFAULT NULL,
  `phone` varchar(32) DEFAULT NULL,
  `address` varchar(64) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

不难看出,在该文件中,以 --version 开头的内容就是规范的核心内容,即:

version

表示每次升级涉及到的sql的版本号,至于是1.0.0或1.0等,可以根据团队习惯来定,需要注意的是,每次发生了sql版本的变更,程序在启动之后会执行sql的变更

build

即本次升级sql的时间,也可以理解为一个标识位,即发生sql变更的时间,方便后续出现问题时进行sql的回滚或问题追溯

至于其他的信息,比如后面的备注,或者可以根据自身的需求再补充其他的内容,因为这些信息将会作为一个记录变更sql信息的表进行数据存储,说到这里,相信有经验的同学应该知道大致的实现思路了,下面用一张图来说明该方案的实现过程,这也是程序中实现的思路;

6.2 核心代码

结合上面的实现业务流程,下面给出核心的实现逻辑,最终可以将该核心实现做成一个SDK,外部服务可以直接应用,通过调用核心的入口方法,传入相关的基础参数即可,同时为了最小化依赖,这里操作数据库使用的是jdbc的方式;


import java.io.File;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.sql.*;
import java.util.LinkedList;
import java.util.List;
import java.util.regex.Pattern;

/**
 * 操作sysversion表相关
 */
public class SysVersionUtils {

    public static void main(String[] args){
        boolean sysVersionTableExist = SysVersionConfig.isSysVersionTableExist();
        if(!sysVersionTableExist){
            //如果没有创建表,执行表的创建
            SysVersionConfig.checkAndCreateSysVersion();
        }
        //到这一步,说明已经创建完成了,接下来开始解析sql文件进行脚本的初始化
        String sqlFilePath= "classpath:sql/table_init.sql";
        parseAndStoreVersionInfo(sqlFilePath);
    }

    public static void parseAndStoreVersionInfo(String sqlFilePat)  {
        File databaseFile = null;
        try {
            databaseFile = ResourceUtils.getFile(sqlFilePat);
        } catch (FileNotFoundException e) {
            System.out.println("获取或解析sql文件失败");
            e.printStackTrace();
            return;
        }
        List<String> readLines = null;
        try {
            readLines = FileUtils.readLines(databaseFile, "UTF-8");
        } catch (IOException e) {
            e.printStackTrace();
            System.out.println("解析sql文件失败");
            return;
        }
        if (CollectionUtils.isEmpty(readLines)) {
            return;
        }
        //如果解析数据时发现不合理的数据行,是直接抛出异常不再执行?还是忽略?可以自行扩展,这里暂时跳过,记录日志
        List<String> versionInfoList = new LinkedList<>();
        for (String readLine : readLines) {
            if (!isValidVersionTagLine(readLine)) {
                continue;
            }
            versionInfoList.add(readLine);
        }
        //检查数据库中sys_version数据是否存在
        Connection connection = JdbcUtils.getConnection();
        VersionRecord dbVersionRecord = getDbVersionRecord(connection);
        if (dbVersionRecord == null) {
            System.out.println("初次执行sql变更");
           String upgradeSql = getSqlTextFromLines(readLines);
            System.out.println("to execute sql : " + upgradeSql);
            //解析得到最后一行的version数据
            String lastVersionLine = ((LinkedList<String>) versionInfoList).getLast();
            TemLineRecord temLineRecord = ParseUtils.getFromLine(lastVersionLine);
            System.out.println("本次变更的sql版本号信息" + temLineRecord.getVersionNum() + ":" + temLineRecord.getBuildDate());
            //TODO 执行sql建表相关的创建
            initSysVersion(connection,"app",temLineRecord.getVersionNum(),temLineRecord.getBuildDate());
            //执行sql升级
            doUpgradeSql(connection,upgradeSql);
            System.out.println("完成sql的初始化执行");
            return;
        }

        /**
         * FIXME 1、如果sys_version已经有数据了,说明之前做过升级了,只需要解析最新的版本变更;
         * FIXME 2、可以重复执行,如果没有版本变更,直接忽略,不用解析
         */
        //拿到最后一行的version信息,下面使用
        String lastVersionLine = ((LinkedList<String>) versionInfoList).getLast();
        TemLineRecord lineRecord = ParseUtils.getFromLine(lastVersionLine);
        if(lineRecord.getBuildDate().equals(dbVersionRecord.getBuildDate()) &&
                lineRecord.getVersionNum().equals(dbVersionRecord.getVersionNum())){
            System.out.println("已经是最新版本号,无需升级");
            return;
        }

        //从哪一行开始的数据才是本次需要执行的sql呢?那就是:数据库中的两个字段和 --version 以及时间正好能够对的上的那一行开始
        getTargetSqlLines(readLines, versionInfoList, dbVersionRecord);

        String sqlText = getSqlTextFromLines(readLines);
        System.out.println("待执行的sql :" + sqlText);
        //执行本次sql的更新
        doUpgradeSql(connection,sqlText);
        //升级版本号
        updateSysVersion(lineRecord,dbVersionRecord.getId());
    }

    private static void getTargetSqlLines(List<String> readLines, List<String> versionInfoList, VersionRecord dbVersionRecord) {
        String targetLine = null;
        int lineNum = 0;
        for (int i = 0; i < versionInfoList.size() - 1; i++) {
            if (versionInfoList.get(i).contains(dbVersionRecord.getVersionNum()) && versionInfoList.get(i).contains(dbVersionRecord.getBuildDate())) {
                lineNum = i;
                break;
            }
        }
        targetLine = versionInfoList.get(lineNum + 1);
        int targetNum = 0;
        for (int i = 0; i < readLines.size(); i++) {
            if (readLines.get(i).equalsIgnoreCase(targetLine)) {
                //找到这一行的行号
                targetNum = i;
                break;
            }
        }
        //接下来移除targetNum之前的所有元素
        readLines.subList(0, targetNum+1).clear();
    }

    /**
     * 将读取到的数据行组装成sql
     * @param allLines
     * @return
     */
    public static String getSqlTextFromLines(List<String> allLines){
        if(CollectionUtils.isEmpty(allLines)){
            System.out.println("数据行为空");
            return null;
        }
        StringBuilder stringBuilder = new StringBuilder();
        for(String text : allLines){
            if(text.startsWith("--")){
                continue;
            }else if(StringUtils.isEmpty(text)){
                continue;
            }
            stringBuilder.append(text);
            stringBuilder.append("\n");
        }
        return stringBuilder.toString();
    }


    /**
     * 更新版本号
     * @param lineRecord
     * @param id
     */
    public static void updateSysVersion(TemLineRecord lineRecord,String id){
        Connection connection = JdbcUtils.getConnection();
        PreparedStatement  ps=null;
        String sql="UPDATE sys_version SET BUILD_DATE=?, VERSION_NUM= ? WHERE id=?";
        try {
            ps=connection.prepareStatement(sql);
            ps.setString(1, lineRecord.getBuildDate());
            ps.setString(2, lineRecord.getVersionNum());
            ps.setString(3, id);
            ps.execute();
        } catch (SQLException e) {
            e.printStackTrace();
        }finally {
            try {
                connection.close();
                ps.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
    }

    /**
     * 初次新增版本号
     * @param connection
     * @param id
     * @param versionNum
     * @param dateStr
     */
    public static void initSysVersion(Connection connection,String id,String versionNum,String dateStr){
        PreparedStatement  ps=null;
        String sql = "insert into sys_version values('" +id+"','"+versionNum+"','"+dateStr+"')";
        try {
            ps = connection.prepareStatement(sql);
            ps.execute(sql);
            System.out.println("初始化插入sys_version版本号成功");
        } catch (SQLException e) {
            e.printStackTrace();
            System.out.println("初始化插入sys_version版本号失败");
        }
    }

    /**
     * 执行升级sql
     * @param connection
     * @param sql
     * @throws SQLException
     */
    private static void doUpgradeSql(Connection connection, String sql)  {
        if(StringUtils.isEmpty(sql)){
            System.out.println("带升级的sql不存在");
            return;
        }
        Statement statement = null;
        try {
            statement = connection.createStatement();
            String[] sqlCommands = sql.split(";");
            for (String sqlCommand : sqlCommands) {
                if (!sqlCommand.trim().isEmpty()) {
                    try {
                        statement.executeUpdate(sqlCommand);
                    } catch (SQLException e) {
                        e.printStackTrace();
                        System.out.println("执行升级sql失败");
                    }
                }
            }
        } catch (SQLException e) {
            e.printStackTrace();
        }finally {
            try {
                statement.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
    }

    /**
     * 获取数据库的最新版本号
     * @param connection
     * @return
     */
    public static VersionRecord getDbVersionRecord(Connection connection) {
        String sql = "select * from sys_version";
        PreparedStatement ps = null;
        ResultSet rs = null;
        VersionRecord versionRecord = null;
        try {
            ps = connection.prepareStatement(sql);
            rs = ps.executeQuery();
            if (rs.next()) {
                versionRecord = new VersionRecord();
                versionRecord.setId(rs.getString("id"));
                versionRecord.setBuildDate(rs.getString("BUILD_DATE"));
                versionRecord.setVersionNum(rs.getString("VERSION_NUM"));
            }
        } catch (SQLException e) {
            e.printStackTrace();
            System.out.println("获取最新版本号失败");
        }
        return versionRecord;
    }

    private static Pattern oldVersionTagPattern = Pattern.compile("^--version\\s[0-9\\.]+,build\\s.*");

    public static boolean isValidVersionTagLine(String tagLine) {
        return oldVersionTagPattern.matcher(tagLine).matches();
    }


}

关于此处的代码,如果拿来生产实现,还有一些细节点值得推敲和完善,比如日志的输出,参数的健壮性处理上,毕竟是SDK,需要考虑的更加细致一点。接下来测试下效果吧,在resources目录下有如下待执行的sql文件;

第一次执行时version表不存在,结合控制台日志,可以看到表创建成功

第二次执行,在sql中追加如下内容

--version 1.0.0,build 2023-08-13 ,创建索引
alter table tb_user add index idx_name(user_name);

然后再次执行

执行完成后,在数据库确认下索引是否创建成功

七、写在文末

本篇通过较大的篇幅详细总结了几种常用的实现数据库版本自动管理的方式,每一种都有合适的应用场景,希望对看到的小伙伴们有用,本篇到此结束,感谢观看!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/891936.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

numpy基础知识

文章目录 安装numpynumpy的ndarray对象ndarray 和 list 效率比较创建一/二维数组ndarray的常用属性调整数组形状ndarray转list numpy的数据类型数组的运算数组和数的计算数组和数组的计算 数组的轴数组的索引和切片数组的与或非和三目运算符numpy的插入、删除、去重插入删除去重…

财务数据分析用什么软件好?财务数据分析的几个重要数据是什么?

财务的数据分析也分很多种的&#xff0c;就拿最粗略的划分来说&#xff0c;也可以分为3大领域—— 财务数据处理类工具财务数据挖掘类工具财务数据可视化工具 01 数据处理类 在财务数据处理这一块儿&#xff0c;不用说&#xff0c;当然是以excel为主力的数据处理类工具—— …

22年电赛B题——具有自动泊车功能的电动车——做题记录以及经验分享

前言 这道题目也是小车类电赛题目&#xff0c;十月份的电赛题&#xff0c;由于之前积累了一些经验&#xff0c;这道题目在做下来的感觉还行,但是我们看题目没有仔细审题&#xff0c;和题目要求有一些些偏差&#xff0c;但是基础大功能还是做出来辽&#xff0c;大家还是可以参考…

SASS 学习笔记 II

SASS 学习笔记 II 上篇笔记&#xff0c;SASS 学习笔记 中包含&#xff1a; 配置 变量 嵌套 这里加一个扩展&#xff0c;嵌套中有一个 & 的用法&#xff0c;使用 & 可以指代当前 block 中的 selector&#xff0c;后面可以追加其他的选择器。如当前的 scope 是 form&a…

zotero在不同系统的安装(win/linux)

1 window系统安装 zotero 官网&#xff1a; https://www.zotero.org/ 官方文档 &#xff1a;https://www.zotero.org/support/ (官方)推荐常用的插件: https://www.zotero.org/support/plugins 入门视频推荐&#xff1a; Zotero 文献管理与知识整理最佳实践 点击 exe文件自…

30.Netty源码服务端启动主要流程

highlight: arduino-light 服务端启动主要流程 •创建 selector •创建 server socket channel •初始化 server socket channel •给 server socket channel 从 boss group 中选择一个 NioEventLoop •将 server socket channel 注册到选择的 NioEventLoop 的 selector •…

如何利用 ChatGPT 进行自动数据清理和预处理

推荐&#xff1a;使用 NSDT场景编辑器助你快速搭建可二次编辑的3D应用场景 ChatGPT 已经成为一把可用于多种应用的瑞士军刀&#xff0c;并且有大量的空间将 ChatGPT 集成到数据科学工作流程中。 如果您曾经在真实数据集上训练过机器学习模型&#xff0c;您就会知道数据清理和预…

Linux debian12解压和压缩.rar文件教程

一、Debian12安装rar命令 sudo apt install rar二、使用rar软件 1.解压文件 命令格式&#xff1a; rar x 文件名.rar实力测试&#xff1a; [rootdoudou tmp]# rar x test.rar2.压缩文件 test是一个文件夹 命令格式&#xff1a; rar a 文件名.rar 文件夹名实例测试&#x…

Java的AQS框架是如何支撑起整个并发库的

如何设计一个抽象队列同步器 引言AQS需要解决哪些场景下的问题互斥模式获取锁抢锁失败入队 释放锁小总结 共享模式获取共享资源释放共享资源唤醒丢失问题 小总结 混合模式获取写锁释放写锁获取读锁读锁是否应该阻塞 释放读锁小总结 栅栏模式等待递减计数 条件变量模式等待条件成…

如何将图片应用于所有的PPT页面?

问题&#xff1a;如何快速将图片应用到所有PPT页面&#xff1f; 解答&#xff1a;有两种方法可以解决这个问题。第一种用母板。第二种用PPT背景功能。 解决有时候汇报的时候&#xff0c;ppt中背景图片修改不了以及不知道如何查找&#xff0c;今天按照逆向过程进行操作 方法1…

Intelij IDEA 配置Tomcat解决Application Server不显示的问题

今天搭建war工程时部署项目发现&#xff0c;IDEA的控制台没有Application Servers&#xff0c;在网上查了一下&#xff0c;总结几个比较好的解决方法&#xff0c;为了方便自己和其他人以后碰到相同的问题&#xff0c;不再浪费时间再次寻找解决办法。 Intelij IDEA 配置Tomcat时…

PyMuPDF`库实现PDF旋转功能

本文介绍了一个简单的Python应用程序&#xff0c;用于将PDF文件转换为旋转90度的PDF文件。主要用于csdn网站中导出的博客pdf是横向的&#xff0c;看起来不是很方便&#xff0c;才想到用python编制一个将pdf从横向转为纵向的功能。 功能 该PDF转换工具具有以下功能&#xff1a…

pdf转word最简单方法~

pdf转word最简单方法&#xff01;pdf转word最简单方法我们都知道&#xff0c;PDF文件是一种只读文件格式&#xff0c;无法按照需求对PDF文件进行更改与编辑&#xff0c;从而影响到了PDF文件的使用。所以&#xff0c;我们需要将PDF文件转换为word文档&#xff0c;以此来保证文件…

js 小程序限流函数 return闭包函数执行不了

问题&#xff1a; 调用限流 &#xff0c;没走闭包的函数&#xff1a; checkBalanceReq&#xff08;&#xff09; loadsh.js // 限流 const throttle (fn, context, interval) > {console.log(">>>>cmm throttle", context, interval)let canRun…

Webgl 存储限定符attribute、gl.getAttribLocation、gl.vertexAttrib3f及其同族函数和矢量版本的介绍

目录 attribute变量规范 获取attribute变量的存储位置 gl.getAttribLocation&#xff08;&#xff09;函数的规范&#xff1a; 向attribute变量赋值 gl.vertexAttrib3f&#xff08;&#xff09;的规范。 gl.vertexAttrib3f&#xff08;&#xff09;的同族函数 示例代码…

达梦数据库8用户管理以及忘记sysdba密码修改办法

达梦数据库8用户管理&达梦数据库v8忘记sysdba密码&#xff0c;修改办法。 达梦数据库8用户管理1.创建用户的语法:2.锁定/解锁用户3.修改用户的密码&#xff08;同样要符合密码策略PWD_POLICY&#xff09;4.修改用户默认表空间5.删除用户6.同样地可以使用DM管理工具进行创建…

基于docker搭建pytest自动化测试环境(docker+pytest+jenkins+allure)

pytest搭建自动化测试环境&#xff08;dockerpytestjenkinsallure&#xff09; 这里我以ubuntu18为例 如果有docker环境&#xff0c;可以直接拉取我打包好的镜像docker pull ziyigun/jenkins:v1.0 1 搭建Docker 1.1 安装docker # 配置docker安装环境 sudo apt-get install ap…

js 闭包和 垃圾回收机制

js 闭包和 垃圾回收机制 闭包里面的变量 是局部变量 但是 由于一直使用&#xff0c;引用&#xff0c;没有被回收 所以相当于 全局变量

Docker案例分析:创建并运行一个Redis容器

步骤一&#xff1a;到DockerHub搜索Redis镜像 步骤二&#xff1a;查看Redis镜像文档中的帮助信息 步骤三&#xff1a;利用docker run命令运行一个Redis容器 可以看到第二行的命令是支持数据持久化的创建容器命令&#xff0c;但是我们使用的命令如下&#xff1a; docker run -…

Vue3 使用json编辑器

安装 npm install json-editor-vue3 main中引入 main.js 中加入下面代码 import "jsoneditor";不然会有报错&#xff0c;如jsoneditor does not provide an export named ‘default’。 图片信息来源-github 代码示例 <template><json-editor-vue class…