FastJson序列化驼峰-下划线转换问题踩坑记录

news2024/9/20 16:58:29

背景

问题描述

在MySQL数据表中,存在一个JSON结构的扩展字段,通过updateById进行更新写入操作。更新写入的同一个字段名出现了混合使用了驼峰命名和下划线命名两种格式。
ps: FastJson版本是1.2.83

问题影响

数仓同学离线统计数据时发现字段名有两种定义,产生了迷惑,不清楚如何统计;对线上实时链路还无任何影响。

原因定位

  • 首先例行公事,先检查多机房部署的代码版本是否一致,类似数据是否有持续写入
    • 检查过后发现,多区代码部署版本完全一致;
    • 且数据字段命名驼峰&下划线同时存在的数据持续有写入;
  • 检查下代码中是否有不同的写入位置,且写入的字段定义规则不一致
    • 发现这个字段只有一处更新写入,且通过业务日志看这个字段没有任何问题;
  • 尝试测试环境复现
    • 首先检查了下测试环境是否存在类似数据,发现并没有;
    • 其次在测试环境尝试构造请求写入,并未复现;
  • 到了常规猜测环节
    • 首相想到的是否有配置了全局的fastjson序列化驼峰下划线转换配置
      • 发现确实是有配置的,全局配置成了驼峰格式转换为下划线;配置如下:
@Configuration
public class FastJsonConfig {

    @Bean
    public SerializeConfig serializeConfig(){
        SerializeConfig serializeConfig = SerializeConfig.getGlobalInstance();
        serializeConfig.propertyNamingStrategy = PropertyNamingStrategy.SnakeCase;
        return serializeConfig;
    }
}
  • 那么新的问题来了,配置了全局转换为下划线的情况呢?
    首先在mybatis Xxx.xml 中的update语句里有
<if test="extraInfo != null">
        extra_info = #{extraInfo, typeHandler=com.xxx.config.typehandler.JsonTypeHandler},
</if>

result里面配置有如下转换:

<result column="extra_info" jdbcType="VARCHAR"
            javaType="com.xxx.dao.model.SoundtrackDO$SoundtrackExtraInfo"
            typeHandler="com.xxx.config.typehandler.JsonTypeHandler"
            property="extraInfo"/>

JsonTypeHandler 的代码如下:

public class JsonTypeHandler<T> extends BaseTypeHandler<T> {

    private Class<T> type;

    public JsonTypeHandler(Class<T> type) {
        this.type = type;
    }

    @Override
    public void setNonNullParameter(PreparedStatement ps, int i, Object parameter, JdbcType jdbcType)
            throws SQLException {
        ps.setString(i, JSON.toJSONString(parameter));
    }

    @Override
    public T getNullableResult(ResultSet rs, String columnName) throws SQLException {
        return parseObject(rs.getString(columnName));
    }

    @Override
    public T getNullableResult(ResultSet rs, int columnIndex) throws SQLException {
        return parseObject(rs.getString(columnIndex));
    }

    @Override
    public T getNullableResult(CallableStatement cs, int columnIndex) throws SQLException {
        return parseObject(cs.getString(columnIndex));
    }

    private T parseObject(String result) {
        return JSON.parseObject(result, type);
    }
}

从配置代码上没有看出任何毛病,自测也是符合预期,一切都像是那么合理,为什么线上环境就出现了意外场景呢?依然很疑惑。
到了这里头上顶了三个问号,难道说这跟bean的初始化顺序有关?因为这个场景我们是消费rocketMq消息后调用mysql的更新语句,也就会执行到JsonTypeHandler这里的代码;而这里如果是消费者bean先初始化完成,代码开始消费,而此时序列化全局配置bean还没初始化完成是不是就用了默认的序列化规则呢,看起来很合理的猜测,所以我们开始了验证:

首先验证默认情况:
在这里插入图片描述
在这里插入图片描述
从图上看默认是驼峰,很符合预期;
那我们就尝试复现下先序列化,在设置全局参数的场景:
在这里插入图片描述
在这里插入图片描述
我们是先开启线程1序列化输出ss1,主线程睡眠两秒后,执行全局赋值驼峰下划线转换策略,再开启线程2,序列化输出ss2;从执行结果中可以看出,问题已经出现了,在我们设置驼峰转下划线格式后,ss2输出的依然是驼峰格式。
至此我们基本定位问题为:序列化策略propertyNamingStrategy参数赋值与序列化执行先后关系导致;从业务代码角度来说的话,就是RocketMq consumer bean初始化(因为初始化后,有消息就会立即消费,并不会等所有不强相关bean都初始化完成) 与 serializeConfig bean初始化先后顺序导致;测试环境因为消息太少所以没有命中这个问题。

接下来我们又提出个疑问,1.我们可以看到JSON.toJSONString方法是每次执行都会去获取SerializeConfig.globalInstance,那么如果每次都获取是不是服务启动完成后,就恢复了呢,但从数据库的数据上看并不是;
通过debug我们发现,fastjson 对一个对象首次序列化之后会将其存储再一个容器内com.alibaba.fastjson.serializer.SerializeConfig#serializers;后续在对这个对象序列化时是通过获取容器中存储的序列化规则进行处理的,并不是重新获取一遍配置,这也就是为啥服务启动完成后没有恢复的原因;也是fastjson的一个提升性能的设计。
对于为什么在线链路没有出现问题,这就是fastjson的一个机制了,反序列化时会先匹配字段名完全相同的字段值,没有的情况下还会匹配对应的驼峰或者下划线格式的字段名进行赋值,所以从接口返回上看不出问题。
好了,问题已经定位完成,后续就是如何解决了;

解决方案

1.提高serializeConfig bean的加载时机

例如在serializeConfig 配置处添加 @Order(1) 注解

但这个方式后续如果有人调整调整优先级可能会重新出现这个问题;
2.添加Consumer bean和 serializeConfig bean的依赖关系

例如在Consumer bean上配置@DependsOn("serializeConfig")

这样影响范围最小,切不会轻易受到其他调整的影响
3.抛弃serializeConfig全局配置,在使用场景进行单独处理,这个就是乱说了,这种场景完全不敢尝试,虽说看起来是短痛;不在有类似的问题出现,但过于痛,可能会踩大坑,不建议。

最终选择方案2

总结一下

1.这种全局配置要谨慎使用,且这种加载优先级设置还不是最高的,且不好被开发人员发现的配置话尽量少用吧,避免坑自己更避免坑别人
2.对于老服务,还是需要多观察下配置

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2087231.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【生命之树】

题目 思路 求联通区域中的最大和值 代码 #include <bits/stdc.h> using namespace std; const int N 1e510, M N << 1; const int null -0x3f3f3f3f; long long w[N]; int h[N], e[M], ne[M], idx; void add(int a, int b) // 添加一条边a->b {e[idx] b,…

虚幻5|(1)技能栏快捷格子的制作|(2)如何在游戏进行的时候显示鼠标,使用鼠标操作UI||(3)改进技能释放

一.创建技能栏格子UI 1.创建一个UI控件蓝图&#xff0c;命名为技能栏格子&#xff08;如何创建我就不多说了&#xff0c;学到这了基础知识应该有所掌握了&#xff09; 2.添加一个边界和垂直框 3.选中边界&#xff0c;右侧细节栏更改如下 4.再拖入一个文本块&#xff0c;做垂直…

java同步概念

同步&#xff08;Synchronization&#xff09;在Java多线程编程中是一个既重要又复杂的概念。它涉及到如何确保多个线程在访问共享资源时能够保持数据的一致性和完整性&#xff0c;避免出现竞态条件&#xff08;Race Condition&#xff09;等问题。 同步的基本概念 同步的主要目…

视频结构化从入门到精通——视频结构化主要技术介绍

视频结构化主要技术 1 视频接入 “视频接入”是视频结构化管道的起点&#xff08;SRC Point&#xff09;视频接入是视频结构化处理的第一步&#xff0c;它涉及将视频数据从各种采集源获取到系统中进行进一步处理。视频接入的质量和稳定性对后续的数据处理、分析和应用至关重要…

128 最长连续序列

解题思路&#xff1a; \qquad 由于题目要找的是最长连续序列&#xff0c;那么若已知序列起点&#xff0c;目标值递增向后遍历&#xff0c;借助哈希表检查目标值是否存在&#xff0c;可以在 O ( n ) O(n) O(n)时间内完成。 \qquad 但是若从数组每一个元素开始&#xff0c;遍历…

Datawhale X 李宏毅苹果书 AI夏令营_深度学习基础学习心得Task2.2

本次学习分类问题 1、分类与回归&#xff1a; 回归一般输出一个值y_hat 期望与y越接近越好。分类一般有几类就输出几个值&#xff0c;是一个one-hot的向量&#xff0c;在类别对应的位置值为1 本文介绍了一种重复输出数值后加权的方法&#xff0c;但是我做分类一般用全连接层…

【uniapp重大bug】uni-data-select的localdata改变,也会触发@change方法

bug描述 uni-data-select的下拉列表值localdata是动态获取的&#xff0c;且绑定了change方法&#xff0c;在页面加载后&#xff0c;请求localdata的列表数据&#xff0c;给localdata重新赋值&#xff0c;此时发现自动触发了change方法 当前uni版本&#xff1a;^2.0.2-30709202…

全场景——(七)libmodbus 使用

文章目录 一、libmodbus开发库1.1 功能概要1.2 源码获取1.3 libmodbus与应用程序的关系 二、libmodbus源代码解析2.1 核心函数2.2 框架分析与数据结构2.3 情景分析2.3.1 初始化2.3.2 主设备发送请求2.3.3 从设备接收请求2.3.4 从设备回应 2.4 常用接口函数2.4.1 各类辅助接口函…

2024版Assimp配置教程

最近想看看图形学&#xff0c;选择速通LearnOpenGL&#xff0c;不出意外最耗时间的依然是配置环境。按照教程上的把GLFW等等配置的没有问题&#xff0c;但是在Assimp这里卡住了。原因是教程上说的不详细&#xff0c;而网上查的又和现在的版本相去甚远&#xff0c;导致捣鼓了好一…

Linux基础1-基本指令6(grep,zip,tar,查看系统等命令)

一.本章重点 1.grep命令用于过滤文本信息,sort,uniq 2.zip/uzip命令用于压缩&#xff0c;解压文件 3.tar命令用于压缩&#xff0c;解压文件 二.grep grep命令 gerp(文件内容的行过滤工具)&#xff0c;默认会&#xff0c;会匹配文本中的关键字&#xff0c;匹配上的进行行显示 …

全民k歌怎么去水印保存?盘点分享3个无水印保存方法

在全民K歌的世界里&#xff0c;我们尽情展现音乐才华&#xff0c;但有时却会遇到一个棘手的问题&#xff1a;如何将歌曲视频无水印保存&#xff0c;以便自由分享到其他社交平台&#xff1f;为了解决这一难题&#xff0c;本文将为你盘点三种简单有效的无水印保存方法&#xff0c…

Python课堂笔记

1.大小写 大写&#xff1a;True、 None、 False 注意&#xff1a;大小写含义不相同 2.一行多个短句 短句&#xff1a;“ &#xff1b;” 长句&#xff1a;“ \” 3.变量 (1) int A[100] 整型 char B[100] 字符型 &#xff08;2&#xff09;type: 查看变量类型 补充&…

Language Models are Unsupervised Multitask Learners

摘要 自然语言处理任务&#xff0c;如问答、机器翻译、阅读理解和摘要&#xff0c;通常在任务特定的数据集上使用监督学习来处理。当在一个名为WebText的数百万网页的新数据集上训练时,我们证明了语言模型在没有任何明确监督的情况下开始学习这些任务。在不使用127,000多个训练…

【BPF之旅】认识eBPF

文章目录 一、eBPF基础认识1.1 eBPF历史演进1.2 eBPF特点和使用场景eBPF的特点&#xff08;优势&#xff09;eBPF的限制&#xff08;安全性的体现&#xff09;eBPF vs 内核模块应用场景 1.3 eBPF工作原理eBPF程序执行过程eBPF的开销 二、eBPF简单实践&#xff08;Hello World&a…

大数据技术

4v特点 volume&#xff08;体量大&#xff09; velocity&#xff08;处理速度快&#xff09; variety&#xff08;数据类型多&#xff09; value&#xff08;价值密度低&#xff09; 核心设计理念 并行化 规模经济 虚拟化 分布式系统满足需求 系统架构 大数据处理流程 结构化…

如何在QT6上配置文心一言的接口,从而生成一个自己的对话框

这里写自定义目录标题 前言&#xff1a;效果展示&#xff1a;环境配置&#xff1a;计划完善&#xff1a;核心代码&#xff1a; 前言&#xff1a; 网上有很多在前端调用文心一言接口的&#xff0c;想在QT上配置文心一言的接口&#xff0c;从而生成一个自己的对话框。 效果展示…

Sentinel-1 Level 1数据处理的详细算法定义(九)

《Sentinel-1 Level 1数据处理的详细算法定义》文档定义和描述了Sentinel-1实现的Level 1处理算法和方程&#xff0c;以便生成Level 1产品。这些算法适用于Sentinel-1的Stripmap、Interferometric Wide-swath (IW)、Extra-wide-swath (EW)和Wave模式。 今天介绍的内容如下&…

JavaScript学习文档(10):日期对象、节点操作、 M端事件、JS插件、学生信息表案例

目录 一、日期对象 1、实例化 2、时间对象方法 3、时间戳 &#xff08;1&#xff09;时间戳 &#xff08;2&#xff09;获取时间戳的三种方式&#xff1a; &#xff08;3&#xff09;倒计时效果 二、节点操作 1、DOM 节点 2、 查找节点 3、增加节点 &#xff08;1&…

windows11 上安装了python的wxpython模块,vscode运行时还是报错的解决方法

遇到问题&#xff1a;windows11 上明明安装了python的wxpython模块&#xff0c;vscode运行时还是报错“Traceback (most recent call last): File “c:\pythoncode\new\tonguedetect.py”, line 1, in import wx ModuleNotFoundError: No module named ‘wx’” 如何解决&…

uniapp uni-popup底部弹框留白 底部颜色修改 滚动穿刺

做底部弹框的时候&#xff0c;可能出现以下场景需要处理。 一、出现底部留白不是白色&#xff0c;需要修改颜色的时候&#xff1a; 1、如果弹框不需要圆角效果&#xff0c;则在uni-popup加上背景色就行&#xff0c;弹框是个直角样式&#xff1a; 2、如果需要圆角效果&#xff0…