从CSV到数据库(简易)

news2025/1/21 18:06:11

需求:客户上传CSV文档,要求CSV文档内容查重/插入/更新相关数据。
框架:jdbcTemplate、commons-io、
DB:oracle

相关依赖:
这里本来打算用的2.11.0,无奈正式项目那边用老版本1.3.1,新版本对类型支持和转换好一点。不过无伤大雅。

        <dependency>
            <groupId>commons-io</groupId>
            <artifactId>commons-io</artifactId>
            <version>1.3.1</version>
        </dependency>

CSV文档格式:

Xxx Code,Yerial,OP
600001,2024082400305, OP20240818_XDFD
600001,2024082400306, OP20240818_XDFD
600001,2024082400307, OP20240818_XDFD
600001,2024082400308, OP20240818_XDFD
600001,2024082400309, OP20240818_XDFD
600001,2024082400310, OP20240818_XDFD
600001,2024082400311, OP20240818_XDFD
600001,2024082400312, OP20240818_XDFD
600001,2024082400313, OP20240818_XDFD
600001,2024082400314, OP20240818_XDFD
600001,2024082400315, OP20240818_XDFD
600001,2024082400316, OP20240818_XDFD
600001,2024082400317, OP20240818_XDFD
600001,2024082400318, OP20240818_XDFD
600001,2024082400319, OP20240818_XDFD
600001,2024082400320, OP20240818_XDFD
600001,2024082400321, OP20240818_XDFD
600001,2024082400322, OP20240818_XDFD
600001,2024082400323, OP20240818_XDFD
600001,2024082400324, OP20240818_XDFD
600001,2024082400325, OP20240818_XDFD

接口:

MultipartFile接收CSV文件

    @PostMapping("/import")
    public ResponseEntity<BaseResponse<?>> importCSV(@RequestBody MultipartFile files) {
        xxxService.importSerial(files);
        return new ResponseEntity<>(new BaseResponse<>(), HttpStatus.OK);
    }

前端需要在Request-Body中以form-data的形式上传文档,注意参数名要对上。
在这里插入图片描述

CSV解析

简单转成Json

    private String convertCsvToJson(MultipartFile multipartFile) throws IOException {
        // read csv as list
        List<String> lines = IOUtils.readLines(multipartFile.getInputStream(), "UTF-8");

        List<List<String>> data = lines.stream()
                .skip(1) // skip label line
                .filter(line -> !line.trim().isEmpty()) // filtering empty line
                .map(line -> Arrays.asList(line.split(",")))
                .collect(Collectors.toList());

        return objectMapper.writeValueAsString(data);
    }

转换后是这样的:
注意下面是 copy 的 print 出来的 json 对象,实际应该是 json 字符串。

[
    ["600001","2024082400305","OP20240818_XDFD"],
    ["600001","2024082400306","OP20240818_XDFD"],
    ["600001","2024082400307","OP20240818_XDFD"],
    ["600001","2024082400308","OP20240818_XDFD"],
    ["600001","2024082400309","OP20240818_XDFD"],
    ["600001","2024082400310","OP20240818_XDFD"],
    ["600001","2024082400311","OP20240818_XDFD"],
    ["600001","2024082400312","OP20240818_XDFD"],
    ["600001","2024082400313","OP20240818_XDFD"],
    ["600001","2024082400314","OP20240818_XDFD"],
    ["600001","2024082400315","OP20240818_XDFD"],
    ["600001","2024082400316","OP20240818_XDFD"],
    ["600001","2024082400317","OP20240818_XDFD"],
    ["600001","2024082400318","OP20240818_XDFD"],
    ["600001","2024082400319","OP20240818_XDFD"],
    ["600001","2024082400320","OP20240818_XDFD"],
    ["600001","2024082400321","OP20240818_XDFD"],
    ["600001","2024082400322","OP20240818_XDFD"],
    ["600001","2024082400323","OP20240818_XDFD"],
    ["600001","2024082400324","OP20240818_XDFD"],
    ["600001","2024082400325","OP20240818_XDFD"]
]

以Clob参数的形式传到oracle存储过程中处理

这里用Prepare-Call,Simple-Jdbc-Call对 Clob 的支持不好。

    public void import(MultipartFile files) {
        final int[] status = new int[1];
        Object result = jdbcTemplate.execute(new ConnectionCallback<Object>() {
            @Override
            public Object doInConnection(Connection con) throws SQLException, DataAccessException {
                CallableStatement cs = con.prepareCall("{call TEST_PACKAGE.pro_add_csv_data(?, ?)}");
                Clob clob = con.createClob(); // 创建一个Clob对象
                try {
                    String s = convertCsvToJson(files); // csv 转 json字符串
                    clob.setString(1, s); // 把json字符串封装进clob对象中
                    cs.setClob(1, clob);  // 入参
                    cs.registerOutParameter(2, Types.INTEGER); // 出参
                    cs.execute();
                    status[0] = cs.getInt(2); // 取结果
                } catch (IOException e) {
                    throw new RuntimeException("Import failed.");
                }
                return null;
            }
        });
    }

存储过程

PROCEDURE pro_add_csv_data(v_data_list IN CLOB,v_status OUT NUMBER) 
AS 
    v_code VARCHAR2(10);  
    v_yerial VARCHAR2(20);
    v_op VARCHAR2(20);
    v_cur SYS_REFCURSOR;
BEGIN    
	-- 解析成json表
    OPEN v_cur FOR    
        SELECT jt.*      
        FROM (    
            SELECT j.*    
            FROM JSON_TABLE(    
                v_data_list , '$[*]' COLUMNS (
                    code VARCHAR2(10) PATH '$[0]',        
                    yerial VARCHAR2(20) PATH '$[1]',        
                    op VARCHAR2(20) PATH '$[2]'        
                )              
            ) j    
        ) jt;  
    -- 遍历操作
    LOOP FETCH v_cur INTO v_code, v_yerial, v_op;  
    EXIT WHEN v_cur%NOTFOUND;
            INSERT INTO table_one
            VALUES(v_code, v_yerial, v_op);
    END LOOP;
    
    COMMIT;
    CLOSE v_cur;
    v_status := 0;
EXCEPTION  
	WHEN OTHERS THEN
        ROLLBACK;
        v_status:=1;
END pro_add_csv_data;

完美

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1789798.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

eNSP学习——RIP路由协议基础配置

目录 主要命令 原理概述 实验内容 实验目的 实验拓扑 实验编址 实验步骤 1、基本配置 2、使用RIPv1搭建网络 开启 RIP调试功能 3、使用RIPv2搭建网络 RIPv1和RIPv2的不同 需要eNSP各种配置命令的点击链接自取&#xff1a;华为&#xff45;NSP各种设备配置命令大全PD…

使用Python库Matplotlib绘制常用图表类型

使用Python库Matplotlib绘图 一、Matplotlib绘图参数设置1.1 设置分辨率和画布大小1.2 保存图片并设置边缘留白为紧凑型1.3 设置坐标轴标签1.4 画直线设置线宽和颜色1.5 画子图1.5.1 通过figure的add_subplot()画子图1.5.2 通过plt的subplots画子图 二、使用Matplotlib中scatte…

经验分享,超声波车位引导系统和视频车位引导系统有哪些区别

随着城市化进程的加速和汽车保有量的持续增长&#xff0c;停车难已成为城市交通管理的一大挑战。车位引导系统作为解决这一问题的有效工具&#xff0c;其重要性日益凸显。它不仅能够提升停车场的运营效率&#xff0c;还能显著改善驾驶者的停车体验。目前市场上主要有两种车位引…

【Centos7】CentOS 7下的PyTorch安装策略:高效实践指南

【Centos7】CentOS 7下的PyTorch安装策略&#xff1a;高效实践指南 大家好 我是寸铁&#x1f44a; 总结了一篇【Centos7】CentOS 7下的PyTorch安装策略&#xff1a;高效实践指南✨ 喜欢的小伙伴可以点点关注 &#x1f49d; 前言 由于需要跑深度学习&#xff0c;要用到pytorch&a…

全域外卖项目能不能做?可行性分析来了!

作为新的网络热词&#xff0c;全域外卖的传播范围随着时间的推移而不断扩大&#xff0c;从最初的行业内部逐步扩散到多个创业者社区&#xff0c;让许多创业者都有了做全域外卖项目的想法。但是&#xff0c;由于全域外卖赛道刚兴起不久&#xff0c;因此&#xff0c;目前大多数人…

实时监控与报警:人员跌倒检测算法的实践

在全球范围内&#xff0c;跌倒事件对老年人和儿童的健康与安全构成了重大威胁。据统计&#xff0c;跌倒是老年人意外伤害和死亡的主要原因之一。开发人员跌倒检测算法的目的是通过技术手段及时发现和响应跌倒事件&#xff0c;减少因延迟救助而造成的严重后果。这不仅对老年人群…

Mysql(一)查询Sql是如何执行的

Hello&#xff0c;大家好我是极客涛&#x1f60e;&#xff0c;我最近在整理Mysql相关的知识点&#xff0c;所以准备开启一个Mysql的主线任务&#xff0c;大概耗时3周左右&#xff0c;整个节奏还是由浅入深&#xff0c;主要包括Mysql的架构、事务实现、索引组织形式、SQL优化、日…

[C][数据结构][时间空间复杂度]详细讲解

目录 0.铺垫1.时间复杂度 -- 衡量算法的运行快慢1.是什么&#xff1f;2.大O的渐进表示法 2.空间复杂度 - 衡量算法所需要的额外空间3.常见复杂度对比 0.铺垫 时间是累计的空间是不累计的&#xff0c;可以重复利用 1.时间复杂度 – 衡量算法的运行快慢 1.是什么&#xff1f; …

SQL Server数据库UNC路径注入攻击

点击星标&#xff0c;即时接收最新推文 本文选自《内网安全攻防&#xff1a;红队之路》 扫描二维码五折购书 UNC路径注入 如果我们能强制SQL服务器连接到我们控制的SMB共享&#xff0c;连接将会包含认证数据。更具体的来说&#xff0c;将会发起一个NTLM认证&#xff0c;我们将能…

词法分析器的设计与实现--编译原理操作步骤,1、你的算法工作流程图; 2、你的函数流程图;3,具体代码

实验原理&#xff1a; 词法分析是编译程序进行编译时第一个要进行的任务&#xff0c;主要是对源程序进行编译预处理之后&#xff0c;对整个源程序进行分解&#xff0c;分解成一个个单词&#xff0c;这些单词有且只有五类&#xff0c;分别时标识符、关键字&#xff08;保留字&a…

【实物+仿真设计】智能安全门控制系统设计

《智能安全门控制系统设计 实物仿真》 整体功能&#xff1a; 本课题首先确定整个智能安全门控制系统进行总体方案设计。主要包括按键模块、 电磁锁模块、语音提示模块、人员检测模块。按键提供给用户人工交互的功能&#xff0c;用户可 以选择输入按键的方式控制安全门。单片机…

民国漫画杂志《时代漫画》第39期.PDF

时代漫画39.PDF: https://url03.ctfile.com/f/1779803-1248636473-6bd732?p9586 (访问密码: 9586) 《时代漫画》的杂志在1934年诞生了&#xff0c;截止1937年6月战争来临被迫停刊共发行了39期。 ps: 资源来源网络!

市场凌乱,智能算法哪种效果好?

当我们在面对市场波动&#xff0c;个股震荡&#xff0c;无从下手的时候&#xff0c;不懂算法的朋友就只懂做t&#xff1b;懂算法的朋友这会儿就迷茫并不知道选择哪种智能算法交易&#xff1f;今天小编给大家整理一套性价比高的&#xff0c;适合个人投资者搞的算法交易&#xff…

【SITS_CC】卫星图像时间序列的变化字幕(IEEE GRSL)

摘要 Satellite images time series (SITS) 提供了一种有效的方法来同时获取地球上观测区域的时间和空间信息。然而&#xff0c;传统的遥感CD方法的输出是二进制图或语义变化图&#xff0c;往往难以被最终用户解释&#xff0c;传统的遥感图像变化字幕方法只能描述双时图像。提…

湖南(品牌定位)源点咨询 企业如何选择品牌定位差异化调研

湖南源点认为&#xff1a;精准且占据消费者认知&#xff0c;探寻与消费者共鸣的常态化品牌定位调研是企业品牌长远健康发展的基石。 品牌定位里要强调品牌的差异。英文是point of difference. 这个差异点就是强调品牌能带来的利益&#xff08;benefit&#xff09;。 这个“利…

C++编程:模板初阶

目录 一、泛型编程 1、通用版交换函数的实现&#xff1a; 2、模板的引入 二、函数模板 1、函数模板的定义和使用 2、函数模板的实例化 三、类模板 1、类模板的定义和实例化 模板是C的一项强大特性&#xff0c;犹如中国古代四大发明中的活字印刷术与造纸术融为一体一般&a…

【学习】测试用例设计与执行的黄金法则

在软件测试领域&#xff0c;测试用例的设计与执行是确保产品质量的关键环节。一个优秀的测试用例能够揭示软件中的缺陷&#xff0c;而高效的执行则能保障测试覆盖的全面性。如同璀璨的星辰指引航船前行&#xff0c;以下黄金法则将引领测试用例设计与执行的过程&#xff0c;确保…

uniapp内置的button组件的问题

问题描述 由于想要使用uniapp内置button组件的开放能力&#xff0c;所以就直接使用了button&#xff0c;但是他本身带着边框&#xff0c;而且使用 border&#xff1a;none&#xff1b;是没有效果的。 问题图片 解决方案 button::after {border: none;} 正确样式 此时的分享…

2024 年该如何利用 MidJourney 创作AI艺术(详细教程)

什么是 Midjourney Midjourney 是根据文本提示创建图像的生成式人工智能的优秀范例。与 Dall-E 和 Stable Diffusion 一样&#xff0c;它已成为最受欢迎的人工智能艺术创作工具之一。与竞争对手不同的是&#xff0c;Midjourney 是自筹资金和封闭源代码的&#xff0c;因此对它的…

Java并发核心问题以及并发三特性原子性、可见性、有序性

这篇文章比较长&#xff0c;请耐心看完&#xff0c;相信会让你对并发三大特性有一个较深的理解。 1.原子性(Atomicity) 1.1 原子性定义以及理解 即一个操作或者多个操作&#xff0c;要么全部执行并且执行的过程不会被任何因素打断&#xff0c;要么就都不执行。 一个很经典的…