sqlserver 数据迁移之bcp

news2025/1/15 13:44:17

BCP(Bulk Copy Program)是 SQL Server 中用于大量数据导入和导出的工具。在进行数据迁移时,我们可以使用 BCP 来提高数据迁移的效率和性能。以下是一些优化 BCP 的常见方法:

1.使用合适的数据类型:

在导出和导入数据时,确保使用正确的数据类型。使用较小的数据类型可以减少数据传输的大小,从而提高迁移速度。

2.指定合适的字符集:

在导出和导入数据时,指定适当的字符集可以避免字符转换和编码问题。使用正确的字符集可以提高数据迁移的准确性和效率。

3.分批处理数据:

如果数据量较大,可以将数据分成多个批次进行迁移。这样可以减少一次性加载的数据量,降低内存消耗,并提高迁移速度。

使用并行迁移:

4.BCP 支持并行迁移,可以同时将数据导入到多个目标表中。通过设置合适的并行度,可以提高数据迁移的速度

调整缓冲区大小:

5.BCP 使用缓冲区来存储要导入或导出的数据。适当调整缓冲区的大小可以提高数据迁移的效率。较大的缓冲区可以减少磁盘 I/O 操作的次数,从而提高迁移速度。

6.禁用错误检查:

在导入和导出数据时,可以禁用错误检查以提高迁移速度。但是请注意,禁用错误检查可能会导致数据完整性问题,因此请谨慎使用。

7.使用压缩选项:

BCP 支持压缩选项,可以在导入和导出数据时压缩数据。压缩可以减少数据传输的大小,从而提高迁移速度。

8.监控和优化性能:

在进行数据迁移时,可以使用性能监视工具来监控 BCP 的性能指标,如传输速度、内存使用等。根据监控结果,可以进一步优化 BCP 的配置和参数,以提高迁移性能。

下面提供操作示例

方法一:cmd-bcp语句

1、 win+r运行cmd
2、导出数据 
格式:bcp “sql语句” queryout “文件路径” -c -E -k -S IP地址 -U “用户名” -P “密码”
语句:
bcp "select 查询的字段名 from 表名 where  条件" queryout "D:\文件保存路径.txt" -c -E -k -S 数据库地址 -U "用户名" -P "密码"
​

执行成功:

这里的速度还是挺快的,一秒能从亿级数据中迁移十二万左右

3、导入数据
格式:bcp 模式名.表名 in “文件路径” -c -E -k -S IP地址 -d 数据库名 -U “用户名” -P “密码”
语句示例:
bcp 导入的表名 in "D:\存储的路径.txt" -c -E -k -S 数据库地址 -d 数据库名 -U "用户名" -P "密码"
 4、迁移思路
 迁移老表数据
 drop原表
 新表改名成老表名

方法二:C#调用cmd

优点:可以改成定时任务定期执行,执行比较方便,日志可自定义,比较详细

#region 使用bcp迁移数据
        /// <summary>
        /// bcp迁移数据
        /// </summary>
        public void BcpDataMigration(string qid)
        {
            try
            {
                string allrowsql = "select count(*) from 表名";
                DataTable allrowdata = DBHelper.QueryToDataTable(allrowsql);
                int allrow = Convert.ToInt32(allrowdata.Rows[0][0]);
​
                //导出表数据
                string exprotanswersql = "bcp \" select 字段名 from 表名 where  条件 \" queryout \"D:\\存储路径.txt\" -c -E -k -S 数据库地址 -U \"用户名\" -P \"密码\"";
                cmdrun(exprotanswersql);
                //将数据导入新表
                string importanswersql = "bcp 表名 in \"D:\\存储路径.txt\" -c -E -k -S 数据库地址 -d 数据库名 -U \"用户名\" -P \"密码\"";
                cmdrun(importanswersql);
                //这里采用分页的方式删除数据,每次删一千万,使用set rowcount不记录日志
                int deleterow = 10000000;
                var delcount = Math.Ceiling(Convert.ToDecimal(Convert.ToDecimal(allrow) / deleterow));
                for (int i = 0; i < delcount; i++)
                {
                    string upsql = "set rowcount " + deleterow + " delete  from 表名 where  条件";
                    Logger.Info("【数据迁移】:删除语句:" + upsql + "");
                    DBHelper.NoQuery(upsql);
                    Logger.Info("【数据迁移】:其他日志信息");
                } 
            }
            catch (Exception)
            {
​
                throw;
            }
​
        }
​
​
        public void cmdrun(string cmd) {
​
            //string str = Console.ReadLine();
​
            System.Diagnostics.Process p = new System.Diagnostics.Process();
            p.StartInfo.FileName = "cmd.exe";
            p.StartInfo.UseShellExecute = false;    //是否使用操作系统shell启动
            p.StartInfo.RedirectStandardInput = true;//接受来自调用程序的输入信息
            p.StartInfo.RedirectStandardOutput = true;//由调用程序获取输出信息
            p.StartInfo.RedirectStandardError = true;//重定向标准错误输出
            p.StartInfo.CreateNoWindow = true;//不显示程序窗口
            p.Start();//启动程序
​
            //向cmd窗口发送输入信息
            p.StandardInput.WriteLine(cmd + "&exit");
​
            p.StandardInput.AutoFlush = true;
            //p.StandardInput.WriteLine("exit");
            //向标准输入写入要执行的命令。这里使用&是批处理命令的符号,表示前面一个命令不管是否执行成功都执行后面(exit)命令,如果不执行exit命令,后面调用ReadToEnd()方法会假死
            //同类的符号还有&&和||前者表示必须前一个命令执行成功才会执行后面的命令,后者表示必须前一个命令执行失败才会执行后面的命令
            //获取cmd窗口的输出信息
            string output = p.StandardOutput.ReadToEnd();
 
            p.WaitForExit();//等待程序执行完退出进程
            p.Close(); 
            Console.WriteLine(output);
        }
 
        #endregion

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1153591.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Docker 运行swagger-editor实现在线接口文档维护与调试

文章目录 一、序二&#xff0c; Docker部署准备1. 编辑docker-compose.yml2. 新增启动、停止脚本3. 样例 swagger.yaml 三&#xff0c; 启动swagger-editor1. 使用说明2. 完整代码备份 一、序 因工作需要&#xff0c;需要搭建python运行环境&#xff0c;项目中python基于flask…

​测绘人注意,你可能会改变历史!

你也许想不到&#xff0c;曾经有一个测绘人员在进行实地测量作业时&#xff0c;在地图上就这么随手一标注&#xff0c;却让这个地方成为了如今的网红打卡地。 这个地方就是外地游客慕名而来的“宽窄巷子”&#xff0c;如果连这个地方都不知道的成都人&#xff0c;就应该不能算…

后期云端制作:激发影视行业创新力的新时代

在前几年&#xff0c;全球疫情席卷而来&#xff0c;许多影视项目不得不陷入停滞。但是&#xff0c;有一部分影视人却不甘被困&#xff0c;他们选择了一种全新的“云”工作方式。这种方式不仅能够提供制作、存储和处理平台&#xff0c;而且还将推动影视行业的创新与发展。今天&a…

系列四、Springboot中使用DevTools

一、概述 日常开发中&#xff0c;修改了一个类的很小一部分&#xff0c;例如HelloService中有这样的一个方法listAllCity()&#xff0c;代码如下&#xff1a; Service public class HelloService {public List<String> listAllCity() {List<String> cities Arrays…

oracle (9)Storage Relationship Strut

Storage & Relationship Strut 存储和关系支柱 目标&#xff1a; 描述数据库的逻辑结构列出段类型其用途列出控制块空间使用的关键字获取存储结构信息 一、基础知识 1、数据库逻辑结构图 2、Types of Segments 段的类型 3、Storage Clause Precedence 存储条款的优先顺序 …

edge浏览器的隐藏功能

1. edge://version 查看版本信息 2. edge://flags 特性界面 具体到某一特性&#xff1a;edge://flags/#overlay-scrollbars 3. edge://settings设置界面 详情可参考chrome: 4. edge://extensions 扩展程序页面 5. edge://net-internals 网络事件信息 6. edge://component…

【Java之家-编程的衣柜】线程的基础知识及线程与进程的联系

认识线程 线程是什么 一个线程就是一个 “执行流”. 每个线程之间都可以按照顺讯执行自己的代码. 多个线程之间 “同时” 执行 着多份代码. 轻量级进程 -> 线程&#xff08;Thread&#xff09; 为什么要有线程 首先&#xff0c;“并发编程”成为“刚需” 其次, 虽然多进…

数控 (CNC) 加工设计:​​​​​​​Filou NC Gorilla 2023 Crack

Filou NC Gorilla是一款功能强大的软件&#xff0c;专为计算机数控 (CNC) 加工而设计。它是一款全面且多功能的工具&#xff0c;可让用户轻松创建高精度零件和组件。 专家估计&#xff0c;所有 CNC 零件中 80-90% 是 2.5D 零件。 因此无需创建复杂的 3D 模型&#xff0c;而是可…

leetcode 155. 最小栈

2023.10.31 本题关键在于要求在能在常数时间内检索出最小元素。 其他四个方法都可以用普通的栈进行实现&#xff0c;最后一个方法“获取堆栈中最小元素” 可以借助一个新栈&#xff0c;专门用于存储栈中最小值的。具体细节看java代码&#xff1a; class MinStack {private De…

Unity 粒子特效-第三集-星星闪烁特效

一、特效预览 二、制作原理 星星素材资源 链接&#xff1a;https://pan.baidu.com/s/17D-9sC-ErtqmUxl81Ln1Mw?pwdndm9 提取码&#xff1a;ndm9 1.素材介绍 仔细看&#xff0c;我们的粒子贴图是&#xff08;如下&#xff09;&#xff0c;一颗星星 2.步骤介绍 1.星星动画的…

ROCKCHIP ~ Camera 闪光灯

一、闪光灯基本原理 工作模式 Camera flash led分flash和torch两种模式。 flash&#xff1a; 拍照时上光灯瞬间亮一下&#xff0c;电流比较大&#xff0c;目前是1000mA&#xff0c;最大电流不能超过led最大承受能力 torch&#xff1a; 只用于录video或者拿led当手电筒的情况&…

配音软件的重要性?我不说你也能猜到

随着时代的发展&#xff0c;短视频已经渗透到我们生活中的各个场景。想尝试做自媒体的小伙伴们&#xff0c;一定要试试配音软件&#xff0c;绝对能帮助你达到事半功倍的效果&#xff0c;通过一段时间的使用和比较&#xff0c;我摸索出4个简单又好用的配音软件&#xff0c;接下来…

c语言基础:L1-066 猫是液体

测量一个人的体积是很难的&#xff0c;但猫就不一样了。因为猫是液体&#xff0c;所以可以很容易地通过测量一个长方体容器的容积来得到容器里猫的体积。本题就请你完成这个计算。 输入格式&#xff1a; 输入在第一行中给出 3 个不超过 100 的正整数&#xff0c;分别对应容器…

el-table动态增加列、行数据,俩种方法实现按需选择

需求&#xff1a; 表格数据过多的时候&#xff0c;需要实现动态选择数据的功能&#xff0c;有俩种方法可以按需选择&#xff0c;解决了表格动态选择时闪屏数据抖动问题。 注意&#xff0c;这个添加数据是tableData原本就有的&#xff0c;我做的这个操作类似就是折叠选择展示原有…

分享一下怎么做一个商城小程序

如何制作一个商城小程序&#xff1a;功能解析、设计思路与实现方法 一、引言 随着移动设备的普及和微信小程序的兴起&#xff0c;越来越多的消费者选择在商城小程序上进行购物。商城小程序具有便捷、高效、即用即走等特点&#xff0c;为企业提供了新的销售渠道和推广方式。本…

Rust-虽然9天过去了,结果是没有结果(Docker容器的端口映射问题)

​ 这篇文章收录于Rust 实战专栏。这个专栏中的相关代码来自于我开发的笔记系统。它启动于是2023年的9月14日。相关技术栈目前包括&#xff1a;Rust&#xff0c;Javascript。关注我&#xff0c;我会通过这个项目的开发给大家带来相关实战技术的分享。 前言 上上周了吧&#xf…

非母语玩家如何撰写英文研究性论文:2 Methodology

参考书——《Science Research Writing for non-native Speakers of English》 文章目录 1 Structure 结构2 语法和写作技巧2.1 Passives and Tense Pairs: 被动语态以及时态对2.2 a与the的使用方法2.3 Adverbs and adverb location: 副词及其位置 3 Build a Model——构建Meth…

【每日一题】每棵子树内缺失的最小基因值

文章目录 Tag题目来源题目解读解题思路方法一&#xff1a;DFS 写在最后 Tag 【dfs】【树】【2023-10-31】 题目来源 2003. 每棵子树内缺失的最小基因值 题目解读 找出每棵子树内缺失的最小基因值。 解题思路 方法一&#xff1a;DFS 找到基因值为 1 的节点&#xff0c;从该…

大中小企业对CRM系统的需求

在以前&#xff0c;CRM客户管理系统是大型企业的专属。如今&#xff0c;不论何种规模的企业都能够使用CRM系统。市面上的CRM有着丰富的功能类型&#xff0c;管理者可以从企业自身规模出发&#xff0c;选择适合的CRM系统。下面说说&#xff0c;大中小企业对CRM系统的需求。 一句…