SQL Server 批量数据导入

1. 由于Bulk Insert通常配合格式化文件批量导入数据更方便,所以这里先介绍bcp工具导出格式化文件的方法。

bcp是SQL Server提供的命令行实用工具提供了数据的导出、导入、格式文件导出等功能,导出格式化文件的语法如下:

bcp 数据库名.用户名.表名 format nul -- 这里的nul必须存在,用于不是导出和导入数据的情况下
-f 输出的格式化文件名 [-x] -c  -- -x参数指定输出的格式文件为xml格式(默认非xml格式); -c参数指定数据存储方式为字符,并默认指定‘\t‘作为字段间隔符;‘\n‘作为行间隔符
[-t 字段间隔符] [-r 行间隔符号]  -- -t与-r参数可选,用于覆盖-c指定的默认间隔符
-T -- 指定数据库连接可信,即使用Windows身份登录  

2. Bulk Insert

根据格式文件导入数据文件,语法格式如下:、

Bulk insert 数据库名.用户名.表名
from ‘数据文件路径‘
with
(
formatfile = ‘格式文件路径‘,
FirstRow = 2    --指定数据文件中开始的行数,默认是1
)  

3. OPENRORWSET(BULK)函数

有时,使用OPENROWSET(BULK)函数可以更灵活地选取想要的字段插入到原表或者其他表中,其语法格式为:

INSERT INTO to_table_name SELECT filed_name_list
FROM OPENROWSET(BULK N‘path_to_data_file‘, FORMATFILE=N‘path_to_format_file‘) AS new_table_name  

当然,该函数也可以这么使用:

SELECT field_name_list INTO temp_table_name
FROM OPENROWSET(BULK N‘path_to_data_file‘, FORMATFILE=N‘path_to_format_file‘) AS new_table_name  

下面举一个完整的例子:

1)创建数据库、表并填充测试数据,脚本如下:

-- 创建数据库
CREATE DATABASE [db_mgr]
GO
--创建测试表
USE db_mgr
CREATE TABLE dbo.T_Student(
    F_ID [int] IDENTITY(1,1) NOT NULL,
    F_Code varchar(10) ,
    F_Name varchar(100) ,
    F_Memo nvarchar(500) ,
    F_Memo2 ntext ,
    PRIMARY KEY  (F_ID)
)
GO  

--填充测试数据
Insert Into T_Student(F_Code, F_Name, F_Memo, F_Memo2) select
‘code001‘, ‘name001‘, ‘memo001‘, ‘备注001‘ union all select
‘code002‘, ‘name002‘, ‘memo002‘, ‘备注002‘ union all select
‘code003‘, ‘name003‘, ‘memo003‘, ‘备注003‘ union all select
‘code004‘, ‘name004‘, ‘memo004‘, ‘备注004‘ union all select
‘code005‘, ‘name005‘, ‘memo005‘, ‘备注005‘ union all select
‘code006‘, ‘name006‘, ‘memo006‘, ‘备注006‘  

2)我们可以使用SQL Server的master..xp_cmdshell存储过程将CMD的命令传给系统,这样就可以直接在SQL Server的查询处理器中直接输入bcp的命令,而不用切换到命令模式下执行。SQL Server 出于安全目的默认将该存储过程禁用了,开启方法如下:

--开启xp_cmdshell存储过程(开启后有安全隐患)
EXEC sp_configure ‘show advanced options‘, 1;
RECONFIGURE;EXEC sp_configure ‘xp_cmdshell‘, 1;
EXEC sp_configure ‘show advanced options‘, 0;
RECONFIGURE;  

3)使用bcp导出格式文件:

EXEC master..xp_cmdshell ‘BCP db_mgr.dbo.T_Student format nul -f C:/student_fmt.xml -x -c -T‘  

4)使用bcp导出数据文件:

EXEC master..xp_cmdshell ‘BCP db_mgr.dbo.T_Student out C:/student.data -f C:/student_fmt.xml -T‘
truncate table db_mgr.dbo.T_Student -- 将表中数据清空  

注意:在实际使用过程中,数据文件可以由程序生成,如日志记录等!

5)使用Bulk Insert语句批量导入数据文件:

BULK INSERT db_mgr.dbo.T_Student
FROM ‘C:/student.data‘
WITH
(
    FORMATFILE = ‘C:/student_fmt.xml‘
)  

6)使用OPENROWSET(BULK)的例子:

INSERT INTO db_mgr.dbo.T_Student(F_Code, F_Name) SELECT F_Code, F_Name
FROM OPENROWSET(BULK N‘C:/student_c.data‘, FORMATFILE=N‘C:/student_fmt_c.xml‘) AS new_table_name -- T_Student表必须已存在  

SELECT F_Code, F_Name INTO db_mgr.dbo.tt
FROM OPENROWSET(BULK N‘C:/student_c.data‘, FORMATFILE=N‘C:/student_fmt_c.xml‘) AS new_table_name -- tt表可以不存在  

参考:

使用 BULK INSERT 或 OPENROWSET(BULK...) 导入大容量数据(尤其是关于安全的那部分,导入远程文件时应特别注意):

http://msdn.microsoft.com/zh-cn/library/ms175915.aspx

创建格式化文件:

http://msdn.microsoft.com/zh-cn/library/ms191516.aspx

OPENROWSET (Transact-SQL):

http://msdn.microsoft.com/zh-cn/library/ms190312.aspx

BULK INSERT (Transact-SQL):

http://msdn.microsoft.com/zh-cn/library/ms188365.aspx

bcp 实用工具:

http://msdn.microsoft.com/zh-cn/library/ms162802.aspx

VIA BY http://rsljdkt.iteye.com/blog/1147707

SQL Server 批量数据导入,布布扣,bubuko.com

时间: 2024-10-14 07:33:33

SQL Server 批量数据导入的相关文章

将SQL Server 2000数据导入到MySQL 5.5的方法

一.安装MySQL 5.5(可以与SQL Server不在同一台服务器上),并新建一个空的数据库(一般用utf-8编码),用于接收导入的数据. 二.在SQL Server的服务器上安装mysql-connector-odbc-5.3.2-win32. 三.在SQL Server的服务器上运行"管理工具"->"数据源(ODBC)",切换到"系统DSN"面板,添加"MySQL ODBC 5.3 Unicode Driver"

SQL Server批量数据导出导入BCP使用

BCP简介 bcp是SQL Server中负责导入导出数据的一个命令行工具,它是基于DB-Library的,并且能以并行的方式高效地导入导出大批量的数据.bcp可以将数据库的表或视图直接导出,也能通过SELECT FROM语句对表或视图进行过滤后导出.在导入导出数据时,可以使用默认值或是使用一个格式文件将文件中的数据导入到数据库或将数据库中的数据导出到文件中 BCP执行方式 bcp通过控制台命令行执行 通过调用SQL Server的一个系统存储过程xp_cmdshell以SQL语句的方式运行 *

SQL Server批量数据导出导入Bulk Insert使用

简介 Bulk insert命令区别于BCP命令之处在于它是SQL server脚本语句,它可以将本地或远程的文件数据批量导入数据库,速度非常之快:远程文件必须共享才行, 文件路径须使用通用约定(UNC)名称,即"\\服务器名或IP\共享名\路径\文件名"的形式. 注意,这里的远程事相对数据库服务器而言,即数据文件若放置在数据库服务器之外,则需要共享给数据库服务器: Bulk Insert通常配合BCP导出的格式化文件批量导入数据 Bulk Insert配合格式文件语法 Bulk in

SQL Server大数据导入导出:将一张表的数据导入到另一张表

今天下午休息的时候又被扔给一项任务:把全国的街道数据导入街道表.但是他们扔给我的SQL脚本是从网上down的一个,跟平台这边的数据库设计的完全不一样. 当时的思路是:先把扔给我的脚本在本地生成一个表,然后选出要的数据,批量插入到开发库所在服务器的表. 然后,按照这个思路做了个测试: INSERT INTO dbo.test_Street(Code,CountyCode,CnName,VersionNo,Creator,CreateTime,ValidStatus) /*要插入数据的表*/ SEL

SQL Server 批量插入数据的两种方法

在SQL Server 中插入一条数据使用Insert语句,但是如果想要批量插入一堆数据的话,循环使用Insert不仅效率低,而且会导致SQL一系统性能问题.下面介绍SQL Server支持的两种批量数据插入方法:Bulk和表值参数(Table-Valued Parameters). 运行下面的脚本,建立测试数据库和表值参数. [c-sharp] view plaincopy --Create DataBase create database BulkTestDB; go use BulkTes

SQL Server往Oracle导入数据

        在windows下的Oracle中创建用户 Oracle下创建用户赋予权限,在终端中启动 SQL Plus. 创建用户+密码(用户:sa 密码:lenovo) SQL> create user sa identified by lenovo; 单独赋予用户权限 SQL> grant create session to sa; SQL> grant create table to sa; SQL> grant create sequence to sa; SQL>

[转]不同版本的SQL Server之间数据导出导入,降级还原等

鉴于大家经常遇到数据库不同版本之间的数据导出导入,降级还原等问题,Philo童鞋搜集了两则文章. 转载到此,希望对大家有用.对贡献者表示感谢! 不同版本的SQL Server之间数据导出导入的方法及性能比较 SQLServer数据库降级方法详解(百度经验)

BCP是SQL Server中负责导入导出数据的一个命令行工具

BCP是SQL Server中负责导入导出数据的一个命令行工具,它是基于DB-Library的,并且能以并行的方式高效地导入导出大批量的数据.BCP可以将数据库的表或视图直接导出,也能通过SELECT FROM语句对表或视图进行过滤后导出.在导入导出数据时,可以使用默认值或是使用一个格式文件将文件中的数据导入到数据库或将数据库中的数据导出到文件中. 下面将详细讨论如何利用BCP导入导出数据. 1. BCP的主要参数介绍 BCP共有四个动作可以选择. (1) 导入. 这个动作使用in命令完成,后面

Sql server 大数据量插入速度慢或丢失数据解决办法

问题描述:我的设备每秒2000条数据插入数据库,2个设备总共4000条,当在程序里面直接用insert语句插入时,两个设备同时插入大概总共能插入约2800条左右,数据丢失约1200条左右,找了好多解决方法,整理了两种效果比较明显的解决办法: 第一种:使用Sql Server函数: 1.将数据组合成字串,使用函数将数据插入内存表,后将内存表数据复制到要插入的表. 2.组合成的字符换格式:'111|222|333|456,7894,7458|0|1|2014-01-01 12:15:16;1111|