zoukankan      html  css  js  c++  java
  • sqlserver bcp命令,快速处理大数据

    代码
    BCP是SQL Server中负责导入导出数据的一个命令行工具,它是基于DB-Library的,并且能以并行的方式高效地导入导出大批量的数据

    BCP除了可以在控制台执行外,还可以通过调用SQL Server的一个系统存储过程xp_cmdshell以SQL语句的方式运行BCP。如:
    EXEC master..xp_cmdshell 'BCP NTS.dbo.T_User out c:\User.txt -c -U"sa" -P"password"'

    1. 四个动作

    01. 导入:这个动作使用IN命令完成,后面跟需要导入的文件名

    02. 导出:这个动作使用OUT命令完成,后面跟需要导出的文件名,数据源是表或者视图

    03. 使用SQL语句导出:这个动作使用QueryOut命令完成,跟OUT类似,数据源是SQL语句

    04. 导出格式文件:这个动作使用Format命令完成,后而跟格式文件名

    2. 常用的选项

    01-f Format_File

    Format_File表示格式文件名。这个选项依赖于上述的动作,如果使用的是IN或OUT,Format_File表示已经存在的格式文件,如果使用的是Format则表示是要生成的格式文件

    02-x

    这个选项要和
    -f Format_File配合使用,以便生成XML格式的格式文件

    03-F First_Row

    指定从被导出表的哪一行导出,或从被导入文件的哪一行导入

    04-L last_Row

    指定被导出表要导到哪一行结束,或从被导入文件导数据时,导到哪一行结束

    05-c

    使用Char类型做为存储类型,没有前缀且以"\t"做为字段分割符,以"\n"做为行分割符

    06-w

    -c类似,只是当使用Unicode字符集拷贝数据时使用,且以nChar做为存储类型

    07-t Field_Term

    指定字符分割符,默认是"\t"

    08-r Row_Term

    指定行分割符,默认是"\n"

    09-S Server_Name[ \Instance_Name]

    指定要连接的SQL Server服务器的实例,如果未指定此选项,BCP连接本机的SQL Server默认实例。如果要连接某台机器上的默认实例,只需要指定机器名即可

    10-U Login_ID

    指定连接SQL Sever的用户名

    11-P Password

    指定连接SQL Server的用户名密码

    12-T

    指定BCP使用信任连接登录SQL Server。如果未指定
    -T,必须指定-U和-P

    13-k

    指定空列使用NULL值插入,而不是这列的默认值

    3. 数据导出

    01. 导出整个表或视图

    BCP NTS.dbo.T_User out c:\
    User.txt --U"sa" -P"password" --使用密码连接(用户名和密码需要加上双引号)

    BCP NTS.dbo.T_User out c:\
    User.txt ----使用信任连接

    02. 导出SQL语句的目标数据

    BCP "
    SELECT TOP 20 * FROM NTS.dbo.T_User" queryout c:\User.txt --U"sa" -P"password"

    BCP "
    SELECT TOP 20 * FROM NTS.dbo.T_User" queryout c:\User.txt -10 -13 --U"sa" -P"password" --导出第10条到13条记录

    03. 导出格式文件

    BCP NTS.dbo.T_User format nul 
    -f c:\User_format1.fmt ----把表结构信息导出到User_format1.fmt中

    BCP NTS.dbo.T_User format nul 
    -f c:\User_format2.fmt -----把表结构信息导出XML中

    04. 导入数据

    在导入数据时可以根据已经存在的格式文件将满足条件的记录导入到数据库中,不满足则不导入。如上述的格式文件中的第三个字段的字符长度是24,如果某个文本文件中的相应字段的长度超过24,则这条记录将不被导入到数据库中,其它满足条件的记录正常导入

    BCP NTS.dbo.T_User 
    in c:\User1.txt --T

    BCP NTS.dbo.T_User 
    in c:\User1.txt --10 -13 ---导入时也可使用-F和-L选项来选择目标数据

    BCP NTS.dbo.T_User 
    in c:\User1.txt -10 -13 --f c:\User_format1.fmt ---使用普通的格式文件

    BCP NTS.dbo.T_User 
    in c:\User1.txt -10 -13 ---f c:\User_format2.fmt ---使用XML格式的格式文件

    05. 实际导出的例子

    EXEC master..xp_cmdshell 'BCP SZC.dbo.T_User out c:\test1.csv -c -U"sa" -P"qwert1"' --使用密码连接

    EXEC master..xp_cmdshell 'BCP SZC.dbo.T_User out c:\test1.csv -c -T' --使用信任连接

    4. 其他方法导入导出数据

    01. 导入数据

    SELECT * INTO authors1
    FROM OPENDATASOURCE('SQLOLEDB''Data Source=192.1.1.2; UserID=sa; Password=qwert1').pubs.dbo.authors

    02. 导出数据

    INSERT INTO OPENDATASOURCE('SQLOLEDB''Data Source=192.1.1.2; UserID=sa; Password=qwert1').test.dbo.authors
    SELECT * FROM pubs.dbo.authors

    INSERT INTO OPENDATASOURCE('MICROSOFT.JET.OLEDB.4.0','Text;DATABASE=c:\')[data#txt] SELECT * FROM text1

    INSERT INTO OPENROWSET('MICROSOFT.JET.OLEDB.4.0','Text;DATABASE=c:\'[data#txt]SELECT * FROM text1

    03. 导入Excel数据

    SELECT * INTO excel FROM OPENDATASOURCE('MICROSOFT.JET.OLEDB.4.0''Excel 5.0;DATABASE=c:\book1.xls' )[Sheet1$]

    04. 导入到Excel

    INSERT INTO OPENDATASOURCE('MICROSOFT.JET.OLEDB.4.0''Excel 5.0;DATABASE=c:\book1.xls' )[Sheet1$] SELECT * FROM excel


  • 相关阅读:
    SecureCRT安装
    wmv12下安装centos7
    SpringMVC(十二):SpringMVC 处理输出模型数据之@ModelAttribute
    oracle之 redo过高诊断
    oracle之 手动创建 emp 表 与 dept 表
    oracle之 11.2.0.4 bbed安装
    oracle12c之 控制pdb中sga 与 pga 内存使用
    storm之 Storm 工作原理
    spark之 spark 2.2.0 Standalone安装、wordCount演示
    hadoop之 参数调优
  • 原文地址:https://www.cnblogs.com/zhangtao/p/1876632.html
Copyright © 2011-2022 走看看