zoukankan      html  css  js  c++  java
  • SqlBulkCopy批量复制数据

    在.Net1.1中无论是对于批量插入整个DataTable中的所有数据到数据库中,还是进行不同数据源之间的迁移,都不是很方便。而 在.Net2.0中,SQLClient命名空间下增加了几个新类帮助我们通过DataTable或DataReader批量迁移数据。数据源可以来自关 系数据库或者XML文件,甚至WebService返回结果。其中最重要的一个类就是SqlBulkCopy类,使用它可以很方便的帮助我们把数据源的数 据迁移到目标数据库中。
    下面我们先通过一个简单的例子说明这个类的使用:

    首先:web.config

     <connectionStrings>
        
    <add name="srcDBConnection" connectionString="server=.;database=pubs;uid=sa;pwd="/>
        
    <add name="desDBConnection" connectionString="server=.;database=NorthWind;uid=sa;pwd="/>
      
    </connectionStrings>

    C#文件: 前台不Copy了,就一个按钮,一个Label

    using System;
    using System.Data;
    using System.Configuration;
    using System.Collections;
    using System.Web;
    using System.Web.Security;
    using System.Web.UI;
    using System.Web.UI.WebControls;
    using System.Web.UI.WebControls.WebParts;
    using System.Web.UI.HtmlControls;
    using System.Data.SqlClient;

    public partial class ASP_NET : System.Web.UI.Page
    {
        
    private DateTime startTime;

        
    protected void Button1_Click(object sender, EventArgs e)
        
    {
            startTime 
    = DateTime.Now;
            
    string srcConnString = "";
            
    string desConnString = "";
            SqlConnection srcConnection 
    = new SqlConnection();
            SqlConnection desConnection 
    = new SqlConnection();
            SqlCommand sqlcmd 
    = new SqlCommand();
            SqlDataAdapter da 
    = new SqlDataAdapter();
            DataTable dt 
    = new DataTable();
            
    //srcConnString = ConfigurationManager.ConnectionStrings["srcDBConnection"].ConnectionString;
            desConnString = ConfigurationManager.ConnectionStrings["desDBConnection"].ToString();
            
    //srcConnection.ConnectionString = srcConnString;
            srcConnection.ConnectionString = desConnString;
            sqlcmd.Connection 
    = srcConnection;
            
    //sqlcmd.CommandText = "select * from jobs";
            sqlcmd.CommandText = "select * from abc";
            sqlcmd.CommandType 
    = CommandType.Text;
            sqlcmd.Connection.Open();
            da.SelectCommand 
    = sqlcmd;
            da.Fill(dt);

            SqlBulkCopy sbc 
    = new SqlBulkCopy(desConnString,SqlBulkCopyOptions.UseInternalTransaction);
            sbc.BulkCopyTimeout 
    = 5000;
            sbc.SqlRowsCopied 
    +=new SqlRowsCopiedEventHandler(OnRowsCopied);
            sbc.NotifyAfter 
    = dt.Rows.Count;

            
    try
            
    {
               
    // sbc.DestinationTableName = "jobs";
                sbc.DestinationTableName = "bcd";
                sbc.WriteToServer(dt);
            }

            
    catch (Exception ex)
            
    {
                lblCounter.Text 
    = ex.Message.ToString();
            }

            
    finally
            
    {
                sqlcmd.Clone();
                srcConnection.Close();
                desConnection.Close();
                
            }


        }

        
    private void OnRowsCopied(object sender, SqlRowsCopiedEventArgs args)
        
    {
            lblCounter.Text 
    += args.RowsCopied.ToString() + " rows are copied<Br>";
            TimeSpan copyTime 
    = DateTime.Now - startTime;
            lblCounter.Text 
    += "Copy Time:" + copyTime.Seconds.ToString() + "." + copyTime.Milliseconds.ToString() + " seconds";
        }

    }

    代码分析:

    SqlBulkCopy sbc = new SqlBulkCopy(desConnString,SqlBulkCopyOptions.UseInternalTransaction);
    先生成SqlBulkCopy 实例,构造函数指定了目标数据库,使用SqlBulkCopyOptions.UseInternalTransaction是指迁移动作指定在一个Transaction当中,如果数据迁移中产生错误或异常将发生回滚。

    sbc.BulkCopyTimeout = 5000000;    //指定操作完成的Timeout时间

     sbc.SqlRowsCopied +=new SqlRowsCopiedEventHandler(OnRowsCopied);
      sbc.NotifyAfter 
    = dt.Rows.Count;

            
    try
            
    {
               
    // sbc.DestinationTableName = "jobs";
                sbc.DestinationTableName = "bcd";
                sbc.WriteToServer(dt);
            }

    NotifyAfter 属性指定通知通知事件前处理的数据行数,在这里指定为表的行数,并添加SqlRowsCopied事件输出整个迁移过程的时间。 WriteToServer方法就是将数据源拷备到目标数据库。在使用WriteToServer方法之前必须先指定 DestinationTableName属性,也就是目标数据库的表名,

    性能方面:我在Sql中用proc插入68万条数据花了近8分钟,用SqlBulkCopy花了53.234秒~,效率高了7倍耶!不过现在也不做这方面的底层了,呵呵,把自己写的一个测试存储过程也贴上吧,方便自己学习

    create table abc
    (
      aid 
    int identity(1,1primary key,
      adesc 
    varchar(50not null
    )
    go

    /**********存储过程**********************/
    create proc addData
    as
    declare @i int
    set @i=1
    while @i < 1000000
    begin
    insert into abc values ('testDescription')
    set @i = @i + 1
    end
    go

    select * into titles from pubs.dbo.titles where  1> 3 复制跨数据库的表结构

    转自http://blog.csdn.net/huaer1011/archive/2008/04/21/2312361.aspx

  • 相关阅读:
    Xshell连接阿里云Centos6.8
    vsftpd文件服务器安装与配置
    JDK安装(linux系统)
    网站架构
    linux软件源配置
    java 调用静态方法和构造函数和静态块执行的先后顺序
    Mybatis的WHERE和IF动态
    MAVEN项目(仓库中没有jar包)
    Shiro
    MVC系列学习(六)-Razor语法
  • 原文地址:https://www.cnblogs.com/soundcode/p/2511103.html
Copyright © 2011-2022 走看看