zoukankan      html  css  js  c++  java
  • 做ETL的时候用到的数据同步更新代码

    这里是用的从一个库同步到另一个库,代码如下

            private void IncrementalSyncUpdate(string fromConn, string toConn, Dictionary<string, string> sqlList)
            {
                var sw = new Stopwatch();
    
                using (var conn = new SqlConnection(fromConn))
                {
                    if (conn.State != ConnectionState.Open) conn.Open();
    
                    using (var cmd = new SqlCommand())
                    {
                        try
                        {
                            foreach (var item in sqlList)
                            {
                                var sql = item.Value;
    
                                var tableName = item.Key;
    
                                sw.Restart();
    
                                cmd.CommandText = sql;
                                cmd.CommandType = CommandType.Text;
                                cmd.Connection = conn;
    
                                DataTable dt = new DataTable();
    
                                SqlDataAdapter sda = new SqlDataAdapter(cmd);
    
                                sda.Fill(dt);
    
                                if (dt.Rows.Count == 0) continue;//如果没有新增数据,跳过
    
                                foreach (DataRow row in dt.Rows)
                                {
                                    row.SetModified();
                                }
    
                                int updateCount = 0;
    
                                using (var TmpConn = new SqlConnection(toConn))
                                {
                                    if (TmpConn.State != ConnectionState.Open) TmpConn.Open();
    
                                    using (var tmpCmd = new SqlCommand())
                                    {
                                        tmpCmd.CommandText = "select * from Meb_" + tableName;
                                        tmpCmd.CommandType = CommandType.Text;
                                        tmpCmd.Connection = TmpConn;
                                        SqlDataAdapter tmpSda = new SqlDataAdapter(tmpCmd);
    
                                        SqlCommandBuilder scb = new SqlCommandBuilder(tmpSda);
                                        tmpSda.UpdateCommand = scb.GetUpdateCommand();
                                        updateCount = tmpSda.Update(dt);
    
                                    }
                                }
    
                                sw.Stop();
    
                                Console.WriteLine("增量同步数据更新完成,表名:{0},数据{1}条,耗时{2}秒", tableName, updateCount, sw.Elapsed.TotalSeconds);
                            }
                        }
                        catch (Exception e)
                        {
                            Console.WriteLine("增量同步数据同步更新失败," + e.ToString());
                        }
                    }
                }
            }

    这个sqllist是一个   Key:表名  Value:查询SQL  ,做增量同步查询的,主要根据时间戳来获取时间。

    用SqlAdapter的Update方法来做更新,这里有个问题,在更新的DataTable里面的数据要对DataRow的RowState进行一个设置,如果是未设置,那么Update过后,数据库是没有变化的。

  • 相关阅读:
    常用排序算法
    多线程基础知识 转
    转 大型项目架构演进过程
    TCP/IP 思维导图
    Java8 List字符串 去重
    docker lnmp php
    jpa 批量插入
    备忘提醒
    IntelliJ IDEA像Eclipse一样打开多个项目(转)
    IntelliJ Idea 常用快捷键列表
  • 原文地址:https://www.cnblogs.com/xiaoquangege/p/6669002.html
Copyright © 2011-2022 走看看