zoukankan      html  css  js  c++  java
  • Kettle批量同步多张表数据

    背景

    公司想要将业务系统使用的数据库由 SQL SERVER 切换到 ORACLE,因此需要将原 SQL SERVER 库的数据同步到 ORACLE 库中。

    因为涉及的数据表有几百张,数据约百G的级别,一张表开发一个Kettle 太过于繁琐了,因此考虑通过配置完成数据同步。

    方案:

           SQLSERVER 库切换至ORACLE库,由于 Oracle库的关键字与SQLSERVER不同,  两库的表名和字段名略有不同,但可以建立一一对应的映射关系。将映射关系数据维护进数据库的表中。通过SQL语句生成查询语句,将查询语句以及数据同步的源表、目标表维护进另一张配置表中,Kettle读取配置后,遍历配置信息,使用配置信息替换同步转换内的参数, 完成数据同步。

    整体方案实现图:

    数据同步配置表构成如下:

     

    注意 FLAG 字段是用来标识是否执行成功,取值根据需要配置即可。

  • 相关阅读:
    隐藏NGINX服务器名称 和版本号
    salt-grains
    格式化输出文本的方法
    递归例子
    yield 生成器例子
    Python基础之函数
    Python基础之面向对象
    Python基础之模块2
    Python基础之字符编码
    Python基础之文件操作
  • 原文地址:https://www.cnblogs.com/daochangone/p/13215443.html
Copyright © 2011-2022 走看看