zoukankan      html  css  js  c++  java
  • SSIS Design3:并发执行

    1,利用优先约束来并发处理数据,Data Flow Task 和 Data Flow Task 1 是并发执行的,而 Data Flow Task2 必须等到 Data Flow Task 和 Data Flow Task 1 执行完成之后,才开始执行。

    2,如何从一个数据源表中并发处理数据,设计思路是

    将一个表中的数据平均分成N份,各个数据流之间并发处理。

    例如分为3份,可以使用%3,将数据分为三个子数据流并发处理数据。

    复制代码
    select *
    from dbo.SourceTable
    where checksum(table_column)%3=0
    
    
    select *
    from dbo.SourceTable
    where checksum(table_column)%3=1
    
    
    select *
    from dbo.SourceTable
    where checksum(table_column)%3=2
    复制代码

    3,最大的并发程度

    由于Server在同一时间执行的Process的最大数量是CPU的个数,一个CPU在某一时刻,只有一个Process处于Running状态,所以最大并发度不要超过CPU的个数。

    通过以下两个属性控制ETL执行的并发度

    Package属性:MaxConcurrentExecutalbes Specifies the maximum numbr of executables to concurrently execute int the package

    Data Flow Task的属性:EngineThreads 用以确定Data flow Task中各个转换组件同时运行的最大线程数,每一个转换组件最多使用一个Thread

  • 相关阅读:
    BLAST
    用 python 实现各种排序算法(转)
    纠错工具之
    《生物序列分析》
    比对软件
    MySQL版本升级参考资料【转】
    解决mysql开启GTID主从同步出现1236错误问题【转】
    Linux系统打开core dump的配置【转】
    MySQL在线更改binlog格式
    关于MySQL 8.0的几个重点【转】
  • 原文地址:https://www.cnblogs.com/wangsicongde/p/7551295.html
Copyright © 2011-2022 走看看