zoukankan      html  css  js  c++  java
  • SSIS Design3:并发执行

    1,利用优先约束来并发处理数据,Data Flow Task 和 Data Flow Task 1 是并发执行的,而 Data Flow Task2 必须等到 Data Flow Task 和 Data Flow Task 1 执行完成之后,才开始执行。

    2,如何从一个数据源表中并发处理数据,设计思路是

    将一个表中的数据平均分成N份,各个数据流之间并发处理。

    例如分为3份,可以使用%3,将数据分为三个子数据流并发处理数据。

    复制代码
    select *
    from dbo.SourceTable
    where checksum(table_column)%3=0
    
    
    select *
    from dbo.SourceTable
    where checksum(table_column)%3=1
    
    
    select *
    from dbo.SourceTable
    where checksum(table_column)%3=2
    复制代码

    3,最大的并发程度

    由于Server在同一时间执行的Process的最大数量是CPU的个数,一个CPU在某一时刻,只有一个Process处于Running状态,所以最大并发度不要超过CPU的个数。

    通过以下两个属性控制ETL执行的并发度

    Package属性:MaxConcurrentExecutalbes Specifies the maximum numbr of executables to concurrently execute int the package

    Data Flow Task的属性:EngineThreads 用以确定Data flow Task中各个转换组件同时运行的最大线程数,每一个转换组件最多使用一个Thread

  • 相关阅读:
    寿司点餐系统Sprint1总结
    寿司点餐系统一周总结
    对点餐APP现阶段开发的问题
    寿司点餐系统11.16
    Sprint
    R扩展包
    实验8 SQLite数据库操作
    实验7 BindService模拟通信
    实验6 在应用程序中播放音频和视频
    实验5 数独游戏界面设计
  • 原文地址:https://www.cnblogs.com/wangsicongde/p/7551295.html
Copyright © 2011-2022 走看看