zoukankan      html  css  js  c++  java
  • 数据仓库建模与ETL的实践技巧(转载)

    一、Data仓库的架构

      Data仓库(Data Warehouse DW)是为了便于多维分析和多角度展现而将Data按特定的模式进行存储所建立起来的关系型Datcbase,它的Data基于OLTP源Systam。Data仓库中的Data是细节的、集成的、面向主题的,以OLAPSystam的分析需求为目的。

      Data仓库的架构模型包括了星型架构与雪花型架构两种模式。星型架构的中间为事实表,四周为维度表,类似星星;而相比较而言,雪花型架构的中间为事实表,两边的维度表可以再有其关联子表,从而表达了清晰的维度层次关系。

      从OLAPSystam的分析需求和ETL的处理效率两方面来考虑:星型结构聚合快,分析效率高;而雪花型结构明确,便于与OLTPSystam交互。因此,在实际项目中,我们将综合运用星型架构与雪花型架构来设计Data仓库。

      那么,下面我们就来看一看,构建企业级Data仓库的流程。

      二、构建企业级Data仓库五步法

      (一)、确定主题

      即确定Data分析或前端展现的主题。例如:我们希望分析某年某月某一地区的啤酒销售情况,这就是一个主题。主题要体现出某一方面的各分析角度(维度)和统计数value型Data(量度)之间的关系,确定主题时要综合考虑。

      我们可以形象的将一个主题想象为一颗星 星:统计数value型Data(量度)存在于星星中间的事实表;分析角度(维度)是星星的各个角;我们将通过维度的组合,来考察量度。那么,“某年某月 某一地区的啤酒销售情况”这样一个主题,就要求我们通过时间和地区两个维度的组合,来考察销售情况这个量度。从而,不同的主题来源于Data仓库中的不同 子集,我们可以称之为Data集市。Data集市体现了Data仓库某一方面的信息,多个Data集市构成了Data仓库。

      (二)、确定量度

      在确定了主题以后,我们将考虑要分析的技术指标,诸如年销售额之类。它们一般为数value型Data。我们或者将该Data汇总,或者将该Data取次数、独立次数或取最大最小value等,这样的Data称为量度。

      量度是要统计的指标,必须事先选择恰当,基于不同的量度可以进行复杂关键性能指标(KPI)等的设计和计算。

      (三)、确定事实Data粒度

      在确定了量度之后,我们要考虑到该量度的汇总情况和不同维度下量度的聚合情况。考虑到量度的聚合程度不同,我们将采用“最小粒度原则”,即将量度的粒度设置到最小。

      例如:假设目前的Data最小记录到秒,即Datcbase中记录了每一秒的交易额。那么,如果我们可以确认,在将来的分析需求中,时间只需要精确到天就可以的话,我们就可以在ETL处理过程中,按天来汇总Data,此时,Data仓库中量度的粒度就是“天”;反过来,如果我们不能确认将来的分析需求在时间上是否需要精确到秒,那么,我们就需要遵循“最小粒度原则”,在Data仓库的事实表中保留每一秒的Data,以便日后对“秒”进行分析。

       在采用“最小粒度原则”的同时,我们不必担心海量Data所带来的汇总分析效率问题,因为在后续建立多维分析模型(CUBE)的时候,我们会对Data 提前进行汇总,从而保障产生分析结果的效率。关于建立多维分析模型(CUBE)的相关问题,我们将在下期栏目中予以阐述。

      (四)、确定维度

      维度是指分析的各个角度。例如我们希望按照时间,或者按照地区,或者按照产品进行分析,那么这里的时间、地区、产品就是相应的维度。基于不同的维度,我们可以看到各量度的汇总情况,也可以基于所有的维度进行交叉分析。

      这里我们首先要确定维度的层次(HierarChy)和级别(Level。我们在时间维度上,按照“年-季度-月”形成了一个层次,其中“年”、“季度”、“月”成为了这个层次的3个级别;同理,当我们建立产品维度时,我们可以将“产品大类-产品子类-产品”划为一个层次,其中包含“产品大类”、“产品子类”、“产品”三个级别。

      那么,我们分析中所用到的这些维度,在Data仓库中的存在形式是怎样的呢?

     我们可以将3个级别设置成一张Data表中的3个字段,比如时间维度;我们也可以使用三张表,分别保存产品大类、产品子类、产品三部分Data,比如产品维度。
       另外,value得一提的是,我们在建立维度表时要充分使用代理键。代理键是数value型的ID号码(例如每张表的第一个字段),它唯一标识了每一维 度成员。更重要的是,在聚合时,数value型字段的匹配和比较,JOIN效率高,便于聚合。同时,代理键对缓慢变化维度有着重要的意义,在原Data主 键相同的情况下,它起到了对新Data与历史Data的标识作用。

      在此,我们不妨谈一谈维度表随时间变化的问题,这是我们经常会遇到的情况,我们称其为缓慢变化维度。

      比如我们增加了新的产品,或者产品的ID号码修改了,或者产品增加了一个新的属性,此时,维度表就会被修改或者增加新的记录行。这样,我们在ETL的过程中,就要考虑到缓慢变化维度的处理。对于缓慢变化维度,有三种情况:

      1、缓慢变化维度第一种TYPE:

      历史Data需要修改。这种情况下,我们使用UPDATEmethod来修改维度表中的Data。例如:产品的ID号码为123,后来发现ID号码错了,需要改写成456,那么,我们就在ETL处理时,直接修改维度表中原来的ID号码为456。

      2、缓慢变化维度第二种TYPE:

       历史Data保留,新增Data也要保留。这时,要将原Data更新,将新Data插入,我们使用UPDATE / INSERT。比如:某一员工2005年在A部门,2006年时他调到了B部门。那么在统计2005年的Data时就应该将该员工定位到A部门;而在统计 2006年Data时就应该定位到B部门,然后再有新的Data插入时,将按照新部门(B部门)进行处理,这样我们的做法是将该维度成员列表加入标识列, 将历史的Data标识为“过期”,将目前的Data标识为“当前的”。另一种method是将该维度打上时间戳,即将历史Data生效的时间段作为它的一 个属性,在与原始表匹配生成事实表时将按照时间段进行关联,这种method的好处是该维度成员生效时间明确。

      3、缓慢变化维度第三种TYPE:

       新增Data维度成员改变了属性。例如:某一维度成员新加入了一列,该列在历史Data中不能基于它浏览,而在目前Data和将来Data中可以按照它 浏览,那么此时我们需要改变维度表属性,即加入新的字段列。那么,我们将使用存储过程或程式生成新的维度属性,在后续的Data中将基于新的属性进行查 看。

      (五)、创建事实表

      在确定好事实Data和维度后,我们将考虑加载事实表。

      在公司的大量Data堆积如山时,我们想看看里面究竟是什么,结果发现里面是一笔笔生产记录,一笔笔交易记录… 那么这些记录是我们将要建立的事实表的原始Data,即关于某一主题的事实记录表。

       我们的做法是将原始表与维度表进行关联,生成事实表。注意在关联时有为空的Data时(Data源脏),需要使用外连接,连接后我们将各维度的代理键取 出放于事实表中,事实表除了各维度代理键外,还有各量度Data,这将来自原始表,事实表中将存在维度代理键和各量度,而不应该存在描述性信息,即符合 “瘦高原则”,即要求事实表Data条数尽量多(粒度最小),而描述性信息尽量少。

      如果考虑到扩展,可以将事实表加一唯一标识列,以为了以后扩展将该事实作为雪花型维度,不过不需要时一般建议不用这样做。

       事实Data表是Data仓库的核心,需要精心维护,在JOIN后将得到事实Data表,一般记录条数都比较大,我们需要为其设置复合主键和索引,以呈 现Data的完整性和基于Data仓库的查询性能优化。事实Data表与维度表一起放于Data仓库中,如果前端需要连接Data仓库进行查询,我们还需 要建立一些相关的中间汇总表或物化视,以方便查询。

      三、什么是ETL

       在Data仓库的构建中,ETL贯穿于项目始终,它是整个Data仓库的生命线,包括了Data清洗、整合、convert、加载等各个过程。如果说 Data仓库是一座大厦,那么ETL就是大厦的根基。ETL抽取整合Data的好坏直接影响到最终的结果展现。所以ETL在整个Data仓库项目中起着十 分关键的作用,必须摆到十分重要的位置。

      ETL是Data抽取(ExtraCt)、convert(Transform)、加载(Load )的简写,它是指:将OLTPSystam中的Data抽取出来,并将不同Data源的Data进行convert和整合,得出一致性的Data,然后加载到Data仓库中。

      那么,在这一convert过程中,我们就完成了对Data格式的更正、对Data字段的合并、以及新增指标的计算三项操作。类似地,我们也可以根据其他需求,完善Data仓库中的Data。

      简而言之,通过ETL,我们可以基于源Systam中的Data来生成Data仓库。ETL为我们搭建了OLTPSystam和OLAPSystam之间的桥梁。

      四、项目实践技巧

      (一)、准备区的运用

       在构建Data仓库时,如果Data源位于一台服务器上,Data仓库在另一台服务器端,考虑到Data源Server端访问频繁,并且Data量大, 需要不断更新,所以可以建立准备区Datcbase。先将Data抽取到准备区中,然后基于准备区中的Data进行处理,这样处理的好处是防止了在原 OLTPSystam中频繁访问,进行Data计算或排序等操作。

      例如我们可以按照天将Data抽取到准备区中,基于Data准备区,我们将进行Data的convert、整合、将不同Data源的Data进行一致性处理。Data准备区中将存在原始抽取表、convert中间表和临时表以及ETL日志表等。

      (二)、时间戳的运用

       时间维度对于某一事实主题来说十分重要,因为不同的时间有不同的统计Data信息,那么按照时间记录的信息将发挥很重要的作用。在ETL中,时间戳有其 特殊的作用,在上面提到的缓慢变化维度中,我们可以使用时间戳标识维度成员;在记录Datcbase和Data仓库的操作时,我们也将使用时间戳标识信 息。例如:在进行Data抽取时,我们将按照时间戳对OLTPSystam中的Data进行抽取,比如在午夜0:00取前一天的Data,我们将按照 OLTPSystam中的时间戳取GETDATE到GETDATE减一天,这样得到前一天Data。

      (三)、日志表的运用

       在对Data进行处理时,难免会发生Data处理错误,产生出错信息,那么我们如何获得出错信息并及时修正呢? method是我们使用一张或多张Log日志表,将出错信息记录下来,在日志表中我们将记录每次抽取的条数、处理成功的条数、处理失败的条数、处理失败的 Data、处理时间等等。这样,当Data发生错误时,我们很容易发现问题所在,然后对出错的Data进行修正或重新处理。

      (四)、使用调度

       在对Data仓库进行增量更新时必须使用调度,即对事实Data表进行增量更新处理。在使用调度前要考虑到事实Data量,确定需要多长时间更新一次。 比如希望按天进行查看,那么我们最好按天进行抽取,如果Data量不大,可以按照月或半年对Data进行更新。如果有缓慢变化维度情况,调度时需要考虑到 维度表更新情况,在更新事实Data表之前要先更新维度表。

       调度是Data仓库的关键环节,要考虑缜密。在ETL的流程搭建好后,要定期对其运行,所以调度是运行ETL流程的关键步骤。每一次调度除了写入Log 日志表的Data处理信息外,还要使用发送Email或报警服务等,这样也方便的技术人员对ETL流程的把握,增强了安全性和Data处理的准确性。

      五、总结

       构建企业级Data仓库需要简单的五步,掌握了这五步的method,我们可以构建一个强大的Data仓库。然而,每一步都有很深的内容需要研究与挖 掘,尤其在实际项目中,我们要综合考虑。例如:如果Data源的脏Data很多,在搭建Data仓库之前我们首先要进行Data清洗,以剔除掉不需要的信 息和脏Data。

      ETL是OLTPSystam和OLAPSystam之间的桥梁,是Data从源Systam流入Data仓库的通道。在Data仓库的项目实施中,它关系到整个项目的Data质量,所以马虎不得,必须将其摆到重要位置,将Data仓库这一大厦的根基筑牢。

  • 相关阅读:
    LeetCode: 389 Find the Difference(easy)
    LeetCode: 669 Trim a Binary Search Tree(easy)
    C++: 内联函数
    C++: STL迭代器及迭代器失效问题
    LeetCode: 371 Sum of Two Integers(easy)
    etcdctl命令
    Etcd介绍
    docker基础镜像打包
    docker常见问题总结
    更改容器内时区
  • 原文地址:https://www.cnblogs.com/zzjhn/p/5133138.html
Copyright © 2011-2022 走看看