zoukankan      html  css  js  c++  java
  • 平台调优方案

    存在的问题:

    1 启动hive后等待资源的时间

    2 根据输入文件的大小,map task 的个数是变化的,reduce始终30如何优化map的个数map个数reduce个数之间的关系比例?

    Map 执行到百分之多少的时候,reduce可以进行有个参数比例设置?

    调整mapreduce 任务执行的内存CPU虚拟内核数将之前的2G2调整为4G4

    3 insert中表与表之间的join,设计mapreduce的建议将小表放在前面

    where的条件写在join里面,使得减少join的数量

    如果union all的部分个数大于2,或者每个union部分数据量大,应该拆成多个insert into 语句,实际测试过程中,执行时间能提升50%

    包含group by 是否要防止数据倾斜?set hive.groupby.skewindata = true

    单个SQL所起的JOB个数尽量控制在5个以下

    5 集群1点到4点多个复杂的任务在抢占资源,最高是运行85个程序,平均40多个,可以适当调整时间

    6 优化执行时间超过一个小时的程序:

    从odsh到ods层的程序

    7 删除hdfs 目录下包含.hive-staging文件

    9 相关可能的调优参数

    Yarn 资源分配性能调优

    mapreduce.map.Java.opts –Xmx1024
    mapreduce.reduce.java.opts=-Xms1024m –Xmx1024m;
    说明:这两个参主要是为需要运行JVM程序(javaScala等)准备的,通过这两个设置可以向JVM中传递参数的,与内存有关的是,-Xmx-Xms等选项。此数值大小,应该在AM中的map.mbreduce.mb之间。

  • 相关阅读:
    《把时间当作朋友》读书笔记
    Oracle&SQLServer中实现跨库查询
    Android学习——界面互调2
    《IT不再重要》读后感
    Android学习——数据存储
    Android学习——编写菜单
    Android学习——后台程序
    Android学习——写个小实例
    Android学习——界面编程!
    深入理解JavaScript系列(42):设计模式之原型模式
  • 原文地址:https://www.cnblogs.com/sunt9/p/6696315.html
Copyright © 2011-2022 走看看