zoukankan      html  css  js  c++  java
  • spark 输出到hdfs小文件过多

    使用Adaptive Execution 动态设置Shuffle partition 可控制spark sql小文件问题

    1. .config("spark.sql.adaptive.enabled", "true") // 开启sparksql Adaptive Execution 自动设置 Shuffle Reducer
    2. .config("spark.sql.adaptive.shuffle.targetPostShuffleInputSize", "67108864b") //设置每个 Reducer 读取的目标数据量

    根据Adaptive Execution来启动CBO

    1. .config("spark.sql.adaptive.join.enabled", "true") // 是否根据 Adaptive Execution 做 CBO 优化
    2. .config("spark.sql.autoBroadcastJoinThreshold", "20971520") //broadcastJoin 大小
  • 相关阅读:
    babel的使用及安装配置
    npm install卡顿问题
    盒模型
    安全性
    字符串方法
    vue
    CSS3
    重载运算符
    装箱拆箱
    模板库
  • 原文地址:https://www.cnblogs.com/javalinux/p/15098875.html
Copyright © 2011-2022 走看看