zoukankan      html  css  js  c++  java
  • spark遇到的错误1-内存不足

    原来的代码:

     JavaRDD<ArticleReply> javaRdd = rdd.flatMap(new FlatMapFunction<String, ArticleReply>() {
                private static final long serialVersionUID = 10000L;
                List<ArticleReply> newList = new ArrayList<ArticleReply>();
                public Iterable<ArticleReply> call(String line) throws Exception {
                    String[] splits = line.split("	");
                    ArticleReply bean = new ArticleReply();
                    bean.setAreaId(split[0]);
                    bean.setAgent(Integer.parseInt(splits[1]));
                    bean.setSerial(splits[2]);
                    newList.add(bean);
                    return newList;
                }
            });

    正确写法:

     JavaRDD<ArticleReply> javaRdd = rdd.flatMap(new FlatMapFunction<String, ArticleReply>() {
                private static final long serialVersionUID = 10000L;
                
                public Iterable<ArticleReply> call(String line) throws Exception {
             List<ArticleReply> newList = new ArrayList<ArticleReply>(); String[] splits = line.split(" "); ArticleReply bean = new ArticleReply(); bean.setAreaId(split[0]); bean.setAgent(Integer.parseInt(splits[1])); bean.setSerial(splits[2]); newList.add(bean); return newList; } });

    错误的写法中把list声明和初始化在flatMap函数之外,造成每次调用flatMap函数后,list的bean会增加一个,同时程序会将改list返还回去,那么spark接收的对象1+2+3+...+N个,

    而不是N个,会极大地消耗spark的内存,造成spark运行内存不足。

  • 相关阅读:
    秦腾与教学评估【前缀和+二分】
    c++中成员函数声明时const得作用
    分形【递归】
    飞行兄弟【二进制枚举+异或】
    爬取4k图片网图片
    爬虫爬取博客园文章的文字【练手】
    【YBTOJ】求 f 函数
    【YBTOJ】划分数列
    【学习笔记】高斯消元法
    【Luogu P4588】 [TJOI2018]数学计算
  • 原文地址:https://www.cnblogs.com/fillPv/p/5013732.html
Copyright © 2011-2022 走看看