zoukankan      html  css  js  c++  java
  • Hadoop 源码编译导出

    https://svn.apache.org/repos/asf/hadoop/common/branches/branch-trunk-win/BUILDING.txt

    http://www.srccodes.com/p/article/38/build-install-configure-run-apache-hadoop-2.2.0-microsoft-windows-os

     $ mvn package -Pdist -DskipTests -Dtar 

    错误:

    1.错误: 类重复: org.apache.hadoop.ipc.protobuf.TestProtos....

    原因是在导入eclipse是手动生成的文件和hadoop的maven自动配置出现冲突。

    将手动添加的部分删除。

    可在源码同级建立临时文件夹执行如下bat

    mv ../hadoop-2.4.0-src/hadoop-common-project/hadoop-common/src/test/java/org/apache/hadoop/ipc/protobuf/TestProtos.java ./
    
    mv ../hadoop-2.4.0-src/hadoop-common-project/hadoop-common/src/test/java/org/apache/hadoop/io/serializer/avro/AvroRecord.java ./
    
    mv ../hadoop-2.4.0-src/hadoop-common-project/hadoop-common/src/test/java/org/apache/hadoop/ipc/protobuf/TestRpcServiceProtos.java ./
    move out
    mv TestProtos.java ../hadoop-2.4.0-src/hadoop-common-project/hadoop-common/src/test/java/org/apache/hadoop/ipc/protobuf/
    
    mv AvroRecord.java ../hadoop-2.4.0-src/hadoop-common-project/hadoop-common/src/test/java/org/apache/hadoop/io/serializer/avro/
    
    mv TestRpcServiceProtos.java ../hadoop-2.4.0-src/hadoop-common-project/hadoop-common/src/test/java/org/apache/hadoop/ipc/protobuf/
    move back
    2.内部专用 API, 可能会在未来发行版中删除

    可能是java版本问题。java8不行,换成了java6

    3.cp: cannot stat .... File or path name too long

    源码最好直接放到分区下的一级目录。目录名也可以重命名的短一点

    4.common中的native编译可能出错

    这个可以参考http://www.tuicool.com/articles/M3MRvea。

    打开“开始”--“所有程序”--“Microsoft Windows SDK v7.1”--“Windows SDK 7.1 Command Prompt”,进入VC++的命令行工具(一定要从此处进入方可顺利编译Hadoop源代码,记着是以管理员身份运行)

    但是还是失败,这些貌似是与操作系统相关的c代码,目前不需要变更,暂时不用编译。

    可以修改:hadoop-common-projecthadoop-commonpom.xml

    在project>profiles>profile>id=native-win的profile中将<properties>和<build>两个结点删除。

  • 相关阅读:
    shell脚本中的进度指示器
    shell脚本输出带颜色字体
    Linux awk命令用法
    Kubernetes系列02—Kubernetes设计架构和设计理念
    kubernetes学习01—kubernetes介绍
    kubernetes 06—kubernetes资源清单定义
    http服务详解 一次完整的请求过程
    Mysql数据库的二进制安装和基础入门操作
    项目实战10.1—企业级自动化运维工具应用实战-ansible
    linux OSI七层模型、TCP/IP协议栈及每层结构
  • 原文地址:https://www.cnblogs.com/errorx/p/3784558.html
Copyright © 2011-2022 走看看