zoukankan      html  css  js  c++  java
  • 64位Ubuntu14.04安装hadoop2.6.0

    在前文中,编译hadoop 是我们几乎已经配置好了jdk环境

    这一文是在上文的基础上继续配置

    1、将编译好的源码中的一些文件复制到我们所下载的hadoop/lib/native下替换掉

    主要是因为下载的hadoop文件是在32位系统下编译的,而本人的是64位系统

    2、配置ssh无密码登陆

    ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。

    1. 创建ssh-key,,这里我们采用rsa方式;

    ssh-keygen -t rsa -P ""

    2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的;

    cd ~/.ssh  
    cat id_rsa.pub >> authorized_keys

    3. 登录localhost;

    ssh localhost

    登陆后的信息如下:

    Welcome to Ubuntu 14.04.1 LTS (GNU/Linux 3.13.0-32-generic x86_64)
    
     * Documentation:  https://help.ubuntu.com/
    
    274 packages can be updated.
    118 updates are security updates.
    
    Last login: Mon Feb  2 09:54:04 2015 from master

    4. 执行退出命令;

    exit 

    3、将hadoop文件夹复制到/usr/local/

    4、配置环境变量

    sudo gedit ~/.bashrc

    在文件尾添加如下代码

    export HADOOP_INSTALL=/usr/local/hadoop  
      
    export PATH=$PATH:$HADOOP_INSTALL/bin  
      
    export PATH=$PATH:$HADOOP_INSTALL/sbin  
      
    export HADOOP_MAPRED_HOME=$HADOOP_INSTALL  
      
    export HADOOP_COMMON_HOME=$HADOOP_INSTALL  
      
    export HADOOP_HDFS_HOME=$HADOOP_INSTALL  
      
    export YARN_HOME=$HADOOP_INSTALL  
      
    export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_INSTALL/lib/native  
      
    export HADOOP_OPTS="-Djava.library.path=$HADOOP_INSTALL/lib"  

    执行生效

    source ~/.bashrc  

    5、修改一下配置文件

    sudo gedit /usr/local/hadoop/etc/hadoop/hadoop-env.sh

    将JAVA_HOME改为/usr/local/eclipse

    点击保存退出

    6、测试

    进入hadoop文件夹目录

    执行

    bin/hadoop namenode -format

    然后新建一个输入目录,执行wordcount程序

    mkdir input  
    cp README.txt input
     bin/hadoop jar share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.6.0-sources.jar org.apache.hadoop.examples.WordCount input output  

    执行 cat output/*,查看字符统计结果

    问题

    1.ssh中“Host key verification failed.“

    /etc/ssh/ssh_config)中配置:

    StrictHostKeyChecking no

    将ask 改为 no

    并取消注释

     

  • 相关阅读:
    Mac如何自定义本地化文件夹名
    Mac如何升级自带的vim
    0. GC 前置知识
    Git如何修改一个过去的Commit
    1. GC标记-清除算法(Mark Sweep GC)
    防火墙、WAF、IPS、IDS都是什么
    Python dir和vars的区别
    【Kafka】Kafka数据可靠性深度解读
    Java网络编程基础之TCP粘包拆包
    【Kafka】Consumer配置
  • 原文地址:https://www.cnblogs.com/yulijunzj/p/4267286.html
Copyright © 2011-2022 走看看