zoukankan      html  css  js  c++  java
  • 64位Ubuntu14.04安装hadoop2.6.0

    在前文中,编译hadoop 是我们几乎已经配置好了jdk环境

    这一文是在上文的基础上继续配置

    1、将编译好的源码中的一些文件复制到我们所下载的hadoop/lib/native下替换掉

    主要是因为下载的hadoop文件是在32位系统下编译的,而本人的是64位系统

    2、配置ssh无密码登陆

    ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。

    1. 创建ssh-key,,这里我们采用rsa方式;

    ssh-keygen -t rsa -P ""

    2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的;

    cd ~/.ssh  
    cat id_rsa.pub >> authorized_keys

    3. 登录localhost;

    ssh localhost

    登陆后的信息如下:

    Welcome to Ubuntu 14.04.1 LTS (GNU/Linux 3.13.0-32-generic x86_64)
    
     * Documentation:  https://help.ubuntu.com/
    
    274 packages can be updated.
    118 updates are security updates.
    
    Last login: Mon Feb  2 09:54:04 2015 from master

    4. 执行退出命令;

    exit 

    3、将hadoop文件夹复制到/usr/local/

    4、配置环境变量

    sudo gedit ~/.bashrc

    在文件尾添加如下代码

    export HADOOP_INSTALL=/usr/local/hadoop  
      
    export PATH=$PATH:$HADOOP_INSTALL/bin  
      
    export PATH=$PATH:$HADOOP_INSTALL/sbin  
      
    export HADOOP_MAPRED_HOME=$HADOOP_INSTALL  
      
    export HADOOP_COMMON_HOME=$HADOOP_INSTALL  
      
    export HADOOP_HDFS_HOME=$HADOOP_INSTALL  
      
    export YARN_HOME=$HADOOP_INSTALL  
      
    export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_INSTALL/lib/native  
      
    export HADOOP_OPTS="-Djava.library.path=$HADOOP_INSTALL/lib"  

    执行生效

    source ~/.bashrc  

    5、修改一下配置文件

    sudo gedit /usr/local/hadoop/etc/hadoop/hadoop-env.sh

    将JAVA_HOME改为/usr/local/eclipse

    点击保存退出

    6、测试

    进入hadoop文件夹目录

    执行

    bin/hadoop namenode -format

    然后新建一个输入目录,执行wordcount程序

    mkdir input  
    cp README.txt input
     bin/hadoop jar share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.6.0-sources.jar org.apache.hadoop.examples.WordCount input output  

    执行 cat output/*,查看字符统计结果

    问题

    1.ssh中“Host key verification failed.“

    /etc/ssh/ssh_config)中配置:

    StrictHostKeyChecking no

    将ask 改为 no

    并取消注释

     

  • 相关阅读:
    js小知识
    elasticsearch查询与sql对应关系
    svnkit 异常:Exception in thread "main" org.tmatesoft.svn.core.SVNException: svn: E200030: SQLite error
    spring中引入多个quertz 注意事项
    ajax跨域
    MetaException(message:For direct MetaStore DB connections, we don't support retries at the client level.)
    center os7 安装mysql
    Center OS 7
    解决js ajax跨越请求 Access control allow origin 异常
    gps位置坐标转百度坐标
  • 原文地址:https://www.cnblogs.com/yulijunzj/p/4267286.html
Copyright © 2011-2022 走看看