zoukankan      html  css  js  c++  java
  • hadoop集群配置

    引言

        hadoop出来已经很久了,一直没有自己配置过、参考 http://blog.csdn.net/wangjia55/article/details/53160679 完成hadoop的配置,

      再此记录。本次使用环境  ubuntu12.04 、 hadoop-2.7.5.tar.gz 

    简介 

    一、配置前准备工作

      1.下载hadoop本次采用wget下载,也可以到 http://mirror.bit.edu.cn/apache/hadoop/common/   上面选择需要版本进行下载

         wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.7.5/hadoop-2.7.5.tar.gz 

      2.解压文件

         tar -zxvf hadoop-2.7.5.tar.gz 

    二、hadoop主节点 namenode 搭建

      1.通过配置 hadoop-env.sh,core-site.xml,mapred-site.xml.template,hdfs-site.xml 文件完成,该文件在解压后目录 etc/hadoop ,本文不在此介绍详情作用

       core-site.xml  配置如下:

    <configuration>
      <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/home/leesf/program/hadoop/tmp</value>
        <description>Abase for other temporary directories.</description>
      </property>
      <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
      </property>
    </configuration>

       mapred-site.xml.template 配置如下:

    <configuration>
      <property>
        <name>mapred.job.tracker</name>
        <value>localhost:9001</value>
      </property>
    </configuration>

       hdfs-site.xml 配置如下:

    <configuration>
     <property>
      <name>dfs.replication</name>
      <value>1</value>
     </property>
     <property>
      <name>dfs.namenode.name.dir</name>
      <value>file:/home/leesf/program/hadoop/tmp/dfs/name</value>
     </property>
     <property>
      <name>dfs.datanode.data.dir</name>
      <value>file:/home/leesf/program/hadoop/tmp/dfs/data</value>
     </property>
    </configuration>

    三、配置完毕,启动namenode

       ./bin/hdfs namenode -format 完成服务启动

  • 相关阅读:
    Django框架基础之分页
    Django框架基础之session
    Django框架基础之COOKIE
    Django框架基础(二)
    linux挂载/卸载windows共享文件夹
    std::string 字符串操作(分割,去空格)
    Ubuntu sudo不用输入密码的方法
    Qt学习
    ubuntu上利用 checkinstall/dpkg 制作/安装/卸载deb或rpm包
    wxWidgets编译安装
  • 原文地址:https://www.cnblogs.com/black-/p/8487686.html
Copyright © 2011-2022 走看看