zoukankan      html  css  js  c++  java
  • hadoop集群配置

    引言

        hadoop出来已经很久了,一直没有自己配置过、参考 http://blog.csdn.net/wangjia55/article/details/53160679 完成hadoop的配置,

      再此记录。本次使用环境  ubuntu12.04 、 hadoop-2.7.5.tar.gz 

    简介 

    一、配置前准备工作

      1.下载hadoop本次采用wget下载,也可以到 http://mirror.bit.edu.cn/apache/hadoop/common/   上面选择需要版本进行下载

         wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.7.5/hadoop-2.7.5.tar.gz 

      2.解压文件

         tar -zxvf hadoop-2.7.5.tar.gz 

    二、hadoop主节点 namenode 搭建

      1.通过配置 hadoop-env.sh,core-site.xml,mapred-site.xml.template,hdfs-site.xml 文件完成,该文件在解压后目录 etc/hadoop ,本文不在此介绍详情作用

       core-site.xml  配置如下:

    <configuration>
      <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/home/leesf/program/hadoop/tmp</value>
        <description>Abase for other temporary directories.</description>
      </property>
      <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
      </property>
    </configuration>

       mapred-site.xml.template 配置如下:

    <configuration>
      <property>
        <name>mapred.job.tracker</name>
        <value>localhost:9001</value>
      </property>
    </configuration>

       hdfs-site.xml 配置如下:

    <configuration>
     <property>
      <name>dfs.replication</name>
      <value>1</value>
     </property>
     <property>
      <name>dfs.namenode.name.dir</name>
      <value>file:/home/leesf/program/hadoop/tmp/dfs/name</value>
     </property>
     <property>
      <name>dfs.datanode.data.dir</name>
      <value>file:/home/leesf/program/hadoop/tmp/dfs/data</value>
     </property>
    </configuration>

    三、配置完毕,启动namenode

       ./bin/hdfs namenode -format 完成服务启动

  • 相关阅读:
    BZOJ 5418: [Noi2018]屠龙勇士 EXCRT+multiset
    CF1033D Divisors Pollard-rho
    BZOJ 3782: 上学路 Lucas+ExCRT+容斥+dp
    BZOJ 1951: [Sdoi2010]古代猪文 ExCRT+欧拉定理+Lucas
    Activiti介绍(一)
    Centos7卸载FastDFS6.1卸载(六)
    FastDFS整合SpringBoot(五)
    FastDFS整合nginx模块报错
    SpringBoot怎么访问html文件
    FastDFS整合普通Maven项目(四)
  • 原文地址:https://www.cnblogs.com/black-/p/8487686.html
Copyright © 2011-2022 走看看