Linux下安装Hadoop完全分布式（Ubuntu12.10）

Hadoop的安装非常简单，可以在官网上下载到最近的几个版本，最好使用稳定版。本例在3台机器集群安装。hadoop版本如下：

工具/原料

• hadoop-0.20.2.tar.gz
• Ubuntu12.10

安装步骤：

1. 1

   安装ubuntu 

   Ubuntu12.10交换空间4G（内存2G）。具体安装过程不赘述。

   用户名统一为：hadoop；

   组群:hadoop；

   机器名：namenode（主节点）,datanode1（从节点1）,datanode2（从节点2）。

2. 2

   在Ubuntu下创建hadoop用户组和用户（也可在安装系统时通过界面配置）

   1. 创建hadoop用户组;

        $ sudo addgroup hadoop  

        记下这里为 hadoop 用户设置的密码，后面使用 hadoop 用户登录时需要用到。

   2. 创建hadoop用户;

        $ sudo adduser -ingroup hadoop hadoop  

   3. 给hadoop用户添加权限，打开/etc/sudoers文件;

        $ sudo gedit /etc/sudoers 

   4. 给hadoop用户赋予root用户同样的权限。

   在root  ALL=(ALL:ALL)   ALL下添加如下内容：

    hadoop ALL=(ALL:ALL)   ALL    

   
3. 3

   在Ubuntu下安装JDK

   配置环境变量：

   $ sudo gedit /etc/profile

   在文件的末尾加上如下内容，保存并关闭文件

   # for java

   export JAVA_HOME=/usr/lib/jvm/jdk1.8.0

   export JRE_HOME=${JAVA_HOME}/jre

   export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib

   export PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin:$PATH

   使设置生效：到此部JDK的配置就都完成了

   $ source /etc/profile

   为保证正确性，进行简单的测试

   $ java -version

   输出：

   java version "1.8.0"

   Java(TM) SE Runtime Environment (build 1.8.0)

   Java HotSpot(TM) Server VM 

   修改默认JDK：

       sudo update-alternatives --install /usr/bin/java java /usr/lib/jvm/jdk1.8.0/bin/java 300

       sudo update-alternatives --install /usr/bin/javac javac /usr/lib/jvm/jdk1.8.0/bin/javac 300 

       sudo update-alternatives --install /usr/bin/jar jar /usr/lib/jvm/jdk1.8.0/bin/jar 300 

   以下两句可选（最好执行）：

   sudo update-alternatives --config java 

   sudo update-alternatives --config javac  

   

   
4. 4

   修改机器名（这步骤可以省略）

   每当ubuntu安装成功时机器名都默认为：ubuntu ，但为了以后集群中能够容易分辨各台服务器，需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。

   1. 打开/etc/hostname文件;

         $  sudo gedit /etc/hostname  

   2. 将/etc/hostname文件中的ubuntu改为对应机器，如主节点中，修改为"namenode"。 重启生效。

   3.修改/etc/hosts文件

        $  sudo gedit /etc/hosts

   改为如下所示，并且将每台机器的IP设置为固定IP：

   
5. 5

   安装ssh服务  

   这里的ssh不是指三大框架:spring,struts,hibernate，而是一种远程登录协议。

   ubuntu一般只是默认安装了 ssh-agent, 可以用如下命令查看：

   $ sudo ps -ef | grep ssh  

   如果只有 ssh-agent 就需要安装openssh-server了。

   $ sudo apt-get install ssh openssh-server  

6. 6

   建立ssh无密码登录本机

   首先要转换成hadoop用户，执行以下命令：

       $ sudo su - hadoop  

   ssh生成密钥有rsa和dsa两种生成方式，默认情况下采用rsa方式。

   1. 创建ssh-key，，这里我们采用rsa方式;

       $ ssh-keygen -t rsa -P ""  

   请注意， ssh-kengen 是用连字符连着的，千万不要分开。问题如下：

   按照您的步驟執行的過程中我在ssh -keygen -t rsa -P ""這邊發生的點小狀況輸入之後終端機顯示Bad escape character "ygen"（红字部分就是问题所在，他将 ssh-keygen 分开了。）

   （注：回车后会在~/.ssh/下生成两个文件：id_rsa和id_rsa.pub这两个文件是成对出现的）

   2.  创建授权文件authorized_keys

        进入~/.ssh/目录下，发现开始是没有authorized_keys文件的，可以使用以下两种方法：

     (1) 将id_rsa.pub追加到authorized_keys授权文件中;

         $ cd ~/.ssh  

        $ cat id_rsa.pub >> authorized_keys 

     (2) 复制 id_rsa.pub 为 authorized_keys

         $ cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys  

   3. 登录localhost;

         $ ssh localhost  

   4. 执行退出命令(exit或CTRL+D);  

   
7. 7

   安装hadoop

   1. 假设hadoop-0.20.2.tar.gz在桌面，将它复制到安装目录/usr/local/下；

       $ sudo cp hadoop-0.20.2.tar.gz /usr/local/  

   2. 解压hadoop-0.20.2.tar.gz；

       $ cd /usr/local  

       $ sudo tar -zxvf hadoop-0.20.2.tar.gz  

   3. 将解压出的文件夹改名为hadoop;

       $ sudo mv hadoop-0.20.2 hadoop  

   4. 将该hadoop文件夹的属主用户设为hadoop，

       $ sudo chown -R hadoop:hadoop hadoop  

   5. 打开hadoop/conf/hadoop-env.sh文件;

       $ sudo gedit hadoop/conf/hadoop-env.sh  

   6. 配置conf/hadoop-env.sh（找到#exportJAVA_HOME=...,去掉#，然后加上本机jdk的路径）;

       export JAVA_HOME=/usr/lib/jvm/jdk1.8.0  

   7. 打开conf/core-site.xml文件;

      $ sudo gedit hadoop/conf/core-site.xml  

   <configuration>

        <property>

           <name>fs.default.name</name>

           <value>hdfs://namenode:9000</value>

        </property>

   </configuration>

   8. 打开conf/mapred-site.xml文件;

       $ sudo gedit hadoop/conf/mapred-site.xml  

   <configuration>

        <property>

            <name>mapred.job.tracker</name>

           <value>namenode:9001</value>

        </property>

   </configuration>

   9. 打开conf/hdfs-site.xml文件;

       $ sudo gedit hadoop/conf/hdfs-site.xml  

   <configuration>

        <property>

            <name>dfs.name.dir</name>

            <value>/usr/local/hadoop/datalog1,/usr/local/hadoop/datalog2</value>

        </property>

        <property>

            <name>dfs.data.dir</name>

            <value>/usr/local/hadoop/data1,/usr/local/hadoop/data2</value>

        </property>

        <property>

            <name>dfs.replication</name>

            <value>3</value>

        </property>

   </configuration>

   注意：datalog1，datalog2，data1，data2文件夹最好事先建好。

   10. 打开conf/masters文件，添加作为secondarynamenode的主机名.

   11. 打开conf/slaves文件，添加作为slave的主机名，一行一个。

   作者设置如下：

   

   

   
8. 8

   运行hadoop

   1. 进入hadoop目录下，格式化hdfs文件系统，初次运行hadoop时一定要有该操作， 

       $ cd /usr/local/hadoop/  

       $ bin/hadoop namenode -format  

   2. 启动bin/start-all.sh

   进入bin目录下， $ ./start-all.sh         关闭：同目录下./stop-all.sh

   3. 检测hadoop是否启动成功

       $ jps  

   4. Web查看

   http://localhost:50030/ - 一个jobtracker的web访问接口，为的是方便用户查看相关信息。 

   类似的还有： 

   http://localhost:50070/ – web UI of theNameNode daemon 

   http://localhost:50030/ – web UI of theJobTracker daemon 

   http://localhost:50060/ – web UI of theTaskTracker daemon  

   

   
   END

注意事项

 

• 集群中所有机器的登录用户名和所属组都要相同，本文用户名为hadoop，组群也为Hadoop。
• 每台机器的IP设置为固定IP，主机名-ip需要在每一台机器里修改对应的hosts文件。
• 注意代码中的粗斜体为具体安装目录，要和实际目录相同。