zoukankan      html  css  js  c++  java
  • hadoop安装和配置

    这里只是涉及了hadoop的一些思路,所以完全分布式配置文件并没有哦!以后会把详细的配置过程和使用环境补充在另外一篇博客中

    hadoop的安装:

    ———————————————————————————————————————————————|

    下载hadoop软件                                         |  

    解压安装:tar -zvxf hadoop软件 -C /basesoft                           |

    设置环境:/etc/profile                                         |

    [HADOOP_HOME=/basesoft/hadoop/PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin]       |

    记住source /etc/profile                                        |

    查询是否安装成功:hadoop version                                |

    ———————————————————————————————————————————————-|

    好了,是不是很简单呢!

    接下来说一下hadoop的单机模式:上面配置完就是了,不要客气哈!(注意配置Java环境哦)

    hadoop的伪分布模式:

    —————————————————————————————————————|

    进入/basesoft/hadoop/etc/hadoop                        |

    修改以下文件配置:core-site.xml;hdfs-site.xml;mapred-site.xml;yarn-site.xml    |

    格式化:hadoop namenode -format                     |

    启动守护进程:start_all.sh(cd /basesoft/hadoop/bin)  关闭:stop_all.sh     |

    jps查询NameNode/DataNode/JobTracker/TaskTracker是否存在           |

    —————————————————————————————————————|

    注意:ssh免密登陆要配置好哦!

    下面是伪分布模式的配置详情:

    core-site.xml修改

    <configuration>
        <property>
            <name>fs.default.name</name>
            <value>hdfs://localhost</value>
        </property>
    </configuration>

    hdfs-site.xml修改

    <configuration>
        <property>
            <name>dfs.replication</name>
            <value>1</value>
        </property>
    </configuration>

    mapred-site.xml修改

    <configuration>
        <property>
            <name>mapred.job.tracker</name>
            <value>localhost:端口号</value>
        </property>
    </configuration>

    yarn-site.sml修改

    <!-- yarn-site.xml -->
    <configuration>
      <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>localhost</value>
      </property>
      <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
      </property>
    </configuration>
    

      

    hadoop完全分布式:

    ——————————————————————————|

    和伪分布式模式一样(只需要修改配置文件的配置内容) |

    【注意:需要修改slaves文件】             |

    ——————————————————————————|

    今天学会了插入代码:以后就能复制了(^o^)/~

  • 相关阅读:
    [轉]windows下mysql 启动 mysqlbinlog二进制日志文件
    [轉]MySQL创建、删除、重建和查看索引命令
    [轉]PHP权限控制系统PHPGACL
    [轉]mysql5存储过程语法
    Web Application Stress Tool(WAS) & SQLIOSim
    information_schema資料庫表信息
    [轉]MySQL系统变量应用探究
    [轉]httping 1.5.2 发布,HTTP连接响应测试
    [轉]批处理命令手册
    Google Native Client介紹
  • 原文地址:https://www.cnblogs.com/dxxblog/p/8066746.html
Copyright © 2011-2022 走看看