zoukankan      html  css  js  c++  java
  • 简单说明hadoop集群运行三种模式和配置文件

    Hadoop的运行模式分为3种:本地运行模式,伪分布运行模式,集群运行模式,相应概念如下:
    1、独立模式即本地运行模式(standalone或local mode)无需运行任何守护进程(daemon),所有程序都在单个JVM上执行。由于在本机模式下测试和调试MapReduce程序较为方便,因此,这种模式适宜用在开发阶段。

    单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。

    2、伪分布运行模式
    伪分布:如果Hadoop对应的Java进程都运行在一个物理机器上,称为伪分布运行模式。

    3、集群模式
    如果Hadoop对应的Java进程运行在多台物理机器上,称为集群模式.

    Hadoop的配置文件:
    conf/hadoop-env.sh  配置JAVA_HOME
    core-site.xml  配置HDFS节点名称和地址
    hdfs-site.xml  配置HDFS存储目录,复制数量
    mapred-site.xml    配置mapreduce的jobtracker地址

    致虚极,守静笃。万物并作,吾以观复。——《道德经》

  • 相关阅读:
    dbcp 详细配置
    InetAddress
    Qrcode 二维码
    左值右值分析
    javaweb reponse 写出文件
    ehcache 在集群环境下 出现 Cause was not due to an IOException or NotBoundException
    lo4j 日志级别
    log4j xml配置
    cron 表达式
    RabbitMQ简介
  • 原文地址:https://www.cnblogs.com/schoolbag/p/8455305.html
Copyright © 2011-2022 走看看