zoukankan      html  css  js  c++  java
  • hadoop-1.2.1伪分布模式配置

    1、hadoop-env.sh

    修改 export JAVA_HOME=/Library/Java/Home #增加 JAVA_HOME

    2、masters

    localhost

    3、slaves 

    localhost

    4、hdfs-site.xml

    <property>
    <name>dfs.replication</name>
    <value>1</value>
    </property>


    <property>
    <name>dfs.block.size</name>
    <value>512000</value>
    <description>The default block size for new files.</description>
    </property>

    5、core-site.xml

    <property>
    <name>hadoop.tmp.dir</name>
    <value>/Users/hujihong/hadoop/tmp</value>
    </property>

    <property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>
    </property>

    6、mapred-site.xml

    <property>
    <name>mapred.job.tracker</name>
    <value>http://localhost:9001</value>
    </property>

    <property>
    <name>mapred.tasktracker.map.tasks.maximum</name>
    <value>2</value>
    </property>

    <property>
    <name>mapred.tasktracker.reduce.tasks.maximum</name>
    <value>2</value>
    </property>

    7、环境变量

    export JAVA_HOME=/Library/Java/Home
    export CLASSPATH=$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/jre/lib
    export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
    export HADOOP_HOME=/Users/hujihong/hadoop/hadoop-1.2.1
    export PATH=$PATH:$HADOOP_HOME/bin
    #export JAVA_TOOL_OPTIONS=-Dfile.encoding=UTF-8 #eclipse 打开中文文件名乱码,而用命令行启动eclipse

    8、无密码登录

      1、ssh-keygen -t rsa -P ''

          这条命是生成其无密码密钥对,询问其保存路径时直接回车采用默认路径。生成的密钥对:id_rsa和id_rsa.pub,默认存储在"/home/hujihong/.ssh"目录下

      2、cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

        把id_rsa.pub追加到授权的key里面去

        修改文件"authorized_keys"权限(权限的设置非常重要,因为不安全的设置安全设置,会让你不能使用RSA功能

        chmod 600 ~/.ssh/authorized_keys

        chmod 700 ~/.ssh

        用root用户设置"/etc/ssh/sshd_config"的内容。使其无密码登录有效

        vi /etc/ssh/sshd_config

         RSAAuthentication yes  #启用RAS认证

        PubkeyAuthentication yes #启用公钥私钥配对认证方式 这个是ssh安全认证是的一个RSA认证。此处必须选择yes才能连接

      (也可以修改/etc/ssh/ssh_config 中的#  StrictHostKeyChecking ask 改成 StrictHostKeyChecking no

        AuthorizedKeysFile .ssh/authorized_keys #公钥文件路径(和上面生成的文件同)

        增加多个端口,可用个不同端口登录 Port 22 Port 8015

    9、hadoop namenode -format

      (service iptables stop  注意:防火墙一定要关闭)

    10、启动 start-all.sh

    11、验证: jps  //查看进程

         hadoop dfsadmin -report // 查看Hadoop集群的状态

       访问"http://10.180.10.132:50030"查看集群

      访问"http://10.180.10.132:50070"

  • 相关阅读:
    pycharm基本设置
    pycharm破解
    jupyter
    gpu监控收藏
    监控收藏
    k8s 亲和性和反亲和性 以及污点和容忍
    通过服务器 远程管理卡进行装机
    7.11实习培训日志-Git Linux
    ## HashTable和HashMap的区别
    springboot2 -广播式WebSocket
  • 原文地址:https://www.cnblogs.com/hujihon/p/3682618.html
Copyright © 2011-2022 走看看