zoukankan      html  css  js  c++  java
  • hadoop-1.2.1伪分布模式配置

    1、hadoop-env.sh

    修改 export JAVA_HOME=/Library/Java/Home #增加 JAVA_HOME

    2、masters

    localhost

    3、slaves 

    localhost

    4、hdfs-site.xml

    <property>
    <name>dfs.replication</name>
    <value>1</value>
    </property>


    <property>
    <name>dfs.block.size</name>
    <value>512000</value>
    <description>The default block size for new files.</description>
    </property>

    5、core-site.xml

    <property>
    <name>hadoop.tmp.dir</name>
    <value>/Users/hujihong/hadoop/tmp</value>
    </property>

    <property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>
    </property>

    6、mapred-site.xml

    <property>
    <name>mapred.job.tracker</name>
    <value>http://localhost:9001</value>
    </property>

    <property>
    <name>mapred.tasktracker.map.tasks.maximum</name>
    <value>2</value>
    </property>

    <property>
    <name>mapred.tasktracker.reduce.tasks.maximum</name>
    <value>2</value>
    </property>

    7、环境变量

    export JAVA_HOME=/Library/Java/Home
    export CLASSPATH=$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/jre/lib
    export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
    export HADOOP_HOME=/Users/hujihong/hadoop/hadoop-1.2.1
    export PATH=$PATH:$HADOOP_HOME/bin
    #export JAVA_TOOL_OPTIONS=-Dfile.encoding=UTF-8 #eclipse 打开中文文件名乱码,而用命令行启动eclipse

    8、无密码登录

      1、ssh-keygen -t rsa -P ''

          这条命是生成其无密码密钥对,询问其保存路径时直接回车采用默认路径。生成的密钥对:id_rsa和id_rsa.pub,默认存储在"/home/hujihong/.ssh"目录下

      2、cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

        把id_rsa.pub追加到授权的key里面去

        修改文件"authorized_keys"权限(权限的设置非常重要,因为不安全的设置安全设置,会让你不能使用RSA功能

        chmod 600 ~/.ssh/authorized_keys

        chmod 700 ~/.ssh

        用root用户设置"/etc/ssh/sshd_config"的内容。使其无密码登录有效

        vi /etc/ssh/sshd_config

         RSAAuthentication yes  #启用RAS认证

        PubkeyAuthentication yes #启用公钥私钥配对认证方式 这个是ssh安全认证是的一个RSA认证。此处必须选择yes才能连接

      (也可以修改/etc/ssh/ssh_config 中的#  StrictHostKeyChecking ask 改成 StrictHostKeyChecking no

        AuthorizedKeysFile .ssh/authorized_keys #公钥文件路径(和上面生成的文件同)

        增加多个端口,可用个不同端口登录 Port 22 Port 8015

    9、hadoop namenode -format

      (service iptables stop  注意:防火墙一定要关闭)

    10、启动 start-all.sh

    11、验证: jps  //查看进程

         hadoop dfsadmin -report // 查看Hadoop集群的状态

       访问"http://10.180.10.132:50030"查看集群

      访问"http://10.180.10.132:50070"

  • 相关阅读:
    rsync
    typora 页内跳转
    shell脚本搭建redis集群
    Html
    python json模块
    Appium
    selenium+python
    jmeter+ant+jenkins接口自动化测试框架
    测试小结
    面向对向
  • 原文地址:https://www.cnblogs.com/hujihon/p/3682618.html
Copyright © 2011-2022 走看看