zoukankan      html  css  js  c++  java
  • Hadoop 启动/停止集群和节点的命令

    集群
    启动/停止Hadoop集群:start-all.sh    stop-all.sh

    1) 启动NameNode, DataNode

    2) 启动JournalNode, JournalNode在hdfs-site.xml中指定edits log存储的位置,主备NameNode共享数据,方便同步

    3) 启动DFSZKFailoverController, HA会启用ZooKeeper Failover Controller

    4) 启动YARN守护进程ResourceManager, NodeManager

    启动/停止HDFS集群:start-dfs.sh    stop-dfs.sh

    1) 启动NameNode, DataNode

    2) 启动JournalNode, JournalNode在hdfs-site.xml中指定edits log存储的位置,主备NameNode共享数据,方便同步

    3) 启动DFSZKFailoverController, HA会启用ZooKeeper Failover Controller

    启动/停止YARN集群:start-yarn.sh    stop-yarn.sh

    据说如果ResourceManager和NameNode不在同一台机器上,那NameNode上无法直接使用start-yarn.sh启动ResourceManager,但NodeManager可以启动,ResourceManager需要在ResourceManager节点上启动,这一点待考证

    节点
    启动NameNode: hadoop-daemon.sh start namenode

    启动DataNode: hadoop-daemon.sh start datanode

    启动JournalNode节点: hadoop-daemon.sh start journalnode

    启动zkfc节点:hadoop-daemon.sh start zkfc

    启动ResourceManager: yarn-daemon.sh start resourcemanager

    启动NodeManager: yarn-daemon.sh start nodemanager

    启动ZooKeeper节点:zkServer.sh start    启动QuorumPeerMain进程

    查看ZooKeeper节点状态:zkServer.sh status    查看leader和follower状态

    格式化HDFS: hdfs namenode -format

    格式化ZKFC:hdfs zkfc -formatZK

    查看NameNode和DataNode信息: hdfs dfsadmin -report

    查看高可用NameNode状态: hdfs haadmin -getServiceState nn1 (active/standby)

    Web界面端口
    NameNode 50070

    DataNode 50075

    ResourceManager 8088

    NodeManager 8042

    更多端口参考

    安装,查看等常用命令 

    查看进程:jps

    kill进程:kill -9 pid

    内容追加到文件:echo content > file, 如 echo 1 > myid

    SSH拷贝:scp,如scp -r /usr/local/hadoop master:/usr/local

    关闭防火墙:

    查看状态systemctl status firewalld

    关闭防火墙systemctl stop firewalld

    开机禁用防火墙systemctl disable firewalld

    配置免登录:

    ssh-keygen -t rsa

    ssh-copy-id -i host01

    Hadoop Shell命令   http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html
     
    原文链接:https://blog.csdn.net/weixin_42129080/article/details/80738631

  • 相关阅读:
    CSplitterWnd 成员介绍及切分条的定制
    时空数据挖掘 Mining Complex SpatioTemporal Sequence Patterns
    动态布局切分窗口
    不管你现在多穷多蠢,只要抓住一个上升的载体你就能变成富人
    破解了小区宽带的限制
    VC6.0的若干实用小技巧
    恶搞程序发布(更新版本)
    WPF笔记
    做多维数据集需要注意的两个细节
    关于值类型和引用类型的备忘
  • 原文地址:https://www.cnblogs.com/isme-zjh/p/11558181.html
Copyright © 2011-2022 走看看