zoukankan      html  css  js  c++  java
  • 清理ambari安装的hadoop集群

    本文针对redhat或者centos

    对于测试集群,如果通过ambari安装hadoop集群后,想重新再来一次的话,需要清理集群。

    对于安装了很多hadoop组件的话,这个工作很繁琐。接下来是我整理的清理过程。

    1,通过ambari将集群中的所用组件都关闭,如果关闭不了,直接kill -9 XXX

    2,关闭ambari-server,ambari-agent

    [plain] view plain copy
    1. ambari-server stop  
    2. ambari-agent stop  

    3,卸载安装的软件

    [plain] view plain copy
    1. yum remove hadoop_2* hdp-select* ranger_2* zookeeper* bigtop* atlas-metadata* ambari* postgresql spark*  

    以上命令可能不全,执行完一下命令后,再执行

    [plain] view plain copy
    1. yum list | grep @HDP  

    查看是否还有没有卸载的,如果有,继续通过#yum remove XXX卸载

    4,删除postgresql的数据

          postgresql软件卸载后,其数据还保留在硬盘中,需要把这部分数据删除掉,如果不删除掉,重新安装ambari-server后,有可能还应用以前的安装数据,而这些数据时错误数据,所以需要删除掉。

    [plain] view plain copy
    1. rm -rf /var/lib/pgsql  

    5,删除用户

         ambari安装hadoop集群会创建一些用户,清除集群时有必要清除这些用户,并删除对应的文件夹。这样做可以避免集群运行时出现的文件访问权限错误的问题。     

    [plain] view plain copy
    1. userdel oozie  
    2. userdel hive  
    3. userdel ambari-qa  
    4. userdel flume    
    5. userdel hdfs    
    6. userdel knox    
    7. userdel storm    
    8. userdel mapred  
    9. userdel hbase    
    10. userdel tez    
    11. userdel zookeeper  
    12. userdel kafka    
    13. userdel falcon  
    14. userdel sqoop    
    15. userdel yarn    
    16. userdel hcat  
    17. userdel atlas  
    18. userdel spark  

    [plain] view plain copy
    1. rm -rf /home/atlas  
    2. rm -rf /home/accumulo  
    3. rm -rf /home/hbase  
    4. rm -rf /home/hive  
    5. rm -rf /home/oozie  
    6. rm -rf /home/storm  
    7. rm -rf /home/yarn  
    8. rm -rf /home/ambari-qa  
    9. rm -rf /home/falcon  
    10. rm -rf /home/hcat  
    11. rm -rf /home/kafka  
    12. rm -rf /home/mahout  
    13. rm -rf /home/spark  
    14. rm -rf /home/tez  
    15. rm -rf /home/zookeeper  
    16. rm -rf /home/flume  
    17. rm -rf /home/hdfs  
    18. rm -rf /home/knox  
    19. rm -rf /home/mapred  
    20. rm -rf /home/sqoop  

    6,删除ambari遗留数据

    [plain] view plain copy
    1. rm -rf /var/lib/ambari*   
    2. rm -rf /usr/lib/python2.6/site-packages/ambari_*  
    3. rm -rf /usr/lib/python2.6/site-packages/resource_management  
    4. rm -rf /usr/lib/ambari-*  
    5. rm -rf /etc/ambari-*   

    7,删除其他hadoop组件遗留数据

    [plain] view plain copy
    1. rm -rf /etc/hadoop  
    2. rm -rf /etc/hbase  
    3. rm -rf /etc/hive   
    4. rm -rf /etc/oozie  
    5. rm -rf /etc/sqoop   
    6. rm -rf /etc/zookeeper  
    7. rm -rf /etc/flume   
    8. rm -rf /etc/storm   
    9. rm -rf /etc/hive-hcatalog  
    10. rm -rf /etc/tez   
    11. rm -rf /etc/falcon   
    12. rm -rf /etc/knox   
    13. rm -rf /etc/hive-webhcat  
    14. rm -rf /etc/kafka   
    15. rm -rf /etc/slider   
    16. rm -rf /etc/storm-slider-client  
    17. rm -rf /etc/spark   
    18. rm -rf /var/run/spark  
    19. rm -rf /var/run/hadoop  
    20. rm -rf /var/run/hbase  
    21. rm -rf /var/run/zookeeper  
    22. rm -rf /var/run/flume  
    23. rm -rf /var/run/storm  
    24. rm -rf /var/run/webhcat  
    25. rm -rf /var/run/hadoop-yarn  
    26. rm -rf /var/run/hadoop-mapreduce  
    27. rm -rf /var/run/kafka  
    28. rm -rf /var/log/hadoop  
    29. rm -rf /var/log/hbase  
    30. rm -rf /var/log/flume  
    31. rm -rf /var/log/storm  
    32. rm -rf /var/log/hadoop-yarn  
    33. rm -rf /var/log/hadoop-mapreduce  
    34. rm -rf /var/log/knox   
    35. rm -rf /usr/lib/flume  
    36. rm -rf /usr/lib/storm  
    37. rm -rf /var/lib/hive   
    38. rm -rf /var/lib/oozie  
    39. rm -rf /var/lib/flume  
    40. rm -rf /var/lib/hadoop-hdfs  
    41. rm -rf /var/lib/knox   
    42. rm -rf /var/log/hive   
    43. rm -rf /var/log/oozie  
    44. rm -rf /var/log/zookeeper  
    45. rm -rf /var/log/falcon  
    46. rm -rf /var/log/webhcat  
    47. rm -rf /var/log/spark  
    48. rm -rf /var/tmp/oozie  
    49. rm -rf /tmp/ambari-qa  
    50. rm -rf /var/hadoop  
    51. rm -rf /hadoop/falcon  
    52. rm -rf /tmp/hadoop   
    53. rm -rf /tmp/hadoop-hdfs  
    54. rm -rf /usr/hdp  
    55. rm -rf /usr/hadoop  
    56. rm -rf /opt/hadoop  
    57. rm -rf /tmp/hadoop  
    58. rm -rf /var/hadoop  
    59. rm -rf /hadoop  

    8,清理yum数据源

    [plain] view plain copy
    1. #yum clean all  

    通过以上清理后,重新安装ambari和hadoop集群(包括HDFS,YARN+MapReduce2,Zookeeper,Ambari Metrics,Spark)成功。如果安装其他组件碰到由于未清理彻底而导致的问题,请留言指出需要清理的数据,本人会补全该文档。

  • 相关阅读:
    系统结构实践——第一次作业
    个人作业——软件工程实践总结作业
    个人作业——软件评测
    软件工程第五次作业--结队编程
    软件工程第四次作业--结队作业
    第一次个人编程作业
    第一次软工作业
    java第五周上机练习
    Java作业5
    java4
  • 原文地址:https://www.cnblogs.com/llhl/p/9648646.html
Copyright © 2011-2022 走看看