zoukankan      html  css  js  c++  java
  • Hadoop2与Hadoop3的区别

    在这篇文章中,我们将讨论Hadoop 2.x与Hadoop 3.x之间的比较。 Hadoop3版本中添加了哪些新功能,Hadoop3中兼容的Hadoop 2程序,Hadoop 2和Hadoop 3有什么区别?我们希望Hadoop 2和Hadoop 3之间的这个功能的区别将帮助回答上述问题。

     
     

    Hadoop 2.x与Hadoop 3.x之间的功能比较

    本节将讲述Hadoop 2.x与Hadoop 3.x之间的22个差异。现在让我们逐一讨论

    1.License

    adoop 2.x - Apache 2.0,开源

    Hadoop 3.x - Apache 2.0,开源

    2.支持的最低Java版本

    Hadoop 2.x - java的最低支持版本是java 7

    Hadoop 3.x - java的最低支持版本是java 8

    3.容错

    Hadoop 2.x - 可以通过复制(浪费空间)来处理容错。

    Hadoop 3.x - 可以通过Erasure编码处理容错。

    4.数据平衡

    Hadoop 2.x - 对于数据,平衡使用HDFS平衡器。

    Hadoop 3.x - 对于数据,平衡使用Intra-data节点平衡器,该平衡器通过HDFS磁盘平衡器CLI调用。

    5.存储Scheme

    Hadoop 2.x - 使用3X副本Scheme

    Hadoop 3.x - 支持HDFS中的擦除编码。

    6.存储开销

    Hadoop 2.x - HDFS在存储空间中有200%的开销。

    Hadoop 3.x - 存储开销仅为50%。

    7.存储开销示例

    Hadoop 2.x - 如果有6个块,那么由于副本方案(Scheme),将有18个块占用空间。

    Hadoop 3.x - 如果有6个块,那么将有9个块空间,6块block,3块用于奇偶校验。

    8.YARN时间线服务

    Hadoop 2.x - 使用具有可伸缩性问题的旧时间轴服务。

    Hadoop 3.x - 改进时间线服务v2并提高时间线服务的可扩展性和可靠性。

    9.默认端口范围

    Hadoop 2.x - 在Hadoop 2.0中,一些默认端口是Linux临时端口范围。所以在启动时,他们将无法绑定。

    Hadoop 3.x - 但是在Hadoop 3.0中,这些端口已经移出了短暂的范围。

    10.工具

    Hadoop 2.x - 使用Hive,pig,Tez,Hama,Giraph和其他Hadoop工具。

    Hadoop 3.x - 可以使用Hive,pig,Tez,Hama,Giraph和其他Hadoop工具。

    11.兼容的文件系统

    Hadoop 2.x - HDFS(默认FS),FTP文件系统:它将所有数据存储在可远程访问的FTP服务器上。Amazon S3(简单存储服务)文件系统Windows Azure存储Blob(WASB)文件系统。

    Hadoop 3.x - 它支持所有前面以及Microsoft Azure Data Lake文件系统。

    12.Datanode资源

    Hadoop 2.x - Datanode资源不专用于MapReduce,我们可以将它用于其他应用程序。

    Hadoop 3.x - 此处数据节点资源也可用于其他应用程序。

    13.MR API兼容性

    Hadoop 2.x - 与Hadoop 1.x程序兼容的MR API,可在Hadoop 2.X上执行

    Hadoop 3.x - 此处,MR API与运行Hadoop 1.x程序兼容,以便在Hadoop 3.X上执行

    14.支持Microsoft Windows

    Hadoop 2.x - 它可以部署在Windows上。

    Hadoop 3.x - 它也支持Microsoft Windows。

    15.插槽/容器

    Hadoop 2.x - Hadoop 1适用于插槽的概念,但Hadoop 2.X适用于容器的概念。通过容器,我们可以运行通用任务。

    Hadoop 3.x - 它也适用于容器的概念。

    16.单点故障

    Hadoop 2.x - 具有SPOF的功能,因此只要Namenode失败,它就会自动恢复。

    Hadoop 3.x - 具有SPOF的功能,因此只要Namenode失败,它就会自动恢复,无需人工干预就可以克服它。

    17.HDFS联盟

    Hadoop 2.x - 在Hadoop 1.0中,只有一个NameNode来管理所有Namespace,但在Hadoop 2.0中,多个NameNode用于多个Namespace。

    Hadoop 3.x - Hadoop 3.x还有多个名称空间用于多个名称空间。

    18.可扩展性

    Hadoop 2.x - 我们可以扩展到每个群集10,000个节点。

    Hadoop 3.x - 更好的可扩展性。我们可以为每个群集扩展超过10,000个节点。

    19.更快地访问数据

    Hadoop 2.x - 由于数据节点缓存,我们可以快速访问数据。

    Hadoop 3.x - 这里也通过Datanode缓存我们可以快速访问数据。

    20.HDFS快照

    Hadoop 2.x - Hadoop 2增加了对快照的支持。它为用户错误提供灾难恢复和保护。

    Hadoop 3.x - Hadoop 2也支持快照功能。

    21.平台

    Hadoop 2.x - 可以作为各种数据分析的平台,可以运行事件处理,流媒体和实时操作。

    Hadoop 3.x - 这里也可以在YARN的顶部运行事件处理,流媒体和实时操作。

    22.群集资源管理

    Hadoop 2.x - 对于群集资源管理,它使用YARN。它提高了可扩展性,高可用性,多租户。

    Hadoop 3.x - 对于集群,资源管理使用具有所有功能的YARN。



    作者:星点星_5482
    链接:https://www.jianshu.com/p/e1cc52d416e7
    来源:简书
    著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
    一辈子最重要的就是选择,认真对待每一次选择,因为它是有限的。
  • 相关阅读:
    教务管理及教材订购系统设计文档
    Lambda Expression
    Domain logic approaches
    load data local to table
    Spring AOP Capabilities and Goals
    CDI Features
    java设计模式
    Spring RESTful
    ecipse 新建Android test project error
    Excel数据导出
  • 原文地址:https://www.cnblogs.com/-luoke/p/12809623.html
Copyright © 2011-2022 走看看