zoukankan      html  css  js  c++  java
  • 数据开源工具:Hadoop为企业带来什么?

    熟悉大数据的人一定不会对大名鼎鼎的Hadoop工具陌生,Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,则MapReduce为海量的数据提供了计算。这核心的两点为其成为数据挖掘平台打下基础。

    数据开源工具:Hadoop为企业带来什么?

    Hadoop为企业带来什么?

    随着主存储器成本的不断下降,和过去相比,公司可以将更多的数据存到存储器中。并且,将多台计算机连到服务器集群也变得更容易了。大数据时代的来临,让数据挖掘也变得越来越重要。Hadoop得以在大数据处理应用中广泛应用得益于其自身在数据提取、变形和加载(ETL)方面上的天然优势。

    数据开源工具:Hadoop为企业带来什么?

    大数据时代

    而对于企业来说,要想让大数据变为智能数据,首先要将这个“庞然大物”抽丝剥茧,也即数据挖掘。在这方面Hadoop平台真是强项,这也是众多企业在大数据领域使用Hadoop的原因。之所以选择Hadoop,是因为它给企业带来了价值。具体来讲,又有哪些方面呢?

    第一,Hadoop具有成熟的生态圈

    成熟的生态圈代表的未来的发展方向,代表着美好的市场前景,成熟的方案和系统可以让公司或者企业节省大量探索的时间与经历。

    Hadoop原本来自于谷歌一款名为MapReduce的编程模型包。谷歌的MapReduce框架可以把一个应用程序分解为许多并行计算指令,跨大量的计算节点运行非常巨大的数据集。使用该框架的一个典型例子就是在网络数据上运行的搜索算法。Hadoop最初只与网页索引有关,如今它已经迅速发展成为分析大数据的领先平台。

    第二,成本低

    数据开源工具:Hadoop为企业带来什么?

    企业项目投资一直需要考虑投入和产出的问题:有效控制成本,可以从另一个方面扩大收益。

    在软件层面,与一体机、商用数据仓库以及QlikView、Yonghong Z-Suite等数据集市相比,hadoop是开源的,项目的软件成本因此会大大降低。

    在硬件层面,Hadoop是架构在廉价的硬件服务器上,不需要非常昂贵的硬件做支撑,随之而来,其维护的成本也会降低。

    第三,高效性

    数据开源工具:Hadoop为企业带来什么?

    国内外的企业都在收集大量的数据资料,当数据量达到一个量级之后,其处理会变得十分困难,这真是数据挖掘的用武之地。Hadoop正是为了解决了这样的问题而诞生的。其底层的分布式文件系统具有高拓展性,通过数据冗余保证数据不丢失和提交计算效率,同时可以存储各种格式的数据。

    另外,Hadoop还支持多种计算框架,既可以进行离线计算也可以进行在线实时计算。

    第四,低风险

    Hadoop可以迅速监测异常风险,并在数据层放置自动化解决方案,可以最大程度地预防和避免风险事件的发生。

    另外,Hadoop有着比较高的容错率,Hadoop能够自动保存数据的多个副本,并且能够自动将失败的任务重新分配。


    本文作者:佚名

    来源:51CTO

  • 相关阅读:
    tf.nn.embedding_lookup函数的用法
    windows+python3.6下安装fasttext+fasttext在win上的使用+gensim(fasttext)
    阅读关于DuReader:百度大规模的中文机器阅读理解数据集
    End to End Sequence Labeling via Bidirectional LSTM-CNNs-CRF论文小结
    《Applying Deep Learning to Answer Selection: A Study And an Open Task》文章理解小结
    Windows下基于python3使用word2vec训练中文维基百科语料(三)
    Windows下基于python3使用word2vec训练中文维基百科语料(二)
    Java并发编程:CountDownLatch、CyclicBarrier和 Semaphore
    cpu满问题分析
    Zookeeper用来干什么?
  • 原文地址:https://www.cnblogs.com/twodog/p/12139771.html
Copyright © 2011-2022 走看看