zoukankan      html  css  js  c++  java
  • Hadoop 管理工具HUE配置

    机器环境

    Ubuntu 14.10 64位 || OpenJDK-7 || Scala-2.10.4

    机群概况

    Hadoop-2.6.0 || HBase-1.0.0 || Spark-1.2.0 || Zookeeper-3.4.6 || hue-3.8.1

    Hue简介(简单介绍):

    ue是一个开源的Apache Hadoop UI系统,最早是由Cloudera Desktop演化而来,由Cloudera贡献给开源社区,它是基于Python Web框架Django实现的。通过使用Hue我们可以在浏览器端的Web控制台上与Hadoop集群进行交互来分析处理数据,例如操作HDFS上的数据,运行MapReduce Job等等。很早以前就听说过Hue的便利与强大,一直没能亲自尝试使用,下面先通过官网给出的特性,通过翻译原文简单了解一下Hue所支持的功能特性集合:

    • 默认基于轻量级sqlite数据库管理会话数据,用户认证和授权,可以自定义为MySQL、Postgresql,以及Oracle
    • 基于文件浏览器(File Browser)访问HDFS
    • 基于Hive编辑器来开发和运行Hive查询
    • 支持基于Solr进行搜索的应用,并提供可视化的数据视图,以及仪表板(Dashboard)
    • 支持基于Impala的应用进行交互式查询
    • 支持Spark编辑器和仪表板(Dashboard)
    • 支持Pig编辑器,并能够提交脚本任务
    • 支持Oozie编辑器,可以通过仪表板提交和监控Workflow、Coordinator和Bundle
    • 支持HBase浏览器,能够可视化数据、查询数据、修改HBase表
    • 支持Metastore浏览器,可以访问Hive的元数据,以及HCatalog
    • 支持Job浏览器,能够访问MapReduce Job(MR1/MR2-YARN)
    • 支持Job设计器,能够创建MapReduce/Streaming/Java Job
    • 支持Sqoop 2编辑器和仪表板(Dashboard)
    • 支持ZooKeeper浏览器和编辑器
    • 支持MySql、PostGresql、Sqlite和Oracle数据库查询编辑器

    1 Hue安装(参考官网:http://gethue.com/how-to-build-hue-on-ubuntu-14-04-trusty/)

    1.1 在git上下载HUE源码或者在它的官网下载(如果已经安装git可省略第一步)

    sudo apt-get install git
    
    git clone https://github.com/cloudera/hue.git

    1.2 需要安装一些依赖的软件包

    官网给出了一些,如果环境不一样,灵活调整,GIT上面给出的依赖文件列表:https://github.com/cloudera/hue | Development Prerequisites

    sudo apt-get install python2.7-dev 
    make 
    libkrb5-dev 
    libxml2-dev 
    libxslt-dev 
    libsqlite3-dev 
    libssl-dev 
    libldap2-dev 
    python-pip

    1.3 因为需要用maven编译,所以需要安装maven,最好是去官网下载maven安装包,3.0以上

    1.4 编译Hue

    make apps

    说明:我在编译的时候出现了两种错误,一是找不到某些文件,这种情况下,需要检查一下是否是少了某一依赖没有安装;二是下载jar包失败,这种情况下,重新make apps,多试几次,在经历了两三天的折腾下,终于编译好了,同时http://gethue.com/how-to-build-hue-on-ubuntu-14-04-trusty/这里面有些回帖,可能问题就和你的一样,我的一个问题就是在别人发的帖子中找到的答案。

    发部分错误只要根据关键字在网上都能找到答案,很麻烦,但是一般都能解决。

    1.5 启动HUE服务

    启动之后能进入http://127.0.0.1:8000/ 就说明安装好了,后面还需要进行很多配置。这里需要说明一下,下面的第一个命令是启动development式,只能在本机使用,也就是只能用127.0.0.1:8000打开,如果想要使用生产环境,那么用第二个命令打开,访问http://IP或域名:8000

    ./build/env/bin/hue runserver
    ./build/env/bin/supervisor

     

    2 一个在线的HUE Demo,可以先体验下

    http://demo.gethue.com/

    3 HUE安装常见问题及解决办法

    http://my.oschina.net/cwalet/blog/288336

    -------------------------------------------------------------------------------------------------------------------------------------------

    参考:

    http://gethue.com/

    https://github.com/cloudera/hue

    http://cloudera.github.io/hue/docs-3.8.0/manual.html

    http://docs.hortonworks.com/HDPDocuments/HDP1/HDP-1.3.2/bk_installing_manually_book/content/rpm-chap-hue-2.html

    http://ju.outofmemory.cn/entry/105162

    http://itindex.net/detail/52831-hue

    http://www.tuicool.com/articles/zIrqemB

    http://blog.csdn.net/nsrainbow/article/details/43677077

    http://www.cloudera.com/content/cloudera/en/documentation/core/latest/topics/cdh_ig_hue_config.html

  • 相关阅读:
    WP7 操作XML文件
    C#和C/C++指针实现swap交换
    感受
    我学到了什么 我思考了什么.
    hdu 2768 Cat vs. Dog (最大独立)
    hdu 1960 Taxi Cab Scheme (最小覆盖)
    hdu 1528 Card Game Cheater (最小覆盖)
    hdu 4160 Dolls (最大独立)
    hdu 2458 Kindergarten (最大独立集)
    hdu 2119 Matrix (最小覆盖)
  • 原文地址:https://www.cnblogs.com/liuchangchun/p/4656458.html
Copyright © 2011-2022 走看看