zoukankan      html  css  js  c++  java
  • [转]安装ambari

    一、准备工作:

    基本工具

    yum
    rpm
    scp
    curl
    wget
    pdsh
    前几个一般系统都自带了,pdsh需要自己装
    [plain] view plain copy
     
    1. yum install pdsh  

    2、配置hosts

    vim /etc/hosts

    [plain] view plain copy
     
    1. 10.*.*.120  master master.hadoop.test  
    2. 10.*.*.121  dn1 dn1.hadoop.test  
    3. 10.*.*.122  dn2 dn2.hadoop.test  
    4. 10.*.*.123  dn3 dn3.hadoop.test  
    3、配置ssh免登录

    选定master.Hadoop.test作为ambari server,需要配置该节点到其它节点的ssh免登录

    [plain] view plain copy
     
    1. cd ~  
    2. ssh-keygen  

    一直按回车,会生成默认的公钥和私钥
    [sql] view plain copy
     
    1. .ssh/id_rsa  
    2. .ssh/id_rsa.pub  
    执行
    [plain] view plain copy
     
    1. chmod 700 ~/.ssh  
    2. chmod 600 ~/.ssh/authorized_keys  

    配置本地的免登录
    [plain] view plain copy
     
    1. cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys  

    配置其它节点的免登陆
    [plain] view plain copy
     
    1. scp ~/.ssh/authorized_keys dn1:/root/.ssh/  
    2. scp ~/.ssh/authorized_keys dn2:/root/.ssh/  
    3. scp ~/.ssh/authorized_keys dn3:/root/.ssh/  

    将私钥从master上下载下来,配置ambari agent时会用到
    [plain] view plain copy
     
    1. .ssh/id_rsa  

    同步集群的时间(ntp)

    其它

    [plain] view plain copy
     
    1. setenforce 0  
    2. chkconfig iptables off  
    3. /etc/init.d/iptables stop  
    4. umask 022  

    Disable PackageKit

    [plain] view plain copy
     
    1. vim /etc/yum/pluginconf.d/refresh-packagekit.conf  

    将内容改为enabled=0

    二、安装Ambari Server

    添加yum资源库

    [plain] view plain copy
     
    1. wget http://public-repo-1.hortonworks.com/ambari/centos6/1.x/updates/1.2.4.9/ambari.repo  
    2. cp ambari.repo /etc/yum.repos.d  
    3. yum install epel-release  
    由于公司安全机制,这个地方可能不会安装成功
    [plain] view plain copy
     
    1. yum repolist  
    看下有没有
    [plain] view plain copy
     
    1. repo id                repo name                                            
    2. AMBARI-1.x           | Ambari 1.x                                        
    3. HDP-UTILS-1.1.0.15   | Hortonworks Data Platform Utils Version - HDP-UT     
    4. epel                 | Extra Packages for Enterprise Linux 6 - x86_64  
    如果有的话,就可以开始安装了
    [plain] view plain copy
     
    1. yum install ambari-server  

    实验证明,网速巨慢,耐心。。。
    等待安装完成后
    [plain] view plain copy
     

     

      1##指定JAVA_HOME ambari-server setup -j /usr/java/default  ##不指定JAVA_HOME执行 ambari-server setup

    会提示安装jdk,网速好的可以确定,否则可以下载jdk-6u31-linux-x64.bin,放到/var/lib/ambari-server/resources/下面
    接着会提示配置用的数据库,可以选择Oracle或postgresql,选择n会按默认配置
    数据库类型:postgresql
    数据库:ambari
    用户名:ambari
    密码:bigdata
    如果提示Oracle JDK license,yes
    等待安装完成
    启动Ambari Server
    [plain] view plain copy
     
    1. ambari-server start  
    然后访问:http://master:8080
    不出意外的话就安装完成了
    用户名/密码:admin/admin

    三、配置Ambari

    给集群起个名字

    选择HDP的版本

    配置Agent:

    不支持ip,输入hosts

    选择ssh私钥,选择第一步生成的id_rsa

    等待配置完成,然后选择服务,等待安装完成

    PS:

      下面是离线安装yum源

    生产中的hadoop集群机器都很多,而且基本都不允许连接公网,为方便快速部署,非常有必要建立一个本地Repository,下面详细介绍建立过程。

    主要资源:

      • CentOS 6.5 x86_64 镜像
      • Ambari-1.5.1
      • HDP-2.1
      • HDP-UTILS-1.1.0.17

    一、安装基本软件并配置:

    yum install yum-utils createrepo yum-plugin-priorities

    yum install httpd

    编辑/etc/yum/pluginconf.d/priorities.conf,修改为如下:

    [main]
    enabled=1
    gpgcheck=0

    如果安装了PackageKit,还需修改/etc/yum/pluginconf.d/refresh-packagekit.conf为如下:

    enabled=0

    设置httpd:

    chkconfig httpd on

    service httpd start

    二、下载主要资源并配置:

    资源下载主要有两种方式:

    2.1 直接下载(推荐):

    采用P2P下载工具(如迅雷等)下载上述主要资源的完整包,再上传到本地源服务器进行部署的方式是最快的,因为迅雷等下载工具下载上述资源要比直接同步快很多。各资源主要路径如下:

    CenOS最新镜像下载点:

    http://isoredirect.centos.org/centos/6/isos/x86_64/

    下载后挂载,并拷贝所有内容到/var/www/html/centos65

    mount -o loop /tmp/CentOS-6.5-x86_64-bin-DVD1.iso  /media

    cp  -r /media /var/www/html/centos65

    umount /media

    下载拷贝HDP-2.1和HDP-UTILS-1.1.0.17并解压到/var/www/html/hdp
    http://public-repo-1.hortonworks.com/HDP/centos6/2.x/GA/2.1-latest/HDP-2.1-latest-centos6-rpm.tar.gz
    http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.17/repos/centos6/HDP-UTILS-1.1.0.17-centos6.tar.gz

    tar xf HDP-2.1-latest-centos6-rpm.tar.gz –C /var/www/html/hdp

    tar xf HDP-UTILS-1.1.0.17-centos6.tar.gz –C /var/www/html/hdp

    拷贝Ambari-1.5.1并解压到/var/www/ambari
    http://public-repo-1.hortonworks.com/ambari/centos6/ambari-1.5.1-centos6.tar.gz

    tar xf ambari-1.5.1-centos6.tar.gz –C /var/www/html/ambari

    完成后结构如下:

    [root@yum html]# tree -L 2
    .
    ├── ambari
    │   └── centos6
    ├── centos65
    │   ├── CentOS_BuildTag
    │   ├── EFI
    │   ├── EULA
    │   ├── GPL
    │   ├── images
    │   ├── isolinux
    │   ├── Packages
    │   ├── RELEASE-NOTES-en-US.html
    │   ├── repodata
    │   ├── RPM-GPG-KEY-CentOS-6
    │   ├── RPM-GPG-KEY-CentOS-Debug-6
    │   ├── RPM-GPG-KEY-CentOS-Security-6
    │   ├── RPM-GPG-KEY-CentOS-Testing-6
    │   └── TRANS.TBL
    └── hdp
    ├── HDP
    └── HDP-UTILS-1.1.0.17

    [root@yum html]# tree ambari hdp -L 4
    ambari
    └── centos6
    └── 1.x
    └── updates
    └── 1.5.1
    hdp
    ├── HDP
    │   └── centos6
    │       └── 2.x
    │           └── updates
    └── HDP-UTILS-1.1.0.17
    └── repos
    └── centos6
    ├── epel-release-6-8.noarch.rpm
    ├── extjs
    ├── fping
    ├── ganglia
    ├── hadoop-lzo
    ├── hdp-util.repo
    ├── libconfuse
    ├── lzo
    ├── mysql-connector-java
    ├── nagios
    ├── nagios-plugins
    ├── pdsh
    ├── perl
    ├── puppet
    ├── repodata
    ├── RPM-GPG-KEY
    ├── rrdtool
    └── snappy

    27 directories, 2 files
    [root@yum html]# tree ambari hdp -L 5
    ambari
    └── centos6
    └── 1.x
    └── updates
    └── 1.5.1
    hdp
    ├── HDP
    │   └── centos6
    │       └── 2.x
    │           └── updates
    │               └── 2.1.2.0
    └── HDP-UTILS-1.1.0.17
    └── repos
    └── centos6

    2.2 采用reposync直接同步公共源(不推荐,如果用了2.1的方法,就不需要这一步):

    对于CentOS的Repo源,建议采用国内的搜狐或163等,速度最快,如下:

    wget http://mirrors.163.com/.help/CentOS-Base-163.repo -O  /etc/yum.repos.d/CentOS-Base-163.repo

    wget http://public-repo-1.hortonworks.com/ambari/centos6/1.x/updates/1.5.1/ambari.repo -O /etc/yum.repos.d/ambari.repo

    wget http://public-repo-1.hortonworks.com/HDP/centos6/2.x/GA/2.1-latest/hdp.repo -O /etc/yum.repos.d/hdp.repo

    查看当前源中有的repo列表:

    yum repolist

    同步Ambari:

    cd /var/www/html

    mkdir -p ambari/centos6
    cd ambari/centos6
    reposync -r Updates-ambari-1.5.1

    同步HDP:

    mkdir -p hdp/centos6
    cd hdp/centos6
    reposync -r HDP-2.1.2.0
    reposync -r HDP-UTILS-1.1.0.17

    注意:HDP有2.1GB大,下载非常慢,需要长时间等待。

    创建repo(根据实际路径配置,有可能不一样):

    createrepo /var/www/html/ambari/centos6/Updates-ambari-1.5.1

    createrepo /var/www/html/hdp/centos6/HDP-2.1.2.0

    createrepo /var/www/html/hdp/centos6/HDP-UTILS-1.1.0.17

    创建完成后,就可以通过web路径访问测试了(路径可能不同):

    image

    三、配置本地repo文件:

    我的本地repo配置文件如下:

    [CentOS6-Media]
    name=CentOS6-Media
    baseurl=http://172.18.8.200/centos65
    gpgcheck=1
    enabled=1
    gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6

    [Ambari-1.5.1]
    name=Ambari-1.5.1
    baseurl=http://172.18.8.200/ambari/centos6/1.x/updates/1.5.1
    gpgcheck=0
    enabled=1

    [HDP-2.1.2.0]
    name=HDP-2.1.2.0
    baseurl=http://172.18.8.200/hdp/HDP/centos6/2.x/updates/2.1.2.0
    gpgcheck=0
    enabled=1

    [HDP-UTILS-1.1.0.17]
    name=HDP-UTILS-1.1.0.17
    baseurl=http://172.18.8.200/hdp/HDP-UTILS-1.1.0.17/repos/centos6
    gpgcheck=0
    enabled=1

    配置好后,即可移除所有节点的本地原来的repo文件,使用本地repo源进行安装centos自带软件、ambari、hdp(包含所有hadoop软件)了。

    个人博客地址:http://julyme.com

    博文地址:http://julyme.com/c/Ambari的安装教程

  • 相关阅读:
    php数组
    php 函数
    数据库操作
    PHP基础
    mysql常用函数
    10.25 (下午) 开课一个月零二十一天(抽象)
    10.25 (上午) 开课一个月零二十一天 (继承多态)
    10.24 (下午) 开课一个月零二十天 (封装)
    10.24 (上午) 开课一个月零二十天 (面向对象)
    10.23 开课一个月零十九天 (PHP数组)
  • 原文地址:https://www.cnblogs.com/julyme/p/5640176.html
Copyright © 2011-2022 走看看