zoukankan      html  css  js  c++  java
  • zz``OpenStack Swift组件安装

    https://blog.csdn.net/mirale/article/details/22049219

    今天终于有时间把最近安装Swift的过程整理一下,安装参考了一些资料,这篇博客主要是结合自己的实际把整个过程再回顾一遍,一是坚持写技术文档,二是希望对新手有点帮助。

    如需转载还望注明出处:

    http://blog.csdn.net/mirale/article/details/22049219


    1.swift概述
    swift是openstack项目的重要组成部分,即分布式文件系统,它采用对象存储(object  storage)的方式,每个文件都是一个对象,在swift里存储多份(默认3份)。swift包括2个组成部分,一个是代理服务(proxy),一个是存储服务(storage)。代理服务理解swift内部存储的拓扑逻辑,即一个具体文件位于哪个存储节点的哪个区上。它同时是一个web服务器,通过http或https对外提供REST API服务。客户端只与proxy服务打交道。

    存储服务是负责文件存储的服务,由3个组件组成:account-server、container-server、object-server。其中object-server负责具体的文件存储,container-server包含到每个object的索引,account-server包含到每个container 的索引。所谓container可以理解为通常意义上的目录。这3者的关系图如下: 

                

    swift的存储集群由多个zone构成,所谓zone是指物理上独立的资源,比如一台服务器、一个机架、一个机房,都可以成为一个zone。我们这里采用每台服务器作为一个zone。在swift集群里至少要有5个zone。swift具体的存储单元叫做分区(partition),分区实际上是文件系统里的子目录,每个分区都包含独立的account、container、object服务。数据复制是基于分区的。swift有3个至关重要的rings文件,里面保存了系统的zone、node、device、partitaion信息,在系统上线之初,要手工创建这3个文件。

    如下是Swift架构图:

                     

    2.安装环境
    本测试安装环境的服务器共3台,其中1台作为代理节点,2台作为存储节点。swift默认安装要求要有5个zone,这里受实验条件限制只有2个,但是最后通过测试验证swift部署正常。操作系统为64位的Ubuntu 12.04,目前Swift官方网站上的部署环境为 Ubuntu Server 10.04,但是应该可以在大多数的Linux发行版系统上部署成功。这3台服务器的情况如下:

    IP地址 存储设备 运行服务 配置文件 服务端口
    192.168.1.53 无 proxy proxy-server.conf 8080
    192.168.1.54 /dev/sda5 account container object account-server.conf,container-server.conf,object-server.conf 6002 6001               6000
    192.168.1.55  同上 同上 同上 同上
    对于Storage服务器,要有独立于系统盘的磁盘分区,并且使用XFS文件系统。这一点在给服务器安装系统时就应该做好规划,可以专门分割一个槽(我这就专门分割出/dev/sda5),格式化为XFS文件系统,并挂载在/srv目录下,实际上存储服务器需要的存储目录为/srv/node/sda5,这里先挂在/srv目录上,后面进入系统后再修改挂载目录就很方便了。
    3.安装步骤
       3.1在所有服务器上都执行
           3.1.1 更新系统:apt-get update
           3.1.2 安装系统组件:apt-get install curl gcc memcached rsync sqlite3 xfsprogs git-core python-setuptools
        3.1.3 安装python组件:apt-get install python-coverage python-dev python-nose python-simplejson python-xattr python-eventlet python-greenlet python-pastedeploy python-netifaces python-pip python-dnspython python-mock
        3.1.4 安装swift
          建立安装用户swift:adduser swift

          将swift添加到sudo组方便使用sudo:usermod -a -G sudo swift

          切换到swift用户:su - swift      (此时已经在swift的家目录下)

          下载swift: git clone https://github.com/openstack/swift.git

               安装swift:cd ~/swift;python setup.py install;cd - 

               注意运行上面最后一步时有可能会出现错误,从错误提示中发现要求pip>=1.4,原来我的python包安装程序pip版本只有1.0,所以通过pip来指定安装不低于1.4版本的pip:sudo pip install "pip>=1.4",更新之后再执行上面最后一步就OK了。

            3.1.5 创建配置文件目录:mkdir  /etc/swift;chown -R swift:swift /etc/swift
            3.1.6 创建swift运行目录:mkdir  /var/run/swift;chown swift:swift /var/run/swift    因为/var/run/swift在系统重启后会消失,将这两句加入到/etc/rc.local中exit 0之前,在每次开机时自动完成/var/run/swift目录的创建工作。
       3.2 只在proxy上执行
          3.2.1 在/etc/swift下建立swift.conf文件
                cat>/etc/swift/swift.conf<<EOF

                [swift-hash]

                #random unique strings that can never change (DO NOT LOSE)

                swift_hash_path_prefix=`od -t x8 -N 8 -A n</dev/random`

                swift_hash_path_suffix=`od -t x8 -N 8 -A n</dev/random`

                EOF

                然后将生成的/etc/swift/swift.conf拷贝到每一个storage节点的/etc/swift目录。请注意这个文件至关重要,因为swift的一次性哈希算法,就使用这里的随机字符串作为种子。对于已经在运行的swift集群,该文件不能再次变更。

          3.2.2 在proxy上启动memcached服务,默认配置文件里的Linsten地址要改一下,可被其他服务器访问到。
                perl -pi -e"s/-l 127.0.0.1/-l 192.168.1.53/" /etc/memcached.conf

                重启memcached服务:service memcached restart

          3.2.3 创建proxy-server.conf配置文件:
                 proxy-server配置文件模板参考:http://docs.openstack.org/havana/config-reference/content/proxy-server-conf.html
                 cat>/etc/swift/proxy-server.conf<<EOF

                 [DEFAULT]

                 bind_port=8080

                 workers=8

                 user=swift

             

                 [pipeline:main]

                 pipeline=healthcheck proxy-logging cache tempauth proxy-logging proxy-server

              

                 [app:proxy-server]

                 use=egg:swift#proxy

                 allow_account_management=true

                 account_autocreate=true

                 [filter:proxy-logging]

                 use=egg:swift#proxy_logging

                 [filter:tempauth]

                 use=egg:swift#tempauth

                 user_system_root=testpass .admin http://192.168.1.54:8080/v1/AUTH-system

                 [filter:healthcheck]

                 use=egg:swift#healthcheck

                 [filter:cache]

                 use=egg:swift#memcache

                 memcache_servers=192.168.1.54:11211

                 EOF

                 这里可以指定proxy使用https,但是在产品环境里,不要配置proxy使用SSL,可以在proxy前端的负载均衡器(例如nginx)那里进行SSL终结。workers参数表示工作进程数,推荐配置是跟CPU核心数保持一致。

          3.2.4 创建rings:
                  cd /etc/swift

                  swift-ring-builder account.builder create 8 2 1

                  swift-ring-builder container.builder create 8 2 1

                  swift-ring-builder object.builder create 8 2 1

                  这里的参数比较重要,8代表2的8次方,创建256个分区(前面讲过,swift的存储单元是基于分区的)。分区的数量,应该是swift集群里预计的最大磁盘数量乘以100。我这里只有两个storage node,每台一个硬盘,2*100=200,2^8=256,2^7=128,所以可取8。

                   2代表每个文件存储2份,请注意默认存储为3份,我这里只有两个zone,所以就存储2份了。最后一个1的单位是小时,指分区在1个小时内移动不超过1次。

           3.2.5 执行如下脚本:
                  #!/bin/bash

                  cd /etc/swift

                   swift-ring-builder account.builder   add z1-192.168.1.55:6002/sda5 100

                   swift-ring-builder container.builder add z1-192.168.1.55:6001/sda5 100

                   swift-ring-builder object.builder      add z1-192.168.1.55:6000/sda5 100


                   swift-ring-builder account.builder   add z2-192.168.1.56:6002/sda5 100

                   swift-ring-builder container.builder add z2-192.168.1.56:6001/sda5 100

                   swift-ring-builder object.builder      add z2-192.168.1.56:6000/sda5 100

                   这个过程就是往rings里增加磁盘,最后一个100表示权重,越大越快的磁盘应该使用越高的权重。

               3.2.6 运行如下命令验证配置:
                  swift-ring-builder account.builder

                  swift-ring-builder container.builder

                  swift-ring-builder object.builder

           3.2.7 运行rebalance:
                  swift-ring-builder account.builder rebalance

                  swift-ring-builder container.builder rebalance

                  swift-ring-builder object.builder rebalance

                  这个过程比较久点。

           3.2.8 将上述生成的account.ring.gz, container.ring.gz, object.ring.gz 拷贝到每一个存储节点的/etc/swift目录。
           3.2.9 启动proxy服务:swift-init proxy start
                    查看端口8080状态:netstat -anp | grep 8080

                    如查看到8080端口打开,没有其他报错,表明proxy服务就启动正常。

       3.3只在storage上执行
            3.3.1 如果在安装系统时已经预留出一个XFS文件格式的独立分区并挂载在/srv下(我已预留分区/dev/sda5格式化为XFS并挂在了/srv下)则只需要修改一下挂载点即可:
                     mkdir -p /srv/node/sda5

                     umount /dev/sda5

                     mount /dev/sda5 /srv/node/sda5

                     chown swift:swift /srv/node/sda5

                     chown root:root   /srv/node   注:修改/srv/node的权属为root:root是为了防止存储盘意外卸载时/srv/node文件夹下产生swift的objects。

                     设定开机挂载,修改/etc/fstab中/dev/sda5所在行:

                     /dev/sda5 /srv/node/sda5 xfs noatime,nodiratime,nobarrier,logbufs=8

            3.3.2 创建如下目录
    mkdir -p /var/cache/swift
    chown swift:swift /var/cache/swift
                3.3.3 创建/etc/rsyncd.conf          

    cat >/etc/rsyncd.conf <<EOF
    uid = swift
    gid = swift
    log file = /var/log/rsyncd.log
    pid file = /var/run/rsyncd.pid
    address = $STORAGE_LOCAL_NET_IP #改为所在Storage节点的IP地址

    [account]
    max connections = 2
    path = /srv/node/
    read only = false
    lock file = /var/lock/account.lock

    [container]
    max connections = 2
    path = /srv/node/
    read only = false
    lock file = /var/lock/container.lock

    [object]
    max connections = 2
    path = /srv/node/
    read only = false
    lock file = /var/lock/object.lock
    EOF
            3.3.4 修改/etc/default/rsync文件,将RSYNC_ENABLE=false改成RSYNC_ENABLE=true
    perl -pi -e 's/RSYNC_ENABLE=false/RSYNC_ENABLE=true/' /etc/default/rsync
         3.3.5 启动rsync服务
    service rsync start
           3.3.6 创建/etc/swift/account-server.conf
    cat >/etc/swift/account-server.conf <<EOF
    [DEFAULT]
    bind_ip = $STORAGE_LOCAL_NET_IP #改为所在Storage节点的IP地址

    workers = 2

    [pipeline:main]
    pipeline = account-server

    [app:account-server]
    use = egg:swift#account

    [account-replicator]

    [account-auditor]

    [account-reaper]
    EOF
            3.3.7 创建/etc/swift/container-server.conf
    cat >/etc/swift/container-server.conf <<EOF
    [DEFAULT]
    bind_ip = $STORAGE_LOCAL_NET_IP #改为所在Storage节点的IP地址
    workers = 2

    [pipeline:main]
    pipeline = container-server

    [app:container-server]
    use = egg:swift#container

    [container-replicator]

    [container-updater]

    [container-auditor]

    [container-sync]
    EOF
            3.3.8 创建/etc/swift/object-server.conf
    cat >/etc/swift/object-server.conf <<EOF
    [DEFAULT]
    bind_ip = $STORAGE_LOCAL_NET_IP #改为所在Storage节点的IP地址
    workers = 2

    [pipeline:main]
    pipeline = object-server

    [app:object-server]
    use = egg:swift#object

    [object-replicator]

    [object-updater]

    [object-auditor]
    EOF
            3.3.9 开启存储服务
    swift-init all start
            如果启动过程没有报错,并且6002,6001,6000端口都打开的话,说明storage node上面的部署正常。
    4 测试
       在proxy-server上运行如下命令:

       4.1 获取X-Storage-Url和X-Auth-Token:

    curl -k -v -H 'X-Storage-User: system:root' -H 'X-Storage-Pass: testpass' https://192.168.1.54:8080/auth/v1.0
            正常的话,结果里面包含了X-Storage-Url和X-Auth-Token两个参数
       4.2 根据上述返回的参数执行HEAD命令:

    curl -k -v -H 'X-Auth-Token: <token-from-x-auth-token-above>' <url-from-x-storage-url-above>
        4.3 执行stat命令:

    swift -A https://192.168.1.54:8080/auth/v1.0 -U system:root -K testpass stat
             正常的话返回类似下面的结果:
             Account:AUTH_system

             Containers:1

             Objects:0

             Bytes:0

          Accept_Ranges:bytes

          X-Timestamp:1377152716.51055

          Content-Type:text/plain;charset=utf-8

        4.4 上传两个文件到myfiles这个container

    swift -A https://192.168.1.54:8080/auth/v1.0 -U system:root -K testpass upload myfiles bigfile1.tgz
    swift -A https://192.168.1.54:8080/auth/v1.0 -U system:root -K testpass upload myfiles bigfile2.tgz
        4.5 下载这个container里的所有文件:

    swift -A https://192.168.1.54:8080/auth/v1.0 -U system:root -K testpass download myfiles
         4.6 列出myfiles这个container里的所有文件:

    swift -A https://192.168.1.54:8080/auth/v1.0 -U system:root -K testpass list myfiles
    5 参考
      安装参考:http://docs.openstack.org/developer/swift/howto_installmultinode.html
    ————————————————
    版权声明:本文为CSDN博主「专心走路」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。
    原文链接:https://blog.csdn.net/mirale/article/details/22049219


  • 相关阅读:
    GISer面对创业的困惑
    近期微博吐槽言论存档,涉及“性能优化”、C++陋习等
    HDU 2825 Wireless Password【AC自动机+DP】
    20130809, 微软八月安全补丁提前通知
    终于把3DMAX的MSE搞定了!
    UVA 11464 Even Parity (独特思路)
    [置顶] hdu 4418 高斯消元解方程求期望
    UVA 10652 Board Wrapping
    少儿编程-教育:少儿编程教育
    少儿编程:目录
  • 原文地址:https://www.cnblogs.com/xiaodoujiaohome/p/11597739.html
Copyright © 2011-2022 走看看