CentOS 6.3下部署LVS(NAT)+keepalived实现高性能高可用负载均衡

一、系统环境

实验拓扑：

实验环境：

Vmware 9.01 + Windows 8 x64 企业版+8G内存

虚拟机步骤：

1、安装一台CentOS 6.3 x64主机，内存为1GB,网络为NAT模式，注意检查Vmware中EDIT菜单下Virtual Network Editor中VMnet8

2、 加电，安装系统。基础知识了，不再多说，注意:选择英文而不要选择中文，选择是Basic Server模式，系统名称：LVS-MASTER

3、安装系统后，用root用户登录进去，执行 ifconfig查看下网络情况，发现：

没有看到其物理网卡，我们需要想办法解决它。

 vi /etc/sysconfig/network-scripts/ifcfg-eth0

按下面的样子进行修改之，设置随系统启动，IP为静态地址而不是DHCP，IP地址、掩码、网关、DNS等信息

测试一下PING，看看是不是能PING通BAIDU，对了，为什么上面GATEWAY是192.168.9.2，是因为在虚拟机中VMnet8中指定的IP。

开始克隆多台主机，组成测试环境：

关闭掉主机 init 0,然后在虚拟中右键LVS-MASTER,MANAGER-CLONE，注意选择Create a full clone,机器名输入LVS-BACKUP,大约三十秒时间可以克隆好。

给LVS-BACKUP主机加电，系统正常启动

我们需要做两件事，

一是主机名修改为LVS-BACKUP，这个容易

vi /etc/sysconfig/network

修改 LVS-MASTER为LVS-BACKUP就可以了。然后 reboot一下系统就发现系统名称修改完成了。

 二是修改系统IP

        1、删除 /etc/udev/rules.d/70-persistent-net.rules 后重启机器。70-persistent-net.rules这个文件确定了网卡与MAC地址的绑定，导入已经存在的虚拟机后，但网卡的MAC地址发生了变化，所以导致系统认为网络设备不存在。 

        2、经过这样的处理后eth0还不能正常启动，需要将 /etc/udev/rules.d/70-persistent-net.rules 文件最后的修改"eth1"为"eth0"，

然后将/etc/sysconfig/network-scripts/ifcfg-eth0中的MAC直接删除。

再重启机器，eth0可以正常启动了。

确定执行 ifconfig命令后能看到 eth0设备，然后继续下面的动作： 

vi /etc/sysconfig/network-scripts/ifcfg-eth0

将系统IP修改为192.168.9.202

执行一下 service network restart,现在测试一下ping www.baidu.com，看看是不是能PING通。

重复上面的步骤，将WEB1和WEB2两台主机也克隆完成，IP分别是192.168.9.203,192.168.9.204

网络配置通过了，下面可以使用Securecrt进行网络连接设置了。

=====================================================================================

系统平台：CentOS 6.3

Kernel：2.6.32-279.el6.i686 

查看内核方法：cat /proc/version,为啥重点说明下这里呢？因为下面有个步骤是创建软连接到这个内核的目录上，所以重点说明下为啥下面指定的是这个目录。 

LVS版本：ipvsadm-1.26

keepalived版本：keepalived-1.2.4

三、安装

0、安装LVS前系统需要安装

yum -y install  openssl-devel lftplibnl* popt* libnl* libpopt* gcc*

1、在两台Director Server上分别配置LVS+Keepalived

------------- -------------LVS install --------------------------

cd /usr/src

wget http://www.linuxvirtualserver.org/software/kernel-2.6/ipvsadm-1.26.tar.gz

如果已经创建了软连接，那么删除之: rm /usr/src/linux 注意不能带最后的/，否则无法删除。

ln -s /usr/src/kernels/2.6.32-279.el6.x86_64//usr/src/linux/

tar zxvf ipvsadm-1.26.tar.gz

cd ipvsadm-1.26

make && make install

 Keepalived install -------------

cd ..

wget http://www.keepalived.org/software/keepalived-1.2.4.tar.gz

tar zxvf keepalived-1.2.4.tar.gz

cd keepalived-1.2.4

./configure 

make && make install

######### 将keepalived做成启动服务，方便管理##########

cp /usr/local/etc/rc.d/init.d/keepalived /etc/init.d/

cp /usr/local/etc/sysconfig/keepalived /etc/sysconfig/

mkdir /etc/keepalived/

cp /usr/local/etc/keepalived/keepalived.conf /etc/keepalived/

cp /usr/local/sbin/keepalived /usr/sbin/

service keepalived start  

2、开启路由转发

vi /etc/sysctl.conf 

修改下面的值，从0修改到1： 

net.ipv4.ip_forward = 1

刷新系统变量,使系统文件变更马上生效

sysctl -p

3、配置Keepalived

vi /etc/keepalived/keepalived.conf

输入  

:.,$d 

删除所有内容，在LVS-MASTER中输入以下内容： 

! Configuration File for keepalived
global_defs {
   notification_email {
      king_819@163.com
   }
   notification_email_from king_819@163.com
   smtp_server smtp.163.com
  # smtp_connect_timeout 30
   router_id LVS_DEVEL
}



# VIP1
vrrp_instance VI_1 {
    state MASTER             #备份服务器上将MASTER改为BACKUP
    interface eth0
    lvs_sync_daemon_inteface eth0
    virtual_router_id 51
    priority 100    # 备份服务上将100改为90
    advert_int 5
    authentication {
        auth_type PASS
        auth_pass 1111
    }

    virtual_ipaddress {
　　　　　192.168.9.200
        #(如果有多个VIP，继续换行填写.)
    }
}



virtual_server 192.168.9.200 80 {
    delay_loop 6                  #(每隔10秒查询realserver状态)
    lb_algo wlc                  #(lvs 算法)
    lb_kind DR                  #(Direct Route)
    persistence_timeout 60        #(同一IP的连接60秒内被分配到同一台realserver)
    protocol TCP                #(用TCP协议检查realserver状态)

    real_server 192.168.9.203 80 {
        weight 100               #(权重)
        TCP_CHECK {
        connect_timeout 10       #(10秒无响应超时)
        nb_get_retry 3
        delay_before_retry 3
        connect_port 80
        }
    }

    real_server 192.168.9.204 80 {
        weight 100
        TCP_CHECK {
        connect_timeout 10
        nb_get_retry 3
        delay_before_retry 3
        connect_port 80
        }
     }
}

在LVS-BACKUP中输入以下内容：

! Configuration File for keepalived
global_defs {
   notification_email {
      king_819@163.com
   }

   notification_email_from king_819@163.com
   smtp_server smtp.163.com
  # smtp_connect_timeout 30
   router_id LVS_DEVEL
}



# VIP1
vrrp_instance VI_1 {
    state BACKUP             #备份服务器上将MASTER改为BACKUP
    interface eth0
    lvs_sync_daemon_inteface eth0
    virtual_router_id 51
    priority 90    # 备份服务上将100改为90
    advert_int 5
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
　　　　　192.168.9.200
        #(如果有多个VIP，继续换行填写.)
    }
}



virtual_server 192.168.9.200 80 {
    delay_loop 6                  #(每隔10秒查询realserver状态)
    lb_algo wlc                  #(lvs 算法)
    lb_kind DR                  #(Direct Route)
    persistence_timeout 60        #(同一IP的连接60秒内被分配到同一台realserver)
    protocol TCP                #(用TCP协议检查realserver状态)

    real_server 192.168.9.203 80 {
        weight 100               #(权重)
        TCP_CHECK {
        connect_timeout 10       #(10秒无响应超时)
        nb_get_retry 3
        delay_before_retry 3
        connect_port 80
    }

    real_server 192.168.9.204 80 {
        weight 100
        TCP_CHECK {
        connect_timeout 10
        nb_get_retry 3
        delay_before_retry 3
        connect_port 80
        }

     }

}

配置keepalived自启动

chkconfig  --level 0123456 keepalived on

查看自启动状态

chkconfig --list keepalived

===下面的脚本是在WEB服务器上执行的================================================================================================

在WEB1和WEB2机器上编辑如下文件

vi /root/lvs_real.sh

#!/bin/bash

# description: Config realserver

#Written by : http://kerry.blog.51cto.com

SNS_VIP=192.168.9.200

 

/etc/rc.d/init.d/functions

 

case "$1" in

start)

       /sbin/ifconfig lo:0 $SNS_VIP netmask 255.255.255.255 broadcast $SNS_VIP

       /sbin/route add -host $SNS_VIP dev lo:0

       echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore

       echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce

       echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore

       echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce

       sysctl -p >/dev/null 2>&1

       echo "RealServer Start OK"

 

       ;;

stop)

       /sbin/ifconfig lo:0 down

       /sbin/route del $SNS_VIP >/dev/null 2>&1

       echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore

       echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce

       echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore

       echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce

       echo "RealServer Stoped"

       ;;

*)

       echo "Usage: $0 {start|stop}"

       exit 1

esac

 

exit 0

赋给执行权限 

chmod 755 /etc/rc.d/init.d/functions    别人的配置文档中没这个步骤，我不知道为什么总是说执行到这句时没有权限，所以我添加了执行权限

chmod 755 /root/lvs_real.sh

/root/lvs_real.sh start

添加自动启动

echo “/root/lvs_real.sh start” >> /etc/rc.local

 ================================================================================================

关闭iptables,因为CentOS 6.3 X64默认是开启IPTABLES的，这样我们不方便测试这个实验，所以暂时采用关闭IPTABLES的办法，以后需要时再测试如何使用IPTABLES的规则。

 配置iptables关闭自启动 

chkconfig  --level 0123456 iptables off

查看自启动状态 

chkconfig --list iptables 

将四台机器的IPTABLES全部关闭，防止出现其它问题。

光是这样还是不行的，因为不重启不能停止掉iptables,所以在四台上执行如下命令：

service iptables stop

 ================================================================================================

4、在2台WEBSERVER中分别配置HTTP,这里使用了一个简单的WEB SERVER：HTTPD这个软件包，当然也可以使用APACHE或者TOMCAT。

在192.168.9.203和192.168.9.204上执行如下命令：

yum -y install httpd

cd /var/www/html/

vi index.html

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

192.168.9.203上内容：

<h1>WEB1/192.168.9.203</h1>

192.168.9.204上内容：

<h1>WEB1/192.168.9.204</h1>

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－ 

 /etc/init.d/httpd start

结果发现出错无法启动：

我们修改一下： 

vi /etc/httpd/conf/httpd.conf

ServerName www.example.com:80

再次启动：

 /etc/init.d/httpd restart  

设定开机启动httpd

chkconfig  --level 0123456 httpd on

另一台机器配置一样，过程略。

在两台LVS服务器上都要启动keepalvied，这点十分重要，否则不能正常查看到下面的界面： 

service keepalived restart

四、测试

####高可用性测试####

模拟故障，将CentOS-LVS_MASTER上的keepalived服务停掉，然后观察CentOS-LVS_BACKUP上的日志，信息如下

从日志中可知，主机出现故障后，备机立刻检测到，此时备机变为MASTER角色，并且接管了主机的虚拟IP资源，最后将虚拟IP绑定在etho设备上。

将CentOS-LVS_MASTER 上的keepalived服务开启后，CentOS-LVS_BACKUP的日志状态。

从日志可知，备机在检测到主机重新恢复正常后，释放了虚拟IP资源重新成为BACKUP角色

####故障切换测试####

故障切换是测试当某个节点出现故障后，Keepalived监制模块是否能及时发现然后屏蔽故障节点，同时将服务器转移到正常节点来执行。

将WEB2节点服务停掉，假设这个节点出现故障，然后主、备机日志信息如下

从以上可以看出，Keepalived监控模块检测到192.168.9.204这台主机出现故障后，将WEB2从集群系统中剔除掉了。 此时访问http://192.168.9.200只能看到WEB1了)

重新启动WEB2节点的服务，日志信息如下：

Keepalived监控模块检测到192.168.9.204这台主机恢复正常后，又将此节点加入集群系统中，再次访问就可以访问到WEB2页面了）

 ============================================================================================== 

 参考文档：

http://blog.csdn.net/winsonyuan/article/details/7069884