LVS+KeepAlived集群
一.KeepAlived的原理
1.1基于什么协议
KeepAlived基于VRRP热备份协议
# VRRP协议号112
# VRRP组播地址224.0.0.18
# VRRP通告报文的TTL值必须是255
1.2如何选举Master
1)初始化时根据state判断master和backup。
2)最终根据优先级决定master和backup
1.2如何生成VIP
master服务器会根据IP命令生成一个VIP
1.3如何实现故障切换
1)master服务器会定时发送报文给backup服务器,报告存活状态
2)当backup服务器监听时在超时时间内无法正常收到master服务器发送的报文时,backup服务器就会抢占master服务器角色成为master开始工作,并生成VIP地址。
1.4抢占模式和非抢占模式是如何工作的?
抢占模式
当master服务器恢复正常时,VIP会重新回到master服务器上,backup服务器会在进入休眠状态,监听master。
非抢占模式
当master服务器恢复正常后,VIP不会回到master服务器上,VIP地址还是工作做backup服务器上。
1.5如何配置非抢占模式
1)state全部设置为BACKUP
2)添加配置参数nopreempt
1.6什么是脑裂现象
master和backup都有VIP地址,都自认为自己是master服务器
1.7脑裂现象产生原因
mater服务器和backup服务器之间通信链路出现故障,backup服务器无法收到master服务器的VIP报文,误认为master服务器出现故障,把自己提升为master服务器生成VIP地址。
1.7脑裂的解决办法
第一时间关闭主备服务器中任意一台中的KeepAlived的服务。
1.8如何预防脑裂的发生
1)主备服务器之间多增加一条通信链路,减少因硬件原因产生脑裂现象的概率。
2)在主服务器上编写脚本,时刻监听主备服务器之间的通信是否正常,当通信中断后第一时间,关闭主服务器上的KeepAlived服务。
3)通过第三方监控软件,监听主备服务器之间的通信链路状态和主备服务器是否都有VIP地址,如果通信断开或者主备服务器上都有VIP地址,第一时间关闭主服务器上的KeepAlived服务。
1.9如何健康检查调度器和节点服务器?
调度器检查
LVS是基于内核开发的,因此系统不崩溃的情况下,不会出现问题。
nginx作为调度器时,需要在keepalived的配置文件中添加运行监控nginx的脚本,时刻nginx的服务状态,当nginx服务关闭时,第一件事情关闭keepalived服务;或者可以在脚本添加重启nginx服务。
节点服务器检查
1)通过tcp端口的三次握手情况,三次握手正常,证明节点服务器工作正常。
2)通过http的get请求方法检查,当返回的响应状态码为2xx,3xx即为正常;当返回的响应状态码为4xx,5xx即为异常。
1.10Keepalived体系主要模块及其作用
keepalived体系架构中主要有三个模块,分别是core、check和vrrp。
●core模块:为keepalived的核心,负责主进程的启动、维护及全局配置文件的加载和解析。
●vrrp模块:是来实现VRRP协议的。(调度器之间的健康检查和主备切换)
●check模块:负责健康检查,常见的方式有端口检查及URL检查。(节点服务器的健康检查)
二.LVS+KeepAlived集群部署
2.1实验部署
2.2实验操作
2.2.1web服务器安装
关闭防火墙
安装httpd服务,提供页面
在回环网卡的虚接口上配置VIP ,添加路由转发规则
修改内核参数
systemctl stop firewalld
setenforce 0
yum -y install httpd
systemctl start httpd
--192.168.111.40---
echo 'this is 192.168.111.45 httpd service' > /var/www/html/index.html
--192.168.111.50---
echo 'this is 192.168.111.40 httpd service' > /var/www/html/index.html
vim /etc/sysconfig/network-scripts/ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.111.168
NETMASK=255.255.255.255
service network restart 或 systemctl restart network
ifup lo:0
ifconfig lo:0
route add -host 192.168.111.168 dev lo:0
vim /etc/sysctl.conf
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
sysctl -p
2.2.2主备服务器配置
关闭防火墙
安装keepalived ipvsadm 服务
加载内核模块
修改keepalived配置文件
启动ipvsadm 服务
修改内核配置参数
1.配置负载调度器(主、备相同)
systemctl stop firewalld.service
setenforce 0
yum -y install ipvsadm keepalived
modprobe ip_vs
cat /proc/net/ip_vs
(1)配置keeplived(主、备DR 服务器上都要设置)
cd /etc/keepalived/
cp keepalived.conf keepalived.conf.bak
vim keepalived.conf
......
global_defs { #定义全局参数
--10行--修改,邮件服务指向本地
smtp_server 127.0.0.1
--12行--修改,指定服务器(路由器)的名称,主备服务器名称须不同,主为LVS_01,备为LVS_02
router_id LVS_01
--14行--注释掉,取消严格遵守VRRP协议功能,否则VIP无法被连接
#vrrp_strict
}
vrrp_instance VI_1 { #定义VRRP热备实例参数
--20行--修改,指定热备状态,主为MASTER,备为BACKUP
state MASTER
--21行--修改,指定承载vip地址的物理接口
interface ens33
--22行--修改,指定虚拟路由器的ID号,每个热备组保持一致
virtual_router_id 10
#nopreempt #如果设置非抢占模式,两个节点state必须为BACKUP,并加上配置 nopreempt
--23行--修改,指定优先级,数值越大优先级越高,这里设置主为100,备为90
priority 100
advert_int 1 #通告间隔秒数(心跳频率)
authentication { #定义认证信息,每个热备组保持一致
auth_type PASS #认证类型
--27行--修改,指定验证密码,主备服务器保持一致
auth_pass abc123
}
virtual_ipaddress { #指定群集vip地址
192.168.111.168
}
}
--36行--修改,指定虚拟服务器地址(VIP)、端口,定义虚拟服务器和Web服务器池参数
virtual_server 192.168.111.168 80 {
delay_loop 6 #健康检查的间隔时间(秒)
lb_algo rr #指定调度算法,轮询(rr)
--39行--修改,指定群集工作模式,直接路由(DR)
lb_kind DR
persistence_timeout 0 #连接保持时间(秒)
protocol TCP #应用服务采用的是 TCP协议
--43行--修改,指定第一个Web节点的地址、端口
real_server 192.168.111.10 80 {
weight 1 #节点的权重
--45行--删除,添加以下健康检查方式
TCP_CHECK {
connect_port 80 #添加检查的目标端口
connect_timeout 3 #添加连接超时(秒)
nb_get_retry 3 #添加重试次数
delay_before_retry 3 #添加重试间隔
}
}
real_server 192.168.111.30 80 { #添加第二个 Web节点的地址、端口
weight 1
TCP_CHECK {
connect_port 80
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
##删除后面多余的配置##
}
systemctl start keepalived
ip addr #查看虚拟网卡vip
(2)启动 ipvsadm 服务
--192.168.111.10---
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm
ipvsadm -ln
#如没有VIP 的分发策略,则重启 keepalived 服务,systemctl restart keepalived
--192.168.111.30---
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm
ipvsadm -ln
(3)调整 proc 响应参数,关闭Linux 内核的重定向参数响应
vim /etc/sysctl.conf
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
sysctl -p
主服务器正常工作
停止主服务器工作,VIP转移到备服务器
三.Nginx+KeepAlived高可用部署
3.1实验部署
3.2实验过程
两台虚拟机
主服务器:192.168.111.40
备服务器:192.168.111.45
关闭防火墙
yum 安装nginx及keepalived软件
在添加ngixn服务静态页面有所区别
echo "this is 192.168.111.40 nginx web" >index.html
echo "this is 192.168.111.45 nginx web" >index.html
修改主服务器的keepalived 的配置文件
检测nginx服务的脚本
vrrp_script chk_http_port {
script "/usr/local/src/check_nginx_pid.sh" #心跳执行的脚本,检测nginx是否启动
interval 2 #(检测脚本执行的间隔,单位是秒)
weight 2 #权重
}
#vrrp 实例定义部分
vrrp_instance VI_1 {
state MASTER # 指定keepalived的角色,MASTER为主,BACKUP为备
interface ens33 # 当前进行vrrp通讯的网络接口卡(当前centos的网卡) 用ifconfig查看你具体的网卡
virtual_router_id 66 # 虚拟路由编号,主从要一直
priority 100 # 优先级,数值越大,获取处理请求的优先级越高
advert_int 1 # 检查间隔,默认为1s(vrrp组播周期秒数)
#授权访问
authentication {
auth_type PASS #设置验证类型和密码,MASTER和BACKUP必须使用相同的密码才能正常通信
auth_pass 1111
}
track_script {
chk_http_port #(调用检测脚本)
}
virtual_ipaddress {
192.168.111.188 # 定义虚拟ip(VIP),可多设,每行一个
}
}
修改备服务器的keepalived配置文件
#检测脚本
vrrp_script chk_http_port {
script "/usr/local/src/check_nginx_pid.sh" #心跳执行的脚本,检测nginx是否启动
interval 2 #(检测脚本执行的间隔)
weight 2 #权重
}
#vrrp 实例定义部分
vrrp_instance VI_1 {
state BACKUP # 指定keepalived的角色,MASTER为主,BACKUP为备
interface ens33 # 当前进行vrrp通讯的网络接口卡(当前centos的网卡) 用ifconfig查看你具体的网卡
virtual_router_id 66 # 虚拟路由编号,主从要一直
priority 99 # 优先级,数值越大,获取处理请求的优先级越高
advert_int 1 # 检查间隔,默认为1s(vrrp组播周期秒数)
#授权访问
authentication {
auth_type PASS #设置验证类型和密码,MASTER和BACKUP必须使用相同的密码才能正常通信
auth_pass 1111
}
track_script {
chk_http_port #(调用检测脚本)
}
virtual_ipaddress {
192.168.111.168 # 定义虚拟ip(VIP),可多设,每行一个
}
}
设置监控nginx服务的脚本
#!/bin/bash
#检测nginx是否启动了
A=`ps -C nginx --no-header |wc -l`
if [ $A -eq 0 ];then #如果nginx没有启动就启动nginx
systemctl start nginx #重启nginx
if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then #nginx重启失败,则停掉keepalived服务,进行VIP转移
killall keepalived
fi
fi
脚本授权:chmod 775 check_nginx_pid.sh
3.3实验结果验证
正常情况下主服务器提供nginx服务
切断主服务器nginx服务同时停止keepalived服务