Keepalived工具介绍
普通集群容易出现的问题
企业应用中,单台服务器承担应用存在单点故障的危险。
单点故障一旦发生, 企业服务将发生中断,造成极大的危害。
Keepalived工具
Keepalived 是一个基于VRRP协议来实现的LVS服务高可用方案,可以解决静态路由出现的单点故障问题。
Keepalived是专为LVS和HA设计的一款健康检查工具:
-
支持故障自动切换(Failover)
-
支持节点健康状态检查(Health Checking)
-
判断LVS负载调度器、节点服务器的可用性,当master主机出现故障及时切换到backup节点保证业务正常,当master故障主机恢复后将其重新加入群集并且业务重新切换回master节点。
-
Keepalived实现原理剖析
Keepalived采用VRRP热备份协议
Keepalived采用VRRP热备份协议实现Linux服务器的多机热备功能。
VRRP(虚拟路由冗余协议)是针对路由器的一种备份解决方案:
-
由多台路由器组成一个热备组,通过共用的虚拟IP地址对外提供服务。
-
每个热备组内同时只有一台主路由器提供服务,其他路由器处于冗余状态。
-
若当前在线的路由器失效,则其他路由器会根据设置的优先级自动接替虚拟IP地址,继续提供服务。
-
在配置时设置优先级,优先级高的那一方为master。master节点承载着VIP地址。
Keepalived多机热备
Keepalived可实现多机热备,每个热备组可有多台服务器。(由于服务器的成本较高,一般使用2~3台服务器做热备组,大部分公司都是1主1备两台服务器)
双机热备的故障切换是由虚拟IP地址的漂移来实现,适用于各种应用服务器。
Keepalived工作原理
在一个LVS服务集群中通常有主服务器(MASTER)和备份服务器(BACKUP)两种角色的服务器,但是对外表现为一个虚拟IP,主服务器会发送VRRP通告信息给备份服务器,当备份服务器收不到VRRP消息的时候,即主服务器异常的时候,备份服务器就会接管虚拟IP,继续提供服务,从而保证了高可用性。
- 主服务器作用:转发数据;发送报文告诉备服务器自己在线。
- 备服务器作用:监听主服务器发来的数据;收不到消息的时候就接替主服务器。
Keepalived体系主要模块
keepalived体系架构中主要有三个模块,分别是core、check和vrrp。
- core模块:为keepalived的核心,负责主进程的启动、维护及全局配置文件的加载和解析。
- vrrp模块:是来实现VRRP协议的。
- check模块:# LVS-DR模式+keepalived 高可用集群部署负责健康检查,常见的方式有端口检查及URL检查。
LVS-DR模式+keepalived 高可用集群部署
实验环境
主DR调度服务器 192.168.137.10
备DR调度服务器 192.168.137.15
NFS服务器 192.168.137.20
web1服务器 192.168.137.30
web2服务器 192.168.137.40
VIP 192.168.137.188
客户端 192.168.137.100
配置NFS服务器 192.168.137.20
#关闭防火墙
systemctl stop firewalld.service
setenforce 0
#安装nfs服务
yum install nfs-utils rpcbind -y
cd /opt/
#创建共享目录
mkdir nfs
cd nfs/
mkdir cxk rap
echo "ji ni tai mei" >cxk/index.html
echo "lv shi han jing gao" >rap/index.html
#添加权限
chmod 777 *
#共享策略
vim /etc/exports
-------------------------------------------
/opt/nfs/cxk 192.168.137.0/24(rw,sync,no_root_squash)
/opt/nfs/rap 192.168.137.0/24(rw,sync,no_root_squash)
#开启服务发布共享
systemctl start rpcbind
systemctl start nfs
systemctl enable nfs
#查看共享策略
showmount -e
配置192.168.137.30 web1 服务器
#关闭防火墙
systemctl stop firewalld.service
setenforce 0
#查看NFS服务器共享策略
showmount -e 192.168.137.20
#安装apache服务
yum install httpd -y
#挂载共享目录
mount 192.168.137.20:/opt/nfs/my /var/www/html/
df -h
cd /var/www/html/
cat index.html
#重启服务
systemctl restart httpd.service
输入网址测试
#配置网关
cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0
vim ifcfg-lo:0
-------------------------------------------------------------
DEVICE=lo:0
IPADDR=192.168.137.188
NETMASK=255.255.255.255
# If you're having problems with gated making 127.0.0.0/8 a martian,
# you can change this to something else (255.255.255.255, for example)
---------------------------------------------------------------------------
#重启网卡
systemctl restart network
ifconfig
#设置路由
route add -host 192.168.137.188 dev lo:0
route -n
#将设置路由命令添加到开机执行配置文件内相当于开机自启并给配置文件添加执行权限
vim /etc/rc.d/rc.local
-----------------------------------------------
#!/bin/bash
# THIS FILE IS ADDED FOR COMPATIBILITY PURPOSES
#
# It is highly advisable to create own systemd services or udev rules
# to run scripts during boot instead of using this file.
#
/usr/sbin/route add -host 192.168.52.188 dev lo:0
---------------------------------------------------
chmod +x /etc/rc.d/rc.local
#调整 proc 响应参数
#添加系统只响应目的IP为本地IP的ARP请求
#系统不使用原地址来设置ARP请求的源地址,而是物理mac地址上的IP
vim /etc/sysctl.conf
-------------------------------------------
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
-----------------------------------------
sysctl -p
#开启web服务
systemctl restart httpd
关闭防火墙 selinux
安装apache服务
挂载
重启服务并输入IP地址查看
配置网关
设置路由
开机执行命令
调整proc响应参数
重启服务
配置192.168.137.40 web2 服务器
#关闭防火墙
systemctl stop firewalld.service
setenforce 0
#查看NFS服务器共享策略
showmount -e 192.168.137.20
#安装apache服务
yum install httpd -y
#挂载共享目录
mount 192.168.137.110:/opt/nfs/rap /var/www/html/
df -h
cd /var/www/html/
cat index.html
#重启服务
systemctl restart httpd.service
输入网址测试
#配置网关
#此地址仅用作发送We响应数据包的源地址,并不需要监听客户机的访问请求(改由调度器监听并分发)。
#因此使用虚接口lo:0来承载VIP地址,并为本机添加一条路由记录,将访问VIP的数据限制在本地,以避免通信紊乱。
cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0
vim ifcfg-lo:0
-------------------------------------------------------------
DEVICE=lo:0
IPADDR=192.168.137.188
NETMASK=255.255.255.255 #必须全为1
# If you're having problems with gated making 127.0.0.0/8 a martian,
# you can change this to something else (255.255.255.255, for example)
---------------------------------------------------------------------------
重启网卡
systemctl restart network
ifconfig
#设置路由
route add -host 192.168.137.188 dev lo:0
route -n
#将设置路由命令添加到开机执行配置文件内相当于开机自启并给配置文件添加执行权限
vim /etc/rc.d/rc.local
-----------------------------------------------
#!/bin/bash
# THIS FILE IS ADDED FOR COMPATIBILITY PURPOSES
#
# It is highly advisable to create own systemd services or udev rules
# to run scripts during boot instead of using this file.
#
/usr/sbin/route add -host 192.168.137.188 dev lo:0
---------------------------------------------------
chmod +x /etc/rc.d/rc.local
#调整 proc 响应参数
#添加系统只响应目的IP为本地IP的ARP请求
#系统不使用原地址来设置ARP请求的源地址,而是物理mac地址上的IP
vim /etc/sysctl.conf
-------------------------------------------
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
-----------------------------------------
sysctl -p
#开启web服务
systemctl restart httpd
同web操作一样
配置主负载调度器 192.168.137.10
#关闭防火墙
systemctl stop firewalld
setenforce 0
#安装keepalived和ipvsadm
yum install -y ipvsadm keepalived
#开启ip_vs并查看服务是否开启
modprobe ip_vs
cat /proc/net/ip_vs
#配置keepalived
rpm -qc keepalived #查看配置文件位置
cd /etc/keepalived/ #切换到配置文件目录
cp keepalived.conf{,.bak} #备份原先的配置文件
vim keepalived.conf #修改配置文件
--------------------------------------------------
global_defs { ##定义全局参数
notification_email {
acassen@firewall.loc
failover@firewall.loc
sysadmin@firewall.loc
}
notification_email_from Alexandre.Cassen@firewall.loc
smtp_server 127.0.0.1 #第10行修改,邮件服务指向本地
smtp_connect_timeout 30
router_id LVS_01 #第12行指定服务器(路由器)的名称,主备服务器名称须不同,主为LVS_01,备为LVS_02
#删除剩余行
}
vrrp_instance VI_1 { #定义VRRP热备实例参数
state MASTER #第20行指定热备状态,主为MASTER,备为BACKUP
interface ens33 #第21行修改,指定承载vip地址的物理接口
virtual_router_id 51 #修改,指定虚拟路由器的ID号,每个热备组保持一致
#nopreempt #如果设置非抢占模式,两个节点state必须为bakcup,并加上配置 nopreempt
priority 100 #23行修改,指定优先级,数值越大优先级越高,这里设置主为100,备为90
advert_int 1 #通告间隔秒数(心跳频率)
authentication { #定义认证信息,每个热备组保持一致
auth_type PASS #认证类型
auth_pass 123321 #第27行修改,指定验证密码,主备服务器保持一致
}
virtual_ipaddress { #指定群集vip地址
192.168.137.188
}
}
#修改,指定虚拟服务器地址(VIP)、端口,定义虚拟服务器和Web服务器池参数
virtual_server 192.168.137.188 80 {
delay_loop 6 #健康检查的间隔时间(秒)
lb_algo rr #指定调度算法,轮询(rr)
lb_kind DR #第39行修改,指定群集工作模式,直接路由(DR)
persistence_timeout 0 #连接保持时间(秒)
protocol TCP #应用服务采用的是 TCP协议
real_server 192.168.137.30 80 { #43行修改,指定第一个Web节点的地址、端口
weight 1 #节点的权重
#45行删除,添加以下健康检查方式
TCP_CHECK {
connect_port 80 #添加检查的目标端口
connect_timeout 3 #添加连接超时(秒)
nb_get_retry 3 #添加重试次数
delay_before_retry 3 #添加重试间隔
}
}
real_server 192.168.137.40 80 { #添加第二个 Web节点的地址、端口
weight 1
TCP_CHECK {
connect_port 80
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
##删除后面多余的配置#
}
----------------------------------------------------------
systemctl start keepalived.service #重新启动服务
ip addr #查看虚拟网卡vip
#启动 ipvsadm 服务
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm
ipvsadm -ln
#如没有VIP 的分发策略,则重启 keepalived 服务,systemctl restart keepalived
#调整 proc 响应参数,关闭Linux 内核的重定向参数响应
vim /etc/sysctl.conf
--------------------------------------
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
-----------------------------------------
sysctl -p #加载参数
scp keepalived.conf 192.168.137.15:`pwd` #远程传输文件到备负载调度器
关闭防火墙 ,安装keepalived和ipvsadm
开启ip_vs并查看服务是否开启
配置keepalived
启动服务
保存策略
调整proc响应参数 并加载
配置备负载调度器
#关闭防火墙
systemctl stop firewalld
setenforce 0
#安装keepalived和ipvsadm
yum install -y ipvsadm keepalived
#开启ip_vs并查看服务是否开启
modprobe ip_vs
cat /proc/net/ip_vs
#配置keepalived
rpm -qc keepalived #查看配置文件位置
cd /etc/keepalived/ #切换到配置文件目录
cp keepalived.conf{,.bak} #备份原先的配置文件
vim keepalived.conf #修改配置文件
--------------------------------------------------
global_defs { ##定义全局参数
notification_email {
acassen@firewall.loc
failover@firewall.loc
sysadmin@firewall.loc
}
notification_email_from Alexandre.Cassen@firewall.loc
smtp_server 127.0.0.1 #第10行修改,邮件服务指向本地
smtp_connect_timeout 30
router_id LVS_02 #第12行指定服务器(路由器)的名称,主备服务器名称须不同,主为LVS_01,备为LVS_02
#删除剩余行
}
vrrp_instance VI_1 { #定义VRRP热备实例参数
state BACKUP #第20行指定热备状态,主为MASTER,备为BACKUP
interface ens33 #第21行修改,指定承载vip地址的物理接口
virtual_router_id 51 #修改,指定虚拟路由器的ID号,每个热备组保持一致
#nopreempt #如果设置非抢占模式,两个节点state必须为bakcup,并加上配置 nopreempt
priority 90 #23行修改,指定优先级,数值越大优先级越高,这里设置主为100,备为90
advert_int 1 #通告间隔秒数(心跳频率)
authentication { #定义认证信息,每个热备组保持一致
auth_type PASS #认证类型
auth_pass 123321 #第27行修改,指定验证密码,主备服务器保持一致
}
virtual_ipaddress { #指定群集vip地址
192.168.137.188
}
}
#修改,指定虚拟服务器地址(VIP)、端口,定义虚拟服务器和Web服务器池参数
virtual_server 192.168.137.188 80 {
delay_loop 6 #健康检查的间隔时间(秒)
lb_algo rr #指定调度算法,轮询(rr)
lb_kind DR #第39行修改,指定群集工作模式,直接路由(DR)
persistence_timeout 0 #连接保持时间(秒)
protocol TCP #应用服务采用的是 TCP协议
real_server 192.168.137.30 80 { #43行修改,指定第一个Web节点的地址、端口
weight 1 #节点的权重
#45行删除,添加以下健康检查方式
TCP_CHECK {
connect_port 80 #添加检查的目标端口
connect_timeout 3 #添加连接超时(秒)
nb_get_retry 3 #添加重试次数
delay_before_retry 3 #添加重试间隔
}
}
real_server 192.168.137.40 80 { #添加第二个 Web节点的地址、端口
weight 1
TCP_CHECK {
connect_port 80
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
##删除后面多余的配置#
}
----------------------------------------------------------
systemctl start keepalived.service #重新启动服务
ip addr #查看虚拟网卡vip
#启动 ipvsadm 服务
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm
ipvsadm -ln
#如没有VIP 的分发策略,则重启 keepalived 服务,systemctl restart keepalived
#调整 proc 响应参数,关闭Linux 内核的重定向参数响应
vim /etc/sysctl.conf
--------------------------------------
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
-----------------------------------------
sysctl -p #加载参数
scp keepalived.conf 192.168.52.15:`pwd` #远程传输文件到备负载调度器
同调度器1一样
配置客户端 192.168.137.100
验证
主负载调度器模拟宕机