网卡bonding简介
网卡绑定就是把多张物理网卡通过软件虚拟成一个虚拟的网卡,配置完毕后,所有的物理网卡的ip和mac将会变成相同的。多网卡同时工作可以提高网络速度,还可以实现网卡的负载均衡、冗余。
bonding模式
round-robin(mode=0)
轮转策略,轮流在每一个slave网卡上发送数据包,提供负载均衡和容错能力。
active-backup(mode=1)
主备策略,只有一个slave被激活,只有当active的slave的接口down时,才会激活其它slave接口。主备模式下发生一次故障切换,在新激活的slave接口上会发送一个或者多个gratuitous ARP。主salve接口上以及配置在接口上的所有VLAN接口都会发送gratuitous ARP,需要在这些接口上配置了至少一个IP地址。VLAN接口上发送的的gratuitous ARP将会附上适当的VLAN id。本模式提供容错能力。
XOR(mode=2)
基于所选择的hash策略,本模式也提供负载均衡和容错能力。
broadcast(mode=3)
广播策略,向所有的slave接口发送数据包,本模式提供容错能力。
802.3ad(mode=4)
动态链路聚合,根据802.3ad标准利用所有的slave建立聚合链路。slave接口的出口取决于传输的hash策略,默认策略是简单的XOR策略,而hash策略则可以通xmit_hash_policy选项配置。
前提:每个slave网卡支持ethtool获取速率和双工状态
交换机支持IEEE 802.3ad标准(可能需要配置启用)
IEEE 802.3ad 是执行链路聚合的标准方法。将多个以太网适配器聚集到单独的虚拟适配器方面与“以太通道(EtherChannel)”的功能相同,能提供更高的带宽防止发生故障。例如,eth0 和 eth1 可以聚集到称作 eth3 的 IEEE 802.3ad链路聚合;然后用 IP 地址配置接口 eth3。系统将这些聚集的适配器作为一个适配器来考虑。因此,可以像在任何以太网适配器上一样配置它们的 IP。
balance-tlb(mode=5)
自适应传输负载均衡:根据每个slave的负载(相对速度)决定从哪个接口发送数据包,从当前接口接收数据包。如果接收的slave接口故障,其它slave接口将接管它的mac地址继续接收。
前提:每个slave网卡支持ethtool获取速率。
balance-alb(mode=6)
自适应负载均衡:
前提:每个slave网卡支持ethtool获取速率
每个slave网卡支持启用时重新设置硬件地址
小结
mode 1、5、6不需要交换机设置
mode 0、2、3、4需要交换机设置
加载内核模块bonding
[root@node_04 network-scripts]# modprobe --first-time bonding
如果已加载bonding模块此步骤省略
bond0配置
bonding模式配置
[root@node_04 network-scripts]# cat /etc/modprobe.d/bond.conf
alias bond0 binding
options bond0 miimon=100 mode=1 # miimon:多长时间检查一次网络,单位ms;
配置网卡1
[root@node_04 network-scripts]# cat ifcfg-eth2
TYPE=Ethernet
BOOTPROTO=none
USERCTL=no
DEVICE=eth2
ONBOOT=yes
MASTER=bond0
SLAVE=yes
配置网卡2
[root@node_04 network-scripts]# cat ifcfg-eth3
TYPE=Ethernet
BOOTPROTO=none
USERCTL=no
DEVICE=eth3
ONBOOT=yes
MASTER=bond0
SLAVE=yes
配置网卡bond0
[root@node_04 network-scripts]# cat ifcfg-bond0
TYPE=Bond
BOOTPROTO=none
ONBOOT=yes
USERCTL=no
DEVICE=bond0
IPADDR=192.168.4.253
PREFIX=24
GATEWAY=192.169.4.254
NM_CONTROLLED=no
BONDING_MASTER=yes
关闭NetworkManager
[root@node_04 network-scripts]# systemctl stop NetworkManager
NetworkManager会导致配置不生效
重启网络服务
[root@node_04 network-scripts]# service network restart
Restarting network (via systemctl): [ OK ]
[root@node_04 network-scripts]#
查看bond0是否生效
[root@node_04 network-scripts]# cat /proc/net/bonding/bond0
Ethernet Channel Bonding Driver: v3.7.1 (April 27, 2011)
Bonding Mode: load balancing (round-robin)
MII Status: up
MII Polling Interval (ms): 0
Up Delay (ms): 0
Down Delay (ms): 0
Slave Interface: eth2
MII Status: up
Speed: Unknown
Duplex: Unknown
Link Failure Count: 0
Permanent HW addr: 74:52:01:01:04:03
Slave queue ID: 0
Slave Interface: eth3
MII Status: up
Speed: Unknown
Duplex: Unknown
Link Failure Count: 0
Permanent HW addr: 74:52:01:01:04:04
Slave queue ID: 0
[root@node_04 network-scripts]#
[root@node_04 network-scripts]# ip a
...
4: eth2: <BROADCAST,MULTICAST,SLAVE,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast master bond0 state UP qlen 1000
link/ether 74:52:01:01:04:03 brd ff:ff:ff:ff:ff:ff
5: eth3: <BROADCAST,MULTICAST,SLAVE,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast master bond0 state UP qlen 1000
link/ether 74:52:01:01:04:03 brd ff:ff:ff:ff:ff:ff
6: bond0: <BROADCAST,MULTICAST,MASTER,UP,LOWER_UP> mtu 1500 qdisc noqueue state UP qlen 1000
link/ether 74:52:01:01:04:03 brd ff:ff:ff:ff:ff:ff
inet 192.168.4.253/24 brd 192.168.4.255 scope global bond0
valid_lft forever preferred_lft forever
inet6 fe80::7652:1ff:fe01:403/64 scope link tentative dadfailed
valid_lft forever preferred_lft forever
[root@node_04 network-scripts]#
自动加载bonding驱动
centos 7默认启动时没有加载bonding模块
[root@node_04 network-scripts]# modinfo bonding
filename: /lib/modules/3.10.0-514.el7.x86_64/kernel/drivers/net/bonding/bonding.ko
...
# 配置系统启动时加载bonding模块
[root@node_04 network-scripts]# vi /etc/sysconfig/modules/bonding.modules
#!/bin/sh
/sbin/modinfo -F /lib/modules/3.10.0-514.el7.x86_64/kernel/drivers/net/bonding/bonding.ko bonding > /dev/null 2>&1
if [ $? -eq 0 ];then
/sbin/modprobe bonding
fi
# 设置执行权限
[root@node_04 network-scripts]# chmod 755 /etc/sysconfig/modules/bonding.modules
# 重启查看是否生效
reboot
bond4下启动vlan子接口
802.1Q报文
bonding模式4配置
[root@node_04 network-scripts]# cat /etc/modprobe.d/bond.conf
alias bond0 binding
options bond0 miimon=100 mode=4 lacp_rate=1
注意:交换机和服务器连接的那块要配置动态的channel-group (需要配置交换机的动态链路聚合)
bond4下启动vlan子接口
[root@node_04 network-scripts]# cat ifcfg-eth2
TYPE=Ethernet
BOOTPROTO=none
USERCTL=no
DEVICE=eth2
ONBOOT=yes
MASTER=bond0
SLAVE=yes
[root@node_04 network-scripts]# cat ifcfg-eth3
TYPE=Ethernet
BOOTPROTO=none
USERCTL=no
DEVICE=eth3
ONBOOT=yes
MASTER=bond0
SLAVE=yes
[root@node_04 network-scripts]# cat ifcfg-bond0
DEVICE=bond0
ONBOOT=yes
TYPE=Ethernet
BOOTPROTO=none
BONDING_OPTS='mode=4 miimon=100'
[root@node_04 network-scripts]# cat ifcfg-bond0.101 # 此时的VLAN 的tag就是 101
DEVICE=bond0.101 # vlan子接口要“.”分隔
ONBOOT=yes
TYPE=Ethernet
BOOTPROTO=none
IPADDR=192.168.4.253
NETMASK=255.255.255.0
VLAN=yes
GATEWAY=192.168.4.254
[root@node_04 ~]# cat /etc/modprobe.d/bonding.conf
alias bond0 bonding
options bond0 miimon=100 mode=4
[root@node_04 network-scripts]# modprobe 8021q # 加载模块
[root@node_04 network-scripts]# lsmod | grep 8021q #打vlan tag需要加载8021q模块
8021q 33104 0
garp 14384 1 8021q
mrp 18542 1 8021q
# 永久加载8021q module
[root@node_04 network-scripts]# cat /etc/sysconfig/modules/8021q.modules
#!/bin/sh
if [ ! `lsmod | grep 8021q` ] ; then
exec /sbin/modprobe 8021q >/dev/null 2>&1
fi
验证vlan bond
[root@node_04 network-scripts]# ip a
...
4: eth2: <BROADCAST,MULTICAST,SLAVE,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast master bond0 state UP qlen 1000
link/ether 74:52:01:01:04:03 brd ff:ff:ff:ff:ff:ff
5: eth3: <BROADCAST,MULTICAST,SLAVE,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast master bond0 state UP qlen 1000
link/ether 74:52:01:01:04:03 brd ff:ff:ff:ff:ff:ff
6: bond0: <BROADCAST,MULTICAST,MASTER,UP,LOWER_UP> mtu 1500 qdisc noqueue state UP qlen 1000
link/ether 74:52:01:01:04:03 brd ff:ff:ff:ff:ff:ff
inet6 fe80::7652:1ff:fe01:403/64 scope link
valid_lft forever preferred_lft forever
7: bond0.101@bond0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc noqueue state UP qlen 1000
link/ether 74:52:01:01:04:03 brd ff:ff:ff:ff:ff:ff
inet 192.168.4.253/24 brd 192.168.4.255 scope global bond0.101
valid_lft forever preferred_lft forever
inet6 fe80::7652:1ff:fe01:403/64 scope link
valid_lft forever preferred_lft forever
注意:此配置需要在交换机也开启vlan配置,打了vlan标签的报文需要解标签才能与普通报文通信