1. 集群功能分类
2. 负载均衡
3. LVS概述
4. LVS工作模式
5. 轮训算法

1.集群功能分类

        1.1  LB

        （一）简介

LB：Load Balancing，负载均衡（增加处理能力）,有一定高可用能力，但不是高可用集群，是以提高服务的并发处理能力为根本着眼点

        （二）负载均衡产品分类

软件负载均衡设备：

        LVS ：
      LVS（四层路由设备），是由中国人章文松研发的（阿里巴巴的副总裁）根据用户请求的IP与端口号，实现将用户的请求分发至不同的主机  

        HAproxy ：
    haproxy：主要功能是针对http协议实现负载均衡，也可以实现tcp（mysql，smtp）等协议的负载均衡

        NGINX :
    nginx:是由俄罗斯人开发的，主要功能是针对http，smtp，pop3，imap等协议实现负载均衡，只负责解析有限的七层协议

 硬件负载均衡设备：

        F5:BIG IP 

        Citrix，Netscaler 
        A10
        深信服   。。。

        1.2  HA  ：keepalived

HA：High Availability，高可用集群（增加服务可用性）
高可用集群，是以提升服务的始终在线能力为着眼点，不会因为宕机而导致服务不能用。
衡量可用性：在线时间/（在线时间+故障处理时间）

    99%：一年有三天不在线 
    99.9%：一年有0.3天不在线 
    99.99%：一年有0.03天不在线 
    99.999%：一年有0.003天不在线 

        1.3  HPC

HPC：High performance，高性能计算集群，计算海量数据，解决复杂问题
平时所说的超级计算机就是高性能计算集群，查看每秒钟浮点运算的能力
运用到的名词：
向量机：尽可能向上进行扩展，如果CPU过多，在架构上纵然会有问题的
并行处理集群：包括两部分
1、分布式文件系统;
2、将大任务切割为小任务，分别进行处理的机制
例如hadoop就是并行处理集群

2. 负载均衡

(Load Balance)负载均衡，当然这是一个简单的概括，比如，我有10台机器都提供web服务，那么我如何均衡的利用这10台机器呢，让这10台机器保证高性能、高可用、高并发就是负载均衡要考虑和要做的事情。

实现负载均衡一般可以使用顺序、比重、流量、服务类别等进行分配，负载均衡的部署方式也分为路由和服务直接返回模式

        2.1  负载均衡的主要方式

        （一）http重定向

原理：
    下载网站用的较多，其实也算一种负载均衡，工作在应用层的业务代码中
  原理：根据用户的http请求计算出一个真实的web服务器地址，并将该web服务器地址写入http重定向响应中返回给客户浏览器，由浏览器重新进行访问。

优缺点：
    优点：比较简单

    缺点：客户浏览器需要多次请求服务器才能完成一次访问，性能较差。

        http重定向服务器自身的处理能力可能成为瓶颈。

        使用http302响应重定向，有可能使搜索引擎判断为SEO作弊，降低搜索排名。

        （二）DNS负载均衡

原理：
    DNS负载提供域名到IP解析的过程，我们实例查看百度的域名解析其实是一对多的，
这时候DNS服务器也就充当了负载均衡，很多域名运营商提供的智能dns以及多线解析都是利用了DNS负载均衡的技术，开源的BIND就可提供电信联通多线解析等强大的技术。
原理：在DNS服务器上配置多个域名对应IP的记录。例如一个域名www.baidu.com对应一组web服务器IP地址，域名解析时经过DNS服务器的算法将一个域名请求分配到合适的真实服务器上。

优缺点：
     优点：将负载均衡的工作交给了DNS，省却了网站管理维护负载均衡服务器的麻烦，同时许多DNS还支持基于地理位置的域名解析，将域名解析成距离用户地理最近的一个服务器地址，加快访问速度吗，改善性能。

       缺点：目前的DNS解析是多级解析，每一级DNS都可能化缓存记录A，当摸一服务器下线后，该服务器对应的DNS记录A可能仍然存在，导致分配到该服务器的用户访问失败。

        DNS负载均衡的控制权在域名服务商手里，网站可能无法做出过多的改善和管理。

        不能够按服务器的处理能力来分配负载。DNS负载均衡采用的是简单的轮询算法，不能区分服务器之间的差异，不能反映服务器当前运行状态，所以其的负载均衡效果并不是太好。

        可能会造成额外的网络问题。为了使本DNS服务器和其他DNS服务器及时交互，保证DNS数据及时更新，使地址能随机分配，一般都要将DNS的刷新时间设置的较小，但太小将会使DNS流量大增造成额外的网络问题。

        （三）反向代理负载均衡 ：squid,nginx

原理：
    原理：反向代理处于web服务器这边，反向代理服务器提供负载均衡的功能，同时管理一组web服务器，它根据负载均衡算法将请求的浏览器访问转发到不同的web服务器处理，处理结果经过反向服务器返回给浏览器。
  例如：浏览器访问请求的地址是反向代理服务器的地址114.100.80.10，反向代理服务器收到请求，经过负载均衡算法后得到一个真实物理地址10.0.0.3，并将请求结果发给真实服务器，真实服务器处理完后通过反向代理服务器返回给请求用户。

优缺点：
    优点：部署简单，处于http协议层面。

      缺点：使用了反向代理服务器后，web 服务器地址不能直接暴露在外，因此web服务器不需要使用外部IP地址，而反向代理服务作为沟通桥梁就需要配置双网卡、外部内部两套IP地址。

        （四）IP网络层负载均衡  ：lvs-nat

原理：
    在网络层和传输层(IP和端口)通过修改目标地址进行负载均衡。
 用户访问请求到达负载均衡服务器，负载均衡服务器在操作系统内核进程获取网络数据包，根据算法得到一台真实服务器地址，然后将用户请求的目标地址修改成该真实服务器地址，数据处理完后返回给负载均衡服务器，负载均衡服务器收到响应后将自身的地址修改成原用户访问地址后再讲数据返回回去。类似于反向服务器负载均衡。

优缺点：
    优点：在响应请求时速度较反向服务器负载均衡要快。

    缺点：如法处理更高级的请求

 

        （五）数据链路层负载均衡   LVS-DR

 原理：
    在数据链路层修改Mac地址进行负载均衡。
负载均衡服务器的IP和它所管理的web 服务群的虚拟IP一致；
负载均衡数据分发过程中不修改访问地址的IP地址，而是修改Mac地址；
通过这两点达到不修改数据包的原地址和目标地址就可以进行正常的访问。

优缺点：
    优点：不需要负载均衡服务器进行IP地址的转换。数据响应时,不需要经过负载均衡服务器。
    缺点：负载均衡服务器的网卡带宽要求较高。

 

        （六）F5硬件负载均衡

工作原理：
    1、F5 BIG-IP提供12种灵活的算法将所有流量均衡的分配到各个服务器，而面对用户，只是一台虚拟服务器。

2、健康性检查。F5 BIG-IP可以确认应用程序能否对请求返回对应的数据。假如F5 BIG-IP后面的某一台服务器发生服务停止、死机等故障，F5会检查出来并将该服务器标识为宕机，从而不将用户的访问请求传送到该台发生故障的服务器上。这样，只要其它的服务器正常，用户的访问就不会受到影响。宕机一旦修复，F5 BIG-IP就会自动查证应用保证对客户的请求作出正确响应并恢复向该服务器传送。

3、F5 BIG-IP具有动态Session的会话保持功能，笔者也是在网站中使用的F5将用户IP与Session通过F5进行的绑定，使其Session保持一致。

4、F5 BIG-IP的iRules功能可以做HTTP内容过滤，根据不同的域名、URL，将访问请求传送到不同的服务器。

优缺点：
    性能好
    缺点：成本高，配置冗余

        2.2  四层负载和七层负载

所谓四层就是基于IP+端口的负载均衡，主要代表有lvs。

七层负载也称内容交换，就是基于URL等应用层信息的负载均衡，主要代表有nginx。

        2.3  关于代理

负载均衡&代理 ：
    负载均衡也叫代理，是代理的一种。

代理：
    正向代理
        只用于代理内部网络对Internet的连接请求，客户机必须指定代理服务器,并将本来要直接发送到Web服务器上的http请求发送到代理服务器中，正向代理指的是客户端代理，是由用户控制并知晓的代理方式，如我不能访问fb，然后使用了某国外服务器作为跳板机，最后成功访问了就是正向代理。
    反向代理
        指以代理服务器来接受Internet上的连接请求，然后将请求转发给内部网络上的服务器；并将从服务器上得到的结果返回给Internet上请求连接的客户端，此时代理服务器对外就表现为一个服务器，反向代理指的是服务端代理，在大型网站背后并不是只有一台机器提供服务，比如我访问微博，微博的某一个反向代理服务器将我解析到内部服务器的一台机器，然后这台机器给我提供微博的消息（当然实际情况比这个复杂的多），这些对于用户都是不可见的，我们只会感觉只有一台机器与我交互。

3.LVS概述

LVS是Linux Virtual Server,Linux虚拟服务器
    是一个虚拟的服务器集群系统。本项目在1998年5月由章文嵩博士成立，是中国国内最早出现的自由软件项目之一

LVS工作在一台server上提供Directory(负载均衡器)的功能，本身并不提供服务，只是把特定的请求转发给对应的real server(真正提供服务的主机)，从而实现集群环境中的负载均衡。

框架：
    LB-SERVER负载均衡器
    realy-server真实服务器

4.LVS工作模式

        4.1 NAT转发模式

NAT      Network Address Translation，网络地址转换

        CIP         客户端IP地址/发起方/源IP地址
        VIP         虚拟IP/lvs集群IP
        RIP         真实服务器IP/WEB集群IP/web服务器

 

工作原理：
    ①.客户端将请求发往前端的负载均衡器，请求报文源地址是CIP(客户端IP),后面统称为CIP)，目标地址为VIP(负载均衡器前端地址，后面统称为VIP)。

②.负载均衡器收到报文后，发现请求的是在规则里面存在的地址，那么它将客户端请求报文的目标IP地址改为了后端服务器的RIP地址并将报文根据算法发送出去。

③.报文送到Real Server后，由于报文的目标地址是自己，所以会响应该请求，并将响应报文返还给LVS。

④.然后lvs将此报文的源地址修改为本机并发送给客户端。
      注意在NAT模式中，Real Server的网关必须指向LVS，否则报文无法送达客户端

优点：
    网络隔离更安全
    节约IP地址

缺点：
    director很可能成为系统性能瓶颈，所有的请求director都需要处理应答
    <20

        4.2  DR直接路由模式

工作原理：
    ①.客户端将请求发往前端的负载均衡器，请求报文源地址是CIP，目标地址为VIP。

    ②.负载均衡器收到报文后，发现请求的是在规则里面存在的地址，那么它将客户端请求报文的源MAC地址改为自己DIP的MAC地址，目标MAC改为了RIP的MAC地址，并将此包发送给RS。

    ③.RS发现请求报文中的目的MAC是自己，就会将次报文接收下来，处理完请求报文后，将响应报文通过lo接口送给eth0网卡直接发送给客户端。

 特点：
    1，集群节点和director必须在一个物理网络内
    2，RIP可以使用公网地址或私有地址
    3，director仅处理入站请求，director服务器的压力比较小
    4，集群节点网关不指向director，故出站不经过director
    5，不支持端口映射
    6，大多数操作系统可以作为realserver，要支持隔离arp广播

 ARP问题：
    通常，DR模式需要在Real-server上配置VIP，配置的方式为：
/sbin/ifconfig lo:0 inet VIP netmask 255.255.255.255

i) 原因在于，当LVS把client的包转发给Real-server时，因为包的目的IP地址是VIP，那么如果Real-server收到这个包后，发现包的目的IP不是自己的系统IP，那么就会认为这个包不是发给自己的，就会丢弃这个包，所以需要将这个IP地址绑到网卡上；当发送应答包给client时，Real-server就会把包的源和目的地址调换，直接回复给client。

ii) 关于ARP广播：
* 上面绑定VIP的掩码是”255.255.255.255″，说明广播地址是其本身，那么他就不会将ARP发送到实际的自己该属于的广播域了，这样防止与LVS上VIP冲突，而导致IP冲突。
* 另外在Linux的Real-server上，需要设置ARP的sysctl选项:

        4.3  TUN-IP隧道模式

工作原理：
    ①.客户端将请求发往前端的负载均衡器，请求报文源地址是CIP，目标地址为VIP。

    ②.负载均衡器收到报文后，发现请求的是在规则里面存在的地址，那么它将在客户端请求报文的首部再封装一层IP报文,将源地址改为DIP，目标地址改为RIP,并将此包发送给RS。

    ③.RS收到请求报文后，会首先拆开第一层封装,然后发现里面还有一层IP首部的目标地址是自己lo接口上的VIP，所以会处理次请求报文，并将响应报文通过lo接口送给eth0网卡直接发送给客户端。

特点：
    优点：

负载均衡器只负责将请求包分发给后端节点服务器，而RS将应答包直接发给用户。所以，减少了负载均衡器的大量数据流动，负载均衡器不再是系统的瓶颈，就能处理很巨大的请求量，这种方式，一台负载均衡器能够为很多RS进行分发。而且跑在公网上就能进行不同地域的分发。

    缺点：

隧道模式的RS节点需要合法IP，这种方式需要所有的服务器支持”IP Tunneling”(IP Encapsulation)协议，服务器可能只局限在部分Linux系统上。
    <100

        4.4  FULL-NAT

Full-NAT由此而生，解决的是LVS和RS跨VLAN的问题，而跨VLAN问题解决后，LVS和RS不再存在VLAN上的从属关系，可以做到多个LVS对应多个RS，解决水平扩容的问题。

        4.5  模式对比

5.轮训算法

        5.1  Fixed Scheduling Method  静态调服方法

(1).RR     轮询 
    Round-Robin:调度器通过"轮叫"调度算法将外部请求按顺序轮流分配到集群中的真实服务器上，它均等地对待每一台服务器，而不管服务器上实际的连接数和系统负载。

(2).WRR    加权轮询 
    调度器通过"加权轮叫"调度算法,根据真实服务器的不同处理能力.来调度访问请求。这样可以保证处理能力强的服务器,处理更多的访问流量。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值。

(3).DH     目标地址hash
    "目标地址散列"调度算法根据请求的目标IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且未超载，将请求发送到该服务器，否则返回空。

(4).SH     源地址hash
    "源地址散列"调度算法根据请求的源IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且未超载，将请求发送到该服务器，否则返回空。

        5.2  Dynamic Scheduling Method 动态调服方法

(1).LC     最少连接 
    调度器通过"最少连接"调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能，采用"最小连接"调度算法可以较好地均衡负载。

(2).WLC    加权最少连接 
    在集群系统中的服务器性能差异较大的情况下，调度器采用"加权最少链接"调度算法优化负载均衡性能，具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值。

(3).LBLC   基于本地的最少连接
    "基于局部性的最少链接" 调度算法是针对目标IP地址的负载均衡，目前主要用于Cache集群系统。该算法根据请求的目标IP地址找出该目标IP地址最近使用的服务器，若该服务器 是可用的且没有超载，将请求发送到该服务器；若服务器不存在，或者该服务器超载且有服务器处于一半的工作负载，则用"最少链接"的原则选出一个可用的服务 器，将请求发送到该服务器。

(4).LBLCR  带复制的基于本地的最少连接
    "带复制的基于局部性最少链接"调度算法也是针对目标IP地址的负载均衡，目前主要用于Cache集群系统。它与LBLC算法的不同之处是它要维护从一个 目标IP地址到一组服务器的映射，而LBLC算法维护从一个目标IP地址到一台服务器的映射。该算法根据请求的目标IP地址找出该目标IP地址对应的服务 器组，按"最小连接"原则从服务器组中选出一台服务器，若服务器没有超载，将请求发送到该服务器，若服务器超载；则按"最小连接"原则从这个集群中选出一 台服务器，将该服务器加入到服务器组中，将请求发送到该服务器。同时，当该服务器组有一段时间没有被修改，将最忙的服务器从服务器组中删除，以降低复制的 程度。