分布式应用解决方案之一致性Hash

什么是一致性Hash
一致性Hash就是将整个hash值空间按照顺时针方向形成一个虚拟的环，整个环状结构就称之为Hash环。那为什么叫做一致性Hash环？一致性是由于Hash环应用场景一般在分布式应用服务中，各个服务提供者分布在hash环中，当某一个服务出现问题的时候，我们还是能够保证绝大多数服务保持正常使用，对于绝大多数数据前后是一致的。

hash函数 VS 一致性hash
我们以分布式应用服务负载均衡来提供分析场景
1、hash函数路由到服务器，需要根据服务提供者数量取模，比如 hash(ip) % serverNum。如果服务数量变动，会导致绝大多数服务路由异常。
2、一致性hash，我们均匀的将服务提供者ip分布在环上，当我们获取服务ip时候会根据hash值找到第一个大于当前hash的节点即为路由ip。如果服务数量变动，也只会影响部分少量的数据，大部分数据还是正确的路由地址。
综上所述，一致性hash函数在分布式数据缓存的应用场景下完全碾压普通hash函数。

一致性hash原理
我们以分布式应用服务负载均衡来提供分析场景
1、由于int的存储位数为32位，那么可以保存2^32个数。我们的一致性hash通过固定的hash算法的结果用int保存，那么hash环的取值范围则为 0~2^32 -1。
2、一致性hash首先会将服务器ip通过hash运算后放置在虚拟环上
比如我们三个服务ip1~3 【10.10.10.202,10.10.10.203,10.10.10.204】
在这里插入图片描述

3、我们在实际业务中可以通过用户ID等其他信息计算出hash值，然后找到hash环上大于当前值的第一个节点，该节点则为目标路由节点。
比如:user1\user3的hash值小于ip1的hash，那么ip1节点就这两个用户的实际路由节点
在这里插入图片描述

4、当前的hash环上的ip节点都是实际节点，如果全部为实节点会有一个问题，就是如果某个服务掉线会将掉线服务请求全部打在后续节点，就会造成路由不均衡，严重情况会导致后续服务雪崩。那么，如果解决这个问题呢？我们可以采用虚节点，就是在各个实际节点处分散为多个虚拟节点，各个hash路由也都映射在虚节点上，这样就能够做大限度保证数据的均衡性。
比如：ip2服务宕机，本来该路由到ip2的请求全部会打在ip3
在这里插入图片描述

我们象征性添加9个虚拟节点，每个ip增加三个虚节点，每个虚节点都均匀的分散在环上
在这里插入图片描述

ip2服务不可用，直接将ip2的虚节点路由均衡的打在了ip1、ip3上面
![在这里插入图片描述](https://img-blog.csdnimg.cn/b00fa8c63abf4cf6a0d709e9c47eb15b.png

小试牛刀
我们直接实战一致性hash环虚拟节点这中方式，而且在实际业务场景中我们也是优先选用该种方式。
我们定义三个服务节点ip，分别为：ip1~3【10.10.10.202,10.10.10.203,10.10.10.204】。
为了演示方便我们每个实节点增加三个虚拟节点分别为 ip1_3-VN13。

1、一致性hash带虚拟节点工具类，提供初始化hash环、获取hash值、获取目标路由等方法

/**
 * 一致性hash函数--虚拟节点
 * @author senfel
 * @version 1.0
 * @date 2023/1/17 10:41
 */
@Slf4j
public class ConsistentHashVirtualNode {

    /**
     * 实际节点虚节点数量
     */
    private static int virtualNodeNum = 3;

    /**
     * 实际节点集合
     * 本次测试我们用hash(ip)作为环上实际节点
     */
    private static List<String> realNodeList = new ArrayList<>();

    /**
     * 虚拟节点集合
     * map key-虚拟节点hash
     *     value-虚拟节点
     */
    private static SortedMap<Integer,String> virtualNodeMap = new TreeMap<Integer,String>();


    /**
     * 计算hash值
     * 计算方法很多，普通hashcode相近数据分布不明显，我们采用FNV32进行测试
     * 1. 加法Hash；
     * 2. 位运算Hash；
     * 3. 乘法Hash；
     * 4. 除法Hash；
     * 5. 查表Hash；
     * 6. 混合Hash
     * 目前比较流行的是乘法hash FNV32
     * @param str
     * @author senfel
     * @date 2023/1/17 10:54
     * @return int
     */
    private static int getHash(String str){
        //return Math.abs(str.hashCode()); hash值分布不明显弃用
        final int p = 16777619;
        int hash = (int)2166136261L;
        for (int i = 0; i < str.length(); i++)
            hash = (hash ^ str.charAt(i)) * p;
        hash += hash << 13;
        hash ^= hash >> 7;
        hash += hash << 3;
        hash ^= hash >> 17;
        hash += hash << 5;

        // 如果算出来的值为负数则取其绝对值
        if (hash < 0)
            hash = Math.abs(hash);
        return hash;
    }


    /**
     * 初始化hash环
     * @param ipArray
     * @author senfel
     * @date 2023/1/17 10:48
     * @return void
     */
    public static void initHashNode(String[] ipArray){
        if(null == ipArray || ipArray.length == 0){
            return;
        }
        //将ip写入实际节点
        for(int i=0;i<ipArray.length;i++){
            realNodeList.add(ipArray[i]);
        }
        //获取各个节点的虚拟节点，将虚拟节点加入hash环
        realNodeList.forEach(ip ->{
            for(int j=1;j<=virtualNodeNum;j++){
                String virtualNode = ip+"&VN"+j;
                //计算虚拟节点hash
                int virtualHash = getHash(virtualNode);
                //将节点放置在环上
                virtualNodeMap.put(virtualHash,virtualNode);
                log.error("一致性hash环初始化-虚拟节点：{}加入hash环，当前节点hash值为：{}",virtualNode,virtualHash);
            }
        });
    }


    /**
     * 我们实战场景是根据用户ID进行hash，然后找到路由ip
     * @param userId
     * @author senfel
     * @date 2023/1/17 10:57
     * @return java.lang.String
     */
    public static String getServerIp(int userId){
        //获取用户hash
        int hash = getHash(userId + "");
        //根据用户hash获取hash环中大于当前值的后续节点
        SortedMap<Integer,String> sortedMap = virtualNodeMap.tailMap(hash);
        int firstKey = 0;
        String nodeIp = null;
        if(sortedMap == null){
            //没有大于当前hash数据,应该是等于最小节点hash，直接取第一个节点即可
            firstKey = virtualNodeMap.firstKey();
            //获取到当前节点的ip
            nodeIp = virtualNodeMap.get(firstKey);
        }else{
            //直接获取节点
            firstKey = sortedMap.firstKey();
            nodeIp = sortedMap.get(firstKey);
        }
        return nodeIp;
    }

}

2、测试方法，模拟服务注册初始化hash环，模拟用户访问路由

 public static void main(String[] args) {
        //测试ip 10.10.10.202,10.10.10.203,10.10.10.204
        String[] ipArray = {"10.10.10.202","10.10.10.203","10.10.10.204"};
        initHashNode(ipArray);
        //测试用户模拟9个用户
        List<Integer> userList = new ArrayList<>();
        int userId = 2023011700;
        for(int i=0;i<9;i++){
            userId += i * 100;
            userList.add(userId);
        }
        //模拟用户访问
        for (Integer id : userList) {
            String serverIp = getServerIp(id);
            String realIp = null != serverIp ? serverIp.substring(0, serverIp.indexOf("&")) : null;
            log.error("用户{}访问系统,路由到虚拟节点：{}，实际路由ip为：{}",id,serverIp,realIp);
        }
    }