zoukankan      html  css  js  c++  java
  • 一致性hash的实现

    一致性hash解决的问题

    在解决分布式系统中负载均衡的问题时候可以使用Hash算法让固定的一部分请求落到同一台服务器上,这样每台服务器固定处理一部分请求(并维护这些请求的信息),起到负载均衡的作用。

    但是普通的余数hash(hash(比如用户id)%服务器机器数)算法伸缩性很差,当新增或者下线服务器机器时候,用户id与服务器的映射关系会大量失效。一致性hash则利用hash环对其进行了改进。

    一致性hash的特性

    ①,单调性

    单调性(Monotonicity),单调性是指如果已经有一些请求通过哈希分派到了相应的服务器进行处理,又有新的服务器加入到系统中时候,应保证原有的请求可以被映射到原有的或者新的服务器中去,而不会被映射到原来的其它服务器上去。

    ②,分散性
    一个用户的请求被路由到不同的服务器进行处理。好的哈希算法应尽量避免尽量降低分散性。 一致性hash具有很低的分散性
    ③,平衡性
    致性hash可以做到每个服务器都进行处理请求,但是不能保证每个服务器处理的请求的数量大致相同,这里就要引入虚拟节点来解决这个问题

    原文:https://blog.csdn.net/u011305680/article/details/79721030

    参考: https://www.jianshu.com/p/e968c081f563

    1、不带虚拟节点的

    package hash;  
    
    import java.util.SortedMap;  
    import java.util.TreeMap;  
    
    /** 
     * 不带虚拟节点的一致性Hash算法 
     * 重点:1.如何造一个hash环,2.如何在哈希环上映射服务器节点,3.如何找到对应的节点
     */  
    public class ConsistentHashingWithoutVirtualNode {  
    
        //待添加入Hash环的服务器列表  
        private static String[] servers = { "192.168.0.0:111", "192.168.0.1:111",  
                "192.168.0.2:111", "192.168.0.3:111", "192.168.0.4:111" };  
    
        //key表示服务器的hash值,value表示服务器  
        private static SortedMap<Integer, String> sortedMap = new TreeMap<Integer, String>();  
    
        //程序初始化,将所有的服务器放入sortedMap中  
        static {  
            for (int i=0; i<servers.length; i++) {  
                int hash = getHash(servers[i]);  
                System.out.println("[" + servers[i] + "]加入集合中, 其Hash值为" + hash);  
                sortedMap.put(hash, servers[i]);  
            }  
            System.out.println();  
        }  
    
        //得到应当路由到的结点  
        private static String getServer(String key) {  
            //得到该key的hash值  
            int hash = getHash(key);  
            //得到大于该Hash值的所有Map  
            SortedMap<Integer, String> subMap = sortedMap.tailMap(hash);  
            if(subMap.isEmpty()){  
                //如果没有比该key的hash值大的,则从第一个node开始  
                Integer i = sortedMap.firstKey();  
                //返回对应的服务器  
                return sortedMap.get(i);  
            }else{  
                //第一个Key就是顺时针过去离node最近的那个结点  
                Integer i = subMap.firstKey();  
                //返回对应的服务器  
                return subMap.get(i);  
            }  
        }  
    
        //使用FNV1_32_HASH算法计算服务器的Hash值,这里不使用重写hashCode的方法,最终效果没区别  
        private static int getHash(String str) {  
            final int p = 16777619;  
            int hash = (int) 2166136261L;  
            for (int i = 0; i < str.length(); i++)  
                hash = (hash ^ str.charAt(i)) * p;  
            hash += hash << 13;  
            hash ^= hash >> 7;  
            hash += hash << 3;  
            hash ^= hash >> 17;  
            hash += hash << 5;  
    
            // 如果算出来的值为负数则取其绝对值  
            if (hash < 0)  
                hash = Math.abs(hash);  
            return hash;  
            }  
    
        public static void main(String[] args) {  
            String[] keys = {"太阳", "月亮", "星星"};  
            for(int i=0; i<keys.length; i++)  
                System.out.println("[" + keys[i] + "]的hash值为" + getHash(keys[i])  
                        + ", 被路由到结点[" + getServer(keys[i]) + "]");  
        }  
    } 

    2、带虚拟节点的

    package hash;  
    
    import java.util.LinkedList;  
    import java.util.List;  
    import java.util.SortedMap;  
    import java.util.TreeMap;  
    
    import org.apache.commons.lang.StringUtils;  
    
    /** 
      * 带虚拟节点的一致性Hash算法 
      */  
     public class ConsistentHashingWithoutVirtualNode {  
    
         //待添加入Hash环的服务器列表  
         private static String[] servers = {"192.168.0.0:111", "192.168.0.1:111", "192.168.0.2:111",  
                 "192.168.0.3:111", "192.168.0.4:111"};  
    
         //真实结点列表,考虑到服务器上线、下线的场景,即添加、删除的场景会比较频繁,这里使用LinkedList会更好  
         private static List<String> realNodes = new LinkedList<String>();  
    
         //虚拟节点,key表示虚拟节点的hash值,value表示虚拟节点的名称  
         private static SortedMap<Integer, String> virtualNodes = new TreeMap<Integer, String>();  
    
         //虚拟节点的数目,这里写死,为了演示需要,一个真实结点对应5个虚拟节点  
         private static final int VIRTUAL_NODES = 5;  
    
         static{  
             //先把原始的服务器添加到真实结点列表中  
             for(int i=0; i<servers.length; i++)  
                 realNodes.add(servers[i]);  
    
             //再添加虚拟节点,遍历LinkedList使用foreach循环效率会比较高  
             for (String str : realNodes){  
                 for(int i=0; i<VIRTUAL_NODES; i++){  
                     String virtualNodeName = str + "&&VN" + String.valueOf(i);  
                     int hash = getHash(virtualNodeName);  
                     System.out.println("虚拟节点[" + virtualNodeName + "]被添加, hash值为" + hash);  
                     virtualNodes.put(hash, virtualNodeName);  
                 }  
             }  
             System.out.println();  
         }  
    
         //使用FNV1_32_HASH算法计算服务器的Hash值,这里不使用重写hashCode的方法,最终效果没区别  
         private static int getHash(String str){  
             final int p = 16777619;  
             int hash = (int)2166136261L;  
             for (int i = 0; i < str.length(); i++)  
                 hash = (hash ^ str.charAt(i)) * p;  
             hash += hash << 13;  
             hash ^= hash >> 7;  
             hash += hash << 3;  
             hash ^= hash >> 17;  
             hash += hash << 5;  
    
             // 如果算出来的值为负数则取其绝对值  
             if (hash < 0)  
                 hash = Math.abs(hash);  
             return hash;  
         }  
    
         //得到应当路由到的结点  
         private static String getServer(String key){  
            //得到该key的hash值  
             int hash = getHash(key);  
             // 得到大于该Hash值的所有Map  
             SortedMap<Integer, String> subMap = virtualNodes.tailMap(hash);  
             String virtualNode;  
             if(subMap.isEmpty()){  
                //如果没有比该key的hash值大的,则从第一个node开始  
                Integer i = virtualNodes.firstKey();  
                //返回对应的服务器  
                virtualNode = virtualNodes.get(i);  
             }else{  
                //第一个Key就是顺时针过去离node最近的那个结点  
                Integer i = subMap.firstKey();  
                //返回对应的服务器  
                virtualNode = subMap.get(i);  
             }  
             //virtualNode虚拟节点名称要截取一下  
             if(StringUtils.isNotBlank(virtualNode)){  
                 return virtualNode.substring(0, virtualNode.indexOf("&&"));  
             }  
             return null;  
         }  
    
         public static void main(String[] args){  
             String[] keys = {"太阳", "月亮", "星星"};  
             for(int i=0; i<keys.length; i++)  
                 System.out.println("[" + keys[i] + "]的hash值为" +  
                         getHash(keys[i]) + ", 被路由到结点[" + getServer(keys[i]) + "]");  
         }  
     }
  • 相关阅读:
    电子书《数字化转型领导者的技术修养》免费下载
    数字签名
    C:条件编译
    轻量级日志收集方案Loki
    安装Kubernetes(k8s)保姆级教程---无坑版
    设计模式七大原则-迪米特法则
    设计模式七大原则-开闭原则
    设计模式七大原则-里氏替换原则
    deepin-terminal改造风云再起
    deepin-terminal再改造
  • 原文地址:https://www.cnblogs.com/dongma/p/10103682.html
Copyright © 2011-2022 走看看