zoukankan      html  css  js  c++  java
  • 浅析SkipList跳跃表原理及代码实现

    本文将总结一种数据结构:跳跃表。前半部分跳跃表性质和操作的介绍直接摘自《让算法的效率跳起来--浅谈“跳跃表”的相关操作及其应用》上海市华东师范大学第二附属中学 魏冉。之后将附上跳跃表的源代码,以及本人对其的了解。难免有错误之处,希望指正,共同进步。谢谢。

        跳跃表(Skip List)是1987年才诞生的一种崭新的数据结构,它在进行查找、插入、删除等操作时的期望时间复杂度均为O(logn),有着近乎替代平衡树的本领。而且最重要的一点,就是它的编程复杂度较同类的AVL树,红黑树等要低得多,这使得其无论是在理解还是在推广性上,都有着十分明显的优势。

        首先,我们来看一下跳跃表的结构

       跳跃表由多条链构成(S0,S1,S2 ……,Sh),且满足如下三个条件:

    每条链必须包含两个特殊元素:+∞ 和 -∞(其实不需要)
    S0包含所有的元素,并且所有链中的元素按照升序排列。
    每条链中的元素集合必须包含于序数较小的链的元素集合。
       操作

       一、查找
       目的:在跳跃表中查找一个元素x
       在跳跃表中查找一个元素x,按照如下几个步骤进行:
          1. 从最上层的链(Sh)的开头开始
          2. 假设当前位置为p,它向右指向的节点为q(p与q不一定相邻),且q的值为y。将y与x作比较
              (1) x=y  输出查询成功及相关信息
              (2) x>y  从p向右移动到q的位置
              (3) x<y  从p向下移动一格

          3. 如果当前位置在最底层的链中(S0),且还要往下移动的话,则输出查询失败

        二、插入
         目的:向跳跃表中插入一个元素x
         首先明确,向跳跃表中插入一个元素,相当于在表中插入一列从S0中某一位置出发向上的连续一段元素。有两个参数需要确定,即插入列的位置以及它的“高度”。
         关于插入的位置,我们先利用跳跃表的查找功能,找到比x小的最大的数y。根据跳跃表中所有链均是递增序列的原则,x必然就插在y的后面。
         而插入列的“高度”较前者来说显得更加重要,也更加难以确定。由于它的不确定性,使得不同的决策可能会导致截然不同的算法效率。为了使插入数据之后,保持该数据结构进行各种操作均为O(logn)复杂度的性质,我们引入随机化算法(Randomized Algorithms)。

         我们定义一个随机决策模块,它的大致内容如下:

     产生一个0到1的随机数r     r ← random() 
    如果r小于一个常数p,则执行方案A,  if  r<p then do A 
    否则,执行方案B         else do B 
         初始时列高为1。插入元素时,不停地执行随机决策模块。如果要求执行的是A操作,则将列的高度加1,并且继续反复执行随机决策模块。直到第i次,模块要求执行的是B操作,我们结束决策,并向跳跃表中插入一个高度为i的列。


         我们来看一个例子:
         假设当前我们要插入元素“40”,且在执行了随机决策模块后得到高度为4
         步骤一:找到表中比40小的最大的数,确定插入位置

         步骤二:插入高度为4的列,并维护跳跃表的结构

        三、删除

        目的:从跳跃表中删除一个元素x
        删除操作分为以下三个步骤:

    在跳跃表中查找到这个元素的位置,如果未找到,则退出 
    将该元素所在整列从表中删除 
    将多余的“空链”删除 


        我们来看一下跳跃表的相关复杂度:
     
           空间复杂度: O(n)       (期望)
           跳跃表高度: O(logn)  (期望)


        相关操作的时间复杂度:
          查找:  O(logn)    (期望)
          插入:  O(logn)    (期望)
          删除:  O(logn)   (期望)
      
        之所以在每一项后面都加一个“期望”,是因为跳跃表的复杂度分析是基于概率论的。有可能会产生最坏情况,不过这种概率极其微小。

    --------------------------------------------------------------------------------


        以下是自己学习时碰到的一些问题

        首先分配一个链表,用list.hdr指向,长度为跳跃表规定的最高层,说是链表,在以下代码中只是分配了一段连续的空间,用来指向每一层的开始位置。我们看到结构体nodeType中,有一个key,一个rec(用户数据),还有一个指向结构体的指针数组。


        一开始的那些图容易给人误解。如上图所示,例如每个节点的forward[2],就认为是跳跃表的第3层。List.hdr的forward[2]指向11,11的forward[2]指向30,30的forward[2]指向53。这就是跳跃表的第3层:11---30-----53。(准确的说每个forward都指向新节点,新节点的同层forward又指向另一个节点,从而构成一个链表,而数据只有一个,并不是像开始途中所画的那样有N个副本)。本人天资愚钝,看了挺长时间才把它在内存里的结构看清楚了,呵呵。  

    SkipList在leveldb以及lucence中都广为使用,是比较高效的数据结构。由于它的代码以及原理实现的简单性,更为人们所接受。我们首先看看SkipList的定义,为什么叫跳跃表?

    “     Skip lists  are data structures  that use probabilistic  balancing rather  than  strictly  enforced balancing. As a result, the algorithms  for insertion  and deletion in skip lists  are much simpler and significantly  faster  than  equivalent  algorithms  for balanced trees.   ”

    译文:跳跃表使用概率均衡技术而不是使用强制性均衡,因此,对于插入和删除结点比传统上的平衡树算法更为简洁高效。 

    我们看一个图就能明白,什么是跳跃表,如图1所示:

                                                                     图1:跳跃表简单示例

    如上图所示,是一个即为简单的跳跃表。传统意义的单链表是一个线性结构,向有序的链表中插入一个节点需要O(n)的时间,查找操作需要O(n)的时间。如果我们使用图1所示的跳跃表,就可以减少查找所需时间为O(n/2),因为我们可以先通过每个节点的最上面的指针先进行查找,这样子就能跳过一半的节点。比如我们想查找19,首先和6比较,大于6之后,在和9进行比较,然后在和12进行比较......最后比较到21的时候,发现21大于19,说明查找的点在17和21之间,从这个过程中,我们可以看出,查找的时候跳过了3、7、12等点,因此查找的复杂度为O(n/2)。查找的过程如下图2:

                                                                      图2:跳跃表查找操作简单示例

    其实,上面基本上就是跳跃表的思想,每一个结点不单单只包含指向下一个结点的指针,可能包含很多个指向后续结点的指针,这样就可以跳过一些不必要的结点,从而加快查找、删除等操作。对于一个链表内每一个结点包含多少个指向后续元素的指针,这个过程是通过一个随机函数生成器得到,这样子就构成了一个跳跃表。这就是为什么论文“Skip Lists : A Probabilistic Alternative to Balanced Trees ”中有“概率”的原因了,就是通过随机生成一个结点中指向后续结点的指针数目。随机生成的跳跃表可能如下图3所示:

                                                                     图3:随机生成的跳跃表

    跳跃表的大体原理,我们就讲述到这里。下面我们将从如下几个方面来探讨跳跃表的操作:

    1、重要数据结构定义

    2、初始化表

    3、查找

    4、插入

    5、删除

    6、随机数生成器

    7、释放表

    8、性能比较

    (一)重要数据结构定义

          从图3中,我们可以看出一个跳跃表是由结点组成,结点之间通过指针进行链接。因此我们定义如下数据结构:

    //定义key和value的类型
    typedef int KeyType;
    typedef int ValueType;
        
    //定义结点
    typedef struct nodeStructure* Node;
    struct nodeStructure{
        KeyType key;
        ValueType value;
        Node forward[1];
    };
        
    //定义跳跃表
    typedef struct listStructure* List;
    struct listStructure{
        int level;
        Node header;
    };

    每一个结点都由3部分组成,key(关键字)、value(存放的值)以及forward数组(指向后续结点的数组,这里只保存了首地址)。通过这些结点,我们就可以创建跳跃表List,它是由两个元素构成,首结点以及level(当前跳跃表内最大的层数或者高度)。这样子,基本的数据结构定义完毕了。

    (二)初始化表
         初始化表主要包括两个方面,首先就是header节点和NIL结点的申请,其次就是List资源的申请。

    void SkipList::NewList(){
        //设置NIL结点
        NewNodeWithLevel(0, NIL_);
        NIL_->key = 0x7fffffff;
        //设置链表List
        list_ = (List)malloc(sizeof(listStructure));
        list_->level = 0;
        //设置头结点
        NewNodeWithLevel(MAX_LEVEL,list_->header);
        for(int i = 0; i < MAX_LEVEL; ++i){
            list_->header->forward[i] = NIL_;
        }
        //设置链表元素的数目
        size_ = 0;
    }
    
    void SkipList::NewNodeWithLevel(const int& level,
                                    Node& node){
        //新结点空间大小
        int total_size = sizeof(nodeStructure) + level*sizeof(Node);
        //申请空间
        node = (Node)malloc(total_size);
        assert(node != NULL);
    }

    其中,NewNodeWithLevel是申请结点(总共level层)所需的内存空间。NIL_节点会在后续全部代码实现中可以看到。

    (三)查找

        查找就是给定一个key,查找这个key是否出现在跳跃表中,如果出现,则返回其值,如果不存在,则返回不存在。我们结合一个图就是讲解查找操作,如下图4所示:

                                                           图4:查找操作前的跳跃表

    如果我们想查找19是否存在?如何查找呢?我们从头结点开始,首先和9进行判断,此时大于9,然后和21进行判断,小于21,此时这个值肯定在9结点和21结点之间,此时,我们和17进行判断,大于17,然后和21进行判断,小于21,此时肯定在17结点和21结点之间,此时和19进行判断,找到了。具体的示意图如图5所示:

                                                            图5:查找操作后的跳跃表

    bool SkipList::Search(const KeyType& key,
                          ValueType& value){
        Node x = list_->header;
        int i;
        for(i = list_->level; i >= 0; --i){
            while(x->forward[i]->key < key){
                x = x->forward[i];
            }
        }
        x = x->forward[0];
        if(x->key == key){
            value = x->value;
            return true;
        }else{
            return false;
        }
    }


    (四)插入

          插入包含如下几个操作:1、查找到需要插入的位置   2、申请新的结点    3、调整指针。

    我们结合下图6进行讲解,查找如下图的灰色的线所示  申请新的结点如17结点所示, 调整指向新结点17的指针以及17结点指向后续结点的指针。这里有一个小技巧,就是使用update数组保存大于17结点的位置,这样如果插入17结点的话,就指针调整update数组和17结点的指针、17结点和update数组指向的结点的指针。update数组的内容如红线所示,这些位置才是有可能更新指针的位置。

       

                                                        图6:插入操作示意图(感谢博主:来自cnblogs的qiang.xu )

    bool SkipList::Insert(const KeyType& key,
                          const ValueType& value){
        Node update[MAX_LEVEL];
        int i;
        Node x = list_->header;
        //寻找key所要插入的位置
        //保存大于key的位置信息
        for(i = list_->level; i >= 0; --i){
            while(x->forward[i]->key < key){
                x = x->forward[i];
            }
    
            update[i] = x;
        }
    
        x = x->forward[0];
        //如果key已经存在
        if(x->key == key){
            x->value = value;
            return false;
        }else{
            //随机生成新结点的层数
            int level = RandomLevel();
            //为了节省空间,采用比当前最大层数加1的策略
            if(level > list_->level){
                level = ++list_->level;
                update[level] = list_->header;
            }
            //申请新的结点
            Node newNode;
            NewNodeWithLevel(level, newNode);
            newNode->key = key;
            newNode->value = value;
    
            //调整forward指针
            for(int i = level; i >= 0; --i){
                x = update[i];
                newNode->forward[i] = x->forward[i];
                x->forward[i] = newNode;
            }
            
            //更新元素数目
            ++size_;
    
            return true;
        }
    }

    (五)删除

        删除操作类似于插入操作,包含如下3步:1、查找到需要删除的结点 2、删除结点  3、调整指针

                                                                                 图7:删除操作示意图(感谢博主qiang.xu 来自cnblogs)

    bool SkipList::Delete(const KeyType& key,
                          ValueType& value){
        Node update[MAX_LEVEL];
        int i;
        Node x = list_->header;
        //寻找要删除的结点
        for(i = list_->level; i >= 0; --i){
            while(x->forward[i]->key < key){
                x = x->forward[i];
            }
    
            update[i] = x;
        }
    
        x = x->forward[0];
        //结点不存在
        if(x->key != key){
            return false;
        }else{
            value = x->value;
            //调整指针
            for(i = 0; i <= list_->level; ++i){
                if(update[i]->forward[i] != x)
                    break;
                update[i]->forward[i] = x->forward[i];
            }
            //删除结点
            free(x);
            //更新level的值,有可能会变化,造成空间的浪费
            while(list_->level > 0
                && list_->header->forward[list_->level] == NIL_){
                --list_->level;
            }
            
            //更新链表元素数目
            --size_;
    
            return true;
        }
    }

    (六)随机数生成器

          再向跳跃表中插入新的结点时候,我们需要生成该结点的层数,使用的就是随机数生成器,随机的生成一个层数。这部分严格意义上讲,不属于跳跃表的一部分。随机数生成器说简单很简单,说难很也很难,看你究竟是否想生成随机的数。可以采用c语言中srand以及rand函数,也可以自己设计随机数生成器。

          此部分我们采用levelDB随机数生成器:

    // Copyright (c) 2011 The LevelDB Authors. All rights reserved.
    // Use of this source code is governed by a BSD-style license that can be
    // found in the LICENSE file. See the AUTHORS file for names of contributors.
    
    
    #include <stdint.h>
    
    //typedef unsigned int           uint32_t;
    //typedef unsigned long long     uint64_t;
    
    // A very simple random number generator.  Not especially good at
    // generating truly random bits, but good enough for our needs in this
    // package.
    class Random {
     private:
      uint32_t seed_;
     public:
      explicit Random(uint32_t s) : seed_(s & 0x7fffffffu) {
        // Avoid bad seeds.
        if (seed_ == 0 || seed_ == 2147483647L) {
          seed_ = 1;
        }
      }
      uint32_t Next() {
        static const uint32_t M = 2147483647L;   // 2^31-1
        static const uint64_t A = 16807;  // bits 14, 8, 7, 5, 2, 1, 0
        // We are computing
        //       seed_ = (seed_ * A) % M,    where M = 2^31-1
        //
        // seed_ must not be zero or M, or else all subsequent computed values
        // will be zero or M respectively.  For all other values, seed_ will end
        // up cycling through every number in [1,M-1]
        uint64_t product = seed_ * A;
    
        // Compute (product % M) using the fact that ((x << 31) % M) == x.
        seed_ = static_cast<uint32_t>((product >> 31) + (product & M));
        // The first reduction may overflow by 1 bit, so we may need to
        // repeat.  mod == M is not possible; using > allows the faster
        // sign-bit-based test.
        if (seed_ > M) {
          seed_ -= M;
        }
        return seed_;
      }
      // Returns a uniformly distributed value in the range [0..n-1]
      // REQUIRES: n > 0
      uint32_t Uniform(int n) { return (Next() % n); }
    
      // Randomly returns true ~"1/n" of the time, and false otherwise.
      // REQUIRES: n > 0
      bool OneIn(int n) { return (Next() % n) == 0; }
    
      // Skewed: pick "base" uniformly from range [0,max_log] and then
      // return "base" random bits.  The effect is to pick a number in the
      // range [0,2^max_log-1] with exponential bias towards smaller numbers.
      uint32_t Skewed(int max_log) {
        return Uniform(1 << Uniform(max_log + 1));
      }
    };

    其中核心的是 seed_ = (seed_ * A) % M这个函数,并且调用一次就重新更新一个种子seed。以达到随机性。

    根据个人喜好,自己可以独立设计随机数生成器,只要能够返回一个随机的数字即可。

    (七)释放表

          释放表的操作比较简单,只要像单链表一样释放表就可以,释放表的示意图8如下:

                                                                          图8:释放表

    void SkipList::FreeList(){
        Node p = list_->header;
        Node q;
        while(p != NIL_){
            q = p->forward[0];
            free(p);
            p = q;
        }
        free(p);
        free(list_);
    }


    (八)性能比较

      我们对跳跃表、平衡树等进行比较,如下图9所示:

                                                                                  图9:性能比较图

    从中可以看出,随机跳跃表表现性能很不错,节省了大量复杂的调节平衡树的代码。

  • 相关阅读:
    【机器学习】matplotlib库练习-函数绘图
    【算法】二分查找应用:直接在结果域中进行二分查找
    【机器学习】朴素贝叶斯-02
    【机器学习】朴素贝叶斯-01
    【机器学习】决策树-02
    【机器学习】决策树-01
    【机器学*】k*邻算法-03
    【机器学*】k*邻算法-02
    【LeetCode】剑指 Offer 04. 二维数组中的查找
    【感悟】观《BBC彩色二战纪录片》有感
  • 原文地址:https://www.cnblogs.com/wuchanming/p/3870355.html
Copyright © 2011-2022 走看看