算法导论第六章优先队列（二）

优先队列可以说是堆的一个非常重要的应用，和堆对应，优先队列也分最小优先队列和最大优先队列。

优先队列是一种用来维护由一组元素构成的集合S的数据结构，其中每一个元素都有一个关键字(key)，关键字赋予了一个元素的优先级，故名为优先队列。之所以用堆来实现优先队列，我想最大的原因是堆很容易对元素按关键字进行排序。

优先队列的应用：

最大优先队列：其中最为典型的就是“共享计算机系统的作业调度”，通过记录各个作业的优先级，来调度一个作业的执行、删除和插入等操作。

最小优先队列：可以被用于“基于事件驱动的模拟器”，队列中保存要模拟的事件，每个事件都有一个发生时间作为关键字。事件必须按发生的时间顺序进行模拟，因为某一事件的模拟结果可能会触发对其他事件的模拟。

优先队列的实现：

为了实现优先队列，需要实现这样的几个过程：

1）Insert(S, x):插入x到集合S中；

2）Maximum(S):返回S中具有最大关键字的元素；

3）Extract_Max(S):去掉并返回集合S中具有最大关键字的元素；

4）Increase_Key(S, x, key):将元素x的关键字增加到key。

我们暂且不用管这些奇怪的函数为什么要这么定义，因为这是前人的成功经验总结，肯定是在实际应用中这几个函数用得是最多的，总之，知道这样的四个函数就行了，等用到的时候就知道它们的好处了。

首先，基于堆，Maximum可以在O(1)的时间内完成，如：

int PriorityQueue::HeapMaximum()    //return the maximum key from priority queue;
{
    return GetQueueElement(0);        //the first element is max;
}

其次，Extract_Max(S)和Maximum()的区别就在于，得到了之后还要删除，在不改变结构的情况下，最好的删除方法就是用最后一个元素来代替第一个元素，但是要注意，删除之后，有可能堆的性质就不能保证了，所以，这个时候调用Max_Heapify()调整一下。如下：

int PriorityQueue::HeapExtractMax()        //delete and return the maximum key from queue;
{
    if (IsEmptyHeap())
        throw "heap underflow";

    int heap_size = GetHeapSize();
    int maxNum = GetQueueElement(0); 
    SetQueueElement(0, GetQueueElement(heap_size-1)); //A[1] = A[heap_size]
    SetHeapSizeMinus1();
    MaxHeapify(0);    //Max_Heapify()
    return maxNum;
}

对于Increase_Key(S, x, key)，我们直接用Key替换X，但是替换之后堆的性质也可能改变了，可以知道的是，X后面的元素仍然满足堆的性质，因为Key>X，这时就之用维护X前面的元素，一层层往上调用Max_Heapify()即可，如：

void PriorityQueue::HeapIncreaseKey(int srcIndex, int dstKey)    //increasing the srcKey to dstKey
{
    if (dstKey < GetQueueElement(srcIndex))
        throw "new key is smaller than current key!";
    SetQueueElement(srcIndex, dstKey); //x = key
    while(srcIndex > 0 && GetQueueElement(getParent(srcIndex)) < GetQueueElement(srcIndex)) {
        Swap(srcIndex, getParent(srcIndex));
        srcIndex = getParent(srcIndex); //get parent
    }
}

最后，Insert(S, x)操作，我们可以在最后增加一个-∞的元素，然后将其转换成将-∞增加到x，即转换成Increase_Key(S, -∞, x)。如：

void PriorityQueue::HeapInsert(int key)    //insert key to the priority queue;
{
    AddQueueElement(INT_MIN);            //add the INT_MIN to the end of heapQueue;
    int heap_size = GetHeapSize();
    HeapIncreaseKey(heap_size-1, key);
}

除此之外，习题6.5-8要求在O(lgn)的时间内实现一个Delete(S, i)操作。很容易想到相当于对A[i]为根的堆进行Extract_Max()操作。如：

Heap-Delete(A, i)
    A[i] = A[A.heap-size]
    A.heap-size = A.heap-size - 1
    Heapify(A, i)

以上所有的操作，除了Maximum()之外，其余所有的函数的时间复杂度皆为O(lgn)，所以，这也是为什么用堆来实现优先队列一个非常重要的原因。下面给出一个非常简单的优先队列的实现（元素的值就是Key）。

//PriorityQueue.h


#ifndef _PRIORITY_QUEUE_H_
#define _PRIORITY_QUEUE_H_

/************************************************************************/
/*    priority queue                                                                   
/************************************************************************/
class PriorityQueue {
public:
    PriorityQueue() { m_heapSize = 0; m_length = 0; }
    ~PriorityQueue() {}
    
    //inline
    int getParent(int index) { return (index-1)/2; }
    int getLeft(int index) { return 2*index + 1; }
    int getRight(int index) { return 2*index + 2; }

    //heap operation
    void BuildMaxHeap();        //build the max heap
    void MaxHeapify(int index);    //protect the max heap
    void HeapSort();            //heap sort
    
    //priority queue operation
    void HeapInsert(int key);    //insert key to the priority queue;
    int HeapMaximum();            //return the maximum key from priority queue;
    int HeapExtractMax();        //delete and return the maximum key from queue;
    void HeapIncreaseKey(int srcIndex, int dstKey);    //increasing the srcKey to dstKey
    
    void HeapDelete(int key);    //delete key 习题6.5-8
    
    //other assist functions
    void AddQueueElement(int key);
    void DisplayQueue();
    void DisplayHeapQueue();

public:
    
    
private:
    int GetQueueElement(int index) { return m_vecQueue[index]; }
    void SetQueueElement(int index, int key) { m_vecQueue[index] = key; }
    void Swap(int i, int j) { 
        int temp = m_vecQueue[i]; 
        m_vecQueue[i] = m_vecQueue[j]; 
        m_vecQueue[j] = temp; 
    }
    int GetHeapSize() { return m_heapSize; }
    int GetArrayLength() { return m_length; }
    void SetHeapSizeMinus1() { m_heapSize = m_heapSize - 1; }
    void SetHeapSizePlus1() { m_heapSize = m_heapSize + 1; }

    bool IsEmptyHeap() { return (m_heapSize > 1 ? false : true); }

private:
    vector<int>        m_vecQueue;
    int                m_heapSize;    //堆元素个数
    int                m_length;    //数组元素个数
    
};


#endif//_PRIORITY_QUEUE_H_

//PriorityQueue.cpp


#include <iostream>
#include <vector>
using namespace std;

#include "PriorityQueue.h"

//heap operation
void PriorityQueue::BuildMaxHeap()        //build the max heap
{
    int heap_size = GetHeapSize();
    for (int i = (heap_size-1)/2; i >= 0; i --)
        MaxHeapify(i);
}

void PriorityQueue::MaxHeapify(int index)    //protect the max heap
{
    if (index < 0 || index >= GetHeapSize())
        return;

    int heap_size = GetHeapSize();
    bool isHeapify = true; 

    int largest = -1;
    while (isHeapify && index < heap_size) {
        int left = getLeft(index);
        int right = getRight(index);

        if (left < heap_size && GetQueueElement(left) > GetQueueElement(index) )
            largest = left;
        else
            largest = index;
        if (right < heap_size && GetQueueElement(right) > GetQueueElement(largest) )
            largest = right;

        if (largest != index) {
            Swap(index, largest);
            index = largest;
        }
        else
            isHeapify = false;
    }

}

void PriorityQueue::HeapSort()            //heap sort
{
    BuildMaxHeap();
    int heap_size = GetHeapSize();
    for (int i = heap_size-1; i >= 1; i --) {
        Swap(0, i);
        SetHeapSizeMinus1(); //heap_size--;
        MaxHeapify(0);
    }
}

//priority queue operation
void PriorityQueue::HeapInsert(int key)    //insert key to the priority queue;
{
//     SetHeapSizePlus1();
//     int heap_size = GetHeapSize();
    AddQueueElement(INT_MIN);            //add the INT_MIN to the end of heapQueue;
    int heap_size = GetHeapSize();
    HeapIncreaseKey(heap_size-1, key);
}

int PriorityQueue::HeapMaximum()    //return the maximum key from priority queue;
{
    return GetQueueElement(0);        //the first element is max;
}

int PriorityQueue::HeapExtractMax()        //delete and return the maximum key from queue;
{
    if (IsEmptyHeap())
        throw "heap underflow";

    int heap_size = GetHeapSize();
    int maxNum = GetQueueElement(0); 
    SetQueueElement(0, GetQueueElement(heap_size-1)); //A[1] = A[heap_size]
    SetHeapSizeMinus1();
    MaxHeapify(0);    //Max_Heapify()
    return maxNum;
}

void PriorityQueue::HeapIncreaseKey(int srcIndex, int dstKey)    //increasing the srcKey to dstKey
{
    if (dstKey < GetQueueElement(srcIndex))
        throw "new key is smaller than current key!";
    SetQueueElement(srcIndex, dstKey); //x = key
    while(srcIndex > 0 && GetQueueElement(getParent(srcIndex)) < GetQueueElement(srcIndex)) {
        Swap(srcIndex, getParent(srcIndex));
        srcIndex = getParent(srcIndex); //get parent
    }
}

void PriorityQueue::HeapDelete(int key)    //delete key 习题6.5-8
{
    int heap_size = GetHeapSize();
    int index = 0;
    for (;index < heap_size; index ++) {
        if (GetQueueElement(index) == key)
            break;
    }
    SetQueueElement(index, GetQueueElement(heap_size-1));
    SetHeapSizeMinus1();
    MaxHeapify(index);
}

//other assist functions
void PriorityQueue::DisplayQueue()
{
    int nLen = GetArrayLength();
    cout << "------------------------" << endl;
    for (int i = 0; i < nLen; i ++)
        cout << GetQueueElement(i) << " ";
    cout << endl;
}

void PriorityQueue::DisplayHeapQueue()
{
    int heap_size = GetHeapSize();
    cout << "------------------------" << endl;
    for (int i = 0; i < heap_size; i ++)
        cout << GetQueueElement(i) << " ";
    cout << endl;
}

void PriorityQueue::AddQueueElement(int key)
{
    m_vecQueue.push_back(key);
    m_heapSize ++;
    m_length ++;
}


// int main()
// {
//     //int key, num;
//     PriorityQueue PQ;
// 
// //     cout << "the number:" << endl;
// //     cin >> num;
//     int arr[] = {10,8,7,16,14,9,3,2,4,1};
//     cout << "the key:" << endl;
//     for (int i = 0; i < 10; i ++) {
//         PQ.AddQueueElement(arr[i]);
//     }
// 
//     PQ.BuildMaxHeap();
//     PQ.DisplayQueue();
// 
//     //Max
//     cout << "Max:" << PQ.HeapMaximum() << endl;
// 
//     //IncreaseKey
//     cout << "IncreaseKey:" << endl;
//     PQ.HeapIncreaseKey(0, 18);
//     PQ.DisplayHeapQueue();
//     
//     //InsertKey
//     cout << "InsertKey:" << endl;
//     PQ.HeapInsert(20);
//     PQ.DisplayHeapQueue();
// 
//     //Extract_Max
//     cout << "Extract_Max:" << PQ.HeapExtractMax() << endl;
//     PQ.DisplayHeapQueue();
// 
//     //Extract_Max
//     cout << "Extract_Max:" << PQ.HeapExtractMax() << endl;
//     PQ.DisplayHeapQueue();
// 
//     return 0;
// }

习题精讲：

优先队列的讲述，基本就是这样，其实主要的设计思想还是堆。下面看两道有意思的习题：

1）习题6.5-6：在Heap_Increase_Key的第5行操作中，一般需要通过三次赋值来完成。想一想如何利用Insertion_Sort内循环部分的思想，只用一次赋值就完成这一交换操作？

分析：这是一种非常好的出题思路，能够打开我们的思维，让人有一种眼前一亮的感觉。我们可以先向下移动小于他的祖先，直到没有小于他的祖先后放在空出的位置上。如：

Heap-Increase-Key(A, i, key)
    if A[i] < key
        error "new key is smaller than original"
    while i > 1 and A[Parent(i)] < key
        A[i] = A[Parent(i)]
        i = Parent(i)
    A[i] = key

2）习题6.5-9：请设计一个能够在O(nlgk)的算法，它能够将k个有序链表合并成一个有序链表，这里n是所有输入链表包含的总的元素个数。（提示：使用最小堆来完成k路归并）。

这个题首先想到2路归并排序，但此处是k路，乍一看没什么思路，看了提示后，仍然没有什么头绪，看了网友Anker的思路后，发现可以这样来做（太水了）：创建一个大小为k的数组，将k个链表中的第一个元素依次存放到数组中，然后将数组调整为最小堆，这样保证数组的第一个元素是最小的，假设为min，将min从最小堆取出并存放到最终结果的链表中，此时将min所在链表的下一个元素到插入的最小堆中，继续上面的操作，直到堆中没有元素为止。举个例子如下图所示（只给出不部分操作）：

我们采用C++语言，借助STL实现此过程，链表采用vector，最小堆中存放的是vector的迭代器，表示vector中元素的位置。完整程序如下：

//MinHeap_KMerge.cpp

#include <iostream>
#include <vector>

using namespace std;

#include "MinHeap.h"

//merge the k list to a heap;
template<class T>
MinHeap<T>::MinHeap(size_t kSize) 
{
    if (!m_minHeap)
        delete []m_minHeap;
    m_minHeap = new T[kSize+1];
    m_heapSize = 0;
}

//adjust the min heap;
template<class T>
void MinHeap<T>::MinHeapify(size_t index)
{
    //assert
    size_t heap_size = GetHeapSize();

    while (true) {
        size_t left = LEFT(index);
        size_t right = RIGHT(index);
        
        size_t smallest;
        if (left < heap_size && HeapCompare(left, index))
            smallest = left;
        else smallest = index;
        if (right < heap_size && HeapCompare(right, smallest))
            smallest = right;

        if (smallest != index) {
            Swap(index, smallest);
            index = smallest;
        }
        else break;
    }
}

//insert element
template<class T>
void MinHeap<T>::HeapInsert(const T &element)
{
    m_minHeap[m_heapSize] = element;
    m_heapSize += 1;

    size_t index = m_heapSize-1;

    while (index > 0 && HeapCompare(index, PARENT(index))) {
        Swap(index, PARENT(index));
        index = PARENT(index);
    }
}

//return and delete the min element
template<class T>
T MinHeap<T>::HeapExtractMin()
{
    if (IsEmptyHeap())
        throw "Heap is Empty!";
    T minElement = HeapMin();

    int heap_size = GetHeapSize();
    m_minHeap[0] = m_minHeap[heap_size-1];
    m_heapSize -= 1;
    MinHeapify(0);
    return minElement;
}

//return min element;
template<class T>
T    MinHeap<T>::HeapMin()  const
{
    return m_minHeap[0];
}

int main()
{
    const size_t k = 3;
    vector<int> vecList[k];
    vector<int>::iterator iterList[k];
    vector<int> vecSort;
    vector<int>::iterator iterS;
    
    vector<int>::iterator it;

    MinHeap<vector<int>::iterator> minHeap(k);
    //first list
    vecList[0].push_back(12);
    vecList[0].push_back(24);
    vecList[0].push_back(52);
    cout << "first list:" << endl;
    for ( it = vecList[0].begin();it != vecList[0].end(); ++it) 
        cout << *it << "->";
    cout << "NULL" << endl;

    vecList[1].push_back(9);
    vecList[1].push_back(32);
    
    cout << "second list:" << endl;
    for ( it = vecList[1].begin();it != vecList[1].end(); ++it) 
        cout << *it << "->";
    cout << "NULL" << endl;

    vecList[2].push_back(34);
    vecList[2].push_back(42);
    vecList[2].push_back(78);
    cout << "third list:" << endl;
    for ( it = vecList[2].begin();it != vecList[2].end(); ++it) 
        cout << *it << "->";
    cout << "NULL" << endl;
    
    iterList[0] = vecList[0].begin();
    iterList[1] = vecList[1].begin();
    iterList[2] = vecList[2].begin();


    minHeap.HeapInsert(iterList[0]);
    minHeap.HeapInsert(iterList[1]);
    minHeap.HeapInsert(iterList[2]);

    while(minHeap.GetHeapSize()) {
        it = minHeap.HeapExtractMin();
        vecSort.push_back(*it);
        ++it;
        if (it != vecList[0].end() && it != vecList[1].end() && it != vecList[2].end()) { //!!!!Expression vector iterators incompatible
            minHeap.HeapInsert(it);
        }
    }

    cout << "merge:" << endl;
    for (iterS = vecSort.begin(); iterS != vecSort.end(); ++ iterS)
        cout << *iterS << "->";
    cout << "NULL" << endl;

    return 0;
}

---

我的公众号 「Linux云计算网络」(id: cloud_dev)，号内有 10T 书籍和视频资源，后台回复 「1024」 即可领取，分享的内容包括但不限于 Linux、网络、云计算虚拟化、容器Docker、OpenStack、Kubernetes、工具、SDN、OVS、DPDK、Go、Python、C/C++编程技术等内容，欢迎大家关注。