LRU 缓存机制及 3 种简单实现

　　之前好几次接触到 LRU（Least Recently Used）算法，今天来总结下，并用 Java 和 Python 给出相应的实现。

　　LRU是一种缓存替换算法，根据字面意思，就是将最近最少使用的页面或者元素进行替换，将最近最多使用的页面或者元素保持在缓存里。有关缓存的知识后面再仔细研究下。由于缓存的容量大小有限，这才有了LRU之类的缓存算法。还有一些其他的缓存算法,可以参考这个页面。

　　根据下面的图示进行LRU算法的理解。

 

　　其中 put 操作用于将最近使用的元素放置在缓存中。必须先判断 key 是否存在，如果存在，则删除，再添加；若不存在，则直接添加，然后判断添加后的缓存是否超过了容量；若超出，则删除最远元素；get 操作用于获取缓存中元素的值，在 leetcode146 题中规定，如果缓存中没有该元素，则返回 -1。

　　一般我们在实现的时候会考虑存储 key-value 的键值对形式，可以用双链表存储 key，HashMap 存储真正需要的值 value，所以真正意义上的缓存应该是指这个HashMap。链表的作用是用来顺序存储 key，当缓存满了，需要删除最远的那个 key 及其 value，此时就需要根据链表找到最远的 value 的 key，从而删除缓存 HashMap中的最远的键值对。

　　这里我们用 双链表 + hashMap 以及 LinkedHashMap 、Python 中 OrderedDict 三种方式来实现一个简单的 LRU 机制。

双链表 + hashMap

class Solution {
    private LinkedList<Integer> linkedList;
    private Map<Integer, Integer> map;

    private int max_size;
    private int cur_size = 0;

    public Solution(int capacity) {
        linkedList = new LinkedList<>();
        map = new HashMap<>();
        this.max_size = capacity;
    }

    public int get(int key) {
        if(!map.containsKey(key)){
            return -1;
        }

        int val = map.get(key);
        Object o = key;
        linkedList.remove(o);
        linkedList.addLast(key);
        return val;
    }

    public void put(int key, int value) {
        if(map.containsKey(key)){
            // 这个put不能省略，即时key存在，若新添加的value更新了，那刚好就将value更新，如果省略，则value更新不了
            map.put(key, value);
            Object o = key;
            linkedList.remove(o);
            linkedList.addLast(key);
        }else{
            map.put(key, value);
            cur_size++;
            linkedList.addLast(key);
            if(cur_size>max_size){
                int tmp = linkedList.removeFirst();
                map.remove(tmp);
                cur_size--;
            }
        }
    }
}

　　其中在进行元素删除的时候，链表的时间复杂度是O（n），用 HashMap 进行 key 的查找的时候是O（1）的复杂度。

LinkedHashMap

class Solution {
    private LinkedHashMap<Integer, Integer> map;
    private int max_size;
    private int cur_size;

    public Solution(int capacity) {
        map = new LinkedHashMap<>();
        this.max_size = capacity;
        this.cur_size = 0;
    }

    public int get(int key) {
        // 若没有，则返回 -1
        if(!map.containsKey(key)){
            return -1;
        }

        int val = map.get(key);
        map.remove(key);
        map.put(key, val);
        return val;
    }

    public void put(int key, int value) {
        if(map.containsKey(key)){
            map.remove(key);
            map.put(key, value);
        }else{
            cur_size++;
            map.put(key, value);
            if(cur_size > max_size){
                int oldestKey = map.keySet().iterator().next(); // 获取最远的key。
                map.remove(oldestKey);
                cur_size--;
            }
        }
    }
}

　　LinkedHashMap 本身也是由 双链表 + hashMap 组成的。在缓存满了需要删除最远的元素的时候，是用的 HashMap 里的迭代器来获取最开始进来的key并删除其键值对。

Python OrderedDict

　　Python 可以使用这篇文章介绍的 OrderedDict 这一字典子类很轻松的实现 LRU 机制。

class LRUCache:

    def __init__(self, capacity: int):
        self.dic = OrderedDict()
        self.remain = capacity


    def get(self, key: int) -> int:
        if key not in self.dic:
            return -1
        # v = self.dic.pop(key)
        # self.dic[key] = v
        self.dic.move_to_end(key, last = True)
        return self.dic[key]

    def put(self, key: int, value: int) -> None:
        if key in self.dic:
            self.dic.pop(key)
        else:
            if self.remain > 0:
                self.remain -= 1
            else:
               self.dic.popitem(last = False)
        self.dic[key] = value