LRU(Least Recently Used)

  • 最近最少使用,它的设计原则借鉴了时间局部性原理,该算法认为如果数据最近被访问过,那么将来被访问的几率也更高,反之亦然。其原理是将数据按照其被访问的时间形成一个有序序列,最久未被使用的数据应该最早被淘汰掉,即当缓存空间被占满时,缓存内最长时间未被使用的数据将被淘汰掉。

大致思路

  • 可以简单的维护一个双向链表来实现,每当数据被访问时,使用头插法插入到队首。空间占满时,先移除末尾元素,随后对新元素使用头插法。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
public class LRUCache {
class Node {
Node pre, next;
int key, value;
Node(int key, int value) {
this.key = key;
this.value = value;
}
}

Node head = new Node(0, 0);
Node tail = new Node(0, 0);
Map<Integer, Node> map;
int size;

// 提供初始化缓存的大小
public LRUCache(int size) {
this.size = size;
map = new HashMap<>(size);
head.next = tail;
tail.pre = head;
}

public int get(int key) {
int res = -1;
// 命中缓存,将其移动到队首
if (map.containsKey(key)) {
Node node = map.get(key);
remove(node);
insertToHead(node);
res = node.value;
}
return res;
}

public void put(int key, int value) {
// 命中缓存,修改键值,并移动到队首
if (map.containsKey(key)) {
// 1. 修改键值
Node node = map.get(key);
node.value = value;
// 移动到队首
remove(node);
insertToHead(node);
} else {
// 未命中缓存,判断缓存是否已满
int mapSize = map.size();
// 已满则移除队尾元素
if (mapSize == size) {
map.remove(tail.pre.key);
remove(tail.pre);
}
// 插入新元素
Node node = new Node(key, value);
insertToHead(node);
map.put(key, node);
}
}

public void remove(Node node) {
node.pre.next = node.next;
node.next.pre = node.pre;
}

public void insertToHead(Node node) {
Node firstNode = head.next;
head.next = node;
firstNode.pre = node;
node.next = firstNode;
node.pre = head;
}
}
  • 基本的缓存逻辑写好了,那么如何编写过期逻辑呢?这里采用的是惰性删除,如果查询该元素时,发现该元素已经过期,那么移除该元素。当插入元素时,需要遍历所有的key,然后删除,当然这个判断条件也可以是当缓存满了的时候再执行。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
public class LRUCache {
class Node {
Node pre, next;
int key, value;
long expireTime;

Node(int key, int value, long expireTime) {
this.key = key;
this.value = value;
this.expireTime = expireTime;
}
}

Node head = new Node(0, 0, -1);
Node tail = new Node(0, 0, -1);
Map<Integer, Node> map;
int size;

// 提供初始化缓存的大小
public LRUCache(int size) {
this.size = size;
map = new HashMap<>(size);
head.next = tail;
tail.pre = head;
}

public int get(int key) {
int res = -1;
// 命中缓存,将其移动到队首
if (map.containsKey(key)) {
Node node = map.get(key);
if (node.expireTime > System.currentTimeMillis()) {
remove(node);
insertToHead(node);
res = node.value;
} else {
System.out.println("当前节点过期:" + key);
remove(node);
}
}
return res;
}

public void put(int key, int value, long expireTime) {
// 删除所有过期的key
map.entrySet().removeIf(entry -> {
boolean b = entry.getValue().expireTime <= System.currentTimeMillis();
if (b) {
System.out.println("移除key:" + entry.getValue().key);
}
return b;
} );

// 命中缓存,修改键值,并移动到队首
if (map.containsKey(key)) {
// 1. 修改键值
Node node = map.get(key);
node.value = value;
// 移动到队首
remove(node);
insertToHead(node);
} else {
// 未命中缓存,判断缓存是否已满
int mapSize = map.size();
// 已满则移除队尾元素
if (mapSize == size) {
map.remove(tail.pre.key);
remove(tail.pre);
}
// 插入新元素
Node node = new Node(key, value, expireTime);
insertToHead(node);
map.put(key, node);
}
}

public void remove(Node node) {
node.pre.next = node.next;
node.next.pre = node.pre;
}

public void insertToHead(Node node) {
Node firstNode = head.next;
head.next = node;
firstNode.pre = node;
node.next = firstNode;
node.pre = head;
}
}
  • 下面简单写个main方法验证一下,查看日志是否符合预期
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
public static void main(String[] args) {
LRUCache cache = new LRUCache(3);

Scanner scanner = new Scanner(System.in);
while (true) {
System.out.println("请输入操作:get 或 put");
String operation = scanner.nextLine();

if ("get".equalsIgnoreCase(operation)) {
System.out.println("请输入要获取的键:");
int key = scanner.nextInt();
scanner.nextLine(); // 清除缓冲区中的换行符

int value = cache.get(key);
if (value != -1) {
System.out.println("键 " + key + " 对应的值为:" + value);
} else {
System.out.println("键 " + key + " 不存在或已过期");
}
} else if ("put".equalsIgnoreCase(operation)) {
System.out.println("请输入要放入的键:");
int key = scanner.nextInt();
System.out.println("请输入要放入的值:");
int value = scanner.nextInt();
System.out.println("请输入过期时间(毫秒):");
long expireTime = scanner.nextLong();
scanner.nextLine();

cache.put(key, value, System.currentTimeMillis() + expireTime);
System.out.println("键值对已放入缓存");
} else {
System.out.println("无效的操作,请重新输入");
}
}
}