项目简介

大家好，我是老马。

Cache 用于实现一个可拓展的高性能本地缓存。

有人的地方，就有江湖。有高性能的地方，就有 cache。

v1.0.0 版本

以前的 FIFO 实现比较简单，但是 queue 循环一遍删除的话，性能实在是太差。

于是想到引入一个 Set 存储有哪些 key，改成下面的方式：

package com.github.houbb.cache.core.support.evict.impl;import com.github.houbb.cache.api.ICacheContext;
import com.github.houbb.cache.core.model.CacheEntry;
import com.github.houbb.cache.core.support.evict.AbstractCacheEvict;import java.util.HashSet;
import java.util.LinkedList;
import java.util.Queue;
import java.util.Set;/*** 丢弃策略-先进先出* @author binbin.hou* @since 0.0.2*/
public class CacheEvictFifo<K,V> extends AbstractCacheEvict<K,V> {/*** queue 信息* @since 0.0.2*/private final Queue<K> queue = new LinkedList<>();/*** 避免数据重复加入问题* @since 1.0.1*/private final Set<K> keySet = new HashSet<>();@Overridepublic CacheEntry<K,V> doEvict(ICacheContext<K, V> context, final K newKey) {CacheEntry<K,V> result = null;// 超过限制，执行移除if(isNeedEvict(context)) {K evictKey = queue.remove();keySet.remove(evictKey);// 移除最开始的元素V evictValue = doEvictRemove(context, evictKey);result = new CacheEntry<>(evictKey, evictValue);}return result;}@Overridepublic void updateKey(ICacheContext<K, V> context, K key) {if (!keySet.contains(key)) {queue.add(key);keySet.add(key);}}}

这里虽然可以解决 fifo 的删除问题，但是内存有点浪费。

而且这样其实顺序也太对，每次还是需要更新 queue 的位置。

我们把结构继续调整一下，用其他的数据结构来替代。

v1.0.1 实现

其他的方式

方案	数据结构	内存开销	实现难度	是否推荐
`Queue + Set`	两个结构	较大	简单	❌
`LinkedHashSet`	单结构	小	简单	✅ 推荐
`LinkedHashMap`	Map+链表	中等	中等	✅ 可选

实现

简单起见，我们使用 LinkedHashSet 来实现。

package com.github.houbb.cache.core.support.evict.impl;import com.github.houbb.cache.api.ICacheContext;
import com.github.houbb.cache.core.model.CacheEntry;
import com.github.houbb.cache.core.support.evict.AbstractCacheEvict;import java.util.*;/*** 丢弃策略-先进先出* @author binbin.hou* @since 0.0.2*/
public class CacheEvictFifo<K,V> extends AbstractCacheEvict<K,V> {/*** queue 信息* @since 0.0.2*/private final Set<K> accessOrder = new LinkedHashSet<>();;@Overridepublic CacheEntry<K,V> doEvict(ICacheContext<K, V> context, final K newKey) {CacheEntry<K,V> result = null;// 超过限制，执行移除if(isNeedEvict(context)) {Iterator<K> iterator = accessOrder.iterator();K evictKey = iterator.next();V evictValue = doEvictRemove(context, evictKey);iterator.remove();// 移除最开始的元素result = new CacheEntry<>(evictKey, evictValue);}return result;}@Overridepublic void updateKey(ICacheContext<K, V> context, K key) {accessOrder.remove(key);accessOrder.add(key);}}

这样我们的目标算是达成了，实现了内存和性能的平衡。

拓展信息

开源矩阵

下面是一些缓存系列的开源矩阵规划。

名称	介绍	状态
resubmit	防止重复提交核心库	已开源
rate-limit	限流核心库	已开源
cache	手写渐进式 redis	已开源
lock	开箱即用的分布式锁	已开源
common-cache	通用缓存标准定义	已开源
redis-config	兼容各种常见的 redis 配置模式	已开源
quota-server	限额限次核心服务	待开始
quota-admin	限额限次控台	待开始
flow-control-server	流控核心服务	待开始
flow-control-admin	流控控台	待开始