前言:
今天完结了Redis的所有实战篇。
学习收获:
GEO数据结构:
GEO就是Geolocation的简写形式,代表地理坐标。Redis在3.2版本中加入对Geo的支持,存储、管理和操作地理空间数据的特殊数据结构,它能高效处理与位置、空间关系相关的信息。常见的命令有:
地理坐标数据结构其实底层就是基于sortset实现的,地理坐标被转为数字作为score存储。
- 添加了两个地理空间信息:
GEOADD cities 116.404 39.915 "Beijing" 121.473 31.230 "Shanghai"
- 计算两个地理位置的距离,默认单位是米:
GEODIST cities Beijing Shanghai km # 返回约 1068.11 千米
- 获取地理坐标位置:
GEOPOS cities Beijing # 返回 [116.40400149041748, 39.91500072454179]
- 附近查询:
GEORADIUS key longitude latitude radius unit [WITHCOORD] [WITHDIST] [WITHHASH] [COUNT count] [ASC|DESC]
GEORADIUSBYMEMBER key member radius unit [WITHCOORD] [WITHDIST] [WITHHASH] [COUNT count] [ASC|DESC]
WITHCOORD
:返回经纬度。WITHDIST
:返回距离。COUNT count
:限制返回数量。ASC|DESC
:按距离升序 / 降序排列
实现附近商户搜索功能:
要把店铺坐标的经纬度信息导入Redis中的GEO数据类型结构中,member存店铺id。将来我们要做店铺的筛选时,根据经纬度的到店铺id,再根据id在数据库中查询店铺;
分离不同类型的商户,再把不同类型的商户分到不同的key中:
- 查询点铺信息
- 把店铺分组,按照typeId分组,id一致的放到一个集合
通过收集的groupingBy来实现分组,通过TypeId来分组
- 分批完成写入Redis
获取类型id;获取同类型的点铺集合;写入redis GEOADD key 经度 维度 member
- 最后导入店铺数据到GEO
/*** 预热店铺数据,按照typeId进行分组,用于实现附近商户搜索功能*/@Testpublic void loadShopListToCache() {// 1、获取店铺数据List<Shop> shopList = shopService.list();// 2、根据 typeId 进行分类
// Map<Long, List<Shop>> shopMap = new HashMap<>();
// for (Shop shop : shopList) {
// Long shopId = shop.getId();
// if (shopMap.containsKey(shopId)){
// // 已存在,添加到已有的集合中
// shopMap.get(shopId).add(shop);
// }else{
// // 不存在,直接添加
// shopMap.put(shopId, Arrays.asList(shop));
// }
// }// 使用 Lambda 表达式,更加优雅(优雅永不过时)Map<Long, List<Shop>> shopMap = shopList.stream().collect(Collectors.groupingBy(Shop::getTypeId));// 3、将分好类的店铺数据写入redisfor (Map.Entry<Long, List<Shop>> shopMapEntry : shopMap.entrySet()) {// 3.1 获取 typeIdLong typeId = shopMapEntry.getKey();List<Shop> values = shopMapEntry.getValue();// 3.2 将同类型的店铺的写入同一个GEO ( GEOADD key 经度 维度 member )String key = SHOP_GEO_KEY + typeId;// 方式一:单个写入(这种方式,一个请求一个请求的发送,十分耗费资源,我们可以进行批量操作)
// for (Shop shop : values) {
// stringRedisTemplate.opsForGeo().add(key, new Point(shop.getX(), shop.getY()),
// shop.getId().toString());
// }// 方式二:批量写入List<RedisGeoCommands.GeoLocation<String>> locations = new ArrayList<>();for (Shop shop : values) {locations.add(new RedisGeoCommands.GeoLocation<>(shop.getId().toString(),new Point(shop.getX(), shop.getY())));}stringRedisTemplate.opsForGeo().add(key, locations);}}
实现附近商铺功能:
- 判断是否要根据坐标查询
- 计算分页参数
- 查询redis,按照距离排序并分页。
- 解析出shopid
- 根据id查询redis
- 返回
因为前端不一定是按照距离来查询商铺信息的,所以x和y的坐标不是必须的,所以通过required=false来设置可以有也可以没有。没传就按数据库查,传了就按geo查。
List也要做非空判断,因为stream流做了跳过,可能把有的数据跳过去了。
ShopServiceImpl中的代码:
@Overridepublic Result queryShopByType(Integer typeId, Integer current, Double x, Double y) {// 1.判断是否需要根据坐标查询if (x == null || y == null) {// 不需要坐标查询,按数据库查询Page<Shop> page = query().eq("type_id", typeId).page(new Page<>(current, SystemConstants.DEFAULT_PAGE_SIZE));// 返回数据return Result.ok(page.getRecords());}// 2.计算分页参数int from = (current - 1) * SystemConstants.DEFAULT_PAGE_SIZE;int end = current * SystemConstants.DEFAULT_PAGE_SIZE;// 3.查询redis、按照距离排序、分页。结果:shopId、distanceString key = SHOP_GEO_KEY + typeId;GeoResults<RedisGeoCommands.GeoLocation<String>> results = stringRedisTemplate.opsForGeo() // GEOSEARCH key BYLONLAT x y BYRADIUS 10 WITHDISTANCE.search(key,GeoReference.fromCoordinate(x, y),new Distance(5000),RedisGeoCommands.GeoSearchCommandArgs.newGeoSearchArgs().includeDistance().limit(end));// 4.解析出idif (results == null) {return Result.ok(Collections.emptyList());}List<GeoResult<RedisGeoCommands.GeoLocation<String>>> list = results.getContent();if (list.size() <= from) {// 没有下一页了,结束return Result.ok(Collections.emptyList());}// 4.1.截取 from ~ end的部分List<Long> ids = new ArrayList<>(list.size());Map<String, Distance> distanceMap = new HashMap<>(list.size());list.stream().skip(from).forEach(result -> {// 4.2.获取店铺idString shopIdStr = result.getContent().getName();ids.add(Long.valueOf(shopIdStr));// 4.3.获取距离Distance distance = result.getDistance();distanceMap.put(shopIdStr, distance);});// 5.根据id查询ShopString idStr = StrUtil.join(",", ids);List<Shop> shops = query().in("id", ids).last("ORDER BY FIELD(id," + idStr + ")").list();for (Shop shop : shops) {shop.setDistance(distanceMap.get(shop.getId().toString()).getValue());}// 6.返回return Result.ok(shops);}
用户签到:
但用户的签到状态无非就两种,签了或者没签,我们可以用二进制位表示签到卡,而这种二进制位可以通过BitMap来实现。
把每一个bit位对应当月的每一天,形成了映射关系。用0和1表示业务状态,这种思路就称为位图(BitMap)。Redis中是利用String类型数据结构实现BitMap,因此最大上限是512M,转换为bit则是2^32个bit位。
核心思想就是把bit位与业务的某种核心状态进行映射。
BitMap用法:
# 读取所有的bit位
BITFIELD key
# 查找第一个数出现的位置
BITPOS key value
BITPOS bm1 1 # 返回的就是0,11100111 offset位0的位置就是1
BITPOS bm1 0 # 返回的就是0,11100111 offset位0的位置就是1
# 读取指定位数的bit位
BITFIELD key GET type offset
# 获取的数据是3
BITFIELD bm1 get u2 0
实现签到功能:
- 获取当前登录用户
- 获取日期
- 拼接key
- 获取今天是本月的第几天
- 写入redis: setbit key offset 1
/*** 用户签到** @return*/@Overridepublic Result sign() {// 获取当前登录用户Long userId = ThreadLocalUtls.getUser().getId();// 获取日期LocalDateTime now = LocalDateTime.now();// 拼接keyString keySuffix = now.format(DateTimeFormatter.ofPattern(":yyyyMM"));String key = USER_SIGN_KEY + userId + keySuffix;// 获取今天是本月的第几天int dayOfMonth = now.getDayOfMonth();// 写入Redis SETBIT key offset 1stringRedisTemplate.opsForValue().setBit(key, dayOfMonth - 1, true);return Result.ok();}
实现签到统计功能:
从当前时间开始向前逐个遍历,依次判断每个bit位,知道遇到第一次为0为止。并且定义一个计数器来计算总的签到次数。
这里有三个问题来实现这个签到统计功能:
/*** 记录连续签到的天数** @return*/@Overridepublic Result signCount() {// 1、获取签到记录// 获取当前登录用户Long userId = ThreadLocalUtls.getUser().getId();// 获取日期LocalDateTime now = LocalDateTime.now();// 拼接keyString keySuffix = now.format(DateTimeFormatter.ofPattern(":yyyyMM"));String key = USER_SIGN_KEY + userId + keySuffix;// 获取今天是本月的第几天int dayOfMonth = now.getDayOfMonth();// 获取本月截止今天为止的所有的签到记录,返回的是一个十进制的数字 BITFIELD sign:5:202203 GET u14 0List<Long> result = stringRedisTemplate.opsForValue().bitField(key,BitFieldSubCommands.create().get(BitFieldSubCommands.BitFieldType.unsigned(dayOfMonth)).valueAt(0));// 2、判断签到记录是否存在if (result == null || result.isEmpty()) {// 没有任何签到结果return Result.ok(0);}// 3、获取本月的签到数(List<Long>是因为BitFieldSubCommands是一个子命令,可能存在多个返回结果,这里我们知识使用了Get,// 可以明确只有一个返回结果,即为本月的签到数,所以这里就可以直接通过get(0)来获取)Long num = result.get(0);if (num == null || num == 0) {// 二次判断签到结果是否存在,让代码更加健壮return Result.ok(0);}// 4、循环遍历,获取连续签到的天数(从当前天起始)int count = 0;while (true) {// 让这个数字与1做与运算,得到数字的最后一个bit位,并且判断这个bit位是否为0if ((num & 1) == 0) {// 如果为0,说明未签到,结束break;} else {// 如果不为0,说明已签到,计数器+1count++;}// 把数字右移一位,抛弃最后一个bit位,继续下一个bit位num >>>= 1;}return Result.ok(count);}
UV统计:
首先我们搞懂两个概念:
- UV:全称Unique Visitor,也叫独立访客量,是指通过互联网访问、浏览这个网页的自然人。1天内同一个用户多次访问该网站,只记录1次。
- PV:全称Page View,也叫页面访问量或点击量,用户每访问网站的一个页面,记录1次PV,用户多次打开页面,则记录多次PV。往往用来衡量网站的流量。
UV统计在服务端做会比较麻烦,因为要判断该用户是否已经统计过了,需要将统计过的用户信息保存。但是如果每个访问的用户都保存到Redis中,数据量会非常恐怖。
所以我们提出了HyperLogLog:
HyperLogLog用法:
Hyperloglog(HLL)是从LogLog算法派生的概率算法,用于确定非常大的集合的基数,而不是要存储其所有值。相关算法原理可以参考:https://juejin.cn/post/6844903785744056333#heading-0
Redis中的HLL是基于string结构实现的,单个HLL的内存永远小于16kb,内存占用低的令人发指。作为代价,其测量结果是概率性的,有小于0.81%的误差。不过对于UV统计来说,这完全可以忽略。
HLL对于重复的元素只记录一次,可以方便的解决了独立访客量的问题。
由于当前系统并没有足够的用户数据量,所以这里我们只是模拟实现UV统计。
/*** 测试 HyperLogLog 实现 UV 统计的误差*/@Testpublic void testHyperLogLog() {String[] values = new String[1000];// 批量保存100w条用户记录,每一批1个记录int j = 0;for (int i = 0; i < 1000000; i++) {j = i % 1000;values[j] = "user_" + i;if (j == 999) {// 发送到RedisstringRedisTemplate.opsForHyperLogLog().add("hl2", values);}}// 统计数量Long count = stringRedisTemplate.opsForHyperLogLog().size("hl2");System.out.println("count = " + count);}
可以看到,存储100w条用户记录,但是内存至多占用了0.02MB