[Redis]1-高效的数据结构P2-Set

news2025/4/23 0:12:41

按照惯例,先丢一个官网文档链接。

上篇我们已经了解了高效的数据结构P1-String与Hash。
这篇,我们继续来了解Redis的 Set 与 Sorted set。

目录

  • 有序集合 Sorted set
    • 底层实现
  • 集合 Set
  • 总结
  • 资料引用

有序集合 Sorted set

Redis 有序集合是一组唯一的字符串(成员)集合,这些字符串根据一个关联的分数进行排序。

这种有序、元素唯一且根据关联的分数进行排序的高效操作的数据结构,简称ZSET。
可以用于:

  • 动态排序:比如排行榜,每个元素可以代表一个实体(如用户、商品),分数表示排序依据(如积分、销量)。由于ZSET自动维护排序,你可以轻松获取排名靠前的成员、某个成员的排名,或者按分数范围查询。
# 添加
> zadd prices 8 sandwich 
(integer) 1

> zadd prices 100000 car 
(integer) 1

> zadd prices 6300 iphone 8900 iphonepro
(integer) 2

# 结果展示
> zrange prices 0 9 withscores
1) "sandwich"
2) "8"
3) "iphone"
4) "6300"
5) "iphonepro"
6) "8900"
7) "car"
8) "100000"
  • 速率限制器:ZSET可以实现一种基于滑动窗口的速率限制器,利用时间戳作为分数,成员记录请求标识,自动移除过期的请求。

底层实现

ZSET通过包含跳表和哈希表的二端口数据结构实现。每个ZSET对象包含一个哈希表和一个跳表,成员和分数在两边各存一份,哈希表存member -> score,跳表存score -> member的排序关系。

typedef struct zset {
    dict *dict;
    zskiplist *zsl;
} zset;

其中哈希结构上章已经了解过了。ZSET的唯一性便是通过Hash Table实现的。总体结构也同Hash类似。

跳表用于维护成员的按分数排序,支持高效的插入、删除、排名查询和范围查询。
本篇进行跳表skiplist的介绍,并了解skiplist是如何设计以支持排序的。

源码地址点这,其结构由redis.h/zskiplistNode和redis.h/zskiplist两个结构定义。

zskiplist和zskiplistNode结构如下:

typedef struct zskiplist {
    struct zskiplistNode *header, *tail; //头、尾节点
    unsigned long length; // 长度
    int level;//记录目前跳跃表内,层数最大的那个节点的层数(表头节点的层数不计算在内)
} zskiplist;

typedef struct zskiplistNode {
    sds ele;              // 成员
    double score;         // 分数
    struct zskiplistNode *backward;// 后退指针
    struct zskiplistLevel {
        struct zskiplistNode *forward;// 前进指针
        unsigned long span;// 跨度,记录跳过的节点数(前进指针所指向节点和当前节点的距离)
    } level[];
};

zskiplistNode用于表示跳跃表节点,zskiplist结构用于保存跳跃表节点的相关信息。
zskiplistNode点的level数组可以包含多个元素,每个元素都包含一个指向其他节点的指针,程序可以通过这些层来加快访问其他节点的速度,一般来说,层的数量越多,访问其他节点的速度就越快。

较传统Node与List,zskiplistNode多了一个level[]结构,这是一个动态数组。每个元素表示该节点在某一层级的前进指针(指向下一个节点)和跨度(span,表示跳过的节点数)

    struct zskiplistLevel {
        struct zskiplistNode *forward;// 前进指针
        unsigned long span;// 跨度,记录跳过的节点数(前进指针所指向节点和当前节点的距离)
    } level[];

Redis zskiplistNode这个设计通过level[]存储的多层索引预计算节点关系(预存关系),让查找、插入和删除的复杂度从传统链表的O(N)降到O(log N),接近二分查找的效率。
跳表的高层索引节点稀疏,低层节点密集,类似二分搜索的层次划分,快速定位目标节点或分数范围。

level[]有点类似闭包表的核心表设计,存储节点关系。

![[Pasted image 20250417234839.png]]

  • 核心方法
    阅读Redis的zskiplist.c,重点看zslInsert(插入)和zslGetRank(排名计算),理解level[]和span的实现。
    zslInsert源码如下:
/* 插入一个新节点到跳表中,返回新插入的节点指针
 * 参数:
 *   zsl: 跳表对象
 *   score: 新节点的分数
 *   ele: 新节点的成员(字符串)
 * 返回:
 *   新插入的节点指针
 */
zskiplistNode *zslInsert(zskiplist *zsl, double score, sds ele) {
    zskiplistNode *update[ZSKIPLIST_MAXLEVEL], *x; // update数组记录每层插入位置的前驱节点
    unsigned long rank[ZSKIPLIST_MAXLEVEL];       // rank数组记录每层累积的跨度
    int i, level;

    serverAssert(!isnan(score)); // 确保分数不是NaN

    // 步骤1:查找插入位置,记录前驱节点和跨度
    x = zsl->header; // 从头节点开始
    for (i = zsl->level-1; i >= 0; i--) { // 从最高层逐层向下查找
        // 初始化rank,继承上一层的跨度(若非最高层)
        rank[i] = i == (zsl->level-1) ? 0 : rank[i+1];
        // 沿当前层前进,直到遇到分数更大或字典序更大的节点
        while (x->level[i].forward &&
               (x->level[i].forward->score < score ||
                (x->level[i].forward->score == score &&
                 sdscmp(x->level[i].forward->ele, ele) < 0))) {
            // 累加跨度,记录跳过的节点数
            rank[i] += x->level[i].span;
            x = x->level[i].forward; // 前进到下一个节点
        }
        // 记录当前层的前驱节点
        update[i] = x;
    }

    // 步骤2:随机生成新节点的层级
    level = zslRandomLevel(); // 随机层级,概率递减(通常p=0.25)
    if (level > zsl->level) { // 如果新层级超过当前最大层级
        for (i = zsl->level; i < level; i++) {
            rank[i] = 0; // 新层级的rank初始化为0
            update[i] = zsl->header; // 新层级的前驱是头节点
            update[i]->level[i].span = zsl->length; // 跨度设为跳表总长度
        }
        zsl->level = level; // 更新跳表最大层级
    }

    // 步骤3:创建新节点
    x = zslCreateNode(level, score, ele); // 分配新节点内存,初始化分数和成员
    for (i = 0; i < level; i++) { // 为每层设置指针和跨度
        // 插入新节点:将新节点的forward指向前驱的forward
        x->level[i].forward = update[i]->level[i].forward;
        update[i]->level[i].forward = x; // 前驱指向新节点

        // 更新跨度:新节点的跨度 = 前驱原跨度 - 已跳过的节点数
        x->level[i].span = update[i]->level[i].span - (rank[0] - rank[i]);
        update[i]->level[i].span = (rank[0] - rank[i]) + 1; // 前驱的新跨度
    }

    // 步骤4:处理更高层的跨度
    for (i = level; i < zsl->level; i++) {
        update[i]->level[i].span++; // 未插入新节点的层,跨度+1
    }

    // 步骤5:设置后退指针
    x->backward = (update[0] == zsl->header) ? NULL : update[0];
    if (x->level[0].forward)
        x->level[0].forward->backward = x;
    else
        zsl->tail = x;

    // 步骤6:更新跳表元数据
    zsl->length++; // 跳表长度+1

    return x; // 返回新节点
}

集合 Set

Redis 集合是一个无序且唯一的字符串集合(成员)。您可以使用 Redis 集合高效地:

  • 跟踪唯一的项目(例如,跟踪访问特定博客文章的所有唯一 IP 地址。唯一事件ID)
  • 表示关系(例如,具有给定角色的所有用户的集合)
  • 执行常见的集合操作,如交集、并集和差集

和Java的HashSet一样,非常适合删除重复数据的集合。

Redis Set的底层实现主要依赖两种数据结构:哈希表(Hash Table)和整数集合(Intset)

其中哈希结构上章已经了解过了。唯一性便是通过Hash Table实现的。那么整数集合Intset是干什么的呢?
用来提供动态数据结构选择的。

当Set包含非整数成员(如字符串)或成员数量较多时,使用哈希表。
当Set的所有成员都是整数(支持int16、int32、int64),且成员数量较少时(受set-max-intset-entries配置控制,默认512),使用整数集合Intset。
数量超过阈值会转换成Hash Table,且Intset到哈希表的转换是单向的(不可逆),因为哈希表支持任意字符串,而Intset只支持整数。

即,Redis Set的底层数据结构会根据存储的成员类型和数量动态选择。
intset源码地址。
源码如下:

typedef struct intset {
	// 编码类型(INTSET_ENC_INT16/32/64)
    uint32_t encoding;
    // 数组长度
    uint32_t length;
    // 保存元素的数组
    int8_t contents[];
} intset;

Intset是一个紧凑的有序数组,存储整数值,自动选择最小编码类型(int16_t、int32_t、int64_t)以节省内存。
Intset有编码升级机制:
当插入的整数超出当前编码范围(如int16_t溢出),Intset自动升级到更高编码(如int32_t),并重新分配内存。
且Intset有序。Intset按数值大小排序,插入时使用二分查找定位。

Redis通过设计一种转换机制,使用Intset来专门优化存储小规模整数集合,达到节省内存(紧凑存储)的目的,提升内存效率,且支持快速二分查找,适合小集合的查询。

总结

Redis不负简单高效的内存数据库之名,一方面做了大量空间换时间的操作,一方面设计极致压榨内存、提升内存效率。
比如跳表的预存、hash表的渐进扩容、String sds的预留空间、延迟释放、intset的极致内存利用、set的动态转换。

资料引用

《Redis设计与实现》

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2340409.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

用ffmpeg 实现拉取h265的flv视频转存成264的mp4 实现方案

参考文章 支持 flvh265 的ffmpeg编译安装_demuxer flvhevc异常-CSDN博客 windwos有别人编译好的 支持HEVC/H265 RTMP播放的FFMPEG/FFPLAY WINDOWS版本 但是linux没有所以得自己编译 1.需要对ffmpeg进行源码修改 这里使用 https://github.com/numberwolf/FFmpeg-QuQi-H265-…

Compose Multiplatform Android Logcat工具

一、通过adb发送指令&#xff0c;收集设备日志并保存 二、UI 三、代码 /*** 获取设备列表*/fun getDevices(): List<String> {val process ProcessBuilder("adb", "devices").redirectErrorStream(true).start()val output process.inputStream.…

[渗透测试]渗透测试靶场docker搭建 — —全集

[渗透测试]渗透测试靶场docker搭建 — —全集 对于初学者来说&#xff0c;仅仅了解漏洞原理是不够的&#xff0c;还需要进行实操。对于公网上的服务我们肯定不能轻易验证某些漏洞&#xff0c;否则可能触犯法律。这是就需要用到靶场。 本文主要给大家介绍几种常见漏洞对应的靶场…

人工智能-机器学习(线性回归,逻辑回归,聚类)

人工智能概述 人工智能分为:符号学习&#xff0c;机器学习。 机器学习是实现人工智能的一种方法&#xff0c;深度学习是实现机器学习的一种技术。 机器学习&#xff1a;使用算法来解析数据&#xff0c;从中学习&#xff0c;然后对真实世界中是事务进行决策和预测。如垃圾邮件检…

探寻Gson解析遇到不存在键值时引发的Kotlin的空指针异常的原因

文章目录 一、问题背景二、问题原因三、问题探析Kotlin空指针校验Gson.fromJson(String json, Class<T> classOfT)TypeTokenGson.fromJson(JsonReader reader, TypeToken<T> typeOfT)TypeAdapter 和 TypeAdapterFactoryReflectiveTypeAdapterFactoryRecordAdapter …

冰川流域提取分析——ArcGIS pro

一、河网提取和流域提取视频详细GIS小熊 || 6分钟学会水文分析—河网提取&#xff08;以宜宾市为例&#xff09;_哔哩哔哩_bilibili 首先你要生成研究区域DEM&#xff0c;然后依次是填洼→流向→流量→栅格计算器→河网分级→栅格河网矢量化&#xff08;得到河网.shp&#xff…

wordpress 垂直越权(CVE=2021-21389)漏洞复现详细教程

关于本地化搭建vulfocus靶场的师傅可以参考我置顶文章 KALI搭建log4j2靶场及漏洞复现全流程-CSDN博客https://blog.csdn.net/2301_78255681/article/details/147286844 描述: BuddyPress 是一个用于构建社区站点的开源 WordPress 插件。在 7.2.1 之前的 5.0.0 版本的 BuddyP…

MySQL 线上大表 DDL 如何避免锁表(pt-online-schema-change)

文章目录 1、锁表问题2、pt-online-schema-change 原理3、pt-online-schema-change 实战3.1、准备数据3.2、安装工具3.3、模拟锁表3.4、解决锁表 1、锁表问题 在系统研发过程中&#xff0c;随着业务需求千变万化&#xff0c;避免不了调整线上MySQL DDL数据表的操作&#xff0c…

剑指offer经典题目(五)

目录 栈相关 二叉树相关 栈相关 题目一&#xff1a;定义栈的数据结构&#xff0c;请在该类型中实现一个能够得到栈中所含最小元素的 min 函数&#xff0c;输入操作时保证 pop、top 和 min 函数操作时&#xff0c;栈中一定有元素。OJ地址 图示如下。 主要思想&#xff1a;我们…

3、排序算法1---按考研大纲做的

一、插入排序 1、直接插入排序 推荐先看这个视频 1.1、原理 第一步&#xff0c;索引0的位置是有序区&#xff08;有序区就是有序的部分&#xff0c;刚开始就只有第一个数据是有序的&#xff09;。第二步&#xff0c;将第2个位置到最后一个位置的元素&#xff0c;依次进行排…

llama-webui docker实现界面部署

1. 启动ollama服务 [nlp server]$ ollama serve 2025/04/21 14:18:23 routes.go:1007: INFO server config env"map[OLLAMA_DEBUG:false OLLAMA_FLASH_ATTENTION:false OLLAMA_HOST: OLLAMA_KEEP_ALIVE:24h OLLAMA_LLM_LIBRARY: OLLAMA_MAX_LOADED_MODELS:4 OLLAMA_MAX_…

Linux的Socket开发补充

是listen函数阻塞等待连接&#xff0c;还是accept函数阻塞等待连接&#xff1f; 这两个函数的名字&#xff0c;听起来像listen一直在阻塞监听&#xff0c;有连接了就accept&#xff0c;但其实不是的。 调用listen()后&#xff0c;程序会立即返回&#xff0c;继续执行后续代码&a…

Spring-AOP分析

Spring分析-AOP 1.案例引入 在上一篇文章中&#xff0c;【Spring–IOC】【https://www.cnblogs.com/jackjavacpp/p/18829545】&#xff0c;我们了解到了IOC容器的创建过程&#xff0c;在文末也提到了AOP相关&#xff0c;但是没有作细致分析&#xff0c;这篇文章就结合示例&am…

【专业解读:Semantic Kernel(SK)】大语言模型与传统编程的桥梁

目录 Start:什么是Semantic Kernel&#xff1f; 一、Semantic Kernel的本质&#xff1a;AI时代的操作系统内核 1.1 重新定义LLM的应用边界 1.2 技术定位对比 二、SK框架的六大核心组件与技术实现 2.1 内核&#xff08;Kernel&#xff09;&#xff1a;智能任务调度中心 2…

你学会了些什么211201?--http基础知识

概念 HTTP–Hyper Text Transfer Protocol&#xff0c;超文本传输协议&#xff1b;是一种建立在TCP上的无状态连接&#xff08;短连接&#xff09;。 整个基本的工作流程是&#xff1a;客户端发送一个HTTP请求&#xff08;Request &#xff09;&#xff0c;这个请求说明了客户端…

每天学一个 Linux 命令(29):tail

​​可访问网站查看,视觉品味拉满: http://www.616vip.cn/29/index.html tail 命令用于显示文件的末尾内容,默认显示最后 10 行。它常用于实时监控日志文件或查看文件的尾部数据。以下是详细说明和示例: 命令格式 tail [选项] [文件...]常用选项 选项描述-n <NUM> …

【形式化验证基础】活跃属性Liveness Property和安全性质(Safety Property)介绍

文章目录 一、Liveness Property1、概念介绍2、形式化定义二、Safety Property1. 定义回顾2. 核心概念解析3. 为什么强调“有限前缀”4. 示例说明4.1 示例1:交通信号灯系统4.2 示例2:银行账户管理系统5. 实际应用的意义三. 总结一、Liveness Property 1、概念介绍 在系统的…

PI0 Openpi 部署(仅测试虚拟环境)

https://github.com/Physical-Intelligence/openpi/tree/main 我使用4070tisuper, 14900k,完全使用官方默认设置&#xff0c;没有出现其他问题。 目前只对examples/aloha_sim进行测试&#xff0c;使用docker进行部署, 默认使用pi0_aloha_sim模型(但是文档上没找到对应的&…

计算机视觉——利用AI幻觉检测图像是否是生成式算生成的图像

概述 俄罗斯的新研究提出了一种非常规方法&#xff0c;用于检测不真实的AI生成图像——不是通过提高大型视觉-语言模型&#xff08;LVLMs&#xff09;的准确性&#xff0c;而是故意利用它们的幻觉倾向。 这种新方法使用LVLMs提取图像的多个“原子事实”&#xff0c;然后应用自…

FlaskRestfulAPI接口的初步认识

FlaskRestfulAPI 介绍 记录学习 Flask Restful API 开发的过程 项目来源&#xff1a;【Flask Restful API教程-01.Restful API介绍】 我的代码仓库&#xff1a;https://gitee.com/giteechaozhi/flask-restful-api.git 后端API接口实现功能&#xff1a;数据库访问控制&#xf…