Redis高级:数据结构

news2024/11/17 4:30:07

动态字符串SDS

Redis保存的Key是字符串,value往往是字符串或者字符串的集合。可见字符串是Redis中最常用的一种数据结构。不过Redis没有直接使用C语言中的字符串,因为C语言字符串存在很多问题:

  • 获取字符串长度需要进行一个运算
  • 非二进制安全
  • 不可修改

Redis构建一种新的字符串结构,称为简单动态字符串,简称SDS

Redis是由C语言实现的,其中SDS是一个结构体,源码如下:

image-20230215204703292

例如:一个包含字符串“name”的sds结构如下:

image-20230215204756025

SDS之所以叫动态字符串,是因为它具备动态扩容的能力。

如果我们要给SDS追加一段字符串,首先就会申请新的内存空间:

  • 如果新字符串小于1M,则新空间拓展后字符串长度的二倍+1 (+1是因为C语言的结尾为\0)
  • 如果新字符串大于1M,则新空间为拓展后字符串长度+1M+1.

这种方式称之为预分配

image-20230215204457653

追加“,Amy”后:

image-20230215204520247

优点:

  1. 获取字符串长度的时间复杂度为O(1)
  2. 支持动态扩容
  3. 减少内存分配次数
  4. 二进制安全

IntSet

IntSet是Redis中Set集合的一种实现方式,基于整数数组来实现,具备长度可变、有序等特征

结构如下:

image-20230215205214316

其中encoding 包括三种模式,表示存储的整数大小不同:

image-20230215205615071

为了方便查找,Redis会将intset中所有的整数按照升序一次保存在contents数组中,结果如图:

image-20230215205819167

当我们想intset添加一个超出范围的数,那么intset就会自动升级编码方式到合适的大小。

流程如下:

  1. 进行计算,升级到合适的编码,并按照新的编码方式及元素个数扩容数组
  2. 倒叙依次将数组中的元素拷贝到扩容后的正确位置。倒序是为了防止被覆盖
  3. 将待添加的元素放入数组末尾
  4. 最后,将intset的encoding属性进行更改,同时将数组长度也进行一个修改

IntSet可以看作是特殊的整数数组,具备以下特征:

  1. Redis会确保IntSet中的元素唯一、游戏
  2. 具备类型升级机制,可以节省内存空间
  3. 底层采用二分查找方式进行查询

在数据量不多的情况下使用效果更好

Dict

Redis是键值对型的数据库,我们可以根据键进行快速的增删改查,而键与值的映射关系正是通过Dict来实现的

DIct由三部分组成,分别是:哈希表(DictHashTable)、哈希节点(DictEntry)、字典(Dict)

源码:

image-20230215212730114

image-20230215212841700

当我们想Dict添加键值对时,Redis首先根据Key计算出hash值,然后利用h&sizemask来计算元素应该存到数组的那个索引位置。我们存储k1=v1,假设k1的哈希值h=1,则1&3=1,因此k1=v1要存在到数组角标为1的位置

image-20230215212740764

Dict扩容

Dict的HashTable就是数组结合单向链表的实现,当集合中元素较多时,必然导致哈希冲突增多,链表过长,则查询效率大大降低。

Dict在每次新增键值对时都会检查负载因子(LoadFactor=used/size),满足一下两种情况会触发哈希表扩容:

  • 哈希表的LoadFactor>=1,并且服务器没有执行BGSAVE或者BGREWARITEAOF等后台操作
  • 哈希表的LoadFactor>5

image-20230215224131536

Dict收缩

Dict出了扩容以外,当删除元素的时会对负载因子进行一个检查,当LoadFactor(负载因子)<0.1时,会进行一个收缩

image-20230215224439215

Dict的rehash

不管是扩容还是收缩,必定会创建新的哈希表,导致哈希表的size和sizemask发生变化,而key的查询与sizemask有关。因此必须对哈希表的每一个key重新计算索引,插入新的哈希表,这个过程称之为rehash

Dict的rehash不是一次性完成的,如果Dict中包含数百万的entry,要再一次rehash完成,极可能导致主线程阻塞,因此Dict的rehash是分多次、渐进式的完成,因此被称之为渐进式rehash

过程:

  1. 计算新hash表的realeSize,值取决于当前要做的是扩容还是收缩
    • 如果是扩容,则新size为第一个大于等于dict.ht[0].used +1 的2^n
    • 如果是收缩,则新size为第一个大于等于dict.ht[0].used的2^n(不得小于4)
  2. 按照新的realesize申请内存空间,创建dictht,并赋值给dict.ht[1]
  3. 设置dict.rehashindex=0,标识开始rehash
  4. 将dict.ht[0]中的每一个dictEntry都rehash到dict.ht[1]
    每次执行新增、查询、修改、删除操作时,都检查一下dict.rehashidx是否大于-1,如果是则将dict.ht[0].table[rehashidx]的entry链表rehash到dict.ht[1],并将rehashidx++。直至dict.ht[0]的所有数据都rehash到dict.ht[1]
  5. 将dict.ht[1]赋值给dict.ht[0],给dict.ht[1]初始化为空哈希表,释放原来dict.ht[0]的内存
  6. 将rehashidx赋值为-1,标识rehash结束
  7. 在rehash过程中新增操作,则直接写入ht[1],查询、修改和删除则会在dict.ht[0]和dict.ht[1]一次查找并执行,这样子可以确保ht[0]的数据只减不增,随着rehash最终为空

ZipList

ZipList是一种特殊的双端链表,有一系列特殊编码的连续内存块组成,可以在任意一端进行压入/弹出操作,并且该操作的时间复杂度为O(1)

大致结构(Redis 6 )

image-20230216082958404

属性类型长度用途
zlbytesuint32_t4字节记录整个压缩列表占用的内存字节数
zltailuint32_t4字节记录压缩链表表为节点距离压缩列表的起始地址有多少字节,通过这个偏移量,可以确定表尾节点的地址
zllenuint16_t2字节记录了压缩列表包含的节点数量,最大值为UINT16_MAX(65534),如果超出了这个值,此处会记录为65535,单结点的真实数据需要遍历整个压缩列表才能计算出来
entry列表节点不定压缩列表包含的各个节点,结点的长度由节点保存的内容决定
zlenduint8_t1字节特殊值0xff(十进制255),用于标记压缩列表的末端

ZipListEntry

ZipList中的Entry并不像普通链表那样记录前后节点的指针,因为记录两个指针要占用16字节,浪费内存,而是采用了这种结构:

image-20230216083635587

  • previous_entry_length:前一节点的长度,占1个或者5个字节
    • 如果前一个结点的长度小于254,则采用1个字节来保存这个长度值
    • 如果前一节点的长度大于254,则采用5个节点来保存这个长度值,第一个字节为0xfe,后四个字节才是真实长度数据
  • encoding:编码属性,记录content的数据类型(是字符串还是证书)以及长度,占用1/2/5个字节
  • contents:负责保存节点的数据,可以是字符串或者整数

Encoding编码

ZipListEntry中的encoding编码分别为字符串和整数两种:

  • 字符串:如果encoding是以“00”、“01”或者“10”开头的,证明content是字符串

image-20230216085729533

  • 整数:如果encoding是以“11”开始,则证明content是整数,且encoding固定只占用1个字节

image-20230216090632736

ZipList的连锁更新问题

ZipList的每个Entry都包含previous_entry_length来记录上一个节点的大小,长度是1个或者5个字节

  • 如果前一节点的长度小于254,则采用1个字节来保存这个长度值
  • 如果前一节点的长度大于254,则采用5个字节来保存这个长度,第一个字节为0xfe,后面4个字节才是真是长度数据

假设有N个连续的、长度为250~253字节之间的entry,因此entry的previous_entry_length属性用1个字节即可标识:

image-20230216091741349

ZipList这种特殊情况下产生的连续多次空间拓展称之为连锁更新,新增、删除都可能导致连锁更新的发生

QuickList

ZipList存在这部分问题:

  1. ZipList虽然节省内存,但申请内存必须是连续空间,如果内存占用较多,申请内存效率很低怎么办?

    为了缓解这个问题,我们必须限制ZipList的长度和entry大小

  2. 我们要存储大量数据,超出了ZipList的最佳上限怎么办?

    可以创建多个ZipList来分片存储数据

  3. 数据拆分后比较分散,不方便管理和查找,这多个ZipList如何建立联系?

    Redis在3.2版本引入了新的数据结构QuickList,他是一个双端链表,不过链表的每个节点都是一个ZipList

image-20230216092618193

为了避免QuickList中的每个ZipList中entry过多,Redis提供了一个配置项:list-max-ziplist-size来进行限制

  • 如果为正:则代表ZipList的允许的个数的最大值

  • 如果为负,则代表ZipList的最大内存大小,分为5中

    • -1 :每个ZipList的内存不超过4kb
    • -2:每个ZipList的内存不超过8kb
    • -3 : 每个ZipList的内存不超过16kb
    • -4 : 每个ZipList的内存不超过32kb
    • -5 : 每个ZipList的内存不超过64kb

    默认为-2

    image-20230216093117474

出了控制ZipList的大小,QuickList还可以对节点的ZipList做压缩,通过配置项list-compress-depth来控制。因为链表一般都是从首尾访问比较多,所以首尾不是压缩的,这个参数是控制首尾不压缩的节点个数

  • 0:特殊值,标识不压缩
  • 1:表示QuickList的首位各有1个节点不压缩,中间节点压缩
  • 2:表示QuickList的首位各有2个节点不压缩,中间节点压缩
  • 以此类推

默认值 0, 表示不压缩:

image-20230216093528112

源码:

image-20230216093814095

内存结构图:

image-20230216093902458

特点:

  • 是一个节点为ZipList的双端链表
  • 节点采用ZipList,解决了传统链表的内存占用问题
  • 控制了ZipList大小,解决连续内存空间申请效率问题
  • 中间节点可以压缩,进一步节省了内存

SkipList

SkipList(跳表)首先是链表,但是与传统的链表相比有几点差异:

  • 元素按照升序排列存储
  • 节点可能包含多个指针,指针跨度不同

image-20230216133633995

为了加快查询速率,在这里使用了指针,指针最多存在32级,32级相当于最多可以存储2^31次方个数

image-20230216134339542

内存结构图:

image-20230216134413009

特点:

  • 跳跃表是一个双向链表,每个节点都包含一个score和ele值
  • 节点按照score值进行排序,score值一样则按照ele字典排序
  • 每个节点都可以包含多层指针,层数是1~32之间的随机数
  • 不同层指针到一个结点的跨度不同,层级越高,跨度越大
  • 增上改查效率与红黑树基本一致,实现却更简单

RedisObject

Redis中任意数据类型的键和值都会被封装为一个RedisObject,也叫做Redis对象,源码如下:

image-20230216134932763

11种编码格式:

编号编码方式说明
0OBJ_ENCODING_RAWraw编码动态字符串
1OBJ_ENCODING_INTlong类型的整数的字符串
2OBJ_ENCODING_HThash表(字典Dict)
3OBJ_ENCODING_ZIPMAP已废弃
4OBJ_ENCODING_LINKEDLIST双端链表
5OBJ_ENCODING_ZIPLIST压缩列表
6OBJ_ENCODING_INTSET整数集合
7OBJ_ENCODING_SKIPLIST跳表
8OBJ_ENCODING_EMBSTRembstr的动态字符串
9OBJ_ENCODING_QUICKLIST快速列表
10OBJ_ENCODING_STREAMStream流

五种数据结构:

Redis种会根据存储的数据类型不同,选择不同的编码方式,每种数据类型的使用的编码方式如下:

数据类型编码方式
OBJ_STRINGint 、embstr、raw
OBJ_LISTLinkedList和ZipList(3.2之前)、QuickList(3.2之后)
Obj_SETintset、ht
OBJ_ZSETZipList、HT、SkipList
OBJ_HASHZipList、HT

String

String是Redis种最常用的数据类型:

  • 其基本编码方式为RAW,基于简单动态字符串(SDS)实现的,存储上限为512MB
  • 如果存储的SDS长度小于44字节,则会采用EMBSTR编码,此时ObjectHead与SDS是一段连续空间,申请内存是只需要调用一次内存分配函数,效率更高
  • 如果存储的字符串是整数值,并且大小在LONG_MAX范围内,则会采用INT编码:直接将数据保存在RedisObject的pre指针位置,刚好8字节,就不再需要SDS了

String的内存结构图:

image-20230216143236042

image-20230216143246061

image-20230216143254932

List

Redis的List类型可以从首尾操作列表中的元素

满足这种特征的数据结构有:

  • LinkedList:普通链表,可以从双端进行访问,内存占用较高,内存碎片较多
  • ZipList:压缩列表,可以从双端访问,内存占用低,存储上限低
  • QuickList:底层结构是LinkedList+ZipList,可以从双端访问,内存占用比较低,包含多个ZipList,存储上限高

3.2版本之前,Redis采用ZipList和LinkedList来实现List,当元素数量小于512且元素大小小于64字节时采用ZipList编码,超过则采用LinkedList编码。

3.2版本之后,Redis统一采用QuickList实现List

数据结构:

image-20230216145415387

Set

Set时Redis种的单列集合,满足下列特点:

  • 不保证元素有序性
  • 保证元素唯一性(可以判断元素是否已经存在)
  • 求交集、并集、差集

Set是Redis中的集合,不一定确保元素游戏,可以满足元素唯一,查询效率要求极高

  • 为了查询效率和唯一性,Set采用HT编码(DICT),DICT中的Key用来存储元素,value统一为null;
  • 当存储的所有数据都是整数,并且元素数量不超过set-max-insert-entries是,Set会采用IntSet编码,以节省内存

ZSet

Zset也就是SortedSet,其中每一个元素都需要制定一个score值和member值

  • 可以根据score值排序
  • member必须唯一
  • 可以根据member查询分数

因此,zset底层数据结构必须满足键值存储、键必须唯一、可排序这几个需求,可以考虑到的数据结构有:

  1. SkipList:可以排序,并且可以同时存储score和ele值(member),能够实现键值存储和可排序,但是键唯一性查询效率极低
  2. HT(DICT):可以键值存储,并且可以根据key找到value;能够满足键值对存储和高效的查询,但是不能够实现可排序这一特点

实际上ZSet在底层使用的是HT和SkipList二者结合的方式。

image-20230216154846455

但是这种方式会存在大量的指针和冗余数据,会导致内存的极大浪费。因此ZSet还会采用ZipList结构来节省内存,不过需要同时满足两个条件:

  1. 元素数量小于zset_max_ziplist_entries,默认128
  2. 每个元素都小于zset_max_ziplist_value字节,默认为64

ZipList本身没有排序功能,而且没有键值对的概念,因此需要有zset通过编码实现:

  • ZipList是连续内存,因此score和element是仅仅挨在一起的两个entry,element在前,score灾后
  • score越小越接近对手,score越大越接近对位,按照score的值升序排列

Hash

Hash结构与Redis中的Zset非常类似:

  • 都是键值存储
  • 都要求根据键获取值
  • 键必须唯一

ZSet与Hash的区别:

  • Zset的键是member ,值是score,hash的键和值都是任意值
  • zset要根据score排序,hash则无需排序

因此,Hash底层采用的编码与ZSet基本一只,只需要把排序有关的SkipList去掉即可

  • Hash结构默认采用ZipList编码,用以节省内存,ZipList种相邻的两个entry分别保存field和value
  • 当数据量较大时,Hash结构会转为HT编码,也就是Dict,触发条件有两个:
    • ZipList中的元素数量超过了hash-max-ziplist-entries(默认512)
    • ziplist种的任意entry大小超过了hash-max-value(默认64字节)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/350272.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【Unity VR开发】结合VRTK4.0:其他类抓取

语录&#xff1a; 一个正确的认识&#xff0c;往往需要经过由物质到精神&#xff0c;由精神到物质&#xff0c;即由实践到认识&#xff0c;由认识到实践这样多次的反复&#xff0c;才能够完成。 前言&#xff1a; 前面我们简单的使用了Interactions.Interactable的抓取。今天…

Ant Design Chart词云图

什么是词云图&#xff1f;词云图&#xff0c;也叫文字云&#xff0c;是对网络文本中出现频率较高的“关键词”予以视觉上的突出&#xff0c;出现越多&#xff0c;显示的字体越大&#xff0c;越突出&#xff0c;这个关键词也就越重要。让浏览者通过词云图一眼就可以快速感知最突…

Java_Maven:3. 分模块构建工程

目录 1 需求 2 案例实现 2.1 maven-parent 父模块 2.1.1 创建父工程 2.1.2 定义 pom.xml 2.1.3 将父工程发布至仓库 2.2 ssm_dao 子模块 2.2.1 创建 dao 子模块 2.2.2 定义 pom.xml 2.2.3 dao 代码 2.2.4 配置文件 2.2.5 单元测试 2.2.6 把 dao 模块 install 到本…

MySQL的索引视图练习题

学生表&#xff1a;Student (Sno, Sname, Ssex , Sage, Sdept) 学号&#xff0c;姓名&#xff0c;性别&#xff0c;年龄&#xff0c;所在系 Sno为主键 课程表&#xff1a;Course (Cno, Cname,) 课程号&#xff0c;课程名 Cno为主键 学生选课表&#xff1a;SC (Sno, Cno, Score)…

FDX-B|EMID格式低频RFID 读卡模块LD6900技术选型与说明

FDX-B|EMID格式低频RFID 读卡模块LD6900是华翔天诚推出一款基于 RFID 无线射频识别技术的低频&#xff08;LF&#xff09;读卡模块&#xff0c;工作频率支持 134.2KHZ、125KHZ&#xff0c;符合 ISO 11784/5 国际标准&#xff0c;支持对 FDX-B、EMID 两种协议格式电子标签的读取…

C++ ---智能指针详解

文章目录前言一、 为什么需要智能指针&#xff1f;二、内存泄漏2.1 什么是内存泄露?危害是什么?2.2 内存泄露的分类2.3 如何避免内存泄露三、智能指针的使用及原理3.1 RAII3.2 智能指针的原理3.3 std::autoptr3.4 std::unique_ptr3.5 std::shared_ptrstd::shared_ptr的循环引…

Beefxss使用教程图文教程(超详细)

「作者主页」&#xff1a;士别三日wyx 「作者简介」&#xff1a;CSDN top100、阿里云博客专家、华为云享专家、网络安全领域优质创作者 Beefxss一、首次使用二、修改账号密码三、自带练习页面四、简单使用五、工具界面介绍六、功能演示1、网页重定向2、社工弹窗3、功能颜色标识…

2022黑马Redis跟学笔记.实战篇(四)

2022黑马Redis跟学笔记.实战篇 四4.3.秒杀优惠券功能4.3.1.秒杀优惠券的基本实现一、优惠卷秒杀1.1 全局唯一ID1.2 Redis实现全局唯一Id1.3 添加优惠卷1.4 实现秒杀下单4.3.2.超卖问题4.3.3.基于乐观锁解决超卖问题1. 悲观锁2. 乐观锁3. 乐观锁解决超卖问题4.4 秒杀的一人一单限…

蓝桥杯stm32 USART 串口接收数据

文章代码使用 HAL 库。 文章目录 前言一、创建 CubeMX 工程:二、 中断接收数据 函数:三、串口接收回调函数实验效果四、接收固定长度的数据。五、串口接收 不定长数据。总结前言 上篇文章是 串口的发送数据,这篇文章接着上次的 讲 串口的接受数据。 一、创建 CubeMX 工程:…

信息安全(一)

思维导图 一、AES加解密 1.概述 1.1 概念 AES&#xff1a; 高级加密标准&#xff08;Advanced Encryption Standard&#xff09;是一种对称加密的区块加密标准。 &#xff08;1&#xff09;替代DES的新一代分组加密算法 &#xff08;2&#xff09;支持三种长度密钥&#x…

网络知识点梳理与总结

作者简介:一名云计算网络运维人员、每天分享网络与运维的技术与干货。 座右铭:低头赶路,敬事如仪 个人主页:网络豆的主页​​​​​​ 目录 前言 一.知识点梳理 前言 本章将会对高级网络应用一些知识点进行梳理。 一.知识点梳理 1.单臂的缺陷有哪些?

大学生博主-14天学习挑战赛活动-CSDN

还在为写文没有流量发愁吗&#xff1f;还沉浸在假期中无法恢复状态吗&#xff1f;赶快来参与面向CSDN的大学生博主而举办的活动吧&#xff01;本次活动为了避免刷量行为&#xff0c;也为了保持公平性&#xff0c;能够选出最优秀的文章&#xff0c;特意邀请了五位在C站具有一定影…

文华财经期货指标公式量化策略分析软件,多空共振信号准确率高的公式源码

期货指标公式信号本身就有滞后性&#xff0c;周期越大&#xff0c;滞后性越久。指标公式不是100%稳赚的工具&#xff0c;只是在合适的时候让我们理性看待行情&#xff0c;减少逆势操作。 多空量化三维系统是一款通过数学分析、挖掘价格运动规律&#xff0c;对历史价格走势、趋势…

SQLSERVER 临时表和表变量到底有什么区别?

一&#xff1a;背景 1. 讲故事 今天和大家聊一套面试中经常被问到的高频题&#xff0c;对&#xff0c;就是 临时表 和 表变量 这俩玩意&#xff0c;如果有朋友在面试中回答的不好&#xff0c;可以尝试看下这篇能不能帮你成功迈过。 二&#xff1a;到底有什么区别 1. 前置思…

了解僵尸网络攻击:什么是僵尸网络,它如何传播恶意软件以及如何保护自己?

进行系统安全安排的专业人员非常了解“僵尸网络”一词。通常用于被劫持的计算机/系统链&#xff0c;如果指示恢复性和健壮的系统&#xff0c;则应很好地理解“僵尸网络”一词&#xff0c;因为它们的错误使用会导致巨大的混乱。 文章目录前言一、僵尸网络定义僵尸网络如何工作&a…

HTTP API自动化测试从手工到平台的演变

不管是 Web 系统&#xff0c;还是移动 APP&#xff0c;前后端逻辑的分离设计已经是常态化&#xff0c;相互之间通过 API 调用进行数据交互。在基于 API 约定的开发模式下&#xff0c;如何加速请求 / 响应的 API 测试&#xff0c;让研发人员及早参与到调试中来呢&#xff1f;既然…

数据结构与算法-数组

前言&#xff1a;几乎所有的编程语言都原生支持数组类型。因为数组是最简单的内存数据结构。创建一个数组&#xff1a;let arr new Array()或let arr new Array(5) // 指定长度或let arr new Array(1,2,3,4,5) // 将数组元素作为参数传给构造函数或let arr [1,2,3,4,5] // …

字节6面,成功唬住面试官拿了27K,软件测试面试也没有传说中那么难吧....

字节的面试挺独特&#xff0c;每轮面试都没有 HR 约时间&#xff0c;一般是晚上 8 点左右面试官来一个电话&#xff0c;问是否能面试&#xff0c;能的话开始面&#xff0c;不能就约一个其它时间。全程 6 面&#xff0c;前五面技术面&#xff0c;电话面试&#xff0c;最后一面是…

Windows中的CMD不需要死记硬背

日期&#xff1a;2023年2月16日 作者&#xff1a;Commas 签名&#xff1a;(ง •_•)ง 积跬步以致千里,积小流以成江海…… 注释&#xff1a;如果您觉得有所帮助&#xff0c;帮忙点个赞&#xff0c;也可以关注我&#xff0c;我们一起成长&#xff1b;如果有不对的地方&#xf…

【React】setState修改状态

React(三) 修改状态 【数据驱动视图思想】 通过setState修改状态 作用&#xff1a; 修改state更新ui 语法&#xff1a;this.setState({要修改的部分数据}) &#x1f4a1; 注意&#xff1a;不能直接修改state中的数据&#xff0c;而是要设置新值去覆盖。 // 1. 导包 impor…