1 经典案例
1.1 数据的流动
一条用户注册数据流动到后端服务器,持久化保存到数据库中。
1.2 数据的持久化
- 校验数据的合法性
- 修改内存
- 写入存储介质
2 存储&数据库简介
2.1 存储系统特点
性能敏感、容易受硬件影响、存储系统代码既“简单”又“复杂”。
2.2 数据怎么从应用到存储介质
缓存贯穿了整个存储体系。要尽量减少拷贝。
2.3 RAID技术
2.2 数据库
2.2.1 概览
关系=集合=有序偶对
关系代数=对关系作运算的抽象查询语言
SQL=方便人类阅读的关系代数表达式
2.2.2 关系型数据库特点
- 结构化数据友好
- 支持事务(ACID)
- 支持复杂查询语言
2.2.3 非关系型数据库特点
- 半结构化数据友好
- 可能支持事务
- 可能支持复杂查询语言
3 主流产品剖析
3.1 单机存储
3.1.1 概览
单机存储=单个计算机节点上的存储软件系统,一般不涉及网络交互
3.1.2 本地文件系统
- Linux经典哲学:一切皆文件
- 文件系统的管理单元∶文件
- 文件系统接口︰文件系统繁多,如Ext2/3/4,sysfs,rootfs等,但都遵循VFS的统一抽象接口
- Linux文件系统的两大数据结构:Index Node & Directory Entry
- Index Node:记录文件元数据,如id、大小、权限、磁盘位置等inode是一个文件的唯一标识,会被存储到磁盘上inode的总数在格式化文件系统时就固定了
- Directory Entry:记录文件名、inode指针,层级关系(parent)等,dentry是内存结构,与inode的关系是N:1(hardlink的实现)
3.1.3 key-value存储
- 常见使用方式: put(k, v)& get(k)
- 常见数据结构:LSM-Tree,某种程度上牺牲读性能,追求写入性能
- 拳头产品︰RocksDB
3.2 分布式存储
3.2.1 概览
分布式存储=在单机存储基础上实现了分布式协议,涉及大量网络交互
3.2.2 HDFS
堪称大数据时代的基石
核心特点:
- 支持海量数据存储
- 高容错性
- 弱POSIX语义
- 使用普通x86服务器,性价比高
3.2.3 Ceph
开源分布式存储系统里的万金油
核心特点:
- 一套系统支持对象接口、块接口、文件接口,但是一切皆对象
- 数据写入采用主备复制模型
- 数据分布模型采用CRUSH算法
3.3 单机关系型数据库
商业产品Oracle称王,开源产品MySQL & PostgreSQL称霸
关系型数据库的通用组件:
Query Engine ——负责解析query,生成查询计划
Txn Manager ——负责事务并发管理
Lock Manager ——负责锁相关的策略
Storage Engine ——负责组织内存/磁盘数据结构
Replication——负责主备同步
关键内存数据结构:B-Tree、B+-Tree、LRU List等
关键磁盘数据结构:WriteAheadLog (RedoLog) . Page
3.4 单机非关系型数据库
MongoDB、Redis、Elasticsearch三足鼎立
- 关系型数据库一般直接使用SQL交互,而非关系型数据库交互方式各不相同
- 非关系型数据库的数据结构千奇百怪,没有关系约束后, schema相对灵活
- 不管是否关系型数据库,大家都在尝试支持SQL(子集)和“事务”
3.4.1 Elasticsearch
- 面向「文档」存储
- 文档可序列化成JSON,支持嵌套
- 存在index,index=文档的集合
- 存储和构建索引能力依赖Lucene引擎
- 实现了大量搜索数据结构&算法
- 支持RESTFUL API,也支持弱SQL交互
使用案例:
天然能做模糊搜索,还能自动算出关联程度
3.4.2 MongoDB
- 面向「文档」存储
- 文档可序列化成JSON/BSON,支持嵌套
- 存在collection , collection=文档的集合
- 存储和构建索引能力依赖wiredTiger引擎
- 4.0后开始支持事务(多文档、跨分片多文档等)
- 常用client/SDK交互,可通过插件转译支持弱SQL
3.4.3 Redis
- 数据结构丰富(hash表、set、zset、list)
- C语言实现,超高性能
- 主要基于内存,但支持AOF/RDB持久化
- 常用redis-cli/多语言SDK交互
3.5 分布式数据库
3.5.1 解决容量问题
改进后:
3.5.2 解决弹性问题
4 新技术演进
4.1 概览
- 软件架构变更
- AI增强
- 新硬件革命
4.2 SPDK
4.3 AI&Storage
4.4 高性能硬件
4.4.1 RDMA网络
- 传统的网络协议栈,需要基于多层网络协议处理数据包,存在用户态&内核态的切换,足够通用但性能不是最佳
- RDMA是kernel bypass的流派,不经过传统的网络协议栈,可以把用户态虚拟内存映射给网卡,减少烤贝开销,减少cpu开销
4.4.2 Persistent Memory
在NVMe SSD和Main Memory间有一种全新的存储产品:Persistent Memory
- IO时延介于SSD和Memory之间,约百纳秒量级
- 可以用作易失性内存(memory mode),也可以用作持久化介质(app-direct)
4.4.3 可编程交换机
P4 Switch,配有编译器、计算单元、DRAM,可以在交换机层对网络包做计算逻辑。在数据库场景下,可以实现缓存―致性协议等
4.4.4 CPU/GPU/DPU
- CPU :从multi-core走向many-core
- GPU:强大的算力&越来越大的显存空间
- DPU:异构计算,减轻CPU的workload