目录
- 背景
- GlusterFS 概述
- 1.GlusterFS 简介
- 2.GlusterFS 的特点
- 扩展性和高性能
- 高可用性
- 全局统一命名空间
- 弹性卷管理
- 基于标准协议
- 3.GlusterFS 术语
- Brick(存储块)
- Volume(逻辑卷)
- FUSE(Filesystem inUserspace)
- VFS
- Glusterd(后台管理进程)
- 4.模块化堆栈式架构
- GlusterFS 的工作原理
- 1.GlusterFS 的工作流程
- 2.弹性 HASH 算法
- 3.GlusterFS 的卷类型
- 3.1 分布式卷
- 分布式卷具有如下特点:
- 3.2 条带卷
- 条带卷具有如下特点
- 3.3 复制卷
- 复制卷具有如下特点:
- 3.4 分布式条带卷
- 3.5 分布式复制卷
背景
- 在企业中,一些重要的数据一般存储在硬盘上,虽然硬盘本身的性能也在不断提高,但是无论硬盘的存取速度有多快,企业所追寻的首先是可靠性,然后才是效率。如果数据面临丢失的风险,再好的硬件也无法挽回企业的损失。
- 加之近几年云计算的出现,对存储提出了更高的要求。而分布式存储逐渐被人们所接受,它具有更好的性能、高扩展性以及可靠性。
- 大部分分布式解决方案都是通过元服务器存放目录结构等元数据,元数据服务器提供了整个分布式存储的索引工作。
- 但是一旦元数据服务器损坏,整个分布式存储业将无法工作。
本章介绍一款无元数据服务器的分布式存储解决方案 GlusterFS
GlusterFS 概述
1.GlusterFS 简介
- GlusterFS 是一个开源的分布式文件系统,同时也是 Scale-Out 存储解决方案 Gluster的核心,在存储数据方面具有强大的横向扩展能力,通过扩展不同的节点可以支持数 PB 级别的存储容量。
- GlusterFS 借助 TCP/IP 或 InfiniBand RDMA 网络将分散的存储资源汇聚在一起,统一提供存储服务,并使用单一全局命名空间来管理数据。GlusterFS 基于可堆叠的用户空间以及无元的设计,可为各种不同的数据负载提供优异的性能。
- GlusterFS 主要由存储服务器(Brick Server)、客户端及 NFS/Samba 存储网关(可选,根据需要选择使用)组成
- GlusterFS 架构中最大的设计特点是没有元数据服务器组件,这有助于提升整个系统的性能、可靠性和稳定性。
- 传统的分布式文件系统大多通过元服务器来存储元数据,元数据包含存储节点上的目录信息、目录结构等。
- 这样的设计在浏览目录时效率非常高,但是也存在一些缺陷,例如单点故障。一旦元数据服务器出现故障,即使节点具备再高的冗余性,整个存储系统也将崩溃。
- 而 GlusterFS 分布式文件系统是基于无元服务器的设计,数据横向扩展能力强,具备较高的可靠性及存储效率。
- GlusterFS 支持 TCP/IP 和 InfiniBandRDMA 高速网络互联,客户端可通过原生 GlusterFS 协议访问数据,其他没有运行 GlusterFS 客户端的终端可利用 NFS/CIFS 标准协议通过存储网关访问数据
2.GlusterFS 的特点
扩展性和高性能
- GlusterFS 利用双重特性来提供高容量存储解决方案。
- Scale-Out 架构通过增加存储节点的方式来提高存储容量和性能(磁盘、计算和I/O 资源都可以独立增加),支持 10GbE 和 InfiniBand 等高速网络互联。
- Gluster 弹性哈希(Elastic Hash)解决了 GlusterFS 对元数据服务器的依赖,GlusterFS 采用弹性哈希算法在存储池中定位数据,放弃了传统的通过元数据服务器定位数据。
- GlusterFS 中可以智能地定位任意数据分片(将数据分片存储在不同节点上),不需要查看索引或者向元数据服务器查询。
这种设计机制实现了存储的横向扩展, 改善了单点故障及性能瓶颈,真正实现了并行化数据访问。
高可用性
- GlusterFS 通过配置某些类型的存储卷,可以对文件进行自动复制(类似于 RAID1),即使某个节点出现故障,也不影响数据的访问。
- 当数据出现不一致时,自动修复功能能够把数据恢复到正确的状态,数据的修复是以增量的方式在后台执行,不会占用太多系统资源。
- GlusterFS 可以支持所有的存储,因为它没有设计自己的私有数据文件格式,而是采用操作系统中标准的磁盘文件系统(如 EXT3、XFS 等)来存储文件,数据可以使用传统访问磁盘的方式被访问。
全局统一命名空间
- 全局统一命名空间将所有的存储资源聚集成一个单一的虚拟存储池,对用户和应用屏蔽了物理存储信息。
- 存储资源(类似于 LVM)可以根据生产环境中的需要进行弹性扩展或收缩。在多节点场景中,全局统一命名空间还可以基于不同节点做负载均衡,大大提高了存取效率
弹性卷管理
- GlusterFS 通过将数据储存在逻辑卷中,逻辑卷从逻辑存储池进行独立逻辑划分。逻辑存储池可以在线进行增加和移除,不会导致业务中断。
- 逻辑卷可以根据需求在线增长和缩减,并可以在多个节点中实现负载均衡。
- 文件系统配置也可以实时在线进行更改并应用,从而可以适应工作负载条件变化或在线性能调优
基于标准协议
- Gluster 存储服务支持 NFS、CIFS、HTTP、FTP、SMB 及 Gluster原生协议,完全与 POSIX 标准兼容。
- 现有应用程序不需要做任何修改就可以对Gluster 中的数据进行访问,也可以使用专用 API 进行访问(效率更高),这在公有云环境中部署 Gluster 时非常有用,Gluster 对云服务提供商专用 API 进行抽象,然后提供标准 POSIX 接口
3.GlusterFS 术语
Brick(存储块)
指可信主机池中由主机提供的用于物理存储的专用分区,是GlusterFS 中的基本存储单元,同时也是可信存储池中服务器上对外提供的存储目录。存储目录的格式由服务器和目录的绝对路径构成,表示方法为 SERVER:EXPORT,如 192.168.1.4:/ data/mydir/。
Volume(逻辑卷)
一个逻辑卷是一组 Brick 的集合。卷是数据存储的逻辑设备,类似于 LVM 中的逻辑卷。大部分 Gluster 管理操作是在卷上进行的。
FUSE(Filesystem inUserspace)
是一个内核模块,允许用户创建自己的文件系统,无须修改内核代码。
VFS
内核空间对用户空间提供的访问磁盘的接口。
Glusterd(后台管理进程)
在存储群集中的每个节点上都要运行
4.模块化堆栈式架构
- GlusterFS 采用模块化、堆栈式的架构,可以根据需求配置定制化的应用环境,如大文件存储、海量小文件存储、云存储、多传输协议应用等。
- 通过对模块进行各种组合,即可实现复杂的功能。例如 Replicate 模块可实现 RAID1,Stripe模块可实现 RAID0,通过两者的组合可实现 RAID10 和 RAID01,同时获得更高的性能及可靠性
- GlusterFS 是模块化堆栈式的架构设计,模块称为 Translator,是 GlusterFS 提供的一种强大机制,借助这种良好定义的接口可以高效简便地扩展文件系统的功能。
- 服务端与客户端的设计高度模块化的同时模块接口是兼容的,同一个 translator 可同时在客户端和服务器加载。
- GlusterFS 中所有的功能都是通过 translator 实现的,其中客户端要比服务端更复杂,所以功能的重点主要集中在客户端上。
GlusterFS 的工作原理
1.GlusterFS 的工作流程
GlusterFS 的工作流程如下:
- 客户端或应用程序通过 GlusterFS 的挂载点访问数据。
- Linux 系统内核通过 VFS API 收到请求并处理。
- VFS 将数据递交给 FUSE 内核文件系统,并向系统注册一个实际的文件系统 FUSE,而 FUSE 文件系统则是将数据通过/dev/fuse 设备文件递交给了 GlusterFS client 端。可以将 FUSE 文件系统理解为一个代理。
- GlusterFS client 收到数据后,client 根据配置文件对数据进行处理。
- 经过 GlusterFS client 处理后,通过网络将数据传递至远端的 GlusterFS Server,并且将数据写入服务器存储设备
2.弹性 HASH 算法
- 弹性 HASH 算法是 Davies-Meyer 算法的具体实现,通过 HASH 算法可以得到一个 32位的整数范围的 hash 值,假设逻辑卷中有 N 个存储单位 Brick,则 32 位的整数范围将被划分为 N 个连续的子空间,每个空间对应一个 Brick。当用户或应用程序访问某一个命名空间时,通过对该命名空间计算 HASH 值,根据该 HASH 值所对应的 32 位整数空间定位数据所在的 Brick。
- 弹性 HASH 算法的优点表现如下:
- 保证数据平均分布在每个 Brick 中。
- 解决了对元数据服务器的依赖,进而解决了单点故障及访问瓶颈。
- 现在假设创建了一个包含四个 Brick 节点的 GlusterFS 卷,在服务端的 Brick 挂载目录
会给四个 Brick 平均分配 232 的区间的范围空间,GlusterFS hash 分布区间是保存在目录上
而不是根据机器去分布区间。如图 所示,Brick*表示一个目录。分布区间保存在每个
Brick 挂载点目录的扩展属性上
- 在卷中创建四个文件,分别是 test-file1、test-file2、test-file3、test-file4。在访问文件时,通过快速Hash函数计算出对应的HASH值(232范围的数值),然后根据计算出来的HASH值所对应的子空间散列到服务器的 Brick 上,如图 :
3.GlusterFS 的卷类型
GlusterFS 支持七种卷,即分布式卷、条带卷、复制卷、分布式条带卷、分布式复制卷、条带复制卷和分布式条带复制卷,这七种卷可以满足不同应用对高性能、高可用的需求。
- 分布式卷(Distribute volume):文件通过 HASH 算法分布到所有 Brick Server 上,这种卷是Glusterf 的基础;以文件为单位根据 HASH 算法散列到不同的 Brick,其实只是扩大了磁盘空间,如果有一块磁盘损坏,数据也将丢失,属于文件级的 RAID 0,不具有容错能力。
- 条带卷(Stripe volume):类似 RAID0,文件被分成数据块并以轮询的方式分布到多个 Brick Server 上,文件存储以数据块为单位,支持大文件存储,文件越大,读取效率越高。
- 复制卷(Replica volume):将文件同步到多个 Brick 上,使其具备多个文件副本,属于文件级 RAID 1,具有容错能力。因为数据分散在多个 Brick 中,所以读性能得到很大提升,但写性能下降。
- 分布式条带卷(Distribute Stripe volume):Brick Server 数量是条带数(数据块分布的 Brick 数量)的倍数,兼具分布式卷和条带卷的特点。
- 分布式复制卷(Distribute Replica volume):Brick Server 数量是镜像数(数据副本数量)的倍数,兼具分布式卷和复制卷的特点。
- 条带复制卷(Stripe Replica volume):类似 RAID 10,同时具有条带卷和复制卷的特点。
- 分布式条带复制卷(Distribute Stripe Replicavolume):三种基本卷的复合卷,通常用于类 Map Reduce 应用。
下面介绍几种重要的卷类型
3.1 分布式卷
- 分布式卷是 GlusterFS 的默认卷,在创建卷时,默认选项是创建分布式卷。
- 在该模式下,并没有对文件进行分块处理,文件直接存储在某个 Server 节点上。直接使用本地文件系统进行文件存储,大部分 Linux 命令和工具可以继续正常使用。需要通过扩展文件属性保存HASH 值,目前支持的底层文件系统有 EXT3、EXT4、ZFS、XFS 等。
- 由于使用的是本地文件系统,所以存取效率并没有提高,反而会因为网络通信的原因而有所降低;另外支持超大型文件也会有一定的难度,因为分布式卷不会对文件进行分块处理。
- 虽然 EXT4 已经可以支持最大 16TB 的单个文件,但是本地存储设备的容量实在有限。如图所示File1 和 File2 存放在 Server1,而 File3 存放在 Server2,文件都是随机存储,一个文件(如 File1)要么在 Server1 上,要么在 Server2 上,不能分块同时存放在 Server1和 Server2 上
分布式卷具有如下特点:
- 文件分布在不同的服务器,不具备冗余性。
- 更容易且廉价地扩展卷的大小。
- 存在单点故障会造成数据丢失。
- 依赖底层的数据保护。
创建分布式卷的命令如下所示:
# gluster volume create dis-volume server1:/dir1 server2:/dir2server3:/dir3
Creation of dis -volume has been successful
Please start the volume to access data
上 述 命 令 创建 了 一 个 名 为 dis-volume 的 分 布 式 卷, 文 件 将 根 据 HASH 分 布在server1:/dir1、server2:/dir2 和 server3:/dir3 中
3.2 条带卷
- Stripe 模式相当于 RAID0,在该模式下,根据偏移量将文件分成 N 块(N 个条带节点),轮询地存储在每个 Brick Server 节点。节点把每个数据块都作为普通文件存入本地文件系统中,通过扩展属性记录总块数(Stripe-count)和每块的序号(Stripe-index)。
- 在配置时指定的条带数必须等于卷中 Brick 所包含的存储服务器数,在存储大文件时,性能尤为突出,但是不具备冗余性
- 将数据文件分布到不同的 Brick 节点,如图 所示,File 被分割为 6 段,1、3、5 放在 Server1,2、4、6 放在 Server2
条带卷具有如下特点
- 数据被分割成更小块分布到块服务器群中的不同条带区。
- 分布减少了负载且更小的文件加速了存取的速度。
- 没有数据冗余。
创建条带卷的命令如下所示:
# gluster volume create stripe-volume stripe 2 transport tcp server1:/dir1
server2:/dir2
Creation of stripe -volume has been successful
Please start the volume to access data
上述命令创建了一个名为 Stripe-volume 的条带卷,文件将被分块轮询地存储在Server1:/dir1 和 Server2:/dir2 两个 Brick 中
3.3 复制卷
- 复制模式,也称为 AFR(AutoFile Replication),相当于 RAID1,即同一文件保存一份或多份副本,每个节点上保存相同的内容和目录结构。复制模式因为要保存副本,所以磁盘利用率较低。
- 如果多个节点上的存储空间不一致,那么将按照木桶效应取最低节点的容量作为该卷的总容量。
- 在配置复制卷时,复制数必须等于卷中 Brick 所包含的存储服务器数,复制卷具备冗余性,即使一个节点损坏,也不影响数据的正常使用。
- 将数据文件分布到不同的 Brick 节点,如图所示。File1 同时存在 Server1 和 Server2,File2 也是如此,相当于 Server2 中的文件是 Server1 中文件的副本
复制卷具有如下特点:
- 卷中所有的服务器均保存一个完整的副本。
- 卷的副本数量可由客户创建的时候决定。
- 至少有两个块服务器或更多服务器。
- 具备冗余性
创建复制卷的命令如下所示:
# gluster volume create rep-volume replica 2 transport tcp server1:/dir1
server2:/dir2
Creation of rep-volume has been successful
Please start the volume to access data
上述命令创建了一个名为 rep-volume 的复制卷,文件将同时存储两个副本,分别在Server1:/dir1 和 Server2:/dir2 两个 Brick 中
3.4 分布式条带卷
- 分布式条带卷兼顾分布式卷和条带卷的功能,主要用于大文件访问处理,创建一个分布式条带卷最少需要 4 台服务器。
- 如图展示了分布式条带卷原理。
- File1和File2通过分布式卷的功能分别定位到Server1和 Server2。
- 在 Server1 中,File1 被分割成 4 段,其中 1、3 在 Server1 中的 exp1 目录中,2、4 在 Server1 中的 exp2 目录中。
- 在 Server2 中,File2 也被分割成 4 段,其中 1、3 在Server2 中的 exp3 目录中,2、4 在 Server2 中的 exp4 目录中
创建分布式条带卷的命令如下所示:
# gluster volume create dis-stripe stripe 2 transport tcp server1:/dir1
server2:/dir2 server3:/dir3 server4:/dir4
Creation of dis-stripe has been successful
Please start the volume to access data
上述命令创建了一个名为 dis-stripe 的分布式条带卷,配置分布式条带卷时,卷中 Brick所包含的存储服务器数必须是条带数的倍数(≥2 倍)。在上述命令中,Brick 的数量是 4(Server1:/dir1、Server2:/dir2、Server3:/dir3 和 Server4:/dir4),条带数为 2(stripe 2)。
创建卷时,存储服务器的数量如果等于条带或复制数,那么创建的是条带卷或者复制卷;如果存储服务器的数量是条带或复制数的 2 倍甚至更多,那么将创建的是分布式条带卷或分布式复制卷
3.5 分布式复制卷
- 分布式复制卷兼顾分布式卷和复制卷的功能,主要用于需要冗余的情况下。如图呈现了分布式复制卷原理。
- File1 和 File2 通过分布式卷的功能分别定位到 Server1 和 Server2。
- 在存放 File1 时,File1 根据复制卷的特性,将存在两个相同的副本,分别是 Server1 中的exp1 目录和 Server2 中的 exp2 目录。
- 在存放 File2 时,File2 根据复制卷的特性,也将存在两个相同的副本,分别是 Server3 中的 exp3 目录和 Server4 中的 exp4 目录
创建分布式复制卷的命令如下所示:
# gluster volume create dis-rep replica 2 transport tcp server1:/dir1 server2:
/dir2 server3:/dir3 server4:/dir4
Creation of dis-rep has been successful
Please start the volume to access data
上述命令创建了一个名为 dis-rep 的分布式复制卷,配置分布式复制卷时,卷中 Brick所包含的存储服务器数必须是条带数的倍数(≥2 倍)。
在上述命令中,Brick 的数量是 4Server1:/dir1、Server2:/dir2、Server3:/dir3 和 Server4:/dir4),复制数为 2(replica 2)。
假如存在 8 台存储服务器,当复制副本为 2 时,按照服务器列表的顺序,服务器 1和 2 作为一个复制, 服务器 3 和 4 作为一个复制, 服务器 5 和 6 作为一个复制, 服务器7 和 8 作为一个复制;当复制副本为 4 时,按照服务器列表的顺序,服务器 1/2/3/4 作为一个复制, 服务器 5/6/7/8 作为一个复制